El presidente del Tribunal Supremo, Roberts, ve la promesa y el peligro de la IA en los tribunales

El presidente del Tribunal Supremo, John G. Roberts Jr., dedicado su informe anual de fin de año sobre el estado del poder judicial federal, publicado el domingo, sobre el papel positivo que la inteligencia artificial puede desempeñar en el sistema legal y las amenazas que plantea.

Su informe no abordó el difícil año de la Corte Suprema, incluida la adopción de un código de ética que muchos dijeron que era ineficaz. Tampoco habló de los casos inminentes que surgen de los procesos penales del expresidente Donald J. Trump ni de las dudas sobre su elegibilidad para ocupar el cargo.

Sin embargo, el informe del presidente del Tribunal Supremo fue oportuno, ya que se produjo días después de las revelaciones de que Michael D. Cohen, el antiguo intermediario de Trump, había proporcionado a su abogado citaciones legales falsas creadas por Google Bard, un programa de inteligencia artificial.

Refiriéndose a un episodio similar anterior, el presidente del Tribunal Supremo Roberts dijo que “cualquier uso de la IA requiere precaución y humildad”.

“Una de las aplicaciones destacadas de AI apareció en los titulares este año por una deficiencia conocida como ‘alucinación’”, escribió, “que provocó que los abogados que utilizaban la aplicación presentaran escritos con citaciones de casos inexistentes. (Siempre es una mala idea)”.

El presidente del Tribunal Supremo, Roberts, reconoció la promesa de la nueva tecnología, aunque señaló sus peligros.

«Los profesores de derecho informan con asombro y angustia que la IA aparentemente puede obtener calificaciones de B en tareas de la facultad de derecho e incluso aprobar el examen de la abogacía», escribió. “La investigación jurídica pronto será inimaginable sin ella. Obviamente, la IA tiene un gran potencial para aumentar drásticamente el acceso a información clave tanto para abogados como para no abogados. Pero es igualmente obvio que se corre el riesgo de invadir los intereses de privacidad y deshumanizar la ley”.

El presidente del Tribunal Supremo, al mencionar los formularios de quiebra, dijo que algunas solicitudes podrían agilizar las presentaciones legales y ahorrar dinero. «Estas herramientas tienen el bienvenido potencial de suavizar cualquier desajuste entre los recursos disponibles y las necesidades urgentes en nuestro sistema judicial», escribió.

El presidente del Tribunal Supremo, Roberts, lleva mucho tiempo interesado en la intersección del derecho y la tecnología. Escribió las opiniones mayoritarias en decisiones que generalmente requieren que el gobierno obtenga órdenes judiciales para buscar información digital en los teléfonos celulares incautados a personas que han sido arrestadas y para recopilar grandes cantidades de datos de ubicación sobre los clientes de las compañías de telefonía celular.

en su visita de 2017 al Instituto Politécnico RensselaerSe le preguntó al presidente del Tribunal Supremo si podía “prever un día en el que las máquinas inteligentes, impulsadas con inteligencia artificial, ayudaran en la investigación de hechos en los tribunales o, lo que es incluso más controvertido, en la toma de decisiones judiciales”.

El presidente del Tribunal Supremo dijo que sí. «Es un día que ya está aquí», dijo, «y está ejerciendo una presión significativa sobre la forma en que el poder judicial hace las cosas». Parecía referirse al software utilizado en las decisiones de sentencia.

Esa tensión no ha hecho más que aumentar, escribió el domingo el presidente del Tribunal Supremo.

«En casos penales, el uso de la IA para evaluar el riesgo de fuga, la reincidencia y otras decisiones en gran medida discrecionales que implican predicciones ha generado preocupaciones sobre el debido proceso, la confiabilidad y el posible sesgo», escribió. «Al menos en la actualidad, los estudios muestran una percepción pública persistente de una ‘brecha de equidad entre humanos e IA’, lo que refleja la opinión de que las decisiones humanas, a pesar de todos sus defectos, son más justas que cualquier cosa que la máquina escupe».

El presidente del Tribunal Supremo, Roberts, concluyó que “las determinaciones legales a menudo implican áreas grises que aún requieren la aplicación del juicio humano”.

«Los jueces, por ejemplo, miden la sinceridad de la alocución de un acusado en el momento de dictar sentencia», escribió. “Los matices importan: muchas cosas pueden cambiar con una mano temblorosa, una voz temblorosa, un cambio de inflexión, una gota de sudor, un momento de vacilación, una ruptura fugaz en el contacto visual. Y la mayoría de la gente todavía confía más en los humanos que en las máquinas para percibir y sacar las inferencias correctas de estas pistas”.

Los jueces de apelación tampoco serán reemplazados pronto, escribió.

“Muchas decisiones de apelación giran en torno a si un tribunal inferior ha abusado de su discreción, un estándar que por su naturaleza involucra áreas grises de hechos específicos”, escribió el presidente del Tribunal Supremo. “Otros se centran en cuestiones abiertas sobre cómo debería evolucionar la ley en nuevas áreas. «La IA se basa en gran medida en información existente, que puede informar pero no tomar tales decisiones».