Cuando la IA se cuela en los juzgados: el caso de las sentencias alucinadas

La tecnología avanza a pasos agigantados, pero en algunos ámbitos como el judicial, donde la precisión es fundamental, estos avances pueden generar problemas inesperados. En Georgia (EE.UU.) acaba de saltarse todas las alarmas: un juez dictó una resolución basada en casos judiciales que nunca existieron, aparentemente generados por IA. Y no, no es una trama de serie de televisión.

El caso que ha puesto en jaque al sistema judicial

Imaginemos la escena: un matrimonio en pleno proceso de divorcio, una resolución judicial que deniega la petición de una de las partes y, al revisarla, un pequeño detalle… ¡dos de los casos citados como precedentes ni siquiera existen! Jeff Watkins, juez del tribunal de apelaciones de Georgia, acaba de anular lo que parece ser la primera resolución conocida en la que un juez falló a favor de alguien que utilizó citas de casos inventados por IA.

Detrás de esta situación estaba la abogada Diana Lynch, quien redactó el borrador de la resolución (una práctica común en tribunales sobrecargados de trabajo). La abogada no solo citó dos casos completamente ficticios, sino que también incluyó otros dos que no tenían nada que ver con la petición. Como consecuencia, recibió una sanción de 2.500 dólares cuando la esposa apeló la decisión.

Lo que hace este caso aún más sorprendente es que, en su respuesta a la apelación, Lynch volvió a citar 11 casos adicionales que eran «alucinaciones» o irrelevantes. Y para rematar, apoyó su solicitud de honorarios citando «uno de los nuevos casos alucinados», lo que según Watkins fue como «añadir insulto a la injuria».

El peligro de las «alucinaciones» de IA en el sistema judicial

Lo que ha ocurrido en Georgia no es un caso aislado ni será el último. John Browning, ex juez del Tribunal de Apelaciones de Texas y ahora profesor de derecho, advierte que es «aterradoramente probable que veamos más casos» como este, donde un tribunal incorpora sin saberlo citas falsas incluidas por un abogado en una propuesta de resolución.

El problema se agrava porque las herramientas de IA como ChatGPT han facilitado que tanto profesionales como litigantes sin representación presenten más casos, lo que sobrecarga aún más a unos tribunales ya de por sí saturados. Y aunque el sistema legal estadounidense suele detectar casos falsos gracias a su naturaleza contradictoria, no todos tienen la energía o los recursos para descubrir y revocar órdenes erróneas.

Banderas rojas que delatan a la IA

Mientras los expertos buscan soluciones, hay algunas señales de alerta que los jueces pueden identificar para detectar citas falsas generadas por IA:

• Números de caso con secuencias como «123456»
• Confusiones en las ubicaciones (como citar un supuesto caso de Texas con un formato de reporte que no corresponde a ese estado)
• Lenguaje artificial o forzado en las citas

¿Cómo están respondiendo los tribunales?

La respuesta ha sido variada. Algunos jueces han optado por prohibir directamente el uso de IA, mientras que otros exigen divulgaciones específicas sobre qué herramientas se han utilizado. Sin embargo, estas soluciones no son perfectas ni han sido adoptadas universalmente.

Hasta ahora, solo dos estados —Michigan y Virginia Occidental— «han emitido opiniones de ética judicial que requieren que los jueces sean ‘competentes en tecnología’ cuando se trata de IA», según Browning. Otros tribunales supremos estatales han adoptado políticas oficiales sobre IA, lo que presiona a los jueces a ponerse al día.

¿Un sistema de recompensas contra las citas falsas?

Dazza Greenwood, copresidente del Grupo de Trabajo sobre Uso Responsable de IA Generativa para el Derecho del MIT, ha propuesto una solución innovadora: crear «un sistema de recompensas donde las contrapartes u otros funcionarios judiciales reciban pagos de sanciones por casos fabricados en presentaciones judiciales que informaron primero».

Este enfoque podría aliviar la presión sobre los jueces para que actúen como vigilantes, ya que los abogados sabrían que su trabajo siempre será verificado. También evitaría costes adicionales, simplemente redistribuyendo el importe de las sanciones a quienes detecten el fraude.

Jueces que ya utilizan IA para redactar sentencias

Mientras debatimos cómo evitar que la IA genere problemas, algunos jueces ya están utilizándola para agilizar su trabajo. El juez Kevin Newsom, del Tribunal de Apelaciones del 11º Circuito, ha realizado «mini experimentos» utilizando IA para preparar opiniones tanto en un caso civil relacionado con un problema de cobertura de seguro como en un asunto penal centrado en directrices de sentencia.

La cuestión no es si se debe usar la IA, sino cómo usarla responsablemente. En palabras de Browning: «Independientemente de los avances tecnológicos que pueden apoyar la toma de decisiones de un juez, la responsabilidad final siempre recaerá en el juez de carne y hueso y su aplicación de cualidades muy humanas: razonamiento legal, empatía, fuerte sentido de la justicia y compromiso inquebrantable con la ética. Estas cualidades nunca podrán ser replicadas por una herramienta de IA».

El futuro de los tribunales en la era de la IA

Como sociedad, nos encontramos ante un dilema interesante. Los sistemas judiciales están abrumados y la IA podría ofrecer soluciones para agilizar procesos. Pero al mismo tiempo, las «alucinaciones» de la IA representan un riesgo para la integridad del sistema de justicia.

Los expertos coinciden en que la educación será clave tanto para abogados como para jueces. Varios estados han formado grupos de trabajo para evaluar los riesgos y beneficios de utilizar IA en los tribunales. En Georgia, el Comité Ad Hoc sobre Inteligencia Artificial y los Tribunales del Consejo Judicial ha publicado un informe con recomendaciones para «mantener la confianza pública en el sistema judicial a medida que aumenta el uso de la IA».

Sin embargo, el comité concluyó que todavía es demasiado pronto para determinar si se debe modificar el código de conducta de los jueces para prevenir «el uso no intencionado de algoritmos sesgados, la delegación inadecuada a herramientas automatizadas o el uso indebido de datos generados por IA en la toma de decisiones judiciales».

¿Los detectores de IA podrían ser la solución?

Algunos investigadores, como Peter Henderson, que dirige el Laboratorio POLARIS de Princeton, abogan por «un repositorio centralizado, abierto y gratuito de jurisprudencia» que facilitaría a todos la verificación de citas falsas generadas por IA. Su equipo está planificando investigaciones para rastrear qué modelos utilizan más los abogados en los tribunales, lo que podría revelar «los potenciales argumentos legales que estos modelos están impulsando».

Mientras tanto, los jueces deberán mantenerse alerta para identificar el uso inadecuado de la IA, no solo en los escritos presentados por litigantes que se representan a sí mismos, sino también en los de abogados jóvenes más inclinados a utilizar la tecnología e incluso en los de abogados experimentados que han sido sancionados por no verificar los borradores generados por IA.

La IA ha llegado a los tribun