Cuando la IA alucina: el juez que terminó un caso por uso indebido de inteligencia artificial
Si alguna vez has pensado que la IA es una varita mágica para resolver cualquier problema laboral, la historia que voy a contarte te hará pensártelo dos veces. Un juez federal de Nueva York acaba de tomar una decisión sin precedentes: terminar abruptamente un caso legal porque un abogado no paraba de usar inteligencia artificial para redactar documentos llenos de citas falsas y prosa tan florida que parecía salida de un manual de literatura romántica.
El abogado, la IA y Ray Bradbury entran a un tribunal…
La jueza Katherine Polk Failla se encontró ante algo insólito. El abogado Steven Feldman presentó documentos legales que, además de contener citas inexistentes (algo ya bastante grave), incluían pasajes literarios que destacaban como un elefante en una tienda de porcelana. Entre ellos, una extensa cita de «Fahrenheit 451» de Ray Bradbury sobre dejar huella en el mundo y metáforas que comparaban la defensa legal con «dejar marcas indelebles en la arcilla».
¿En serio? ¿Quién mete a Ray Bradbury en un documento legal? Pues aparentemente, una IA lo hace.
Lo más surreal fue otro pasaje que invocaba un texto bíblico sobre el juicio divino. La jueza describió estos elementos como «levantando las cejas del Tribunal», en lo que podría ser el eufemismo judicial del año.
Negación plausible y excusas poco convincentes
Cuando la jueza confrontó a Feldman, este negó categóricamente que la IA hubiera escrito esos documentos. Según él, simplemente había utilizado herramientas como Paxton AI, Vincent AI de vLex y NotebookLM de Google para «verificar citas», no para redactar.
Su explicación fue que había leído «Fahrenheit 451» «hace muchos años» y quería incluir «cosas personales» en su escrito. En cuanto a referencias a Ashurbanipal (sí, el antiguo rey asirio apareció de alguna manera en un documento legal de 2026), insistió en que «vino de mí».
La jueza Failla no se tragó ni una palabra. En su orden escribió que era «extremadamente difícil de creer» que la IA no hubiera redactado esas secciones con prosa exagerada. Vamos, que le pilló con las manos en la masa y el abogado seguía negando lo evidente.
El problema no es usar IA, sino usarla mal
La cuestión no es que Feldman usara inteligencia artificial —muchos profesionales la usamos a diario como herramienta de apoyo— sino que delegó en ella completamente su responsabilidad profesional.
De las 60 citas legales en sus escritos, 14 resultaron ser falsas. Completas alucinaciones generadas por la IA. Y lo peor: Feldman admitió no haber leído los casos que citaba. Básicamente sustituyó su obligación de verificar fuentes por tres rondas de revisión con IA, confiando ciegamente en lo que estas herramientas le decían.
Como la jueza Failla señaló con brillante claridad: «La mayoría de los abogados simplemente llaman a esto ‘realizar investigación legal’. Todos los abogados deben saber cómo hacerlo».
Las excusas más creativas (y menos efectivas)
Feldman desplegó un arsenal de justificaciones digno de estudio:
- Que las suscripciones a bases de datos legales son caras
- Que los horarios de biblioteca son cortos
- Que tenía varios casos a la vez
- Que debía asistir a las graduaciones de sus hijos
Todos tenemos vidas ocupadas, pero cuando representas a un cliente en un tribunal federal, quizás verificar tus fuentes debería ser prioritario. La jueza lo resumió perfectamente cuando describió sus métodos como «redolentes de Rube Goldberg» (ese inventor ficticio de máquinas innecesariamente complicadas).
Un caso de manual sobre cómo no usar la IA
Este caso se suma a una lista creciente de abogados que han confiado excesivamente en la IA para redactar documentos legales. Las sanciones han ido desde pequeñas multas de unos 150 dólares hasta cifras astronómicas de 85.000 dólares por conducta reiterada.
Algunos bufetes ya amenazan con despedir a abogados que citen casos falsos, mientras otros han impuesto sanciones voluntarias como tomarse años sabáticos (supongo que para reconectar con las bibliotecas físicas).
Lo de Feldman fue particularmente grave porque:
- Repitió los errores incluso después de ser advertido
- No notificó al tribunal cuando descubrió los problemas
- Reprendió a otro abogado que le instó a informar de inmediato sobre las citas falsas
- Se mostró evasivo durante las audiencias (la jueza notó que «luchó por hacer contacto visual»)
La jueza acabó dictaminando un juicio en rebeldía a favor de los demandantes, terminando el caso. El cliente de Feldman deberá ahora enfrentarse a las consecuencias: prohibición de vender los productos en cuestión, reembolsos a clientes y devolución de ganancias, entre otras.
Lecciones para todos los que usamos IA en entornos profesionales
Esta historia me parece un caso de estudio perfecto sobre los peligros reales del uso irresponsable de la IA. No se trata de tecnofobia ni de resistencia al cambio, sino de entender que la inteligencia artificial actual tiene limitaciones muy serias.
Los grandes modelos de lenguaje son propensos a las «alucinaciones» —generar información que parece correcta pero es completamente falsa— y cualquiera que los use profesionalmente debe verificar su output. Especialmente cuando las consecuencias pueden ser tan graves como en un tribunal.
Lo que podemos aprender de este fiasco:
-
La IA es una herramienta, no un sustituto: Puede ayudarte a organizar ideas o generar borradores, pero la responsabilidad final siempre es tuya.
-
Verifica todo: Si usas un detector de IA o un generador de imágenes IA para tu trabajo, comprueba la precisión de lo que produce.
-
Sé transparente: Si algo sale mal, admítelo rápidamente en vez de esconderlo.
-
Conoce las limitaciones: Los sistemas de IA actuales no tienen un conocimiento real del mundo ni comprensión contextual profunda.
Lo fascinante de este caso es cómo Feldman, intentando defenderse, argumentó que su experiencia debería generar conciencia sobre lo inaccesibles que son los documentos judiciales. «La verdadera lección es sobre la transparencia y el diseño del sistema, no simplemente el fracaso de la herramienta», dijo.
Tiene algo de razón ahí, pero como la jueza señaló, siempre existía la opción de «ir a la biblioteca» en lugar de confiar ciegamente en la IA.
En el fondo, este caso nos recuerda algo fundamental: por muy avanzada que sea la tecnología, no puede reemplazar la diligencia profesional y el juicio humano. Al menos, no todavía.
