Cuando la IA se inventa datos: el costoso error de Deloitte Australia
Si alguna vez has pensado que las grandes consultoras tienen procesos infalibles, prepárate para una sorpresa. En un caso que parece sacado de un manual sobre «cómo no usar la IA», Deloitte Australia se ha visto obligada a ofrecer un reembolso parcial al gobierno australiano tras entregar un informe repleto de referencias inexistentes generadas por inteligencia artificial. Y no, no estamos hablando de un pequeño error, sino de un documento que costó a los contribuyentes australianos cerca de 290.000 dólares (unos 265.000 euros).
El informe fantasma y sus citas imaginarias
El escándalo comenzó cuando Deloitte entregó su «Targeted Compliance Framework Assurance Review», un análisis sobre el sistema automatizado de sanciones del bienestar social australiano. El problema? Tras su publicación en agosto de 2025, un académico de la Universidad de Sídney, Chris Rudge, descubrió algo inquietante: el informe estaba salpicado de citas y referencias a documentos que simplemente no existían.
Entre las víctimas de esta curiosa fabricación académica encontramos a Lisa Burton Crawford, una profesora real de la facultad de derecho de la Universidad de Sídney, a quien se le atribuyeron varios informes que jamás escribió. Como era de esperar, la profesora no estaba precisamente encantada: «Es preocupante ver investigaciones atribuidas a mí de esta manera», comentó al Australian Financial Review.
El culpable con nombre y apellido: GPT-4o
Lo más fascinante (o alarmante, según se mire) es cómo Deloitte manejó la situación. Primero, silencio. Después, una versión «corregida» del informe donde, casi escondida en la página 58 de un documento de 273 páginas, aparecía la explicación: habían utilizado «una cadena de herramientas basada en un modelo de lenguaje grande de IA generativa (Azure OpenAI GPT-4o)» como parte de su flujo de trabajo.
Lo que inicialmente eran 141 fuentes citadas quedó reducido a 127 tras eliminar todas las referencias fabricadas. Entre ellas, incluso una cita inexistente atribuida a un fallo real de una jueza federal.
Las consecuencias de confiar ciegamente en la IA
Este caso nos plantea una seria reflexión sobre cómo estamos implementando la tecnología en entornos profesionales. Deloitte, una de las firmas de consultoría más prestigiosas del mundo, cobró casi medio millón de dólares australianos por un informe donde ni siquiera verificaron si las fuentes citadas existían realmente.
Más allá del reembolso: la credibilidad en juego
Aunque Deloitte ha confirmado que reembolsará parte del contrato (sin especificar cuánto), el daño ya está hecho. El Departamento de Empleo y Relaciones Laborales de Australia ha intentado minimizar el incidente afirmando que «la sustancia de la revisión independiente se mantiene, y no hay cambios en las recomendaciones».
Sin embargo, como bien señaló Chris Rudge, «no se pueden confiar en las recomendaciones cuando la base del informe está construida sobre una metodología defectuosa, originalmente no divulgada y no experta».
¿Podemos detectar cuándo la IA está alucinando?
Este incidente nos lleva a una pregunta crucial: ¿cómo podemos saber cuándo los sistemas de IA están inventando información? Las «alucinaciones» de los modelos de lenguaje son más comunes de lo que pensamos, y los detectores de IA actuales no están diseñados para identificar específicamente este tipo de fabricaciones.
Por mucho que avancen los generadores de imágenes IA y las herramientas de texto, siguen existiendo limitaciones fundamentales. La IA no «sabe» cosas en el sentido humano; simplemente predice patrones basados en sus datos de entrenamiento. Y cuando se le pide citar fuentes o referencias específicas, puede fácilmente inventar algo que «suena correcto» sin comprobar si realmente existe.
La responsabilidad humana sigue siendo insustituible
Lo que este caso nos demuestra con claridad es que, por muy avanzada que sea la tecnología, la supervisión humana sigue siendo esencial. Cualquier proceso que delegue completamente en la IA tareas como la investigación académica o la citación de fuentes está destinado a encontrar problemas similares.
La próxima vez que consideremos utilizar herramientas de IA para crear contenido profesional, recordemos el caso Deloitte: la tecnología puede ser un asistente extraordinario, pero nunca debe sustituir la verificación humana, especialmente cuando lo que está en juego es la integridad académica o, como en este caso, casi medio millón de dólares de los contribuyentes.
Y tú, ¿has detectado alguna vez «alucinaciones» en contenidos generados por IA? La historia de Deloitte nos recuerda que, incluso las grandes empresas, a veces confían demasiado en estas herramientas sin implementar las salvaguardas necesarias.
