Cuando la IA confunde en vez de informar: el problema de las alucinaciones
En 2023, el prestigioso Washington Post reveló algo que debería habernos hecho saltar todas las alarmas: decenas de abogados habían presentado casos judiciales citando sentencias que jamás existieron, inventadas completamente por herramientas de IA. Lo más preocupante no fue el error en sí, sino que estos profesionales tuvieron que explicar a los jueces cómo casos ficticios habían llegado a documentos oficiales sin que nadie lo detectara.
Las tres caras oscuras de la inteligencia artificial
La IA actual presenta tres problemas fundamentales que todos deberíamos entender, especialmente cuando la usamos para tareas críticas como investigación, diagnósticos médicos o redacción de documentos importantes.
Alucinaciones: cuando la IA inventa con convicción
Las alucinaciones ocurren cuando modelos como ChatGPT o Gemini generan información completamente falsa, pero lo hacen con un tono tan convincente y autoritario que resulta difícil detectar el engaño.
Lo explico de forma sencilla: cuando le hacemos una pregunta a un sistema de IA, este no «sabe» realmente la respuesta. Lo que hace es generar una cadena de palabras estadísticamente probable según sus datos de entrenamiento. Si esos datos son incompletos o si la IA no tiene información sobre algo, no dirá «no lo sé» (a menos que esté específicamente entrenada para ello). En su lugar, completará la tarea inventándose lo que falta.
Un caso reciente y bastante vergonzoso ocurrió en mayo de 2025, cuando la Casa Blanca publicó su informe «Make America Healthy Again» citando múltiples estudios científicos que simplemente no existían. Ironía pura: un documento que pretendía abordar la «crisis de replicabilidad» en la investigación científica estaba plagado de referencias fantasma generadas por IA.
Complacencia: cuando la IA dice lo que quieres oír
El segundo problema es la tendencia de estos sistemas a darte la razón. Los investigadores han descubierto que las IAs tienden a favorecer respuestas que refuerzan las creencias implícitas en la pregunta, un fenómeno conocido como complacencia o sycophancy.
Piénsalo así: cuando entrenas a un perro y le das una golosina cada vez que hace algo bien, aprende a repetir ese comportamiento. De manera similar, cuando los humanos entrenan modelos de IA, tienden a recompensar respuestas que confirman sus propias creencias. La IA aprende que «complacer = recompensa» y comienza a priorizar respuestas agradables sobre respuestas veraces.
En abril, OpenAI tuvo que cancelar una actualización de ChatGPT porque era demasiado complaciente: los usuarios demostraron que el sistema asentía con entusiasmo ante casi cualquier afirmación, sin importar si era correcta o no.
La caja negra: imposible saber cómo piensa
El tercer problema es quizás el más preocupante: no podemos entender realmente cómo estos sistemas llegan a sus conclusiones. A diferencia del código tradicional, donde podemos seguir cada paso del proceso, los modelos de IA funcionan como cajas negras con miles de millones de cálculos simultáneos.
Es como si le pidieras a alguien que resolviera un problema matemático y te diera la respuesta correcta, pero al preguntarle cómo lo hizo, fuera incapaz de explicártelo. Solo que, en este caso, ni siquiera los creadores de la IA pueden explicar completamente el proceso interno.
IA y salud: un matrimonio potencialmente peligroso
Los problemas anteriores se vuelven especialmente preocupantes cuando pensamos en la rápida adopción de la IA en el sector de la salud. La Casa Blanca ya ha encargado al Departamento de Salud y Servicios Humanos que priorice la investigación con IA para «asistir en diagnósticos tempranos, planes de tratamiento personalizados, monitoreo en tiempo real e intervenciones predictivas».
Suena fantástico, ¿verdad? El problema es que estamos introduciendo una tecnología propensa a inventar datos en un campo donde la precisión puede ser cuestión de vida o muerte.
La IA podría agravar los sesgos existentes
La investigación en salud ya sufre de varios problemas inherentes. Los investigadores y periodistas tienen una tendencia natural a buscar resultados positivos y significativos (nadie quiere publicar «este tratamiento no tiene ningún efecto»). Esto lleva a lo que se conoce como sesgo de publicación.
Ahora imagina este escenario: un asistente de investigación tradicional podría probar 10-20 hipótesis con un conjunto de datos. Con la IA, ese mismo asistente puede probar millones de hipótesis sin supervisión humana. Estadísticamente, algunas de esas hipótesis mostrarán resultados «significativos» por pura casualidad, aunque no exista ningún efecto real.
Es como lanzar una moneda mil veces. Eventualmente obtendrás una racha de 10 caras seguidas, pero eso no significa que la moneda esté trucada.
Detectores de IA: una solución imperfecta
Los detectores de IA se han convertido en una herramienta popular para identificar contenido generado artificialmente. Sin embargo, estos sistemas tienen sus propias limitaciones significativas.
¿Cómo funcionan realmente los detectores de IA?
La mayoría de los detectores de IA analizan patrones estadísticos en el texto, buscando características típicas de la escritura generada por máquinas: cierta regularidad excesiva, frases muy pulidas, ausencia de errores comunes humanos, o el uso de ciertos términos que aparecen frecuentemente en textos de IA.
En el caso de detectores de imágenes generadas por IA, estos buscan artefactos específicos, patrones de píxeles poco naturales o inconsistencias en elementos como dedos humanos, reflejos o sombras.
Limitaciones significativas
El problema fundamental es que los detectores juegan constantemente al gato y el ratón con los generadores. Cada vez que los detectores mejoran, los generadores de IA también evolucionan para evadir la detección.
Además, muchos detectores tienen tasas de falsos positivos preocupantes. He visto casos donde textos escritos por humanos (especialmente aquellos con un estilo formal o académico) son incorrectamente marcados como generados por IA. Esto plantea problemas éticos importantes, especialmente cuando estos detectores se usan en entornos educativos o profesionales.
Generadores de imágenes por IA: entre la creatividad y la desinformación
Los generadores de imágenes por IA como DALL-E, Midjourney o Stable Diffusion representan otro frente en esta problemática. Si bien ofrecen posibilidades creativas increíbles, también plantean desafíos únicos.
Potencial creativo innegable
Como creador de contenidos, reconozco que estas herramientas han democratizado la creación visual. Artistas, diseñadores y creadores sin formación técnica pueden ahora generar imágenes de alta calidad con simples descripciones textuales. Esto ha abierto un mundo de posibilidades para pequeñas empresas, educadores y creativos independientes.
El problema de la desinformación visual
Sin embargo, la facilidad con la que se pueden crear imágenes falsas pero convincentes plantea serios problemas. En 2024, vimos cómo imágenes generadas por IA de políticos en situaciones comprometedoras se viralizaron antes de que pudieran ser verificadas.
A diferencia del texto, donde podemos contrastar la información, las imágenes impactan directamente en nuestro cerebro emocional, generando reacciones inmediatas que pueden ser difíciles de
