Cuando la IA se equivoca: Google retira sus respuestas sobre salud tras errores peligrosos
La confianza que hemos depositado en la IA para responder nuestras dudas de salud acaba de sufrir un golpe importante. Google ha tenido que retirar algunas de sus respuestas generadas por IA sobre temas médicos después de que una investigación de The Guardian descubriera información peligrosamente incorrecta en los resultados de búsqueda. Y no, no estamos hablando de errores menores.
El escándalo que ha sacudido a Google
El pasado domingo, Google se vio obligado a desactivar sus «AI Overviews» (resúmenes generados por IA) para ciertas consultas médicas. ¿La razón? Estaba ofreciendo información potencialmente peligrosa a personas con enfermedades graves. Imagina buscar información sobre tus análisis de hígado y recibir datos que te hacen creer que estás perfectamente cuando en realidad necesitas atención médica urgente. No es ciencia ficción, estaba pasando.
The Guardian encontró que las consultas sobre «rangos normales para análisis de sangre del hígado» generaban tablas de datos sin contexto, sin ajustes por edad, sexo o etnia, y con definiciones de «normalidad» que no coincidían con los estándares médicos reales. Esto podría llevar a pacientes con problemas hepáticos a creer erróneamente que estaban sanos.
Errores médicos graves que ponen en peligro vidas
Uno de los errores más alarmantes afectaba a pacientes con cáncer de páncreas. La IA de Google recomendaba evitar alimentos ricos en grasas, lo que contradice directamente las pautas médicas estándar que aconsejan mantener el peso. Para un paciente con cáncer, seguir este consejo incorrecto podría tener consecuencias fatales.
Como explicó Vanessa Hebditch, directora de comunicaciones del British Liver Trust, a The Guardian: «Un análisis de función hepática es una colección de diferentes pruebas de sangre y entender los resultados es complejo, implica mucho más que comparar un conjunto de números». Añadió que los resúmenes de IA no advierten que alguien puede obtener resultados normales en estas pruebas cuando tienen una enfermedad hepática grave y necesitan atención médica adicional. «Esta falsa tranquilidad podría ser muy dañina», advirtió.
Por qué los modelos de IA cometen estos errores
El problema no es puntual ni fácil de resolver. Las fallas recurrentes en los AI Overviews provienen de un defecto de diseño fundamental en el sistema. Google construyó esta función para mostrar información respaldada por los principales resultados web según su sistema de clasificación de páginas, bajo la premisa de que las páginas mejor posicionadas contienen información precisa.
Sin embargo, el algoritmo de Google lleva años luchando contra contenido manipulado por SEO y spam. Ahora, el sistema alimenta estos resultados poco fiables a su modelo de IA, que los resume con un tono autoritario que puede engañar a los usuarios. Incluso cuando la IA extrae de fuentes precisas, el modelo de lenguaje puede extraer conclusiones incorrectas, produciendo resúmenes defectuosos.
La tecnología no garantiza precisión factual. En realidad, refleja las inexactitudes que existen en los sitios web que el algoritmo de Google clasifica como relevantes, pero presentándolas con una autoridad que hace que los errores parezcan confiables.
La respuesta de Google: parches en lugar de soluciones
Lo que resulta aún más preocupante es la respuesta de Google. Tras la investigación, solo desactivó los resúmenes para las consultas específicas sobre pruebas hepáticas, dejando accesibles otras respuestas potencialmente dañinas. Y aquí viene lo increíble: The Guardian descubrió que simplemente escribiendo ligeras variaciones de las consultas originales, como «lft reference range» en lugar de «what is the normal range for liver blood tests», los AI Overviews problemáticos seguían apareciendo.
Cuando se le preguntó por qué no había eliminado también estos otros ejemplos problemáticos, Google respondió que enlazaban a «fuentes conocidas y reputadas» y que informaban a las personas «cuando es importante buscar asesoramiento experto». Un portavoz le dijo a The Verge que la compañía invierte en la calidad de los AI Overviews, particularmente para temas de salud, y que «la gran mayoría proporciona información precisa».
Un historial de errores que debería preocuparnos
No es la primera controversia para los AI Overviews de Google. La función ha sugerido anteriormente cosas tan absurdas como poner pegamento en pizzas o comer rocas. De hecho, ha resultado tan impopular que los usuarios han descubierto que insertar palabrotas en las consultas desactiva completamente los AI Overviews.
Y este es el quid de la cuestión: ¿deberíamos confiar en la IA para temas tan sensibles como nuestra salud? La respuesta, a la luz de estos hallazgos, parece clara. Los sistemas de IA actuales, incluso los de gigantes tecnológicos como Google, no están diseñados para reemplazar el consejo médico profesional.
El dilema entre innovación y responsabilidad
Como especialista en tecnología, entiendo perfectamente el impulso por innovar y llevar la IA a todos los aspectos de nuestra vida. Los detectores de IA y los generadores de imágenes por IA están transformando industrias enteras. Pero cuando hablamos de salud, el margen de error aceptable se reduce drásticamente.
Lo que está ocurriendo con Google ilustra un problema más amplio en el sector: el ritmo de implementación de la IA está superando nuestra capacidad para garantizar su seguridad y precisión. Las empresas compiten por lanzar nuevas funciones de IA, a veces sin evaluar completamente sus implicaciones, especialmente en áreas donde los errores pueden tener consecuencias graves.
Para ser justos, Google dice que solo muestra AI Overviews para consultas donde tiene «alta confianza» en la calidad de las respuestas y que constantemente mide y revisa la calidad de sus resúmenes. Pero los hechos sugieren que estos controles no son suficientes.
¿Qué podemos aprender de todo esto?
Como usuarios, la lección es clara: toma con cautela la información médica que encuentres online, incluso (o especialmente) si proviene de sistemas de IA aparentemente sofisticados. Para consultas de salud, nada sustituye la opinión de un profesional médico cualificado.
Y como sociedad, debemos exigir mayor transparencia y responsabilidad a las empresas tecnológicas que implementan estas herramientas. Necesitamos marcos regulatorios que establezcan estándares claros para la IA en áreas sensibles como la salud, y mecanismos de supervisión independientes que evalúen su precisión y seguridad.
La IA tiene un potencial enorme para mejorar nuestra vida, pero casos como este nos recuerdan que aún estamos en las primeras etapas de su desarrollo. Y cuando se trata de nuestra salud, es mejor ser cautelosos que arrepentirnos después.
