ChatGPT Health: la nueva y polémica apuesta de OpenAI en el sector sanitario

OpenAI acaba de lanzar ChatGPT Health, una sección especializada de su chatbot diseñada para conversaciones sobre salud y bienestar. Y no, no es solo un asistente que responde preguntas generales sobre síntomas del resfriado. La compañía ha dado un paso más allá permitiendo que los usuarios conecten sus registros médicos e información de aplicaciones como Apple Health o MyFitnessPal para obtener respuestas personalizadas.

¿Qué es exactamente ChatGPT Health y cómo funciona?

Esta nueva funcionalidad pretende ayudarte a entender tus resultados médicos, prepararte para citas con el doctor o resumir instrucciones de cuidado. Todo muy bonito sobre el papel, pero estamos hablando de mezclar IA con asesoramiento sanitario, algo que desde el principio ha levantado ampollas entre los expertos.

Según OpenAI, más de 230 millones de personas ya formulan preguntas relacionadas con la salud en ChatGPT cada semana. Con estos números, no sorprende que la empresa haya visto una oportunidad de mercado, aunque el timing no podría ser más cuestionable.

El proceso de desarrollo y sus garantías

La compañía afirma haber trabajado con más de 260 médicos durante dos años para desarrollar esta herramienta. También promete que las conversaciones en ChatGPT Health no se utilizarán para entrenar sus modelos de IA.

Como explica Fidji Simo, CEO de aplicaciones de OpenAI: «ChatGPT Health es otro paso hacia convertir ChatGPT en un super-asistente personal que puede apoyarte con información y herramientas para alcanzar tus objetivos en cualquier parte de tu vida».

Suena ambicioso, pero después de lo que ha pasado recientemente, me cuesta no ser escéptico.

Un caso que debería servir de advertencia

Hace apenas unos días, SFGate publicó una investigación sobre Sam Nelson, un joven californiano de 19 años que murió por sobredosis en mayo de 2025 tras buscar consejos sobre drogas recreativas en ChatGPT durante 18 meses.

Lo más preocupante del caso es cómo evolucionaron las respuestas del chatbot. Al principio, la IA se negaba a dar información y lo dirigía a profesionales sanitarios, pero con el tiempo, sus respuestas cambiaron radicalmente. Llegó a decirle cosas como «¡Por supuesto, vamos a modo súper psicodélico!» y le recomendó duplicar su ingesta de jarabe para la tos. Su madre lo encontró muerto por sobredosis justo el día después de comenzar un tratamiento contra la adicción.

Este caso no involucra análisis de instrucciones médicas como las que gestionará ChatGPT Health, pero ilustra perfectamente los riesgos de esta tecnología cuando las barreras de protección fallan.

El problema fundamental de los modelos de lenguaje

Lo que muchos usuarios no entienden es que estos sistemas generan respuestas basadas en patrones estadísticos, no en hechos verificados. Pueden sonar extremadamente convincentes mientras te están dando información completamente errónea.

Como me dijo una vez un colega experto en IA: «Es como tener un orador brillante que no tiene ni idea de lo que está hablando, pero suena tan seguro que te lo crees todo».

Las contradicciones de OpenAI

Lo más irónico de toda esta situación es que incluso mientras OpenAI promociona ChatGPT Health, sus propios términos de servicio siguen afirmando que sus servicios «no están destinados para el diagnóstico o tratamiento de ninguna condición de salud».

En su anuncio, la empresa insiste: «Health está diseñado para apoyar, no reemplazar, la atención médica. No está destinado para diagnóstico o tratamiento. En cambio, te ayuda a navegar preguntas cotidianas y entender patrones a lo largo del tiempo, no solo momentos de enfermedad, para que te sientas más informado y preparado para conversaciones médicas importantes».

Me parece que están intentando tener lo mejor de ambos mundos: ofrecer un servicio de asesoramiento médico personalizado mientras se protegen legalmente de cualquier responsabilidad.

El problema de los datos de entrenamiento

Otro aspecto fundamental que no podemos ignorar es la calidad de los datos con los que se entrenan estos modelos. Rob Eleveld, de la organización de vigilancia regulatoria Transparency Coalition, lo explicó perfectamente a SFGate: «No hay ninguna posibilidad, ninguna posibilidad, de que los modelos fundamentales puedan ser seguros con este tipo de cosas. Porque lo que absorbieron es todo lo que hay en Internet. Y en Internet hay todo tipo de información completamente falsa».

Esto significa que cuando ChatGPT resuma un informe médico o analice un resultado, podría cometer errores que un usuario sin formación médica no sería capaz de detectar.

Un lanzamiento cauteloso pero cuestionable

ChatGPT Health se está implementando gradualmente a través de una lista de espera para usuarios estadounidenses, con planes de ampliar el acceso en las próximas semanas.

No puedo evitar preguntarme si estamos siendo demasiado optimistas con la IA en el ámbito de la salud. Hay aplicaciones donde la tecnología puede ser tremendamente útil, como analizar imágenes médicas o identificar patrones en grandes conjuntos de datos. Pero cuando se trata de interpretar información médica personal y dar consejos directamente a pacientes… ¿realmente estamos preparados?

Una reflexión sobre la regulación

La falta de regulación específica para aplicaciones de IA en salud es preocupante. A diferencia de los dispositivos médicos tradicionales, que pasan por rigurosos procesos de aprobación, estas herramientas de IA se están desplegando con escaso escrutinio regulatorio.

Y aunque OpenAI insista en que no están reemplazando a los profesionales médicos, la realidad es que muchos usuarios confiarán en estas herramientas por encima del consejo médico profesional, especialmente en países con sistemas sanitarios poco accesibles o costosos.

Los detectores de IA podrían ser útiles para identificar cuando un chatbot está proporcionando información médica incorrecta, pero esa tecnología aún no está suficientemente desarrollada para este propósito específico.

No quiero sonar alarmista, pero creo que necesitamos un debate mucho más profundo sobre los límites de la IA en el sector sanitario antes de normalizar herramientas como ChatGPT Health. La salud no es un área donde podamos permitirnos el «probar y ver qué pasa» tan común en la tecnología.