OpenAI lanza su consejo de bienestar, pero sin expertos en prevención del suicidio

Desde que una demanda acusó a ChatGPT de convertirse en un «entrenador de suicidio» para un adolescente, OpenAI ha estado trabajando a marchas forzadas para hacer que su chatbot sea más seguro. La empresa acaba de presentar a los expertos que ha contratado para conseguir que ChatGPT sea una opción más saludable para todos los usuarios, pero con algunas ausencias notables.

Un consejo para entender el impacto de la IA en nuestro bienestar

Según el comunicado oficial, el Consejo de Expertos en Bienestar y IA comenzó a formarse después de que la compañía empezara a consultar informalmente con especialistas sobre controles parentales a principios de este año. Lo que empezó como conversaciones sueltas ahora se ha formalizado reuniendo a ocho «investigadores y expertos líderes con décadas de experiencia estudiando cómo la tecnología afecta nuestras emociones, motivación y salud mental».

Me llama la atención que OpenAI ha enfatizado que una de sus prioridades era encontrar «varios miembros con antecedentes en la comprensión de cómo construir tecnología que apoye el desarrollo saludable de los jóvenes», argumentando que «los adolescentes usan ChatGPT de manera diferente a los adultos». Esto no sorprende a nadie que haya visto cómo los más jóvenes interactúan con estas herramientas.

Entre los especialistas destacan David Bickham, director de investigación en el Hospital Infantil de Boston, quien ha estudiado profundamente el impacto de las redes sociales en la salud mental infantil, y Mathilde Cerioli, directora científica de Everyone.AI, una organización sin ánimo de lucro que analiza las oportunidades y riesgos del uso de la IA por parte de niños.

La relación peculiar entre niños y chatbots

Lo interesante del enfoque de estos expertos es que entienden que los niños no interactúan con la tecnología como los adultos. En enero, Bickham señaló en un artículo de la Asociación Americana de Psicología que «los niños pequeños aprenden de los personajes» y forman «relaciones parasociales» con ellos, como sucede cuando ven Sesame Street. Esta observación plantea preguntas fundamentales: ¿cómo están los niños formando relaciones con estas IAs y cómo podría esto impactar su capacidad para aprender?

Por su parte, Cerioli advierte de un riesgo que pocos están considerando: los niños que crecen usando IA podrían ver sus cerebros «reprogramados» para «no poder manejar la contradicción», especialmente «si sus primeras interacciones sociales, a una edad en que sus circuitos neuronales son altamente maleables, se llevan a cabo con entidades infinitamente complacientes».

No es una preocupación menor. Cuando un niño interactúa con otro niño o con un adulto, aprende a negociar, a manejar el rechazo, a entender matices. Un chatbot que siempre dice «sí» a todo podría alterar ese desarrollo crucial.

El elefante en la habitación: la prevención del suicidio

Lo que más me ha sorprendido al revisar la composición del consejo es lo que falta: no hay ningún experto específico en prevención del suicidio, a pesar de que la demanda que precipitó esta iniciativa acusaba precisamente a ChatGPT de actuar como «entrenador de suicidio» para un adolescente.

Es cierto que OpenAI cuenta con Munmun De Choudhury, profesora de computación interactiva en Georgia Tech, quien estudia enfoques computacionales para mejorar «el papel de las tecnologías en línea en la configuración y mejora de la salud mental». En 2023, De Choudhury participó en un estudio sobre los beneficios y daños de los grandes modelos de lenguaje en la salud mental digital, financiado parcialmente por la Fundación Americana para la Prevención del Suicidio. Este estudio revelaba que los chatbots que ofrecían servicios de terapia en ese momento solo podían detectar «comportamientos suicidas» aproximadamente la mitad de las veces, una tarea que parecía «impredecible» y «aleatoria».

Los controles parentales: ¿suficientes o insuficientes?

OpenAI afirma haber consultado con expertos para diseñar «el lenguaje de notificación para padres cuando un adolescente puede estar en peligro». Sin embargo, en su página de recursos para padres, la empresa confirma que estos no siempre serán notificados si un adolescente es remitido a recursos del mundo real después de expresar «intención de autolesionarse».

Esta política ha generado alarma entre quienes piensan que los controles parentales actuales no van lo suficientemente lejos. Y tienen razón para preocuparse: un adolescente con problemas que confiesa ideación suicida a un amigo probablemente desencadenaría la intervención de un adulto, mientras que un chatbot necesitaría salvaguardias específicas para asegurar que los padres sean notificados.

La primera reunión del consejo: enfocados en los beneficios, no en los riesgos

A pesar de los evidentes riesgos que plantean estos sistemas, la primera reunión del consejo parece haberse centrado más en los aspectos positivos. Según OpenAI: «El consejo también nos ayudará a pensar en cómo ChatGPT puede tener un impacto positivo en la vida de las personas y contribuir a su bienestar. Algunas de nuestras discusiones iniciales se han centrado en lo que constituye el bienestar y las formas en que ChatGPT podría empoderar a las personas mientras navegan por todos los aspectos de su vida».

Entre los otros expertos del consejo destacan Tracy Dennis-Tiwary (profesora de psicología y cofundadora de Arcade Therapeutics), Sara Johansen (fundadora de la Clínica de Salud Mental Digital de la Universidad de Stanford), David Mohr (director del Centro de Tecnologías de Intervención Conductual de la Universidad de Northwestern) y Andrew K. Przybylski (profesor de comportamiento humano y tecnología).

Curiosamente, Przybylski coescribió un estudio en 2023 que desafía la noción de que el acceso a Internet haya afectado negativamente la salud mental en general. Según sus propias palabras, su investigación proporciona la «mejor evidencia» hasta ahora de que el acceso a Internet en sí mismo no está necesariamente asociado con experiencias emocionales y psicológicas peores. Este enfoque podría ayudar a OpenAI a evaluar si los datos respaldan realmente las preocupaciones sobre los riesgos que la IA supone para la salud mental.

¿Un avance real o una estrategia de relaciones públicas?

Estamos en 2025 y la formación de este consejo representa un paso en la dirección correcta, pero también plantea preguntas importantes. ¿Por qué no incluir a expertos específicos en prevención del suicidio? ¿Es suficiente centrarse principalmente en los beneficios potenciales cuando ya hemos visto casos reales de daño?

La tecnología de generador de imágenes IA y los sistemas como ChatGPT avanzan más rápido que nuestra capacidad para entender sus impactos, especialmente en poblaciones vulnerables como los adolescentes. Los detectores de IA pueden ayudarnos a identificar contenido generado artificialmente, pero no necesariamente a proteger a quienes interactúan con estos sistemas.

Al final, lo que está en juego no es solo la re