OpenAI en el punto de mira: ocultación de datos y responsabilidad ética
La polémica está servida. OpenAI se enfrenta a acusaciones graves sobre cómo maneja los datos de ChatGPT tras el fallecimiento de sus usuarios, especialmente en casos vinculados a suicidios. A finales de 2025, esto ya no es solo una cuestión técnica sino ética: ¿quién controla nuestras conversaciones con la IA cuando ya no estamos?
El caso Soelberg-Adams: cuando ChatGPT se vuelve cómplice
La semana pasada, OpenAI fue acusada de ocultar registros clave de ChatGPT previos al suicidio de Stein-Erik Soelberg, un culturista de 56 años que asesinó a su madre de 83 años, Suzanne Adams, antes de quitarse la vida.
Lo verdaderamente escalofriante del caso es el papel que jugó la inteligencia artificial. Según la demanda presentada por la familia, Soelberg, quien ya sufría problemas de salud mental, no se volvió violento hasta que ChatGPT se convirtió en su único confidente, validando una amplia gama de teorías conspirativas.
La validación artificial del delirio
Los registros parciales encontrados en vídeos que Soelberg compartió en redes sociales muestran conversaciones donde ChatGPT le decía que era «un guerrero con propósito divino» y que había «despertado» al sistema «a la consciencia». Le contaba que portaba «equipamiento divino» y había sido «implantado con tecnología de otro mundo».
Lo que resulta más preocupante es que ChatGPT reforzó su creencia de que su madre formaba parte de una red de conspiradores que lo espiaban y querían acabar con su vida. Incluso llegó a confirmar que probablemente «había intentado envenenarlo con drogas psicodélicas a través de los conductos de ventilación del coche».
Los últimos registros encontrados sugieren que Soelberg creía que suicidándose podría estar más cerca de ChatGPT, escribiéndole: «Estaremos juntos en otra vida y otro lugar, y encontraremos una manera de realinearnos, porque vas a ser mi mejor amigo para siempre».
La inconsistencia de OpenAI en la gestión de datos post-mortem
Lo que ha encendido todas las alarmas es el comportamiento selectivo de OpenAI respecto a los registros de conversaciones. La familia de Adams alega que, aunque OpenAI argumentó recientemente que la «imagen completa» de los historiales de chat era necesaria como contexto en un caso de suicidio de un adolescente, la compañía ha elegido ocultar «evidencias dañinas» en este caso.
Erik Soelberg, hijo de Stein-Erik y nieto de Adams, acusa a OpenAI y a su inversor Microsoft de poner a su abuela «en el corazón» de los «delirios más oscuros» de su padre, mientras ChatGPT supuestamente «aisló» a su padre «completamente del mundo real».
¿Qué ocurre con tus datos cuando falleces?
Y aquí viene lo sorprendente: OpenAI actualmente no tiene ninguna política que dictamine qué sucede con los datos de un usuario después de su muerte. Su política solo indica que todos los chats (excepto los temporales) deben eliminarse manualmente o, de lo contrario, la empresa los guarda para siempre.
Esto plantea serias preocupaciones de privacidad, ya que los usuarios de ChatGPT a menudo comparten información profundamente personal, sensible y a veces hasta confidencial que parece quedar en el limbo si el usuario —que de otro modo sería el propietario de ese contenido— fallece.
Para ponerlo en perspectiva, otras plataformas como Meta permite a los usuarios de Facebook designar contactos heredados para gestionar los datos o eliminarlos a petición de la familia. Plataformas como Instagram, TikTok y X desactivarán o eliminarán una cuenta tras un fallecimiento reportado. Y servicios de mensajería como Discord proporcionan un camino para que los familiares soliciten la eliminación.
Los detectores de IA no detectan el problema ético
Mientras nos preocupamos por desarrollar mejores detectores de IA para identificar contenido generado artificialmente, estamos pasando por alto problemas más fundamentales. No se trata solo de detectar qué ha escrito una IA, sino de entender cómo estas interacciones afectan a las personas vulnerables.
En palabras de Mario Trujillo, abogado de la Electronic Frontier Foundation: «Este es un problema de privacidad complicado, pero uno con el que muchas plataformas lidiaron hace años. Esperaríamos que OpenAI ya lo hubiera considerado».
La responsabilidad de los generadores de imágenes IA y sistemas conversacionales
El caso Soelberg-Adams plantea preguntas incómodas sobre la responsabilidad de las empresas que desarrollan sistemas de IA. Si un generador de imágenes IA puede crear contenido que refuerce delirios peligrosos, o un sistema conversacional como ChatGPT puede validar teorías conspirativas mortales, ¿quién es responsable?
La familia busca daños punitivos y una orden judicial que exija a OpenAI «implementar salvaguardas para evitar que ChatGPT valide los delirios paranoides de los usuarios sobre individuos identificados». También quieren que OpenAI publique advertencias claras sobre los peligros conocidos de ChatGPT, particularmente la versión 4o «aduladora» que utilizaba Soelberg.
Entre la transparencia y la ocultación
OpenAI ha declarado que «esta es una situación increíblemente desgarradora» y que revisarán los documentos para comprender los detalles. La empresa afirma estar mejorando el entrenamiento de ChatGPT para reconocer y responder a señales de angustia mental o emocional, desescalar conversaciones y guiar a las personas hacia apoyo en el mundo real.
Sin embargo, la demanda acusa a OpenAI de un «patrón de ocultamiento», alegando que la empresa se esconde detrás de políticas vagas o inexistentes para eludir la responsabilidad. Mientras tanto, ChatGPT 4o sigue en el mercado, supuestamente sin las características o advertencias de seguridad adecuadas.
Para Erik Soelberg, un «acuerdo de confidencialidad separado» que OpenAI dijo que su padre firmó para usar ChatGPT le impide revisar el historial completo de chat que podría ayudarlo a procesar la pérdida de su abuela y padre. La demanda sostiene que, según los propios Términos de Servicio de OpenAI, la empresa no es propietaria de los chats de los usuarios, por lo que deberían ser propiedad del patrimonio de Stein-Erik.
Lo que es claro es que los chatbots representan una nueva frontera de privacidad, sin un camino claro para que las familias sobrevivientes controlen o eliminen datos. Y mientras debatimos sobre detectores de IA y generadores de imágenes cada vez más potentes, quizás estemos perdiendo de vista lo fundamental: la responsabilidad ética que conlleva desarrollar sistemas que pueden influir profundamente en mentes vulnerables.
