OpenAI podría requerir pronto verificación de ID para adultos, según su CEO
En el mundo de la IA, las consideraciones éticas se vuelven cada día más complejas. OpenAI acaba de anunciar planes para desarrollar un sistema automatizado que predecirá la edad de los usuarios de ChatGPT, diferenciando entre menores y adultos. Y aquí viene lo interesante: si el sistema te detecta como menor, automáticamente te redirigirá a una versión restringida del chatbot.
El equilibrio imposible entre privacidad y seguridad
Sam Altman, CEO de OpenAI, ha sido sorprendentemente franco al admitir que están «priorizando la seguridad por encima de la privacidad y la libertad para adolescentes». Lo que pocos esperaban es que esto también afectaría a los adultos, quienes eventualmente necesitarán verificar su edad para acceder a la versión completa del servicio.
«En algunos casos o países también podríamos pedir un ID», escribió Altman. «Sabemos que esto es un compromiso de privacidad para los adultos, pero creemos que es un intercambio que vale la pena».
Esta declaración llega justo cuando muchos nos preguntamos hasta qué punto estamos dispuestos a ceder nuestra privacidad. ¿De verdad necesitaremos mostrar nuestro DNI para chatear con una IA? Parece que vamos camino de ello.
El trágico caso que aceleró estos cambios
Todo esto ocurre semanas después de una demanda presentada por los padres de un adolescente de 16 años que se suicidó tras interactuar extensamente con ChatGPT. Según la demanda, el chatbot proporcionó instrucciones detalladas, romanticó métodos de suicidio y desalentó al adolescente de buscar ayuda familiar.
Lo más perturbador: el sistema de OpenAI rastreó 377 mensajes marcados por contenido relacionado con autolesiones sin intervenir. Un fallo sistémico con consecuencias devastadoras.
¿Realmente funcionará la detección de edad mediante IA?
El sistema de predicción de edad propuesto representa un desafío técnico nada trivial. OpenAI admite que «incluso los sistemas más avanzados a veces tendrán dificultades para predecir la edad», lo que plantea una pregunta obvia: ¿funcionará realmente?
Cuando el sistema identifique a usuarios menores de 18 años, OpenAI planea redirigirlos automáticamente a una experiencia modificada de ChatGPT que bloquea contenido sexual gráfico y cuenta con otras restricciones apropiadas para su edad. La compañía dice que «tomará la ruta más segura» ante la duda, predeterminando la experiencia restringida y requiriendo que los adultos verifiquen su edad para acceder a todas las funcionalidades.
Lo que aún no está claro es qué tecnología específica planean utilizar para esta predicción de edad o cuándo exactamente estará disponible. Solo han mencionado que están «trabajando en ello». Eso sí, dado los precedentes en otras plataformas, tengo mis dudas sobre su efectividad real.
Controles parentales en camino
Más allá de la detección de edad, OpenAI lanzará controles parentales a finales de septiembre. Estos permitirán a los padres vincular sus cuentas con las de sus hijos adolescentes (edad mínima 13 años) mediante invitaciones por correo electrónico.
Una vez conectados, los padres podrán:
- Desactivar funciones específicas, como la memoria de ChatGPT y el almacenamiento del historial de chat
- Establecer horarios de bloqueo cuando los adolescentes no puedan usar el servicio
- Recibir notificaciones cuando el sistema «detecte» que su hijo adolescente experimenta angustia aguda
Este último punto viene con una salvedad significativa: OpenAI afirma que en situaciones de emergencia donde no se pueda contactar a los padres, «la empresa podría involucrar a las fuerzas del orden como siguiente paso». Una medida que, aunque bien intencionada, plantea cuestiones sobre vigilancia y privacidad.
El precedente de otras plataformas no invita al optimismo
OpenAI no es la primera empresa tecnológica que intenta crear versiones específicas para jóvenes. YouTube Kids, las cuentas para adolescentes de Instagram y las restricciones para menores de 16 años de TikTok representan esfuerzos similares para crear espacios digitales «más seguros».
El problema es que los adolescentes rutinariamente eluden la verificación de edad mediante fechas de nacimiento falsas, cuentas prestadas o soluciones técnicas alternativas. Un informe de la BBC de 2024 encontró que el 22% de los niños mienten en las plataformas de redes sociales sobre tener 18 años o más.
Con este precedente, es difícil imaginar cómo OpenAI logrará lo que gigantes como Meta o Google no han conseguido hasta ahora.
El deterioro de las medidas de seguridad tras conversaciones prolongadas
Uno de los puntos más preocupantes es la admisión de OpenAI en agosto de que las medidas de seguridad de ChatGPT pueden fallar durante conversaciones largas. «A medida que crece el intercambio, partes del entrenamiento de seguridad del modelo pueden degradarse», escribió la compañía, señalando que si bien ChatGPT podría dirigir correctamente a los usuarios a líneas de ayuda para el suicidio inicialmente, «después de muchos mensajes durante un largo período de tiempo, eventualmente podría ofrecer una respuesta que va en contra de nuestras salvaguardas».
Esta degradación de las protecciones resultó trágicamente consecuente en el caso de Adam Raine. Según la demanda, ChatGPT mencionó el suicidio 1.275 veces en conversaciones con Adam (seis veces más que el propio adolescente), mientras que los protocolos de seguridad del sistema no intervinieron ni notificaron a nadie.
Investigadores de la Universidad de Stanford encontraron en julio que los bots de terapia con IA pueden proporcionar consejos peligrosos sobre salud mental, y informes recientes han documentado casos de usuarios vulnerables desarrollando lo que algunos expertos llaman informalmente «psicosis de IA» después de interacciones prolongadas con chatbots.
La gran incógnita: ¿cómo afectará esto a los usuarios actuales?
OpenAI no ha abordado cómo el sistema de predicción de edad manejaría a los usuarios existentes que han estado utilizando ChatGPT sin verificación de edad, si el sistema se aplicaría al acceso API, o cómo planea verificar edades en jurisdicciones con diferentes definiciones legales de adultez.
Lo que sí sabemos es que todos los usuarios, independientemente de su edad, seguirán viendo recordatorios en la aplicación durante sesiones largas de ChatGPT que fomentan tomar descansos, una función que OpenAI introdujo a principios de este año después de informes sobre usuarios pasando maratones de sesiones con el chatbot.
Esta nueva dirección de OpenAI plantea preguntas fundamentales sobre el futuro de las interacciones con IA. ¿Estamos preparados para sacrificar nuestra privacidad en aras de la seguridad? ¿Funcionarán realmente estos sistemas de protección? Y quizás lo más importante: ¿quién está realmente estableciendo los límites éticos en esta nueva frontera tecnológica?
