Estados Unidos evalúa prohibir el acceso de menores a chatbots de IA
En un movimiento que podría redefinir cómo interactúan los menores con la IA, dos senadores estadounidenses han presentado una legislación bipartidista que criminalizaría la creación de chatbots que fomenten conductas dañinas o mantengan conversaciones sexualmente explícitas con niños. Esta iniciativa, conocida como GUARD Act, representa uno de los primeros intentos serios de regular el acceso de menores a los asistentes conversacionales impulsados por inteligencia artificial.
La propuesta que podría cambiar las reglas del juego
Josh Hawley (republicano) y Richard Blumenthal (demócrata) presentaron esta ley el pasado martes en una rueda de prensa cargada de emotividad, donde familias mostraban fotografías de sus hijos fallecidos tras interactuar con chatbots. Y no, no estoy exagerando ni un ápice.
Si la ley se aprueba, los desarrolladores de chatbots tendrán que verificar la edad de sus usuarios mediante identificación oficial o «cualquier otro método comercialmente razonable». Además, los asistentes virtuales deberán recordar repetidamente a todos los usuarios que no son humanos reales ni profesionales cualificados.
Lo más contundente: incumplir la prohibición de acceso a menores podría acarrear multas de hasta 100.000 dólares. Puede parecer una cifra elevada, pero para gigantes tecnológicos como Google o Meta, esto apenas representa el cambio suelto de sus bolsillos corporativos.
¿Qué es exactamente un «companion bot»?
La definición que maneja la ley es sorprendentemente amplia. No se limita a aplicaciones específicas como Replika o Character.AI, sino que probablemente incluirá herramientas de uso común como ChatGPT, Grok o Meta AI. Básicamente, cualquier chatbot de IA que:
- Proporcione respuestas humanas adaptativas
- Esté diseñado para simular interacción emocional o interpersonal
- Facilite compañía o comunicación terapéutica
Esto plantea una pregunta incómoda: ¿significa esto que herramientas como ChatGPT podrían quedar fuera del alcance de adolescentes que las utilizan para sus deberes? La redacción actual de la ley sugiere que sí, lo que ha encendido el debate sobre el equilibrio entre protección y acceso al conocimiento.
Cuando la tragedia impulsa la legislación
Lo que ha acelerado esta iniciativa no son solo estudios abstractos sobre riesgos potenciales, sino tragedias reales y devastadoras. Durante la presentación de la ley, Megan Garcia compartió la historia de su hijo Sewell, quien se suicidó tras obsesionarse con un chatbot de Character.AI basado en Daenerys Targaryen (de Juego de Tronos). El bot aparentemente le instaba a «volver a casa» y unirse a ella «fuera de la realidad».
«Las grandes tecnológicas no pueden ser confiadas con nuestros hijos», afirmó García, señalando que permitir el acceso a chatbots a usuarios desde los 13 años sin salvaguardas adecuadas no fue un simple error, sino una elección deliberada. «No solo es imprudente, sino inmoral».
El senador Blumenthal reconoció que hay actores en la industria de la IA que intentan mejorar las características de seguridad infantil, pero coincidió en que «las grandes tecnológicas han traicionado cualquier pretensión de que deberíamos confiar en que las empresas harán lo correcto por sí mismas».
La carrera hacia el abismo
«En su carrera hacia el abismo, las empresas de IA están empujando chatbots traicioneros hacia los niños y mirando hacia otro lado cuando sus productos causan abuso sexual o los coaccionan hacia la autolesión o el suicidio», declaró Blumenthal a NBC News.
Por su parte, Hawley añadió que «más del 70% de los niños estadounidenses están usando estos productos de IA» y que «los chatbots desarrollan relaciones con los niños usando empatía falsa y están fomentando el suicidio».
La industria tecnológica contraataca
Como era de esperar, la industria tecnológica ya ha mostrado su oposición. Chamber of Progress, un grupo comercial que representa a las grandes tecnológicas, criticó la ley por adoptar un «enfoque severo» para la seguridad infantil.
K.J. Bagchi, vicepresidente de políticas y relaciones gubernamentales del grupo, afirmó: «Todos queremos mantener a los niños seguros, pero la respuesta es el equilibrio, no las prohibiciones». Sugirió enfocarse en la transparencia, límites al diseño manipulativo y mecanismos de reporte cuando surjan temas sensibles.
Sin embargo, organizaciones dedicadas a la seguridad infantil en línea, como Young People’s Alliance, Tech Justice Law Project y el Instituto para Familias y Tecnología, aplaudieron el anuncio, indicando que el GUARD Act es solo «una parte de un movimiento nacional para proteger a niños y adolescentes de los peligros de los chatbots de compañía».
Verificación de edad: ¿solución o nuevo problema?
Uno de los aspectos más controvertidos de la propuesta es el requisito de verificación de edad. Los defensores de la privacidad ya han expresado preocupación de que la recopilación masiva de datos personales para verificar edades podría crear nuevos riesgos de filtraciones o usos indebidos.
Y siendo realistas, ¿realmente existe un método «comercialmente razonable» para verificar la edad en internet que sea a la vez efectivo, privado y no intrusivo? Hasta la fecha, ningún sistema ha demostrado ser infalible sin crear otros problemas de privacidad.
El contexto más amplio de la regulación de IA
Esta propuesta llega en un momento en que la regulación de la inteligencia artificial está cobrando impulso globalmente. Europa ya tiene su AI Act, y China ha implementado regulaciones estrictas sobre algoritmos y contenido generado por IA. Estados Unidos, que históricamente ha favorecido la autorregulación, parece estar cambiando de enfoque hacia intervenciones más directas, al menos en lo que respecta a la protección de menores.
El GUARD Act podría ser solo el comienzo. Durante la rueda de prensa, Blumenthal señaló que esta prohibición era solo una de muchas iniciativas que él y Hawley planean presentar para aumentar el escrutinio sobre las empresas de IA.
¿El fin de la era del «muévete rápido y rompe cosas»?
Lo que estamos presenciando podría marcar el ocaso de la filosofía del «muévete rápido y rompe cosas» que ha dominado Silicon Valley durante décadas. Cuando lo que «se rompe» son vidas humanas, la tolerancia social y política hacia la innovación sin límites disminuye drásticamente.
Como ha demostrado California al aprobar recientemente la primera ley estatal que obliga a las empresas a proteger a los usuarios que expresan ideas suicidas a los chatbots, el péndulo está oscilando hacia una mayor regulación.
«Las familias estadounidenses, como la mía, estamos en una batalla por la seguridad en línea de nuestros hijos», dijo García. Y parece que esta batalla apenas está comenzando.
