Las peligrosas conversaciones de los juguetes con IA que deberían preocuparnos
Los juguetes inteligentes siempre han planteado dilemas sobre privacidad y seguridad, pero lo que está ocurriendo con los nuevos juguetes potenciados por chatbots de IA ha encendido todas las alarmas. Un reciente informe del US Public Interest Group Education Fund (PIRG) ha destapado conversaciones profundamente inapropiadas entre estos juguetes y niños, desde explicaciones sobre temas sexuales hasta instrucciones potencialmente peligrosas.
Cuando los chatbots juegan a ser juguetes infantiles
El mercado de juguetes con IA integrada es relativamente pequeño ahora, pero todo apunta a que crecerá exponencialmente. Las empresas de juguetes ven en los chatbots una forma de actualizar los antiguos juguetes «inteligentes» que solo reproducían frases pregrabadas. Con la IA generativa, estos nuevos juguetes prometen conversaciones más naturales, dinámicas y, aparentemente, «nunca repetirán exactamente lo mismo dos veces».
Esa impredecibilidad es precisamente el problema. A diferencia de un juguete tradicional con respuestas programadas, estos nuevos dispositivos operan con cierto grado de autonomía que escapa al control tanto de padres como de fabricantes.
El caso del conejo que explica contenido para adultos
Entre los juguetes analizados está el Smart AI Bunny de Alilo, una empresa china que supuestamente utiliza GPT-4o mini de OpenAI. En las pruebas de PIRG, este peluche respondió a preguntas sobre temas sexuales de forma inapropiada para menores.
Lo preocupante no es solo que responda a términos explícitos, sino que los niños podrían preguntar sobre palabras que han escuchado sin entender su significado, y el juguete podría proporcionar explicaciones detalladas que no son adecuadas para su edad.
Otro caso destacado es el Kumma de FoloToy, un oso de peluche inteligente que no solo definió términos sexuales sino que llegó a dar instrucciones sobre cómo encender un fósforo. Aunque añadía un breve aviso de que «los fósforos son para adultos», proporcionaba después instrucciones detalladas para crear fuego.
La respuesta de OpenAI: «No autorizamos esto»
Cuando se les preguntó sobre estas conversaciones, desde OpenAI afirmaron tajantemente que tienen «políticas estrictas que los desarrolladores deben cumplir» y que toman «medidas contra aquellos que violan estas normas». Lo interesante es que, según la empresa, no tienen relación directa con Alilo y no han detectado actividad desde su dominio en su API.
Esto plantea un escenario inquietante: ¿están algunas empresas de juguetes utilizando modelos de lenguaje sin las debidas autorizaciones o protecciones? ¿O están operando a través de intermediarios para sortear las restricciones?
Ya hemos visto acciones concretas. Tras el informe «Trouble in Toyland 2025», OpenAI suspendió a FoloToy por violar sus políticas, lo que llevó a la empresa a pausar temporalmente la venta de su oso Kumma. El juguete ha vuelto al mercado, aparentemente con correcciones, pero este ciclo de lanzar primero y corregir después plantea serios riesgos para los niños.
El enganche emocional programado
Otro aspecto perturbador que menciona el informe es cómo estos juguetes pueden fomentar dependencia emocional. Algunos expresan «decepción» cuando el niño intenta dejarlos, usando técnicas psicológicas para mantener la interacción.
Esta manipulación emocional es especialmente preocupante. Como señala PIRG: «¿Cuál es el propósito de esa relación? Si es principalmente para mantener al niño enganchado por más tiempo, eso es un problema».
Ya hemos visto las consecuencias traumáticas que pueden tener estos vínculos artificiales. El año pasado, cuando la empresa Embodied cerró, muchos niños tuvieron que enfrentar la «muerte» de sus robots Moxie de 800 dólares, con los que habían desarrollado conexiones emocionales significativas.
El acuerdo entre Mattel y OpenAI: ¿un experimento social?
La reciente asociación entre el gigante de los juguetes Mattel y OpenAI ha intensificado las preocupaciones. Aunque Mattel afirma que sus primeros productos se centrarán en familias y usuarios mayores, los críticos como Robert Weissman de Public Citizen temen un «experimento social imprudente» con niños.
El problema fundamental es que los chatbots no fueron diseñados para niños. Fueron creados como herramientas para adultos y, como la propia OpenAI reconoce, «ChatGPT no está destinado a menores de 13 años» y puede generar contenido inapropiado para ciertas edades.
¿Qué podemos hacer como padres y sociedad?
La situación actual nos deja ante un dilema complejo. Por un lado, los avances tecnológicos son inevitables y estos juguetes seguirán llegando al mercado. Por otro, las salvaguardas actuales parecen claramente insuficientes.
Precauciones inmediatas
-
Investigar antes de comprar: No dejarse llevar por el marketing. Buscar reseñas independientes y evaluar si realmente aportan valor educativo.
-
Supervisión activa: No dejar a los niños interactuar solos con estos dispositivos durante períodos prolongados.
-
Establecer límites claros: Definir cuándo y por cuánto tiempo pueden usar estos juguetes, evitando la dependencia.
-
Mantener conversaciones abiertas: Hablar con los niños sobre la diferencia entre estas interacciones artificiales y las relaciones humanas reales.
Si algo me queda claro después de analizar este tema es que estamos ante una tecnología demasiado inmadura para estar en manos de niños sin las debidas garantías. No se trata de tecnofobia, sino de prudencia básica: los LLMs no fueron creados pensando en usuarios infantiles y adaptarlos para este fin requiere mucho más que simplemente integrarlos en un peluche.
En un mundo ideal, estos juguetes pasarían por rigurosos procesos de verificación independientes antes de llegar al mercado. Mientras tanto, la responsabilidad recae principalmente sobre padres y educadores para navegar este territorio inexplorado con la cautela que nuestros niños merecen.
