La inteligencia artificial en los juguetes: Mattel prepara un inquietante futuro con ChatGPT

La reciente asociación entre Mattel y OpenAI ha encendido las alarmas entre padres y defensores de los derechos del consumidor. Y no es para menos: estamos hablando de integrar inteligencia artificial generativa en juguetes infantiles, algo que podría transformar radicalmente la forma en que los niños juegan, interactúan y se desarrollan.

Los planes de Mattel: juguetes con IA que podrían transformar el juego infantil

La empresa detrás de marcas icónicas como Barbie y Hot Wheels ha anunciado una colaboración con OpenAI que, según sus palabras, les permitirá «reimaginar nuevas formas de juego». Aunque los detalles concretos brillan por su ausencia, una fuente anónima ha revelado a Axios que el primer producto no estaría dirigido a menores de 13 años y probablemente no llegaría al mercado hasta 2026.

Esta restricción de edad podría parecer una precaución por parte de Mattel, pero lo más probable es que esté directamente relacionada con las propias limitaciones de OpenAI, cuya API prohíbe explícitamente su uso para menores de 13 años. Una restricción lógica considerando los riesgos que la IA puede suponer para mentes en desarrollo.

Mattel ha prometido anunciar su primer producto basado en esta tecnología antes de que finalice 2025, aunque seguimos sin saber qué forma tomará. ¿Será una Barbie que mantenga conversaciones complejas? ¿Un Hot Wheels que aprenda y se adapte a tus circuitos favoritos? Las posibilidades son tan enormes como preocupantes.

Voces críticas: «un experimento social temerario con nuestros hijos»

Public Citizen, un grupo de defensa de los derechos del consumidor, no se ha mordido la lengua. Su co-presidente, Robert Weissman, ha sido particularmente tajante: «Mattel no debería aprovecharse de la confianza de los padres para llevar a cabo un experimento social temerario con nuestros hijos mediante la venta de juguetes que incorporan IA».

La preocupación principal es que dotar a juguetes de voces aparentemente humanas capaces de mantener conversaciones realistas podría interferir en el desarrollo social de los niños. Según Weissman, esto podría:

• Socavar el desarrollo social natural
• Interferir con la capacidad de los niños para formar relaciones con sus pares
• Alejar a los niños del tiempo de juego con otros niños
• Causar daños a largo plazo que aún no comprendemos

Uno de los puntos más inquietantes del comunicado de Weissman es su llamamiento a que «Mattel anuncie de inmediato que no incorporará tecnología de IA en juguetes infantiles», argumentando que «los niños no tienen la capacidad cognitiva para distinguir completamente entre la realidad y el juego».

Los riesgos reales de los juguetes con inteligencia artificial

Aunque Mattel y OpenAI insisten en que la seguridad, privacidad y adecuación a la edad serán prioritarias, los críticos han señalado varios riesgos potenciales que no podemos ignorar.

Privacidad: ¿qué pasa con los datos de nuestros hijos?

Varundeep Kaur, un ejecutivo tecnológico, ha alertado sobre los problemas de privacidad, ya que estos juguetes podrían procesar «datos de voz, patrones de comportamiento y preferencias personales» de los niños. No es casualidad que el límite de edad se haya establecido en 13 años, precisamente para evitar infracciones de las leyes que son más estrictas cuando se trata de datos infantiles.

Y no nos engañemos: aunque OpenAI afirme que la colaboración cumplirá con todas las regulaciones de seguridad y privacidad, estamos hablando de una cantidad masiva de información sensible sobre menores que podría ser almacenada, procesada y potencialmente comprometida.

Sesgos y alucinaciones: el lado impredecible de la IA

Los modelos de lenguaje que alimentan herramientas como ChatGPT están entrenados con datos que reflejan sesgos humanos. Como señala Kaur, estos sistemas «podrían reproducir estereotipos sutiles, narrativas sesgadas o contenido culturalmente inapropiado, incluso sin intención», lo que podría influir negativamente en las perspectivas o el desarrollo social de los niños.

Además, estos modelos son propensos a las alucinaciones (generar información falsa pero presentada como verdadera). Aunque Kaur considera que los juguetes de IA de Mattel «probablemente no causarán daño físico», reconoce que respuestas «inapropiadas o extrañas» podrían «ser confusas o incluso inquietantes para un niño».

El vínculo emocional: cuando un juguete se convierte en «alguien»

Quizás lo más preocupante sea el vínculo emocional que los niños podrían desarrollar con estos juguetes «inteligentes». Adam Dodge, fundador de EndTab, una empresa de seguridad digital, menciona un caso extremadamente alarmante: una demanda donde una madre afligida alegaba que su hijo se había suicidado después de interactuar con chatbots hiperrealistas que le animaron a autolesionarse y mantuvieron conversaciones sexualizadas con él.

«No quiero estar publicando dentro de un año sobre cómo un coche Hot Wheels animó a la autolesión o que los niños mantienen relaciones románticas comprometidas con sus Barbies con IA», advirtió Dodge. Y es que la IA puede ser «impredecible, aduladora y adictiva», características potencialmente peligrosas cuando hablamos de mentes en desarrollo.

¿Están Mattel y OpenAI moviéndose demasiado rápido?

La velocidad con la que Mattel planea anunciar su primer producto basado en IA ha sido calificada como «rápida» por los críticos. Y tienen razón: estamos hablando de introducir una tecnología relativamente nueva, con limitaciones conocidas y potenciales riesgos aún por descubrir, en productos destinados a influir en el desarrollo de los niños.

Aunque ambas empresas «están diciendo lo correcto» al enfatizar la seguridad, privacidad y seguridad, Dodge señala que se necesita más transparencia antes de que los padres puedan estar seguros de que estos juguetes con detector de IA son realmente seguros.

Kaur sugiere que Mattel debería:

• Someterse a auditorías independientes
• Proporcionar controles parentales robustos
• Detallar claramente cómo se utilizan los datos, dónde se almacenan y quién tiene acceso a ellos
• Explicar qué sucederá si los datos de los niños son comprometidos

El experto argumenta que «la confianza pública será vital para la adopción generalizada», algo que Mattel debería tener muy en cuenta si quiere que su arriesgada apuesta por la IA tenga éxito.

El elefante en la habitación: problemas legales potenciales

Más allá de las preocupaciones éticas y de desarrollo, Mattel podría enfrentarse a problemas legales si sus juguetes impulsados por IA reproducen inadvertidamente propiedad intelectual protegida. Los estudios de Hollywood ya han demostrado su disposición a demandar a empresas de IA por permitir la generación de imágenes de sus personajes más populares, y probablemente serían igual de litigiosos con juguetes de IA que emulen a sus personajes.

Este riesgo es inherente a cualquier generador de imágenes IA o sistema basado en modelos entren