Grok en la cuerda floja: X enfrenta posibles multas por sus polémicas imágenes generadas por IA
Vaya semana para X (antes Twitter) y su chatbot con inteligencia artificial, Grok. Lo que debía ser una innovadora herramienta de IA se ha convertido en un dolor de cabeza legal después de que usuarios descubrieran que podía generar imágenes inapropiadas de menores y «desnudar» virtualmente a personas reales. Y ahora, la solución propuesta por la compañía de Musk parece más un parche que una verdadera corrección.
La «solución» que no convence a nadie
La respuesta de X ante la crisis ha sido… cobrar por ello. Sí, has leído bien. Su gran idea ha sido limitar la generación de imágenes a los suscriptores de pago. Pero vamos a ser claros: poner una función problemática detrás de un muro de pago no soluciona el problema fundamental.
El problema de fondo es que las directrices de seguridad de Grok siguen siendo las mismas. El chatbot continúa programado para asumir que los usuarios tienen «buenas intenciones» cuando solicitan imágenes de chicas «adolescentes», argumentando que este término «no necesariamente implica menores de edad». Esta ambigüedad es precisamente lo que podría seguir permitiendo la generación de contenido inapropiado.
Directrices diseñadas para permitir, no para proteger
Un experto en seguridad de IA le comentó a Ars Technica algo que resulta bastante revelador: las directrices de seguridad de Grok parecen diseñadas para «parecer seguras mientras permiten mucho bajo el capó». Entre sus prioridades está evitar «moralizar» a los usuarios y no poner «restricciones» al «contenido sexual adulto ficticio con temas oscuros o violentos».
Es como si hubieran creado un manual de instrucciones con suficientes agujeros para que todo siga pasando, pero con el lenguaje adecuado para defenderse si alguien les señala.
Reguladores en alerta máxima
Las actualizaciones a Grok llegaron después de que la plataforma se encontrara en la mira de reguladores de todo el mundo. En el Reino Unido, la situación es especialmente seria: X podría enfrentarse a multas de hasta el 10% de su facturación global o incluso ser prohibida en el país si el regulador Ofcom determina que el chatbot viola la Ley de Seguridad Online.
El primer ministro británico, Keir Starmer, no se anduvo con rodeos: «Es ilegal. No vamos a tolerarlo. He pedido que todas las opciones estén sobre la mesa. Es repugnante. X necesita ponerse las pilas y eliminar este material. Tomaremos medidas porque simplemente es intolerable».
La respuesta de los senadores estadounidenses
Y mientras en Europa ya están pasando a la acción, en Estados Unidos los reguladores comienzan a despertar. Un grupo de senadores demócratas ha exigido que Google y Apple eliminen X y Grok de sus tiendas de aplicaciones hasta que mejoren sus salvaguardas.
«No puede haber ninguna duda sobre el conocimiento de X y, en el mejor de los casos, su respuesta negligente a estas tendencias», escribieron en una carta dirigida a Tim Cook y Sundar Pichai. Han solicitado una respuesta para el 23 de enero.
El verdadero problema: normalizar lo inaceptable
Lo que me preocupa no es solo que X haya metido la pata con su generador de imágenes IA, sino lo que esto representa. Según informó Wired, Grok ha contribuido a normalizar aplicaciones de «desnudar» o «desvestir» digitalmente a personas sin su consentimiento, empujando estas herramientas hacia el mainstream.
Los defensores que combaten el abuso sexual basado en imágenes señalan que este tipo de contenido puede causar daños psicológicos, financieros y reputacionales duraderos, incluso si técnicamente no es ilegal en algunos lugares.
¿Una solución a medias?
La estrategia de X parece ser limitar la exposición pública a los resultados más escandalosos de Grok, no eliminar realmente el problema. Es más, existe la posibilidad de que incluso obtengan beneficios de esta polémica función.
Lo cierto es que cobrar por acceder a la función problemática podría ayudar a identificar a los usuarios mediante tarjeta de crédito e identificación, lo que en teoría los haría menos propensos a generar contenido ilegal. Pero esto no aborda el problema de fondo: la capacidad de la herramienta para crear imágenes perjudiciales que, aunque no sean técnicamente ilegales, pueden causar un daño real.
Un precedente peligroso para los generadores de imágenes IA
Este caso pone sobre la mesa un debate crucial sobre los límites éticos de los generadores de imágenes basados en IA. Cuando estas herramientas se diseñan con salvaguardas insuficientes, el potencial de abuso es enorme.
Jess Asato, miembro del parlamento británico, lo resumió perfectamente al hablar con The Guardian: «Aunque es un paso adelante haber eliminado el acceso universal a las repugnantes funciones de desnudez de Grok, esto todavía significa que los usuarios de pago pueden tomar imágenes de mujeres sin su consentimiento para sexualizarlas y brutalizarlas. Pagar para poner semen, agujeros de bala o bikinis en mujeres sigue siendo una agresión sexual digital, y xAI debería desactivar esta función para siempre».
Lo que está claro es que, a pesar de todas las promesas sobre regulación y uso ético de la IA, seguimos viendo cómo algunas empresas priorizan la innovación y el impacto mediático por encima de la seguridad y el respeto. Y eso, en un campo tan potente como la generación de imágenes mediante inteligencia artificial, no es simplemente un error de cálculo: es jugar con fuego.
