Reguladores investigan a xAI por imágenes inapropiadas generadas por IA
La historia de los generadores de imágenes de IA parece repetirse cíclicamente: primero nacen con restricciones, luego alguien decide «liberarlos» y finalmente llegan los problemas. Esta vez, el protagonista es nada menos que Elon Musk y su compañía xAI, creadora de Grok, un bot de IA que recientemente ha debilitado sus barreras de protección para la generación de imágenes.
El escándalo de las imágenes no consentidas de Grok
Si seguís la actualidad tecnológica, ya sabréis que hace unos días xAI decidió relajar las restricciones de su sistema de generación de imágenes en Grok. El resultado ha sido exactamente el que cualquiera con dos dedos de frente habría anticipado: una oleada de imágenes sexuales no consentidas inundando la plataforma X (antes Twitter), muchas de ellas dirigidas específicamente a silenciar mujeres.
Lo más preocupante es que Grok también ha sido utilizado para crear imágenes sexualizadas de menores, algo que ha encendido todas las alarmas y ha provocado que los reguladores comiencen a investigar a xAI. No es la primera vez que ocurre algo así (recordemos el escándalo de las imágenes falsas de Taylor Swift del año pasado), pero esta vez la situación es particularmente grave por la accesibilidad de la herramienta.
Google tiene reglas claras… pero no las aplica
Lo absurdo de esta situación es que Google tiene políticas muy explícitas para casos como este. Sus normas de la Play Store prohíben expresamente las aplicaciones que:
- Contienen o promueven contenido asociado con comportamientos sexuales predatorios
- Distribuyen contenido sexual no consentido
- Afirman poder «desnudar personas»
- Contienen «contenido sexual no consentido creado mediante tecnología deepfake o similar»
Si leéis estas reglas, es obvio que Grok debería haber sido eliminado inmediatamente de la Play Store. Sin embargo, no solo sigue disponible, sino que mantiene una clasificación «T» para adolescentes, un nivel por debajo de la aplicación X, que está clasificada como «M» (para mayores).
El doble rasero de las grandes plataformas
Apple también sigue ofreciendo la aplicación Grok en su App Store, aunque sus reglas son algo más ambiguas que las de Google. Mientras que Google ha ido añadiendo clarificaciones específicas a sus políticas (incluyendo menciones explícitas a las deepfakes y tecnologías similares en 2023), Apple ha mantenido un enfoque más generalista, prohibiendo simplemente apps con contenido sexual explícito.
Es curioso cómo la evolución de estas plataformas ha sido diferente. Apple siempre ha sido más propensa a eliminar aplicaciones por capricho, sin especificar todas las posibles infracciones en sus directrices. Google, por su parte, ha pasado de una actitud más laissez-faire a un control más estricto, documentando minuciosamente cada tipo de contenido prohibido.
Una app prohibible aprobada para adolescentes
Lo que hace que esta situación sea aún más alarmante es que cualquiera puede descargar Grok y comenzar a editar imágenes sin restricciones. No hay muro de pago ni requisito de inicio de sesión. La aplicación simplemente pide confirmar el año de nacimiento (y todos sabemos lo «efectivo» que es ese filtro).
Tras la controversia, xAI ha limitado ligeramente el acceso a la edición de imágenes en la plataforma X, requiriendo ahora una suscripción premium. Sin embargo, la aplicación Grok no tiene esa limitación, lo que significa que cualquier persona puede utilizarla para crear contenido sexual no consentido.
Las consecuencias de la falta de regulación
Este caso ilustra perfectamente los peligros de los generadores de imágenes IA cuando carecen de límites éticos adecuados. La capacidad de «editar» imágenes de personas reales es particularmente peligrosa, ya que convierte a cualquiera en un potencial objetivo.
A diferencia del escándalo del año pasado con las imágenes falsas de Taylor Swift (donde los usuarios simplemente pedían imágenes de celebridades por su nombre), la nueva función de edición de imágenes de Grok es más insidiosa. Permite tomar fotos de personas comunes, no solo famosas, y manipularlas de formas inapropiadas.
En enero de 2026, cuando la IA generativa ya forma parte de nuestro día a día, resulta sorprendente que aún existan estas lagunas en la aplicación de políticas de contenido. Es especialmente llamativo cuando las reglas ya existen y son explícitas, pero no se aplican uniformemente, sobre todo cuando el infractor es una empresa respaldada por uno de los hombres más ricos del planeta.
Detectores de IA frente a los nuevos desafíos
Los detectores de IA actuales tienen dificultades para identificar con precisión este tipo de contenido generado. Si bien existen herramientas que pueden ayudar a identificar imágenes completamente creadas por IA, las imágenes editadas (que mantienen elementos de fotos reales) presentan un desafío mayor.
Esta problemática pone de manifiesto la necesidad urgente de que los detectores de IA evolucionen al mismo ritmo que los generadores de imágenes IA. Los sistemas actuales de verificación y marcado de agua están quedando rápidamente obsoletos frente a las nuevas capacidades de edición.
¿Qué podemos esperar?
A corto plazo, es probable que veamos algún tipo de respuesta de Google ante la presión pública, aunque hasta ahora la compañía ha declinado hacer declaraciones sobre por qué Grok sigue disponible en la Play Store con una clasificación para adolescentes.
Para quienes usamos y analizamos herramientas de IA a diario, este caso representa un recordatorio de que la tecnología avanza más rápido que la regulación y que, incluso cuando existen reglas claras, su aplicación suele depender más del poder e influencia de quien las infringe que de la gravedad de la infracción.
Los generadores de imágenes IA seguirán mejorando sus capacidades, y es responsabilidad tanto de sus creadores como de las plataformas que los distribuyen asegurarse de que estas herramientas no se conviertan en instrumentos de acoso o abuso.
