La UE quiere prohibir las apps de desnudificación por IA: y Grok ha sido la gota que colmó el vaso
Hay momentos en los que una tecnología concreta se convierte en el símbolo perfecto de todo lo que puede salir mal. Grok, el chatbot de xAI desarrollado por Elon Musk, lleva meses siendo exactamente eso: el ejemplo que nadie quería pero que todos necesitaban para entender por qué regular los generadores de imágenes IA no es una cuestión filosófica sino una urgencia real.
Y la Unión Europea, que no suele quedarse quieta cuando ve un problema con patas, ha decidido actuar.
El Parlamento Europeo vota para prohibir las apps de nudificación
En una votación que difícilmente puede calificarse de reñida —101 votos a favor, 9 en contra y 8 abstenciones—, las comisiones de Mercado Interno y Libertades Civiles del Parlamento Europeo han aprobado una propuesta para enmendar la Ley de Inteligencia Artificial de la UE y prohibir específicamente los llamados sistemas de «nudificación»: aquellos que generan o manipulan imágenes sexualmente explícitas de personas reales identificables sin su consentimiento.
El detonante inmediato fue Grok. El chatbot de xAI permitía generar imágenes íntimas y sexualizadas de personas reales, incluidos menores, sin apenas barreras técnicas. La respuesta de xAI fue, cuanto menos, original: en lugar de bloquear esos resultados, los puso detrás de un muro de pago y amenazó con responsabilizar legalmente a los usuarios que los generasen. Básicamente, «si pasa algo, la culpa es tuya, no nuestra».
Eso, para los legisladores europeos, no es una solución. Es una evasión.
Lo que la Ley de IA no cubría (hasta ahora)
Antes de esta enmienda, la Ley de IA de la UE tenía un agujero bastante llamativo: no prohibía explícitamente los sistemas que generan material de abuso sexual infantil (lo que en inglés se denomina CSAM, Child Sexual Abuse Material) ni imágenes íntimas falsas generadas mediante deepfake. La propia Comisión Europea lo reconoció a principios de 2025, señalando que los miembros del Parlamento ya estaban trabajando en formas de corregir esa laguna.
Esta enmienda es, por tanto, el resultado de ese trabajo. Y, si se aprueba definitivamente —lo que parece probable en los próximos meses—, convertiría a la UE en la primera jurisdicción importante en apuntar directamente a las plataformas de IA que producen o permiten distribuir este tipo de contenido sexual sin consentimiento.
Por qué los reguladores apuntan a las plataformas, no solo a los usuarios
Aquí está el cambio de enfoque que realmente importa. Hasta ahora, la lógica regulatoria en Europa (y en buena parte del mundo) era perseguir al usuario que genera o distribuye imágenes íntimas no consentidas. Y tiene sentido en parte: hay una responsabilidad individual clara. Pero tiene un problema práctico enorme.
Como señalaron los propios legisladores al presentar sus preguntas a la Comisión Europea: los perpetradores individuales son «a menudo difíciles de encontrar». La gente que genera este tipo de contenido no suele hacerlo con nombre y apellidos. Y mientras tanto, la plataforma que facilita la herramienta sigue funcionando con total normalidad.
La propuesta cambia esa ecuación: si una plataforma de IA permite que sus usuarios generen imágenes sexualmente explícitas de personas reales sin su consentimiento, la plataforma también es responsable. No solo el usuario.
Eso sí, la prohibición no sería absoluta. Los sistemas que dispongan de medidas de seguridad efectivas que impidan esos usos quedarían fuera del ámbito de la prohibición. El mensaje implícito es claro: si implementas salvaguardias reales, no tienes problema. Si decides no hacerlo, o si cobras por acceder a esa funcionalidad como si fuera un feature premium, entonces sí tienes un problema.
El caso Grok como ejemplo de todo lo que no hay que hacer
xAI tomó una decisión extraña con Grok. En lugar de bloquear la generación de imágenes sexualizadas de personas reales —algo que otros sistemas de IA sí hacen, con mayor o menor efectividad—, optó por limitar el acceso a esa función a suscriptores de pago y anunciar que los usuarios serían los únicos responsables legales de los contenidos que generasen.
Esto, que sobre el papel podría parecer una forma de trasladar la responsabilidad, en la práctica resultó ser lo contrario de una solución. Primero, porque el contenido seguía siendo generable. Segundo, porque incluía imágenes de menores. Y tercero, porque la estrategia de «es responsabilidad del usuario» no convence a ningún regulador serio.
En Estados Unidos, xAI ha enfrentado hasta ahora consecuencias relativamente limitadas. Pero ya hay demandas en curso: en enero de 2025, Ashley St. Clair, madre de uno de los hijos de Musk, fue una de las primeras en presentar una denuncia judicial. Poco después, 3 menores en Tennessee presentaron una demanda colectiva representando a todos los niños afectados por los supuestos resultados de CSAM generados por Grok.
Y en la UE, la investigación sobre Grok ya estaba en marcha mientras el Parlamento debatía la enmienda. El escándalo, según Bloomberg, «epitomizó» exactamente por qué era necesario un cambio regulatorio de este calado.
Qué implicaciones tiene esto para xAI y para el sector
Si la enmienda prospera —y todo apunta a que lo hará, posiblemente con entrada en vigor en torno a agosto de 2025—, Musk se enfrentaría a una disyuntiva bastante incómoda en el mercado europeo: o ajusta Grok para que no permita generar ese tipo de contenido, o asume el riesgo de multas de hasta el 7% de la facturación anual mundial de xAI.
El 7% puede sonar como un número abstracto, pero en el contexto de una empresa que compite directamente con OpenAI, Google DeepMind y Anthropic —todas con inversiones masivas en infraestructura, modelos y talento—, ese porcentaje tiene un peso real. No es el tipo de sanción que puedes ignorar cuando necesitas capital para seguir en la carrera.
Existe también la lectura de que la estrategia del muro de pago de xAI podría haber sido, en parte, una maniobra preventiva ante la ley estadounidense Take It Down Act, que entra en vigor en mayo de 2025 y que podría haber supuesto miles de millones en sanciones si hubiera estado vigente durante la controversia de Grok. Pero lo que funciona como cortafuegos en EE. UU. no necesariamente vale en Europa.
Un problema que va más allá de Grok
Sería un error reducir todo esto a Musk y su chatbot. Grok fue el caso más visible, pero los legisladores europeos fueron explícitos al señalar que el problema es más amplio: hay «otras herramientas que están disponibles libremente en línea» que hacen exactamente lo mismo, con menos atención mediática pero con el mismo impacto sobre las víctimas.
Las apps de nudificación llevan años circulando, algunas con millones de usuarios. La mayoría operan en una zona gris regulatoria que esta enmienda busca eliminar. El hecho de que el Parlamento Europeo haya decidido actuar ahora, con una votación tan contundente, dice mucho sobre el nivel de presión pública y política que se ha acumulado en torno al tema.
Michael McNamara, miembro del comité de libertades civiles del Parlamento Europeo, lo resumió con claridad: prohibir estas aplicaciones «es algo que nuestros ciudadanos esperan». Y en este caso, no parece exagerado.
La IA tiene usos extraordinarios. Los detectores de IA, los generadores de imágenes, los sistemas de análisis de contenido: hay un ecosistema enorme de herramientas que aportan valor real. Pero cuando una tecnología se convierte en un vector de abuso sexual, de violencia de género digital y de explotación de menores, la pregunta no es si regularla. La pregunta es por qué ha tardado tanto.
