La ley «Take It Down» marca un antes y después en la lucha contra la pornografía generada por IA
Por fin Estados Unidos ha dado un paso significativo para proteger a las víctimas de imágenes íntimas no consentidas (NCII), conocido coloquialmente como «porno vengativo». Y no es un tema menor, especialmente ahora que los generadores de imágenes IA están multiplicando este problema a niveles que ni siquiera imaginábamos hace un par de años.
La nueva legislación que todos deberíamos conocer
El pasado lunes, Donald Trump firmó la ley «Take It Down» que obligará a todas las plataformas online a eliminar, en un plazo máximo de 48 horas, tanto imágenes íntimas reales compartidas sin consentimiento como deepfakes generados mediante IA. Y ojo, porque si no cumplen, se enfrentarán a sanciones económicas considerables.
Esta normativa es particularmente importante en 2025, cuando vemos que los casos de acoso mediante imágenes falsificadas con IA se han disparado. Lo más preocupante: ya no hace falta que hayas compartido nunca una foto comprometida para ser víctima. Los generadores de IA actuales pueden crear falsificaciones convincentes partiendo prácticamente de cero.
La urgencia de los 48 horas y sus controversias
Los defensores de la ley destacan que el plazo de 48 horas es un avance significativo. Y estoy de acuerdo: hasta ahora, las víctimas podían pasar semanas o meses intentando que las plataformas eliminaran este tipo de contenido, mientras seguía extendiéndose por internet.
Pero no todo es perfecto. Los críticos argumentan —con cierta razón, debo admitir— que este plazo tan corto podría provocar que las plataformas, por miedo a las sanciones, censuren contenido legítimo «por si acaso».
También ha surgido preocupación sobre la posible aplicación de esta ley a mensajes cifrados. Si las plataformas deciden romper el cifrado para cumplir con la norma, podríamos estar abriendo una puerta peligrosa a la vigilancia gubernamental. De hecho, el propio Trump ha insinuado que usaría esta ley para censurar contenido que no le gusta, lo que ha disparado las alarmas entre defensores de la libertad de expresión.
Los límites de la ley frente a la realidad de las víctimas
Aunque es un paso en la dirección correcta, esta normativa tiene limitaciones importantes:
- No entrará en vigor hasta dentro de aproximadamente un año
- Las víctimas seguirán teniendo que identificar y denunciar ellas mismas cada aparición de su contenido
- Durante esas 48 horas, el material puede ser descargado y resubido en otras plataformas
Como me comentaba un experto en ciberseguridad la semana pasada: «Es como intentar vaciar el océano con un cubo. Puedes sacar agua, pero mientras lo haces, sigue entrando más por otro lado».
El testimonio de las víctimas revela la magnitud del problema
El caso de Sabrina Javellana, víctima de deepfakes pornográficos, es revelador. A pesar de pasar meses denunciando contenidos en diversas plataformas, las imágenes seguían propagándose. Su frase «esto nunca termina, simplemente tengo que aceptarlo» refleja la frustración de miles de personas.
Andrea Powell, directora de Alecto AI (una aplicación fundada por una superviviente de pornografía vengativa), señala algo que deberíamos tener muy presente: obligar a las víctimas a rastrear sus propias imágenes y presentar múltiples denuncias en diferentes plataformas solo aumenta su sensación de aislamiento, vergüenza y miedo.
El detector de IA como herramienta complementaria
Aunque la ley no lo menciona específicamente, los detectores de IA podrían convertirse en aliados fundamentales en esta lucha. Estas herramientas, que analizan patrones y anomalías para identificar contenido generado artificialmente, podrían automatizar parte del proceso de detección.
Sin embargo, estamos en una carrera tecnológica: a medida que los detectores mejoran, también lo hacen los generadores de imágenes IA. Los sistemas actuales pueden identificar aproximadamente el 70-80% del contenido sintético, pero los falsos negativos siguen siendo un problema serio.
¿Cuál es el camino a seguir?
La ley «Take It Down» representa un avance, sin duda, pero necesitamos un enfoque más integral:
- Las plataformas deberían implementar sistemas preventivos, no solo reactivos
- La tecnología de detección de IA necesita integrarse en los procesos de moderación
- La educación sobre consentimiento digital debería formar parte del currículo escolar
Como sociedad, también tenemos que replantearnos nuestra relación con la tecnología. La democratización de herramientas de IA generativa ha puesto un poder inmenso en manos de cualquiera, pero el marco ético y legal va varios pasos por detrás.
El futuro incierto pero esperanzador
A pesar de sus deficiencias, la ley «Take It Down» marca un precedente importante. Por primera vez, existe un reconocimiento federal del daño causado por la pornografía no consentida, incluida la generada por IA.
Las posibles impugnaciones legales que se avecinan determinarán su alcance final, pero el mensaje es claro: estamos empezando a tomar en serio este problema. Y aunque la implementación perfecta está lejos, cada paso cuenta cuando hablamos de proteger la dignidad y la privacidad de las personas.
La próxima generación de herramientas de IA y detectores de contenido sintético jugará un papel crucial en esta batalla. Ya hay proyectos prometedores que combinan algoritmos de reconocimiento con blockchain para crear «huellas digitales» únicas de contenido legítimo.
Como me dijo una vez un especialista en ética digital: «La tecnología que creó el problema también puede ser parte de la solución. Solo necesitamos la voluntad colectiva de exigirlo».
