El alarmante auge de los deepfakes pornográficos: el caso Clothoff
Si pensabas que la generación de imágenes de inteligencia artificial solo servía para crear bonitos paisajes o reimaginar escenas de películas clásicas, lamento decirte que hay un lado mucho más oscuro. La IA está siendo utilizada para crear deepfakes pornográficos a una escala preocupante, y aplicaciones como Clothoff están en el centro de esta controversia.
El imperio Clothoff y su estrategia de expansión global
Clothoff se ha convertido en una de las aplicaciones líderes en la creación de falsos desnudos a partir de imágenes reales. Lo que comenzó como lo que algún empleado describió como un «emprendimiento emocionante» se ha transformado en un negocio cínico obsesionado con el dinero, operando con un presupuesto anual estimado de 3,5 millones de dólares.
Según información proporcionada por un informante que trabajó para la empresa, Clothoff no solo ha resistido los intentos legales para detener su actividad, sino que ha adquirido toda una red de servicios de «nudificación» similares —al menos 10 según las investigaciones—, atrayendo millones de visitas mensuales.
La estrategia de marketing que debería preocuparnos
La estrategia de Clothoff no es precisamente sutil. Según documentos internos revelados a Der Spiegel, la empresa planea expandirse agresivamente al mercado alemán, británico, francés y español a través de campañas que incluyen la generación de imágenes desnudas de influencers, cantantes y actrices conocidas bajo el lema «tú eliges a quién quieres desnudar».
Lo más perturbador es su público objetivo: hombres entre 16 y 35 años interesados en videojuegos, memes y, sorprendentemente, en «ideas extremistas de derecha» y «misoginia». Su estrategia de captación se basa en publicaciones en canales de Telegram, subreddits de contenido sexual y 4chan.
Son precisamente estos jóvenes quienes están utilizando estas herramientas para atormentar a compañeras de instituto, como ocurrió con una estudiante de secundaria en Nueva Jersey que está demandando a un compañero que usó Clothoff para «desnudar» una foto suya de Instagram tomada cuando tenía 14 años.
La tecnología detrás del problema
El avance del generador de imágenes IA está haciendo cada vez más difícil diferenciar lo real de lo falso. Aplicaciones como Clothoff utilizan redes generativas antagónicas (GANs) y otros algoritmos avanzados para crear deepfakes extremadamente convincentes por apenas unos pocos dólares.
La escalofriante evolución tecnológica
Lo que hace unos años requería conocimientos técnicos avanzados y equipos potentes, ahora está al alcance de cualquiera con un smartphone. La última «innovación» de Clothoff permite crear videos explícitos a partir de una sola imagen, una característica que según la empresa ha atraído a más de un millón de usuarios.
No necesitas ser un experto en programación ni tener una supercomputadora; con unos pocos clics y unos cuantos euros, cualquiera puede generar este tipo de contenido. Esta democratización de la tecnología de deepfake está ocurriendo mucho más rápido que nuestra capacidad para regularla o protegernos.
La batalla legal: intentos de regulación y sus limitaciones
David Chiu, fiscal de la ciudad de San Francisco, presentó una demanda contra Clothoff y otras aplicaciones similares con la esperanza de forzar su cierre. Hasta ahora, ha conseguido cerrar sitios web como porngen.art y undresser.ai, pero Clothoff sigue operando.
La nueva Ley Take It Down en Estados Unidos pretende facilitar la eliminación de desnudos falsos generados por IA, pero los expertos anticipan desafíos legales basados en preocupaciones sobre la censura. Además, esta ley llega demasiado tarde para muchas víctimas.
Entre negaciones y realidades
Cuando Der Spiegel contactó con un portavoz de Clothoff, este negó que la aplicación tuviera intención de usar imágenes de celebridades sin consentimiento y afirmó que prohíben el uso de fotos de menores. Sin embargo, un usuario anónimo confirmó al medio que, tras un intento fallido de generar un desnudo falso de una cantante que «parecía menor de edad», consiguió hacerlo días después sin problemas. Esto sugiere que los sistemas de detección de edad de Clothoff son fácilmente vulnerables.
Las consecuencias para las víctimas y la sociedad
Las repercusiones de este tipo de tecnología van mucho más allá del daño individual. Estamos ante un fenómeno que normaliza la cosificación no consentida de las mujeres y que puede tener efectos devastadores para las víctimas.
Para adolescentes y jóvenes, encontrarse con imágenes falsas de sí mismas circulando entre sus compañeros puede provocar ansiedad, depresión, aislamiento social e incluso pensamientos suicidas. El trauma psicológico es real, independientemente de que las imágenes no lo sean.
La doble moral de los usuarios
Resulta reveladora la justificación que dio un usuario de Clothoff a Der Spiegel sobre por qué no se siente culpable al generar desnudos falsos de una cantante famosa: «Hay suficientes fotos de ella en Internet como para que no me sienta mal». Sin embargo, este mismo usuario aseguró que se «horrorizaría» si alguien hiciera lo mismo con su hija.
Esta contradicción refleja un problema más amplio en nuestra sociedad: la deshumanización de figuras públicas y la incapacidad de empatizar con quienes no forman parte de nuestro círculo cercano.
El detector de IA como posible solución
Ante esta situación, los detectores de IA están ganando relevancia. Estas herramientas analizan patrones, metadatos y anomalías en las imágenes para identificar las generadas artificialmente. Sin embargo, la carrera tecnológica entre creadores y detectores es desigual: siempre es más fácil crear que detectar.
Algunos detectores utilizan análisis de inconsistencias faciales, patrones de píxeles irregulares o incluso verificación de metadatos para identificar imágenes falsas. No obstante, la tecnología generativa avanza tan rápidamente que estos detectores necesitan actualización constante.
Lo que podemos hacer para protegernos
Mientras las leyes intentan ponerse al día, existen algunas medidas que todos podemos tomar:
- Revisar y ajustar la privacidad en nuestras redes sociales
- Ser conscientes de qué imágenes compartimos y con quién
- Utilizar herramientas de detección de deepfakes cuando tengamos sospechas
- Denunciar el contenido problemático cuando lo encontremos
- Educar a jóvenes sobre los riesgos y consecuencias de crear o compartir este tipo de contenido
El problema de fondo no es solo tecnológico sino cultural. Ningún detector de IA podrá resolver completamente este problema si no abordamos también el respeto al consentimiento digital y la objetificación en nuestra sociedad.
La historia de Clothoff es un recordatorio de que la tecnología avanza mucho más rápido que nuestra capacidad para regularla éticamente. Y mientras eso siga siendo así, todos somos potencialmente vulnerables.
