Deepfakes en el instituto: cuando la IA se convierte en arma y el colegio mira hacia otro lado

Hay casos que, cuando los lees, te dejan sin palabras durante unos segundos. Este es uno de ellos. Dos chicos de 16 años en un instituto privado de Pensilvania utilizaron herramientas de IA para generar imágenes sexualizadas de 48 compañeras de clase y otras 12 jóvenes conocidas. No estamos hablando de un par de fotos manipuladas en un rato libre: en total crearon al menos 347 imágenes y vídeos, antes de que alguien los detuviera. Y el colegio supo del problema durante seis meses antes de hacer nada.

Eso es lo que pasó en el Lancaster Country Day School, y esta semana un tribunal juvenil decidirá las consecuencias para los dos chicos implicados. Pero la historia no termina ahí.

Cómo funciona el «nudificador» que usaron

Para entender lo que ocurrió técnicamente, conviene aclarar qué tipo de herramienta utilizaron estos adolescentes. Los llamados nudifiers son aplicaciones o servicios —muchos accesibles desde el navegador sin más— que aplican modelos de inteligencia artificial, concretamente redes generativas, para eliminar la ropa de una imagen de una persona real y sustituirla por una versión desnuda sintética. No es ciencia ficción ni algo que requiera conocimientos avanzados: en 2024 y 2025, este tipo de generador de imágenes IA proliferó de forma alarmante, con decenas de servicios disponibles online, algunos incluso gratuitos.

El proceso es inquietante en su sencillez: subes una foto de alguien —puede ser una imagen de redes sociales, de Instagram, de cualquier sitio— y el modelo devuelve una versión manipulada que, a ojos no expertos, puede parecer real. Las víctimas de este caso vieron sus fotos de las redes sociales convertidas en material de abuso sexual infantil generado por IA, conocido en el ámbito legal como AI CSAM (child sexual abuse material).

Lo más perturbador es que las víctimas no sabían que esas imágenes existían. Seguían su vida normal mientras esas fotos circulaban.

El aviso llegó, y nadie actuó

Todo se destapó de una forma casi accidental. Uno de los chicos envió por error una de esas imágenes al chat equivocado de Discord. Un estudiante que la vio la denunció a través de una línea de atención estatal de Pensilvania, que a su vez alertó al colegio. Eso ocurrió en noviembre de 2023.

El director del centro, Matt Micciche, lo supo. Y no hizo nada. Al menos, nada durante los seis meses siguientes, mientras el número de víctimas seguía creciendo.

No fue hasta mayo de 2024 cuando salió más información a la luz. El mes siguiente, el colegio presentó un informe a ChildLine —el sistema de protección de la infancia del estado—, pero la investigación policial no arrancó hasta que los propios padres trasladaron la información a las autoridades.

¿Por qué no actuó antes el director? Aquí es donde entra un detalle legal que resulta difícil de digerir: la fiscal del distrito de Lancaster, Heather Adams, determinó que Micciche no estaba legalmente obligado a denunciar las imágenes. Existía una laguna legal que eximía a los centros educativos de la obligación de notificar abusos cometidos por menores contra otros menores. Dicho de otra forma: si el agresor hubiera sido un adulto, habría habido obligación de actuar de inmediato. Como eran estudiantes, el colegio podía mirar hacia otro lado sin consecuencias legales.

Los legisladores de Pensilvania reaccionaron rápidamente para intentar cerrar ese agujero normativo. Pero el daño ya estaba hecho.

Las consecuencias legales: un terreno sin mapear

Esta semana, un tribunal juvenil decidirá qué ocurre con los 2 adolescentes. Ambos admitieron haber usado herramientas de generación de imágenes IA para crear el material. Se han declarado culpables de conspiración para cometer abusos sexuales a menores y posesión de material obsceno. En total, enfrentan 59 cargos por delitos graves de abuso sexual, ya que casi todas las víctimas eran menores de 18 años.

Lo que hace este caso especialmente relevante más allá de Lancaster es que sienta precedente. Los adultos que cometen delitos similares han llegado a la cárcel, pero el marco legal para menores que crean y distribuyen material de abuso sexual generado por IA sigue siendo profundamente ambiguo. Y esa ambigüedad importa, porque este no es un caso aislado: en los últimos años han surgido situaciones similares en institutos de varios países, incluidos España y Reino Unido.

Según lo que han trascendido fuentes locales, la sentencia se basará en las recomendaciones del departamento de libertad condicional juvenil, que en este tipo de casos tiende a priorizar la rehabilitación sobre el castigo, con supervisión hasta los 21 años si se considera de interés público. Suena razonable desde un enfoque de justicia juvenil, pero para las familias de las víctimas, puede resultar insuficiente.

El colegio, entre la gestión de imagen y la falta de disculpa real

Mientras el foco mediático se concentra en la sentencia de los chicos, hay otra batalla en marcha: la que libran las familias contra el propio centro educativo.

Nadeem Bezar, abogado del bufete Kline & Specter, representa al menos a 10 familias en una demanda civil contra el colegio que se presentará tras conocerse la sentencia. Su argumento central es que el centro tuvo tiempo más que suficiente para actuar y no lo hizo, permitiendo que el número de víctimas se multiplicara.

El Lancaster Country Day School cerró temporalmente tras conocerse el escándalo. Tanto el director Micciche como la presidenta del consejo escolar, Angela Ang-Alhadeff, dimitieron. Aparentemente, el colegio quiere pasar página. El problema es cómo lo está intentando.

Bezar y al menos un progenitor afirmaron a USA Today que el colegio actualizó sus contratos de rematriculación para incluir cláusulas que desalientan a estudiantes y familias a hablar mal del centro públicamente. Si eso es cierto —y el abogado lo describe como «algo poco sincero e injusto»— no es precisamente la imagen de un colegio que reconoce su responsabilidad y pide perdón.

El actual director, Emile Kosoff, declaró que el centro «sigue priorizando la salud y el bienestar de los estudiantes» y que su enfoque busca «garantizar que la comunidad escolar siga informada, continúe sanando y avance junta». Palabras que suenan bien, pero que chocan frontalmente con la narrativa de las familias afectadas, que ven en esa cláusula contractual un intento de silenciarlas.

Curiosamente, no todos los padres están en el mismo bando. Una petición en Change.org —creada sin conocimiento de Micciche— defendía que el exdirector había sido un chivo expiatorio y pedía su readmisión, argumentando que el problema era sistémico y no responsabilidad de un solo individuo. Es un punto de vista que merece reflexión: ¿hasta qué punto puede cargarse sobre los hombros de una persona una laguna legal que nadie había resuelto?

El impacto real sobre las víctimas

Más allá de los debates legales e institucionales, está lo que vivieron y siguen viviendo las chicas afectadas. El fiscal general de Pensilvania, Dave Sunday, lo resumió con claridad: «Este caso ejemplifica el lado oscuro de la tecnología moderna. La conducta implicó una weaponización de la tecnología para victimizar a niñas que no sospechaban nada y que tenían fotos online. El impacto sobre las víctimas no es nada menos que devastador».

Devastador es la palabra. Cada una de las víctimas tuvo que revisar carpetas llenas de imágenes para identificar su propio rostro y ayudar a la policía a establecer el número total de afectadas. Ese ejercicio, en sí mismo, es una forma de revictimización. Sus fotos de redes sociales, momentos que deberían ser recuerdos normales de adolescencia, quedaron contaminados. Y el miedo a que ese material siga circulando en algún rincón de internet es algo con lo que tendrán que convivir.

Este es el problema más difícil de resolver técnicamente. Una vez que una imagen generada con IA existe y se ha compartido, es prácticamente imposible eliminarla por completo. Los detectores de IA pueden ayudar a identificar material sintético, pero su uso generalizado como herramienta de rastreo y eliminación todavía está lejos de ser sistemático o efectivo a escala.

Lo que este caso cambia —o debería cambiar—

La sentencia de esta semana no va a cerrar este debate. Va a abrirlo más. Porque las preguntas que plantea este caso van mucho más allá de Lancaster:

¿Deben los colegios tener protocolos obligatorios ante cualquier denuncia de deepfakes sexuales entre menores, desde el primer aviso? La respuesta parece obvia, pero hasta hace poco no lo era legalmente.

¿Qué responsabilidad tienen las plataformas que permiten crear o distribuir este tipo de contenido? Los generadores de imágenes IA no son herramientas neutras cuando se usan para fabricar material de abuso infantil.

¿Cómo protegemos a los menores de sus propias fotos públicas siendo usadas como materia prima para este tipo de contenido?

Son preguntas que los sistemas educativos, los legisladores y las empresas tecnológicas llevan demasiado tiempo ignorando. Este caso, por su visibilidad y por las consecuencias legales que está generando, podría ser el punto de inflexión que fuerce una respuesta más seria. O no. Ya veremos.