La IA que te desenmascara: cómo los LLMs están rompiendo el anonimato en redes sociales

Mucha gente usa cuentas secundarias o seudónimos en redes sociales con una lógica muy razonable: si no pongo mi nombre, nadie sabe quién soy. Es una forma de participar en conversaciones sensibles, hacer preguntas incómodas o simplemente separar tu vida pública de tus opiniones más personales. El problema es que esa lógica, que funcionaba bastante bien durante años, empieza a tener una grieta importante. Y la grieta tiene nombre: IA.

Un grupo de investigadores acaba de publicar un estudio que debería hacernos pensar dos veces antes de asumir que un seudónimo nos protege de verdad. Lo que encontraron es que los modelos de lenguaje de gran escala (LLMs, por sus siglas en inglés) pueden identificar a personas reales detrás de cuentas anónimas con una eficacia que los métodos clásicos nunca alcanzaron. Y lo hacen de forma barata, rápida y, en muchos casos, sin necesidad de ningún dato estructurado.

Cómo funciona la desanonimización con IA

Antes de entrar en los números, conviene entender por qué esto es nuevo. Los métodos clásicos de desanonimización —identificar a alguien a partir de datos anónimos— requerían conjuntos de datos estructurados: tablas, registros, esquemas compatibles entre plataformas. Era trabajo de analistas, no algo que pudieras escalar de forma masiva.

Lo que cambia con los LLMs es precisamente eso. Estos modelos pueden trabajar con texto libre, sin estructura previa, y aun así extraer señales de identidad de forma autónoma. Hablan de películas que mencionaste, de dónde vives por como describes el metro, del tipo de trabajo que haces sin haberlo dicho explícitamente. Y luego buscan en la web hasta dar con quien encaja.

Simon Lermen, coautor del estudio, lo explicó de forma muy directa: «Lo que encontramos es que estos agentes de IA pueden hacer algo que antes era muy difícil: partiendo de texto libre, como una transcripción anónima de entrevista, pueden llegar a la identidad completa de una persona. Esta es una capacidad bastante nueva.»

Los experimentos y sus resultados

El equipo realizó varios experimentos con datos públicos, prestando especial atención a no comprometer la privacidad de los participantes.

Experimento 1: Hacker News y LinkedIn
Los investigadores cruzaron publicaciones de Hacker News con perfiles de LinkedIn usando referencias entre plataformas que aparecían en los propios perfiles de los usuarios. Después eliminaron todos los datos identificativos del texto y pasaron los posts por un LLM. El resultado: una precisión de hasta el 90% y una tasa de recall de hasta el 68%. Es decir, de cada 10 personas que el modelo señaló como candidatas, acertó en 9. Y consiguió identificar a casi 7 de cada 10 usuarios del conjunto de prueba.

Experimento 2: Cuestionario de Anthropic
En este caso, los investigadores usaron respuestas a un cuestionario que Anthropic había realizado sobre cómo distintas personas usan la IA en su día a día. Con esa información, fueron capaces de identificar correctamente al 7% de 125 participantes. Suena poco, pero el dato relevante es que lo lograron sin ningún punto de anclaje claro, solo a partir de respuestas genéricas sobre hábitos cotidianos. Y como señaló Lermen: «A medida que los sistemas de IA mejoren, probablemente se vuelvan cada vez más capaces de encontrar más y más identidades.»

Experimento 3: Reddit y el efecto acumulativo
Aquí la cosa se pone especialmente interesante. El equipo recogió comentarios de 2024 del subreddit r/movies y varios subreddits más pequeños relacionados con cine. Lo que descubrieron es que el volumen de publicaciones importa muchísimo:

• Con 1 película mencionada, el 3,1% de los usuarios podía identificarse con un 90% de precisión.
• Con 5 a 9 películas, ese porcentaje subía al 8,4%.
• Con más de 10 películas, llegaba al 48,1% con un 90% de precisión y al 17% con un 99%.

Dicho de otra forma: cuanto más publicas, más fácil es encontrarte. Cada post es una pieza más del puzzle.

Experimento 4: Comparativa con el ataque clásico Netflix
Los investigadores también midieron su método frente al llamado «Netflix Prize Attack», una técnica de 2008 que demostró que los datos de valoración de películas de Netflix podían usarse para identificar usuarios y revelar sus afiliaciones políticas u otra información personal. El método basado en LLMs lo superó en todas las métricas relevantes. La precisión de los ataques clásicos cae en picado en cuanto el modelo empieza a hacer más intentos. Los LLMs, en cambio, mantienen una degradación mucho más gradual: siguen siendo útiles incluso cuando cometen más errores.

Por qué esto importa más allá del experimento

El seudónimo ha sido durante décadas una herramienta de privacidad imperfecta pero funcional. Periodistas, activistas, víctimas de acoso, personas que consultan temas médicos sensibles o simplemente quien no quiere que su jefe vea sus opiniones sobre política. Todos ellos dependen de que ese pequeño escudo aguante.

Lo que este estudio sugiere es que ese escudo se está adelgazando. Y no porque alguien te investigue con recursos de un servicio de inteligencia, sino porque cualquier actor con acceso a un LLM potente puede intentarlo.

Las consecuencias son bastante concretas. Los propios investigadores mencionan tres escenarios preocupantes:

• Gobiernos usando estas técnicas para identificar a críticos anónimos.
• Empresas construyendo perfiles de clientes para publicidad hipersegmentada.
• Atacantes creando perfiles detallados para lanzar campañas de ingeniería social muy personalizadas.

Y yo añadiría un cuarto: el simple doxxing, que no necesita ni motivación política ni comercial para hacer daño real a personas reales.

¿Qué se puede hacer?

Los investigadores proponen varias medidas, aunque ninguna es una solución definitiva por sí sola.

Para las plataformas

• Límites de velocidad en el acceso a la API para dificultar el scraping automatizado masivo.
• Detección de scraping automatizado antes de que alguien pueda extraer grandes volúmenes de datos públicos.
• Restricciones en la exportación masiva de datos de usuarios.

Para los proveedores de LLMs

• Monitorización del uso abusivo de sus modelos en ataques de desanonimización.
• Guardrails específicos que hagan que el modelo rechace solicitudes orientadas a identificar personas.

Para los usuarios

Aquí la cosa es más incómoda, porque las opciones son más limitadas. Publicar menos es la medida más efectiva, aunque también la más difícil de sostener. Una alternativa realista es eliminar publicaciones periódicamente, especialmente las que contienen información sobre gustos, hábitos, ubicación o trabajo. No es perfecta, pero reduce el volumen de datos disponibles para cruzar.

La otra opción, que nadie quiere escuchar, es asumir que cualquier cosa que publicas en internet —aunque sea bajo seudónimo— puede acabar vinculada a tu identidad real si alguien con las herramientas adecuadas tiene interés en encontrarte. Puede que ese «alguien» hasta esté usando un generador de imágenes IA para construir un perfil visual falso y completar la investigación, aunque eso ya es otro nivel.

Lo que está claro, y los investigadores lo dicen sin rodeos, es que «los avances recientes en las capacidades de los LLMs han dejado claro que hay una necesidad urgente de repensar varios aspectos de la seguridad informática a raíz de las capacidades ofensivas impulsadas por LLMs. Nuestro trabajo muestra que lo mismo probablemente sea cierto para la privacidad.»

No es alarmismo. Es que los tiempos cambian, y la forma en que protegemos nuestra identidad online tiene que cambiar con ellos.