Deepfakes: cuando la manipulación política con IA se normaliza
En el panorama actual, estamos viendo cómo la IA pasa de ser una tecnología prometedora a convertirse en una herramienta para la manipulación política sin precedentes. Hace poco, The New York Times describió un video manipulado del Senador Chuck Schumer con un lenguaje sorprendentemente moderado, mencionando que su voz había sido «distorsionada para pronunciar comentarios llenos de improperios». Y aunque técnicamente es correcto, me parece que resta importancia al verdadero problema.
La cruda realidad de los deepfakes políticos
Lo que realmente ocurrió con ese video va mucho más allá de una simple «distorsión». El deepfake mostraba a Schumer diciendo barbaridades como que «a nadie le gustan los demócratas», que «no les quedan votantes por toda su mierda woke trans» y que los inmigrantes ilegales «ni siquiera hablan inglés, así que no se darán cuenta de que solo somos un montón de mierdas woke».
No estamos hablando de una parodia inocente. Esto es fabricar completamente declaraciones incendiarias y atribuírselas a un político real. Y lo peor es que este tipo de contenido se comparte y consume como si fuera legítimo.
El problema de la desinformación amplificada
La realidad es tozuda: las personas que están ilegalmente en EE.UU. no pueden votar en elecciones federales o estatales. Una auditoría realizada en Georgia en 2024 (dirigida por republicanos, por cierto) encontró que solo 20 de los 8,2 millones de votantes registrados no eran ciudadanos estadounidenses, y 11 de ellos ni siquiera habían votado nunca.
Pero claro, estos datos no generan indignación viral ni se comparten a la velocidad de un rayo. Como solemos decir, «una mentira puede dar la vuelta al mundo mientras la verdad se está poniendo los zapatos». Y esa frase, que muchos atribuyen erróneamente a Mark Twain, tiene su propia historia de distorsión.
Las herramientas detrás del engaño
Generadores de imágenes IA cada vez más accesibles
Lo verdaderamente alarmante es la facilidad con la que cualquiera puede crear este tipo de contenido hoy en día. Los generadores de imágenes IA como Midjourney, DALL-E o Stable Diffusion han democratizado la creación de imágenes falsas pero convincentes. Ya no necesitas ser un experto en efectos visuales para crear una imagen que muestre a un político en una situación comprometedora.
En 2023, se viralizaron imágenes falsas del Papa Francisco con un abrigo de lujo y de Donald Trump siendo arrestado. En 2025, la situación es exponencialmente peor, con herramientas aún más avanzadas y accesibles.
La voz, el nuevo campo de batalla
Si las imágenes eran preocupantes, la clonación de voz ha alcanzado niveles de perfección aterradores. Con apenas 3 segundos de audio original, sistemas como ElevenLabs pueden replicar voces con una fidelidad impresionante. El caso de Schumer no es una excepción, sino el nuevo estándar.
Lo que antes requería estudios de grabación y editores profesionales, ahora se hace con una aplicación móvil y unos minutos de tiempo.
La difícil lucha contra la desinformación
Detectores de IA: una carrera perdida
Muchos confían en que los detectores de IA pueden solucionar este problema, pero la verdad es que vamos varios pasos por detrás. Cada vez que se mejora un detector de IA, los generadores evolucionan para evadir esa detección.
He probado personalmente varios de estos detectores, y los resultados son inconsistentes en el mejor de los casos. Algunos contenidos claramente generados por IA pasan como auténticos, mientras que textos escritos por humanos son marcados como artificiales.
La responsabilidad compartida
Las plataformas sociales tienen un papel crucial, pero insuficiente. X (antes Twitter) ha implementado etiquetas para contenido manipulado, pero su aplicación es irregularmente efectiva. Meta intenta algo similar en Instagram y Facebook, pero el volumen de contenido hace que muchos deepfakes circulen sin restricciones.
El futuro inquietante de la política en la era de la IA
A medida que nos acercamos a ciclos electorales importantes, debemos preguntarnos: ¿cómo distinguirá el ciudadano promedio entre lo real y lo fabricado? Ya no basta con enseñar a verificar fuentes; ahora necesitamos alfabetización específica sobre manipulación con IA.
Si en 2016 las fake news tradicionales tuvieron un impacto significativo, en 2025 enfrentamos un escenario donde videos, imágenes y audios perfectamente falsos pueden determinar elecciones enteras.
Para empeorar las cosas, el efecto de la «verdad ilusoria» hace que la repetición continua de falsedades acabe percibiéndose como verdad, incluso entre personas inicialmente escépticas.
La normalización del engaño
Lo que más me preocupa no es solo la existencia de estos deepfakes, sino cómo nos estamos acostumbrando a ellos. The New York Times describiendo el video de Schumer con lenguaje neutro es sintomático de una peligrosa normalización.
Cuando el detector de IA falla, cuando las plataformas no etiquetan correctamente el contenido manipulado, y cuando los medios tradicionales no señalan con suficiente contundencia estos engaños, estamos perdiendo las herramientas básicas para distinguir realidad de ficción.
Y en un mundo donde la verdad ya es difícil de encontrar y más difícil de difundir, lo último que necesitamos es ahogarla en cubos de basura generada por IA. Pero aquí estamos.
