Así está impactando la inteligencia artificial en la creación de deepfakes y ciberataques
La inteligencia artificial ha revolucionado muchos aspectos de nuestras vidas, pero también ha introducido desafíos significativos en el ámbito de la ciberseguridad. En particular, el uso de deepfakes generados por inteligencia artificial, que imitan a políticos y celebridades, está creciendo a un ritmo preocupante. La división DeepMind de Google ha realizado el primer estudio sobre los usos maliciosos más comunes de esta tecnología de vanguardia, y los resultados son reveladores.
Deepfakes: ¿una amenaza creciente?
Según la investigación de DeepMind, la creación de imágenes, vídeos y audios falsos pero realistas de personas es casi el doble de común que el siguiente tipo más frecuente de mal uso de herramientas generativas de IA: la falsificación de información mediante herramientas basadas en texto, como los chatbots generadores de información falsa para publicar en línea.
La capacidad de los generadores de imagenes IA para producir contenido multimedia tan convincente plantea serias preocupaciones no solo en el ámbito de la ciberseguridad sino también en términos de ética y privacidad. Estos deepfakes son tan avanzados que pueden pasar desapercibidos, asemejándose profundamente a contenidos reales.
El contexto detrás del estudio de DeepMind
Este estudio pionero, encabezado por DeepMind, la unidad de IA de Google bajo la dirección de Sir Demis Hassabis, busca cuantificar los riesgos asociados con el uso de herramientas de IA generativa, las cuales las principales empresas tecnológicas del mundo están impulsando con fervor para conseguir enormes beneficios. Conforme productos como ChatGPT de OpenAI y Gemini de Google se vuelven más populares, las empresas de IA han comenzado a vigilar la inundación de desinformación y otros contenidos potencialmente dañinos o poco éticos creados por sus herramientas.
Casos reales y preocupaciones
En mayo, OpenAI reveló investigaciones que indicaban que operaciones vinculadas a Rusia, China, Irán e Israel habían estado utilizando sus herramientas para crear y difundir desinformación. Tal como señaló Nahema Marchal, autora principal del estudio de DeepMind, había mucha preocupación comprensible en torno a ciberataques sofisticados facilitados por estas herramientas. Sin embargo, lo que se encontró fue un uso indebido de GenAI, como los deepfakes, que podrían pasar bajo el radar más fácilmente.
Los investigadores de Google DeepMind y Jigsaw analizaron aproximadamente 200 incidentes de mal uso entre enero de 2023 y marzo de 2024, tomados de plataformas de redes sociales como X (anteriormente Twitter) y Reddit, así como de blogs en línea e informes de medios sobre el mal uso.
¿Qué podemos esperar del futuro?
Con la expansión continua de estas herramientas generativas de IA, es crucial que los desarrolladores y las plataformas trabajen de la mano para implementar detectores de IA que puedan identificar y mitigar el impacto de contenidos fraudulentos antes de que se propaguen descontroladamente. La responsabilidad no solo recae en las empresas tecnológicas, sino también en nosotros como usuarios, para mantenernos informados y ser críticos con el contenido que encontramos en línea.
A medida que la inteligencia artificial continúa desarrollándose, no hay duda de que su potencial para el bien es inmenso, pero igualmente debemos ser conscientes de sus posibles abusos y establecer medidas para protegernos de ellos. La ciberseguridad no es solo un campo técnico, sino una conversación continua y colectiva que todos debemos tener.
