¡La clonación de voces con IA está causando revuelo y sus riesgos son reales!
La clonación de voces mediante inteligencia artificial nos sumerge en un mundo de posibilidades fascinantes, pero también en un terreno lleno de peligros. Hoy en día, cualquier persona con 15 segundos de la voz grabada de alguien puede replicarla de forma efectiva. Aunque OpenAI, uno de los gigantes tecnológicos actuales, no haya liberado completamente su motor de voz, este tipo de tecnología ya ha generado situaciones problemáticas.
Implicaciones y riesgos de la clonación de voz
La capacidad de imitar la voz de una persona ya ha tenido consecuencias reales. Hemos visto casos inquietantes como estafadores suplantando la voz de seres queridos, o la creación de grabaciones que simulan a figuras políticas relevantes como Joe Biden. Este nivel de imitación plantea un reto importante para la autenticidad y veracidad de la información.
El peligro de la autenticación por voz
Algo que me llama especialmente la atención es cómo la tecnología de clonación de voz podría utilizarse para violar la seguridad de cuentas bancarias. El uso de sistemas de autenticación por voz, como el que ofrece Chase, podría estar en peligro. Tanto es así que el senador Sherrod Brown de Ohio ha tomado cartas en el asunto, escribiendo a los CEO de importantes bancos estadounidenses en mayo de 2023, para cuestionar las medidas de seguridad que están tomando frente a los riesgos que trae consigo la IA.
OpenAI ha expresado su enfoque prudente respecto a la implementación a gran escala de esta tecnología. «Estamos adoptando un enfoque informado y prudente respecto a su difusión, dada la posibilidad de un uso indebido de voces sintéticas», dice un comunicado de la empresa. Uno de sus principales objetivos es iniciar un diálogo responsable sobre cómo integrar estas nuevas capacidades en la sociedad.
Recomendaciones para un uso responsable de la clonación de voz
OpenAI ha propuesto tres pasos importantes que deberíamos considerar para adaptarnos a estas tecnologías:
-
Eliminar la autenticación por voz para cuentas bancarias: En mi opinión, esto parece esencial. El nivel de riesgo supera los beneficios actuales de esta tecnología.
-
Educar al público sobre contenido de IA engañoso: Es fundamental que todos estemos conscientes de la posibilidad de encontrarnos con contenido artificial que imite conversaciones reales.
-
Desarrollar técnicas para rastrear el origen del contenido de audio: Imagino un futuro donde podamos discernir claramente si estamos interactuando con una persona real o con una inteligencia artificial.
Adicionalmente, OpenAI sugiere que futuras tecnologías de clonación de voz requieran la verificación de que el locutor original está consciente y de acuerdo en emplear su voz. Además, deberían crear una lista de voces prohibidas de clonar, sobre todo aquellas excesivamente similares a personajes públicos.
El avance de OpenAI: Un paso por delante, pero con cautela
Aunque OpenAI desarrolló su tecnología de clonación de voz a finales de 2022, y muchos ya han utilizado esta innovadora herramienta a través de voces predefinidas, la empresa está realizando pruebas a pequeña escala. Este enfoque permite someter la tecnología a rigurosas evaluaciones antes de decidir cómo extender su uso globalmente.
En un mundo donde las aplicaciones de voz están creciendo, emergerán competidores con diferentes enfoques y capacidades. De hecho, el motor de voz de OpenAI es destacado por ser un modelo de ‘IA’ relativamente pequeño, una ventaja que, según dicen, lo hace notable. Sin embargo, se enfrenta al desafío común de entrenar modelos de texto-a-voz sin que estos se desvíen de su conjunto de datos de formación.
Mientras esperamos el día en que OpenAI amplíe el acceso a su tecnología de clonación de voces, sin duda volveré con novedades sobre este fascinante campo de la inteligencia artificial en ciberyseguridad.com. Como siempre, estaré atento a cómo estas tecnologías continúan reduciendo la brecha entre lo artificial y lo real, pero sin olvidar la necesidad de abordar los desafíos éticos que plantea. ¡Hasta pronto!
