La nueva pesadilla ética: Sora 2 permite crear videos con famosos fallecidos
Cuando OpenAI lanzó Sora 2 la semana pasada, todos nos quedamos fascinados con sus impresionantes capacidades para generar videos. La empresa presumió de haber implementado medidas para «bloquear la representación de figuras públicas» por defecto. Sin embargo, ha bastado solo unos días para descubrir que esta prohibición tiene un enorme agujero: permite crear videos con personas famosas… siempre y cuando estén muertas.
El inquietante renacimiento digital de celebridades fallecidas
Si das un paseo por redes sociales ahora mismo, te encontrarás con un auténtico cementerio digital en movimiento. Tupac charlando con Malcolm X, Bruce Lee como DJ de música electrónica, Michael Jackson haciendo comedia en una cocina, o incluso Stephen Hawking estrellándose con su silla de ruedas en una rampa de skate.
OpenAI coloca una marca de agua en movimiento sobre cada video generado, lo que en teoría limita el riesgo de que los espectadores sean engañados. Pero seamos sinceros: ver a estos famosos fallecidos convertidos en marionetas digitales resulta perturbador, especialmente para sus familias y fans.
«Por favor, dejen de enviarme videos de IA de mi padre», escribió Zelda Williams en una historia de Instagram, refiriéndose a su padre Robin Williams. «No quiero verlo y no lo entenderé… Es una estupidez, una pérdida de tiempo y energía, y créanme, NO es lo que él hubiera querido».
Consentimiento imposible y doble rasero
Lo más contradictorio de esta situación es cómo OpenAI gestiona el consentimiento. Por un lado, su función «cameos» permite a usuarios vivos escanear sus rostros para aparecer en videos de Sora 2 manteniendo «control total sobre su imagen». Pueden revocar el acceso a sus imágenes escaneadas en cualquier momento e incluso moderar los videos creados con su imagen.
Pero las celebridades fallecidas, obviamente, no pueden dar su consentimiento ni ejercer ese control. Cuando se le preguntó a OpenAI sobre este tema, su respuesta fue escueta: «No tenemos comentarios que añadir, pero permitimos la generación de figuras históricas».
Esta postura resulta, cuanto menos, incoherente. ¿Por qué tanta protección para los vivos y tan poca para los muertos? La respuesta parece estar más en lo legal que en lo ético.
La cuenta atrás para las demandas ha comenzado
Las recreaciones digitales de celebridades fallecidas no son algo nuevo. En los 90 ya vimos a John Lennon charlando con Forrest Gump o a Fred Astaire bailando con una aspiradora. La diferencia es que entonces se necesitaban meses de edición digital y tecnología accesible solo para grandes estudios. Ahora, cualquier usuario de Sora 2 puede crear imágenes más convincentes en minutos por unos pocos euros.
En Estados Unidos, el derecho de publicidad para figuras públicas fallecidas está regulado por diversas leyes en al menos 24 estados. La ley de California prohíbe el uso no autorizado de la imagen de una figura pública fallecida «con fines publicitarios o de venta». Sin embargo, un fallo de 2001 permite explícitamente el uso de esas imágenes con fines «transformadores» bajo la Primera Enmienda.
La ley de Nueva York, firmada en 2022, contiene un lenguaje específico que prohíbe el uso no autorizado de «réplicas digitales» realistas, pero los creadores de videos pueden eludir esta prohibición con un «descargo de responsabilidad visible».
El precedente de la industria del entretenimiento
El control sobre las recreaciones de IA de artistas fue un foco importante de la huelga de SAG-AFTRA en 2023, que resultó en un contrato que otorgaba a los miembros control total sobre el uso de réplicas digitales en futuros proyectos sindicalizados.
OpenAI ya se ha visto obligada a cambiar la forma en que Sora maneja personajes ficticios con derechos de autor. Sam Altman, CEO de la compañía, escribió este fin de semana que ahora los titulares de derechos deben autorizar explícitamente que sus personajes aparezcan en videos de Sora 2 y compartirán parte de los ingresos generados.
El año pasado, unos podcasters fueron demandados tras crear una versión «IA» de una rutina cómica de George Carlin que utilizaba una recreación de su voz. Y OpenAI ya enfrentó amenazas legales por imitar la voz de Scarlett Johansson en el modo de voz de ChatGPT-4o.
El dilema ético detrás de la tecnología
El problema va más allá de lo legal. Estas herramientas de IA plantean profundas preguntas éticas sobre el respeto a los fallecidos y el derecho a controlar la propia imagen, incluso después de la muerte.
¿Deberíamos permitir que cualquiera pueda manipular la imagen de figuras históricas o celebridades fallecidas? ¿Hay una diferencia entre crear un video de Abraham Lincoln o uno de Kurt Cobain, fallecido hace relativamente poco tiempo? ¿Qué pensarían estas personas si pudieran opinar?
Los generadores de imágenes IA como Sora 2 se están desarrollando a un ritmo tan vertiginoso que la legislación y las consideraciones éticas apenas pueden seguir el ritmo. Lo que hoy parece una diversión inofensiva podría sentar precedentes problemáticos para el futuro.
El detector de IA como solución parcial
Una posible solución sería implementar sistemas de detector de IA más robustos, que permitan identificar claramente estos contenidos generados artificialmente. Las marcas de agua actuales son un primer paso, pero insuficiente ante la capacidad de edición posterior.
Mientras esperamos que las leyes se actualicen, quizás deberíamos reflexionar sobre nuestra propia responsabilidad como usuarios. La tecnología es neutral, pero nuestro uso de ella refleja nuestros valores. Y tratar a los fallecidos con el mismo respeto que daríamos a los vivos podría ser un buen punto de partida.
Al final, la pregunta no es solo si podemos hacer algo con la IA, sino si deberíamos hacerlo. Y en el caso de resucitar digitalmente a personas que ya no pueden dar su consentimiento, la respuesta ética parece inclinarse hacia el no.
