¿Es peligroso usar IA para proyectos creativos? Descubre lo que le pasó a una lotería
Vivimos en una era en la que la inteligencia artificial ha comenzado a participar activamente en muchos rincones de nuestra vida diaria, desde ayudarnos con las compras online hasta generar arte digital fascinante. Sin embargo, a veces, la línea entre lo innovador y lo problemático puede volverse un poco difusa. Un reciente incidente con la Lotería del Estado de Washington sirvió como un claro recordatorio de los riesgos potenciales de los generadores de imágenes IA.
La lotería usa IA… y no termina bien
La idea de la lotería parecía intrigante: una aplicación web que permitiría a los usuarios visualizar sus sueños vacacionales financiados con un hipotético premio mayor. La característica especial era la capacidad de cargar una foto y fusionarla en una imagen generada por IA que mostraría cómo lucirías durante esas soñadas vacaciones. Sin embargo, la situación se torció cuando una usuaria se encontró con una imagen de su rostro colocado en ¡el cuerpo de una mujer en topless! Esto, por supuesto, generó una alarma inmediata.
Los responsables de la lotería habían establecido normas claras para la generación de imágenes, enfatizando que las personas deben aparecer vestidas de manera adecuada. Tras el reporte del incidente, decidieron desactivar la página como medida preventiva, a pesar de que los desarrolladores revisaron las configuraciones y aseguraron que todo parecía estar en orden.
El problema de ajustar las configuraciones de seguridad
Uno podría pensar que ajustar algunas configuraciones sería suficiente para solucionar el problema, pero la realidad es más compleja. Los modelos de IA como Stable Diffusion y DALL-E tienen filtros diseñados para evitar la generación de contenido inapropiado. A pesar de esto, sigue habiendo un número significativo de usos problemáticos debido a las manipulaciones de usuarios malintencionados.
Un portavoz expresó su sorpresa al notar la incapacidad para mantener la plataforma en funcionamiento tras supuestamente haber ajustado las pautas de seguridad en el sistema. ¿Por qué no simplemente programar un filtro que impida la creación de imágenes de desnudos? La respuesta no es tan sencilla: controlar la creatividad desenfrenada de una IA es, de hecho, una hazaña complicada.
Cuando las grandes empresas también tienen problemas
No es la primera vez que este tipo de problemas surge con los sistemas de IA. En 2023, la función generadora de stickers de Facebook se enfrentó a un revuelo similar. Asimismo, un ingeniero de Microsoft señaló públicamente deficiencias en la herramienta de generación de imágenes Copilot, mencionando su incapacidad para detener la creación de imágenes inapropiadas, incluso después de haber sido advertidos.
Estos incidentes destacan una lección esencial: mientras más se integre la IA en nuestras vidas, más importante es entender sus riesgos y limitaciones. Es fundamental que las organizaciones prueben exhaustivamente estas tecnologías en entornos reales antes de lanzarlas al público.
En España, donde cada vez más sectores adoptan la inteligencia artificial, experiencias como la de la Lotería del Estado de Washington pueden ofrecer valiosas lecciones. Sin duda, mientras exploramos el vasto potencial de la IA, debemos mantenernos atentos a sus ramificaciones y estar preparados para manejar cualquier eventualidad que surja en el camino.
