¿OpenAI está a punto de lanzar una herramienta que detecta texto creado por IA?
La tecnología avanza a pasos agigantados y, como parte de esta evolución, la inteligencia artificial se ha convertido en un tema candente. En este contexto, OpenAI, la organización que está detrás de herramientas tan conocidas como ChatGPT, ha estado explorando diversas formas de identificar cuándo un texto ha sido generado por una IA. Pero, ¿qué implica realmente esta iniciativa? Vamos a desglosarlo.
La controversia del watermarking en textos
OpenAI está considerando la implementación de una herramienta de marca de agua para textos generados por ChatGPT. La idea básica es que cada texto creado por esta inteligencia artificial tenga una suerte de huella digital que permita identificar su origen. Esta marca de agua sería invisible para quienes leen el texto sin ayuda tecnológica, pero detectada fácilmente por una herramienta especial diseñada por OpenAI.
¿Qué tan precisa es la herramienta?
Se dice que esta herramienta podría llegar a ser precisa hasta en un 99,9% de los casos. Esto suena a ciencia ficción, ¿verdad? Sin embargo, hay que tener en cuenta que incluso la mejor tecnología tiene sus limitaciones. El reto, en este caso, es mantener visible esa huella incluso si el texto se copia, pega o se le hacen pequeñas modificaciones. De hecho, OpenAI está probando internamente esta herramienta y han encontrado maneras de que la calidad del contenido no se vea afectada por la inserción de esta marca.
Impacto en usuarios internacionales
Un aspecto que ha generado debate es el posible impacto en usuarios que no son hablantes nativos de inglés. Muchas personas utilizan ChatGPT para mejorar su escritura o traducir textos, y la implementación de esta marca podría estigmatizarlos. OpenAI está al tanto de esta preocupación y está en un dilema sobre si lanzar o no la herramienta. Además, aquellos que actúan con malas intenciones podrían lograr eludir la marca de agua llevando el texto a través de otros generadores de texto basados en IA, o incluso solicitando a ChatGPT que inserte caracteres especiales para luego eliminarlos manualmente.
Posibles alternativas tecnológicas
OpenAI se encuentra también explorando soluciones alternativas que están en fase de desarrollo, como incluir metadatos cifrados que firmen digitalmente el contenido generado. Esta estrategia es similar a la aplicada por OpenAI en su generador de imágenes DALL-E 3, donde se usa metadatos C2PA para que las personas puedan identificar modificaciones realizadas en las imágenes.
Los usuarios, la pieza clave
Un tema que OpenAI no discutió en su publicación, pero que fue descubierto en un artículo de The Wall Street Journal, es el descontento de los usuarios. Una encuesta reveló que hasta un 30% de los usuarios de ChatGPT dejarían de usar la herramienta si su salida estuviese controlada por una marca de agua. Esta estadística muestra que, aunque la tecnología esté en constante evolución, la recepción por parte de los usuarios siempre será un factor determinante para su implementación.
En resumen, la decisión de OpenAI de introducir una etiqueta digital en los textos generados por su IA tiene el potencial de cambiar el panorama de cómo interactuamos con estos sistemas. Todavía es una situación en desarrollo, donde cada avance tecnológico debe encontrar un equilibrio entre la innovación y las necesidades del usuario. Si te interesa saber más sobre cómo se están utilizando estas técnicas en diferentes áreas, puedes visitar nuestro artículo sobre IA en ciberyseguridad.com. ¿Vosotros qué opináis? ¿Confianza en esta nueva tecnología o preferiréis seguir escribiendo a la antigua usanza?
