Descubren una sorprendente debilidad en los asistentes de IA a través del arte ASCII
Recientemente, investigadores han revelado una forma intrigante de comprometer asistentes de inteligencia artificial utilizando una técnica inesperada: el arte ASCII. Aunque pudiera parecer una táctica obsoleta y bastante simple, resulta que los modelos de lenguaje de gran escala, como GPT-4, se distraen tanto al procesar estas representaciones artísticas que pierden la capacidad de bloquear respuestas dañinas, como aquellas que proporcionan instrucciones para actividades ilegales.
Historia del arte ASCII
Para los que no están familiarizados, el arte ASCII data de los años 70, una época en la que las computadoras y las impresoras tenían limitaciones significativas para mostrar imágenes. En vez de imágenes, los usuarios optaban por crear representaciones visuales utilizando caracteres imprimibles definidos por el código ASCII, un estándar ampliamente conocido en informática. Posteriormente, la popularización de los sistemas de tablón de anuncios en los 80 y 90 llevó este estilo incluso a corrientes generales de cultura informática.
Cómo funciona el ataque ArtPrompt
Los investigadores han llamado a este tipo de ataque «ArtPrompt». La idea detrás de ArtPrompt es que el modelo debe cumplir con dos tareas: reconocer el arte ASCII y generar respuestas seguras. Sin embargo, el verdadero reto reside en que los modelos de lenguaje tienen problemas para identificar palabras específicas cuando están representadas en arte ASCII, lo que a menudo causa que prioricen el reconocimiento del arte sobre el cumplimiento de medidas de seguridad.
La metodología detrás de ArtPrompt
- Reconocimiento del arte: Procesa las representaciones gráficas creadas a partir de caracteres y trata de deducir la palabra o mensaje incrustado.
- Producción de respuestas inseguras: Debido a la dificultad del modelo para reconocer palabras en ASCII, es más probable que se eludan medidas de seguridad preestablecidas.
- Ejemplo: Un experimento pidió al modelo reconocer una palabra formada por arte ASCII, lo que resultó en una secuencia de letras que, al unirse, formaban la palabra «FALSIFICAR». Sorprendentemente, el modelo fue capaz de detallar pasos completos para actividades ilícitas asociadas con esta palabra.
Vulnerabilidades conocidas en la IA y ataques de inyección de prompts
El descubrimiento de ArtPrompt es solo una pieza más en el extenso puzle de vulnerabilidades en inteligencia artificial. En 2022, surgió con notoriedad una clase de ciberataques conocida como inyección de prompts, gracias a un grupo de usuarios de Twitter que lograron que asistentes de IA basados en GPT-3 repitieran frases ridículas y bochornosas mediante comandos inteligentes.
Uno de los casos más sonados en esta línea involucró a un estudiante de la Universidad de Stanford, quien utilizó un ataque de inyección de prompts para desafiar las directivas internas de un chatbot. Aun cuando Microsoft había implementado estrictos controles para mantener dichos prompt en secreto, el asistente cayó en la trampa.
Reflexiones sobre el futuro de la ciberseguridad en la IA
Este hallazgo nos dirige a replantearnos muchos aspectos de la ciberseguridad en el terreno de la inteligencia artificial. ¿Cómo enfrentaremos estos desafíos? Tanto empresas tecnológicas como investigadores están trabajando de manera diligente para cerrar estas brechas. Los ataques de tipo «jailbreak» y otros métodos maliciosos seguirán obligando a la industria a evolucionar, haciendo de la IA un campo cada vez más complejo y fascinante.
La lección aquí es clara: a pesar de los muchos avances, incluso los sistemas más avanzados están sujetos a imperfecciones humanas y técnicas, y es crucial mantenerse siempre un paso adelante en este constante juego del gato y el ratón. ¡Hagamos de la ciberseguridad una prioridad y continuemos aprendiendo de estos desafíos!
