La sorprendente derrota de la IA en el juego milenario del Go revela su talón de Aquiles
La inteligencia artificial ha dado pasos agigantados en los últimos años, protagonizando momentos asombrosos como la victoria sobre los mejores jugadores humanos en el antiguo juego chino del Go. Pero, incluso la tecnología más avanzada tiene sus debilidades, y los investigadores han descubierto algunos hilos sueltos en la aparentemente imbatible estrategia de la IA.
Estrategias humanas que desafían a la IA
Aunque pueda parecer que las máquinas han tomado la delantera en juegos de estrategia complejos, algunos intrépidos jugadores humanos han encontrado maneras de poner a prueba a estas superinteligencias en el tablero de Go. ¿La clave? Emplear estrategias «cíclicas» no convencionales que incluso un principiante podría denunciar. Esto revela fisuras inesperadas en el aparentemente sólido armazón de la IA, permitiendo a jugadores ingeniosos engañarla y llevarla a una derrota inesperada.
El desafío para hacerse invulnerables
Investigadores del MIT decidieron escarbar más hondo en estas debilidades inherentes a las IA y ver si podían mejorar su rendimiento «en el peor de los casos». Su objetivo era la creación de una IA de Go verdaderamente robusta y resistente a los ataques adversarios. Pero, como demuestra su estudio, blindar a las IA para que sean realmente inexpugnables resulta más complicado de lo que parecía, incluso en ámbitos tan controlados como los juegos de mesa.
El caso de KataGo: una lección aprendida
Uno de los experimentos más llamativos fue el uso de KataGo, una inteligencia artificial avanzada para Go. Al principio, el sistema respondió con éxito, alcanzando un asombroso 100% de victorias contra un «atacante cíclico». Sin embargo, tras un ajuste técnico al atacante —que, sorprendentemente, implicó menos poder de cómputo que la propia puesta a punto de KataGo— la tasa de victoria de la IA se desplomó a un desalentador 9% ante una ligera variación en el ataque inicial.
El «ascenso armamentístico» de la IA
La segunda táctica de defensa implicó un «ascenso armamentístico» iterativo de múltiples rondas. En este proceso, los modelos adversarios buscaban constantemente nuevas formas de explotación, mientras que los defensores trabajaban diligentemente para taponar esos agujeros recién descubiertos. Sin embargo, incluso después de 10 rondas de este intenso entrenamiento, la IA solo logró ganar el 19% de las partidas frente a un algoritmo atacante que descubrió una variación desconocida en el exploit. Este resultado plantea dudas sobre la viabilidad de crear inteligencia artificial verdaderamente inexpugnable.
Implicaciones más allá de los tableros
Estos desafíos no solo son aplicables al ámbito del juego. Las conclusiones invitan a reflexionar sobre otros sistemas generativos de IA y sus vulnerabilidades potenciales. Por ejemplo, imagina los grandes modelos de lenguaje que, a pesar de su asombrosa capacidad verbal, podrían todavía fallar ante ciertos patrones o preguntas inesperadas. O los modelos visuales de IA que, aunque reconocen formas y patrones con sorprendente precisión, podrían verse engañados por ligeras alteraciones en las imágenes.
Las increíbles capacidades de la IA siguen maravillándonos a cada paso; sin embargo, estos estudios nos recuerdan que incluso las máquinas más avanzadas están lejos de ser infalibles. Seguiremos atentos a las futuras investigaciones que prometen hacernos repensar las capacidades reales de nuestras creaciones tecnológicas.
