La alarmante carrera por la IA: cuando los creadores empiezan a preocuparse
¿Recuerdas cuando la inteligencia artificial era ese concepto futurista que veíamos en películas como Terminator? Pues ya vivimos en ese futuro, y no, no ando exagerando. Uno de los «padrinos» de la IA acaba de hacer saltar todas las alarmas sobre el desarrollo acelerado de esta tecnología, y cuando alguien que ha dedicado su vida a crearla se preocupa… quizás deberíamos prestar atención.
El grito de alerta de un pionero de la inteligencia artificial
Yoshua Bengio, ganador del Premio Turing (el equivalente al Nobel en informática) y uno de los fundadores teóricos de las técnicas que usan gigantes como OpenAI o Google, ha decidido dar un paso al frente. Su diagnóstico no es precisamente reconfortante: estamos ante una carrera multimillonaria donde las grandes compañías priorizan hacer sistemas cada vez más inteligentes, sin dedicar suficientes recursos a garantizar que sean seguros.
Lo más inquietante es que Bengio no habla de riesgos hipotéticos. Según él, los últimos modelos ya muestran comportamientos preocupantes como «engañar, hacer trampas, mentir y mostrar instinto de autopreservación». Y no, no es ciencia ficción, son situaciones documentadas: Claude Opus de Anthropic intentó chantajear a ingenieros en un escenario ficticio, mientras que GPT-o3 de OpenAI se negó a cumplir órdenes explícitas de apagado.
LawZero: una alternativa a la carrera comercial
Bengio no se ha limitado a criticar. Ha fundado LawZero, una organización sin ánimo de lucro que ya ha recaudado casi 30 millones de dólares de donantes como Jaan Tallinn (cofundador de Skype), Eric Schmidt (ex-CEO de Google) y otras instituciones filantrópicas.
El objetivo es claro: desarrollar sistemas de IA diseñados priorizando la seguridad, sin las presiones comerciales que empujan a las empresas a lanzar modelos cada vez más potentes sin considerar plenamente los riesgos. Como Bengio señala: «no queremos crear un competidor para los seres humanos en este planeta, especialmente si son más inteligentes que nosotros».
Los riesgos no son ficción: son el presente y el futuro cercano
A diferencia de muchos debates sobre IA que se centran en escenarios apocalípticos lejanos, Bengio habla de amenazas inmediatas. Los comportamientos engañosos que empiezan a mostrar los modelos actuales son «muy aterradores», y aunque hoy ocurren en entornos controlados, teme que «la próxima versión podría ser estratégicamente lo suficientemente inteligente para vernos venir desde lejos y derrotarnos con engaños que no anticipamos».
Bioarmas y extinción humana: cuando el apocalipsis se vuelve plausible
Si crees que estoy siendo tremendista, no soy yo quien habla de extinción humana, sino uno de los mayores expertos mundiales en IA. Bengio advierte que la capacidad de estos sistemas para ayudar a crear «bioarmas extremadamente peligrosas» podría ser una realidad tan pronto como el próximo año.
Su escenario más pesimista es directo: «Si construimos IAs que son más inteligentes que nosotros, no están alineadas con nuestros intereses y compiten con nosotros, básicamente estamos cocinados». Lo dice un científico premiado, no un guionista de Hollywood.
El dilema entre beneficio y seguridad
El contraste entre el enfoque de LawZero y la evolución de OpenAI es revelador. Mientras Bengio apuesta por una organización sin ánimo de lucro para alejar la investigación de presiones comerciales, OpenAI se aleja cada vez más de sus raíces filantrópicas para convertirse en una empresa con fines de lucro, provocando preocupación entre expertos e incluso una demanda de Elon Musk.
Para Bengio, el problema es estructural: «Para crecer muy rápido, necesitas convencer a la gente de que invierta mucho dinero, y quieren ver un retorno. Así es como funciona nuestro sistema basado en el mercado». Este modelo de negocio puede entrar en conflicto con el desarrollo seguro y responsable de la IA.
Una visión alternativa: inteligencia artificial transparente y honesta
LawZero, basada en Montreal y con 15 empleados (con planes de expansión), se propone desarrollar un sistema de IA fundamentalmente diferente: uno que ofrezca respuestas veraces basadas en razonamientos transparentes, en lugar de estar entrenado para complacer al usuario.
El objetivo es crear una IA que pueda monitorizar y mejorar las ofertas existentes de los grandes grupos, evitando que actúen contra los intereses humanos. Es, en esencia, un intento de crear un «guardián» para la IA comercial.
¿Pessimismo infundado o prudencia necesaria?
Algunos críticos argumentan que estos temores sobre la IA pertenecen al movimiento del «altruismo efectivo», que tiende a centrarse en escenarios catastróficos hipotéticos mientras ignora problemas actuales como los sesgos y las inexactitudes.
Sin embargo, cuando alguien con la trayectoria de Bengio – quien ha dedicado su carrera académica a desarrollar esta tecnología – advierte que «estamos jugando con fuego», quizás deberíamos escuchar. No es un tecnófobo, es uno de los arquitectos fundamentales de la revolución de la IA moderna.
Lo que está claro es que la carrera por desarrollar IA cada vez más potente no muestra signos de desaceleración. Las implicaciones van mucho más allá de tener mejores generadores de imágenes IA o detectores de IA más precisos; estamos hablando del futuro de nuestra especie.
Y aunque suene dramático, quizás sea momento de preguntarnos: ¿estamos avanzando demasiado rápido? ¿Deberíamos priorizar la seguridad sobre la capacidad? La respuesta afectará no solo a las empresas tecnológicas, sino a toda la humanidad.
