Cuando la IA intenta hacer el trabajo del gobierno: el caso DOGE
La inteligencia artificial sigue penetrando en todos los ámbitos de nuestra sociedad, pero ¿qué ocurre cuando se utiliza para tomar decisiones críticas sobre presupuestos gubernamentales? Un reciente caso en el Departamento de Asuntos de Veteranos de EE.UU. nos muestra lo peligroso que puede ser confiar en herramientas de IA inmaduras para gestionar servicios esenciales.
El experimento DOGE: IA para recortar contratos
En los primeros meses de 2025, la administración Trump decidió utilizar la inteligencia artificial para identificar qué contratos del Departamento de Asuntos de Veteranos (VA) podían eliminarse. Para esta tarea, recurrieron a un ingeniero de software sin experiencia en sanidad o administración pública, que trabajaba para el Departamento de Eficiencia Gubernamental (DOGE), entonces dirigido por Elon Musk.
El ingeniero, Sahil Lavingia, desarrolló en tan solo dos días una herramienta de IA que etiquetó como «MUNCHABLE» (algo así como «mordisqueable» o «eliminable») más de 2.000 contratos que su código consideraba prescindibles. Lo preocupante: este sistema utilizaba modelos de IA obsoletos y económicos que produjeron errores significativos en sus análisis.
Errores graves y consecuencias reales
El código desarrollado cometió fallos alarmantes, como:
- Inflar el valor de los contratos (identificó más de mil contratos con un valor de $34 millones cuando algunos valían apenas $35,000)
- Analizar solo los primeros 2,500 palabras de cada contrato, ignorando detalles cruciales
- No considerar el contexto operativo del VA ni qué servicios son legalmente obligatorios
- Carecer de un entendimiento profundo sobre cómo funciona el ecosistema de atención a veteranos
Entre los contratos cancelados hasta ahora se incluyen algunos para el mantenimiento de dispositivos de secuenciación genética para tratamientos contra el cáncer, análisis de muestras de sangre para proyectos de investigación, y herramientas para mejorar la atención de enfermería.
La IA como herramienta de recorte presupuestario
No es difícil entender por qué la idea sonaba atractiva para la administración: revisar manualmente 90,000 contratos en 30 días sería prácticamente imposible. Sin embargo, utilizar herramientas de IA inmaduras para decisiones tan sensibles plantea graves problemas.
«Los modelos de lenguaje disponibles comercialmente (LLMs) no tienen la fiabilidad necesaria para algo tan complejo», señaló Cary Coglianese, profesor de Derecho y Ciencias Políticas en la Universidad de Pensilvania, especializado en el uso gubernamental de inteligencia artificial.
El propio Lavingia admitió las deficiencias: «Nunca recomendaría que alguien ejecute mi código y haga lo que dice. Es como ese episodio de ‘The Office’ donde Steve Carell conduce hacia un lago porque Google Maps se lo indica. No conduzcas hacia el lago.»
Falta de transparencia y supervisión
Aunque los funcionarios del VA afirman que ningún contrato se cancela sin revisión humana, empleados de la agencia revelaron que el proceso ha sido extremadamente opaco. En algunos casos, se les dio apenas unas horas para justificar por qué debían mantenerse ciertos contratos, con un límite de 255 caracteres (menos que un tweet).
El VA ha declarado que está revisando sus 76,000 contratos para garantizar que cada uno beneficie a los veteranos y sea un buen uso del dinero de los contribuyentes. Sin embargo, la agencia no ha explicado cómo planea trasladar servicios internamente mientras recorta simultáneamente 80,000 puestos de su plantilla de 500,000 personas.
El dilema ético del detector de IA para evaluar servicios humanos
Este caso plantea preguntas fundamentales sobre el uso de detectores de IA en la toma de decisiones gubernamentales. ¿Puede un algoritmo entender realmente la complejidad de un sistema sanitario? ¿Es ético utilizar herramientas inmaduras para decisiones que afectan a personas vulnerables?
«La IA es absolutamente la herramienta equivocada para esto», afirmó Waldo Jaquith, ex funcionario de la administración Obama que supervisó contrataciones de TI en el Departamento del Tesoro. «La IA proporciona respuestas de apariencia convincente que frecuentemente son erróneas. Se necesitan humanos cuyo trabajo sea realizar esta labor.»
El enfoque simplista que ignora la realidad compleja
El problema fundamental del enfoque es que se programó la herramienta para preservar contratos relacionados con la «atención directa al paciente», sin considerar que el trabajo de médicos y enfermeras solo es posible con un importante sistema de apoyo a su alrededor.
Cualquier generador de imágenes IA podría mostrar un hospital funcionando, pero no puede capturar la intrincada red de servicios complementarios que hacen posible la atención médica de calidad. Los expertos en sistemas sanitarios saben que la «atención directa» no puede existir sin una robusta infraestructura de apoyo.
El futuro de la IA en la administración pública
A pesar de las críticas, la administración no ha confirmado si seguirá utilizando la herramienta «munchable» en el futuro. Sin embargo, documentos obtenidos por ProPublica muestran que DOGE propuso en marzo consolidar el departamento de reclamaciones de beneficios dependiendo más de la IA.
Los contratistas del gobierno ya están prestando atención. Según Lavingia, tras publicar su código recibió mensajes de contratistas del VA preocupados por entender por qué sus contratos podrían ser eliminados.
Transparencia versus efectividad
Curiosamente, Lavingia fue despedido de DOGE después de dar una entrevista a Fast Company sobre su trabajo con el departamento. Él defendió la publicación de su código argumentando que «la transparencia es algo bueno» y que permitiría a cualquiera ver cómo el VA está pensando en recortar contratos.
Esta tensión entre transparencia y efectividad es un dilema recurrente en las aplicaciones gubernamentales de IA. Por un lado, el código abierto permite escrutinio público; por otro, puede comprometer la eficacia al revelar los métodos utilizados.
Lecciones para un uso responsable de la IA en el sector público
Este caso nos deja importantes enseñanzas sobre cómo debería (y no debería) implementarse la IA en la administración pública:
-
Comprensión del contexto: Las herramientas de IA deben ser entrenadas con conocimiento profundo del dominio específico donde operarán.
-
Supervisión humana significativa: No basta con decir que hay «revisión humana»; esta debe ser realizada por expertos con tiempo suficiente.
-
Modelos adecuados: Usar modelos obsoletos o inadecuados para tareas críticas puede tener consecuencias graves.
-
Evaluación de impacto: Antes de implementar sistemas de IA en servicios críticos, debería realizarse una evaluación exhaustiva de posibles consecuencias.
La próxima vez que escuchemos promesas sobre la IA como solución mágica para la eficiencia gubernamental, recordemos el caso DOGE. La tecnología tiene un enorme potencial para mejorar los servicios públicos, pero implementada precipitadamente y sin las salvaguardas adecuadas, puede causar más daño que beneficio.
La verdadera inteligencia no está solo en crear herramientas potentes, sino en saber cuándo y cómo usarlas responsablemente.
