Amazon exige supervisión humana en los cambios generados por IA tras una cadena de incidentes graves

Hay un momento en el que el optimismo tecnológico choca con la realidad operativa, y Amazon parece haber llegado a ese punto. La compañía, que lleva meses impulsando activamente el uso de herramientas de IA entre sus ingenieros, acaba de reconocer algo incómodo: el código generado o modificado con ayuda de inteligencia artificial ha contribuido a una serie de incidentes que han afectado a la disponibilidad de su plataforma.

No es un rumor ni una filtración menor. Es un memorando interno, visto por el Financial Times, en el que un vicepresidente senior de Amazon convoca a sus equipos de ingeniería para un «deep dive» —una sesión de análisis en profundidad— sobre los problemas que han tenido en los últimos meses.

El problema: la IA escribe código, pero nadie garantizaba que estuviera bien escrito

Lo que describe el documento interno es un patrón que se repite: incidentes con un «alto radio de explosión» —es decir, que cuando algo falla, falla a lo grande— y una presencia recurrente de cambios asistidos por IA generativa entre los factores contribuyentes. El texto lo deja bastante claro al señalar el «uso novedoso de IA generativa para el que las mejores prácticas y salvaguardas aún no están completamente establecidas».

Traducido: estaban usando herramientas de generación de código con IA sin haber definido del todo cómo hacerlo con seguridad. Y eso ha tenido consecuencias reales.

El caso más visible fue una caída del sitio web de Amazon y su app de compras que duró casi 6 horas a principios de marzo de 2026. Los clientes no podían completar transacciones, ver precios ni acceder a sus cuentas. La compañía atribuyó el incidente a un «despliegue de código erróneo». No especificaron públicamente si estaba relacionado con IA, pero el contexto de la reunión convocada poco después lo pone en el centro del análisis.

El incidente de AWS y Kiro: el ejemplo más documentado

Más allá del ecommerce, la división de computación en la nube de Amazon —AWS— también ha sufrido al menos 2 incidentes vinculados al uso de asistentes de codificación con IA.

El más llamativo ocurrió en diciembre de 2025: una interrupción de 13 horas en una calculadora de costes utilizada por clientes de AWS, después de que los ingenieros permitieran que Kiro, la herramienta de codificación con IA de la propia Amazon, realizara ciertos cambios. Lo que hizo Kiro fue, literalmente, «eliminar y recrear el entorno». Sin pedir confirmación adicional. Sin que nadie lo validara antes. El sistema tomó una decisión que un ingeniero experimentado probablemente habría pensado dos veces.

Amazon intentó minimizar el impacto afirmando que fue un «evento extremadamente limitado» que afectó a un único servicio en partes de China continental. Pero el patrón es el que es.

La respuesta: más supervisión humana, no menos IA

La medida que ha decidido tomar Amazon no es retirar las herramientas de IA, sino añadir una capa de control humano que antes no existía —o que no era obligatoria. A partir de ahora, los ingenieros junior y de nivel medio necesitarán que un ingeniero senior valide y apruebe cualquier cambio asistido por IA antes de que se implemente.

Es una decisión que, en el fondo, reconoce algo que muchos ya sabíamos: la IA puede escribir código funcional, pero no tiene contexto operativo, no entiende las consecuencias de sus decisiones sobre sistemas críticos y, sobre todo, no tiene responsabilidad sobre lo que pasa después.

Dave Treadwell, el vicepresidente senior que ha convocado la reunión y que viene de Microsoft con experiencia en ingeniería a gran escala, se lo dijo directamente a sus equipos: «La disponibilidad del sitio y la infraestructura relacionada no ha sido buena últimamente». Pocas veces se escucha un diagnóstico tan directo en un comunicado interno de una empresa de este tamaño.

¿Es un problema de la IA o de cómo se ha desplegado?

Aquí es donde el debate se pone interesante. Amazon no está diciendo que la IA sea mala ni que Kiro sea una herramienta defectuosa. Lo que está reconociendo es que desplegaron estas capacidades antes de tener los procesos, los controles y las salvaguardas necesarias para hacerlo con seguridad en entornos de producción críticos.

Hay una diferencia importante entre usar un generador de código con IA para escribir una función auxiliar en un entorno de pruebas y permitir que esa misma IA realice cambios directos sobre infraestructura que da servicio a millones de usuarios. El segundo escenario requiere un nivel de supervisión, validación y reversibilidad que, según los hechos, no estaba garantizado.

Esto no es exclusivo de Amazon. Es un problema que afecta a cualquier organización que esté integrando herramientas de IA en sus flujos de desarrollo sin haber madurado los procesos alrededor. La IA genera, propone y ejecuta. Pero quien entiende las implicaciones reales sigue siendo —de momento— el ingeniero con 10 años de experiencia que conoce ese sistema por dentro.

El factor de los recortes: el elefante en la sala

No se puede hablar de estos incidentes sin mencionar otro elemento que Amazon ha intentado desvincular del problema: los despidos masivos. La compañía eliminó 16.000 puestos corporativos en enero de 2026, en la última de varias rondas de reducción de plantilla en los últimos años.

Varios ingenieros de Amazon, según ha informado el Financial Times previamente, señalan que sus unidades de negocio han tenido que gestionar un número mayor de «Sev2s» —incidentes que requieren respuesta rápida para evitar caídas del servicio— precisamente como consecuencia de esos recortes. Menos personas para revisar, validar y mantener los sistemas.

Amazon rechaza esa lectura. Dice que los recortes no son la causa del aumento de incidentes. Puede que tengan razón en parte, pero la coincidencia temporal —menos ingenieros humanos, más delegación en herramientas de IA, más incidentes— es difícil de ignorar por completo.

Lo que nos dice esto sobre el estado real de la IA en producción

Que Amazon, una de las compañías tecnológicas más avanzadas del mundo en infraestructura y operaciones, esté reconociendo estos problemas es, en cierto modo, útil para todos. No porque sea un fracaso, sino porque pone sobre la mesa algo que con frecuencia se omite en los titulares sobre IA: la distancia entre lo que una herramienta puede hacer en un entorno controlado y lo que ocurre cuando opera sobre sistemas reales, complejos y críticos.

Los modelos de lenguaje y los asistentes de codificación han mejorado muchísimo. GitHub Copilot, Kiro, o cualquier herramienta similar puede acelerar el desarrollo de forma notable. Pero «acelerar» no es lo mismo que «hacerlo sin riesgo». Y en infraestructura de producción, la diferencia entre los dos puede medirse en horas de caída y millones de euros en pérdidas.

La lección que Amazon está aprendiendo —y documentando internamente— es que la IA necesita supervisión proporcional al impacto potencial de sus acciones. Parece obvio, pero al parecer no lo era lo suficiente.