El 5 de marzo, una sola herramienta de codificación por IA provocó una caída del 99% en los pedidos en los mercados norteamericanos de Amazon, eliminando 6,3 millones de pedidos en un solo día. Se pidió a la herramienta que realizara cambios menores y destruyó todo un entorno en el proceso, lo que provocó una recuperación de 13 horas. Para una empresa que procesa ~4.000 dólares en ventas por segundo, eso tiene una cifra muy específica asociada. Amazon está celebrando ahora una reunión obligatoria de ingeniería general sobre ello, llamándolo "rutina". Su nota informativa interna cuenta otra historia: un patrón de interrupciones asistidas por IA con daños generalizados y sin salvaguardas establecidas para prevenirlas. ¿Pero por qué importa esto más allá de Amazon? Ahora mismo, todas las grandes empresas están desplegando herramientas de IA en sistemas que nunca fueron diseñados para ellas. La mayoría se mueve rápido, asumiendo que el riesgo es manejable hasta que un día como el 5 de marzo demuestre lo contrario. Equivocarse en esto a la escala de Amazon es un problema de ingresos, operativo y, en última instancia, un problema de responsabilidad de liderazgo. ¿Y qué está haciendo realmente Amazon al respecto? El vicepresidente senior Dave Treadwell lanzó una revisión documentada de 90 días en 335 sistemas críticos orientados al cliente, poniendo esto por escrito al personal: • Dos compañeros deben firmar antes de que el cambio de código entre en vigor • Las comprobaciones automatizadas hacen cumplir las reglas de fiabilidad antes del despliegue • Las herramientas formales de gestión del cambio son ahora obligatorias en todos los ámbitos • Cada líder a nivel de Director y VP debe auditar todos los cambios en el código de producción en su organización Más allá de los 90 días, Amazon está estableciendo límites claros en torno a sus herramientas de IA. Porque cuando los errores cuestan dinero real, las barreras de seguridad no son opcionales.