El 5 de marzo, una única herramienta de codificación de IA provocó una caída del 99% en los pedidos en los mercados norteamericanos de Amazon, eliminando 6.3 millones de pedidos en un solo día. Se le pidió a la herramienta que hiciera cambios menores y destruyó todo un entorno en el proceso, lo que provocó una recuperación de 13 horas. Para una empresa que procesa ~$4,000 en ventas por segundo, eso tiene una cifra muy específica adjunta. Amazon ahora está llevando a cabo una reunión obligatoria de ingeniería con todo el personal al respecto, y la está llamando "rutinaria." Su nota informativa interna cuenta una historia diferente: un patrón de interrupciones asistidas por IA con daños amplios, y sin salvaguardias establecidas para prevenirlas. Pero, ¿por qué importa esto más allá de Amazon? Cada gran empresa en este momento está implementando herramientas de IA en sistemas que nunca fueron diseñados para ellas. La mayoría se está moviendo rápido, asumiendo que el riesgo es manejable hasta que un día como el 5 de marzo demuestre lo contrario. Equivocarse en la escala de Amazon es un problema de ingresos, un problema operativo y, en última instancia, un problema de responsabilidad de liderazgo. Entonces, ¿qué está haciendo realmente Amazon al respecto? El SVP Dave Treadwell lanzó una revisión documentada de 90 días en 335 sistemas críticos orientados al cliente, poniendo esto por escrito al personal: • Dos colegas deben firmar antes de que el cambio de código se haga efectivo • Comprobaciones automatizadas hacen cumplir las reglas de fiabilidad antes de la implementación • Las herramientas de gestión de cambios formales son ahora obligatorias en todos los ámbitos • Cada líder a nivel de Director y VP debe auditar todos los cambios de código en producción en su organización Más allá de los 90 días, Amazon está construyendo límites estrictos alrededor de sus herramientas de IA. Porque cuando los errores cuestan dinero real, las barandillas no son opcionales.