Le 5 mars, un seul outil de codage AI a déclenché une chute de 99 % des commandes sur les marchés nord-américains d'Amazon, effaçant 6,3 millions de commandes en une journée. L'outil a été demandé pour apporter des modifications mineures et a détruit un environnement entier dans le processus, déclenchant une récupération de 13 heures. Pour une entreprise traitant environ 4 000 $ de ventes par seconde, cela a un chiffre d'affaires très spécifique qui y est attaché. Amazon tient maintenant une réunion d'ingénierie obligatoire pour tous à ce sujet, la qualifiant de "routinière." Cependant, leur note de briefing interne raconte une histoire différente : un schéma de pannes assistées par l'IA avec des dommages étendus, et aucune mesure de sécurité établie pour les prévenir. Mais pourquoi cela importe-t-il au-delà d'Amazon ? Chaque grande entreprise déploie actuellement des outils d'IA dans des systèmes qui n'ont jamais été conçus pour eux. La plupart avancent rapidement, supposant que le risque est gérable jusqu'à ce qu'un jour comme le 5 mars prouve le contraire. Se tromper à l'échelle d'Amazon est un problème de revenus, un problème opérationnel, et finalement un problème de responsabilité de leadership. Alors, que fait réellement Amazon à ce sujet ? Le SVP Dave Treadwell a lancé une refonte documentée de 90 jours à travers 335 systèmes critiques orientés client, mettant cela par écrit au personnel : • Deux collègues doivent approuver avant que le changement de code ne soit mis en ligne • Des vérifications automatisées imposent des règles de fiabilité avant le déploiement • Des outils de gestion des changements formels sont désormais obligatoires dans tous les domaines • Chaque leader de niveau Directeur et VP doit auditer tous les changements de code de production dans leur organisation Au-delà des 90 jours, Amazon construit des limites strictes autour de ses outils d'IA. Parce que lorsque les erreurs coûtent de l'argent réel, les garde-fous ne sont pas optionnels.