Op 5 maart veroorzaakte een enkele AI-coderingstool een daling van 99% in bestellingen op de Noord-Amerikaanse marktplaatsen van Amazon, wat resulteerde in 6,3 miljoen verloren bestellingen op één dag. De tool werd gevraagd om kleine wijzigingen aan te brengen en vernietigde in het proces een hele omgeving, wat leidde tot een herstel van 13 uur. Voor een bedrijf dat ongeveer $4.000 aan verkopen per seconde verwerkt, heeft dat een zeer specifiek dollarbedrag dat eraan verbonden is. Amazon houdt nu een verplichte engineeringbijeenkomst voor alle medewerkers hierover, en noemt het "routine." Hun interne briefingnota vertelt een ander verhaal: een patroon van AI-ondersteunde uitval met brede schade, en geen vastgestelde waarborgen om deze te voorkomen. Maar waarom is dit belangrijk buiten Amazon? Elke grote onderneming is momenteel AI-tools aan het implementeren in systemen die nooit voor hen zijn ontworpen. De meesten bewegen snel, in de veronderstelling dat het risico beheersbaar is totdat een dag zoals 5 maart het tegendeel bewijst. Dit verkeerd krijgen op de schaal van Amazon is een probleem voor de omzet, een operationeel probleem, en uiteindelijk een probleem van leiderschapsverantwoordelijkheid. Dus wat doet Amazon daar eigenlijk aan? SVP Dave Treadwell heeft een gedocumenteerde herziening van 90 dagen gelanceerd over 335 kritieke klantgerichte systemen, en heeft dit schriftelijk aan het personeel meegedeeld: • Twee collega's moeten goedkeuring geven voordat de codewijziging live gaat • Geautomatiseerde controles handhaven betrouwbaarheidregels voordat de implementatie plaatsvindt • Formele wijzigingsbeheertools zijn nu verplicht voor iedereen • Elke directeur- en VP-niveau leider moet alle productiecodewijzigingen in hun organisatie auditen Buiten de 90 dagen om bouwt Amazon strikte grenzen rond zijn AI-tools. Want wanneer fouten echt geld kosten, zijn vangrails niet optioneel.