Den 5. mars utløste et enkelt AI-kodingsverktøy en nedgang på 99 % i bestillinger på tvers av Amazons nordamerikanske markedsplasser, og slettet 6,3 millioner bestillinger på én dag. Verktøyet ble bedt om å gjøre mindre endringer og ødela et helt miljø i prosessen, noe som utløste en 13-timers gjenoppretting. For et selskap som behandler ~4 000 dollar i salg per sekund, har det et veldig spesifikt dollarbeløp knyttet til seg. Amazon holder nå et obligatorisk ingeniørmøte for alle om dette, og kaller det «rutine». Deres interne briefing forteller en annen historie: et mønster av AI-assisterte strømbrudd med omfattende skader, og ingen etablerte sikkerhetsmekanismer for å forhindre dem. Men hvorfor er dette viktig utover Amazon? Alle store bedrifter implementerer nå AI-verktøy i systemer som aldri var designet for dem. De fleste beveger seg raskt, forutsatt at risikoen er håndterbar inntil en dag som 5. mars viser noe annet. Å gjøre feil i Amazons skala er et inntektsproblem, et operasjonelt problem, og til slutt et ansvar for ledelsen. Så hva gjør egentlig Amazon med det? SVP Dave Treadwell lanserte en dokumentert 90-dagers overhaling på 335 kritiske kundeorienterte systemer, og skrev dette ned til de ansatte: • To kolleger må godkjenne før kodeendringen går i kraft • Automatiserte kontroller håndhever pålitelighetsregler før utrulling • Formelle verktøy for endringsledelse er nå obligatoriske over hele linjen • Hver leder på direktør- og visepresidentnivå må revidere alle endringer i produksjonskoden i sin organisasjon Etter de 90 dagene bygger Amazon klare grenser rundt sine AI-verktøy. For når feil koster ekte penger, er ikke sikkerhetsmekanismer valgfrie.