Dne 5. března způsobil jeden AI nástroj pro kódování pokles objednávek na severoamerických trzích Amazonu o 99 %, když za jeden den zlikvidoval 6,3 milionu objednávek. Nástroj byl požádán o drobné změny a při tom zničil celé prostředí, což spustilo 13hodinovou obnovu. Pro firmu, která zpracovává ~4 000 dolarů v tržbách za sekundu, je to velmi konkrétní částka v dolarech. Amazon nyní pořádá povinnou schůzku všech inženýrů o tom a nazývá to "rutinou". Jejich interní briefing poznámka vypráví jiný příběh: vzorec výpadků s pomocí AI s rozsáhlými škodami a bez zavedených záruk, které by jim zabránily. Ale proč je to mimo Amazonu důležité? Každá velká firma v současnosti nasazuje AI nástroje do systémů, které pro ně nikdy nebyly navrženy. Většina postupuje rychle, pokud je riziko zvládnutelné, dokud den jako 5. března neprokáže opak. Špatné řešení v měřítku Amazonu je problém tržeb, provozní problém a nakonec i odpovědnost vedení. Co s tím tedy Amazon vlastně dělá? SVP Dave Treadwell zahájil zdokumentovanou 90denní reformu napříč 335 kritickými systémy orientovanými na zákazníky a tímto sdělil toto zaměstnancům: • Dva kolegové musí schválit před tím, než bude změna kódu aktivní • Automatizované kontroly vynucují pravidla spolehlivosti před nasazením • Formální nástroje pro řízení změn jsou nyní povinné ve všech oblastech • Každý vedoucí na úrovni ředitele a viceprezidenta musí auditovat všechny změny produkčního kódu ve své organizaci Po 90 dnech Amazon buduje jasné hranice kolem svých AI nástrojů. Protože když chyby stojí skutečné peníze, zábrany nejsou volitelné.