Pe 5 martie, un singur instrument de codare AI a declanșat o scădere de 99% a comenzilor pe piețele Amazon din America de Nord, ștergând 6,3 milioane de comenzi într-o singură zi. Instrumentul a fost rugat să facă modificări minore și a distrus un întreg mediu în acest proces, declanșând o recuperare de 13 ore. Pentru o companie care procesează vânzări de ~4.000$ pe secundă, asta are o sumă foarte specifică de dolari. Amazon organizează acum o ședință obligatorie de inginerie pe această temă, numind-o "rutină". Nota lor internă de informare spune o altă poveste: un tipar de întreruperi asistate de AI cu daune extinse și fără măsuri de protecție pentru a le preveni. Dar de ce contează asta dincolo de Amazon? Fiecare mare companie implementează în prezent instrumente AI în sisteme care nu au fost niciodată proiectate pentru ele. Majoritatea se mișcă rapid, presupunând că riscul este gestionabil până într-o zi ca 5 martie care dovedește contrariul. A greși acest lucru la scara Amazon este o problemă de venituri, o problemă operațională și, în cele din urmă, o problemă de responsabilitate a conducerii. Deci, ce face de fapt Amazon în legătură cu asta? SVP-ul Dave Treadwell a lansat o revizuire documentată de 90 de zile în 335 de sisteme critice orientate către clienți, punând acest mesaj în scris pentru personal: • Doi colegi trebuie să semneze înainte ca schimbarea codului să devină activă • Verificările automate aplică regulile de fiabilitate înainte de implementare • Instrumentele formale de management al schimbării sunt acum obligatorii peste tot • Fiecare lider la nivel de director și vicepreședinte trebuie să auditeze toate modificările codului de producție din organizația sa Dincolo de cele 90 de zile, Amazon construiește limite stricte în jurul instrumentelor sale AI. Pentru că atunci când erorile costă bani reali, balustradele de protecție nu sunt opționale.