Pada 5 Maret, satu alat pengkodean AI memicu penurunan 99% pesanan di seluruh pasar Amerika Utara Amazon, menghapus 6,3 juta pesanan dalam satu hari. Alat ini diminta untuk membuat perubahan kecil dan menghancurkan seluruh lingkungan dalam prosesnya, memicu pemulihan 13 jam. Untuk perusahaan yang memproses ~$4.000 dalam penjualan per detik, itu memiliki angka dolar yang sangat spesifik yang melekat padanya. Amazon sekarang mengadakan pertemuan teknik wajib semua pihak tentang hal itu, dan menyebutnya "rutin." Catatan pengarahan internal mereka menceritakan kisah yang berbeda: pola pemadaman yang dibantu AI dengan kerusakan yang luas, dan tidak ada pengamanan yang ditetapkan untuk mencegahnya. Tapi mengapa ini penting di luar Amazon? Setiap perusahaan besar saat ini menyebarkan alat AI ke dalam sistem yang tidak pernah dirancang untuk mereka. Sebagian besar bergerak cepat, dengan asumsi risiko dapat dikelola sampai hari seperti 5 Maret membuktikan sebaliknya. Melakukan ini salah dalam skala Amazon adalah masalah pendapatan, masalah operasional, dan pada akhirnya masalah akuntabilitas kepemimpinan. Jadi apa sebenarnya yang dilakukan Amazon tentang hal itu? SVP Dave Treadwell meluncurkan perombakan 90 hari yang terdokumentasi di 335 sistem penting yang dihadapi pelanggan, dengan menuliskan ini kepada staf: • Dua rekan kerja harus menandatangani sebelum perubahan kode ditayangkan • Pemeriksaan otomatis menegakkan aturan keandalan sebelum penerapan • Alat manajemen perubahan formal sekarang menjadi wajib di seluruh papan • Setiap pemimpin tingkat Direktur dan VP harus mengaudit semua perubahan kode produksi di organisasi mereka Di luar 90 hari, Amazon membangun batasan keras seputar alat AI-nya. Karena ketika kesalahan membutuhkan uang sungguhan, pagar pembatas bukanlah opsional.