Vào ngày 5 tháng 3, một công cụ lập trình AI đơn lẻ đã gây ra sự sụt giảm 99% đơn hàng trên các thị trường Bắc Mỹ của Amazon, xóa sổ 6,3 triệu đơn hàng chỉ trong một ngày. Công cụ này được yêu cầu thực hiện những thay đổi nhỏ và đã phá hủy toàn bộ môi trường trong quá trình đó, dẫn đến việc phục hồi kéo dài 13 giờ. Đối với một công ty xử lý khoảng 4.000 đô la doanh thu mỗi giây, điều này có một con số rất cụ thể gắn liền với nó. Amazon hiện đang tổ chức một cuộc họp kỹ thuật toàn công ty bắt buộc về vấn đề này, và gọi đó là "thường lệ." Tài liệu nội bộ của họ kể một câu chuyện khác: một mô hình của các sự cố hỗ trợ AI với thiệt hại rộng lớn, và không có các biện pháp bảo vệ được thiết lập để ngăn chặn chúng. Nhưng tại sao điều này lại quan trọng hơn cả Amazon? Mỗi doanh nghiệp lớn hiện nay đều đang triển khai các công cụ AI vào các hệ thống chưa bao giờ được thiết kế cho chúng. Hầu hết đang di chuyển nhanh chóng, giả định rằng rủi ro có thể quản lý được cho đến khi một ngày như 5 tháng 3 chứng minh điều ngược lại. Làm sai điều này ở quy mô của Amazon là một vấn đề doanh thu, một vấn đề vận hành, và cuối cùng là một vấn đề trách nhiệm lãnh đạo. Vậy Amazon thực sự đang làm gì về điều này? Phó Chủ tịch Dave Treadwell đã khởi động một cuộc cải cách tài liệu trong 90 ngày trên 335 hệ thống quan trọng đối diện với khách hàng, ghi lại điều này bằng văn bản cho nhân viên: • Hai đồng nghiệp phải ký duyệt trước khi thay đổi mã được đưa vào hoạt động • Các kiểm tra tự động thực thi các quy tắc độ tin cậy trước khi triển khai • Các công cụ quản lý thay đổi chính thức hiện là bắt buộc trên toàn bộ • Mỗi lãnh đạo cấp Giám đốc và Phó Giám đốc phải kiểm tra tất cả các thay đổi mã sản xuất trong tổ chức của họ Ngoài 90 ngày, Amazon đang xây dựng các ranh giới cứng xung quanh các công cụ AI của mình. Bởi vì khi những sai sót gây ra thiệt hại thực sự về tiền bạc, các rào cản không phải là tùy chọn.