5. maaliskuuta yksi tekoälykoodaustyökalu aiheutti 99 %:n laskun tilauksissa Amazonin Pohjois-Amerikan markkinapaikoilla, pyyhkien pois 6,3 miljoonaa tilausta yhdessä päivässä. Työkalua pyydettiin tekemään pieniä muutoksia ja se tuhosi kokonaisen ympäristön, mikä käynnisti 13 tunnin palautumisen. Yritykselle, joka käsittelee ~$4 000 myyntiä sekunnissa, siihen liittyy hyvin tarkka dollariluku. Amazon järjestää nyt pakollisen kaikkien insinöörikokouksen tästä ja kutsuu sitä "rutiiniksi". Heidän sisäinen tiedotusmuistionsa kertoo toisen tarinan: tekoälyn avustamat katkot, joissa on laajaa vahinkoa, eikä vakiintuneita turvatoimia niiden estämiseksi. Mutta miksi tämä on tärkeää Amazonin ulkopuolella? Jokainen suuri yritys tällä hetkellä ottaa käyttöön tekoälytyökaluja järjestelmiin, joita ei ole koskaan suunniteltu niille. Useimmat liikkuvat nopeasti, olettaen riskin olevan hallittavissa, kunnes päivä kuten 5. maaliskuuta todistaa toisin. Tämän väärin meneminen Amazonin mittakaavassa on tulo-, operatiivinen ongelma ja lopulta johtajuuden vastuullisuusongelma. Mitä Amazon siis oikeastaan tekee asialle? SVP Dave Treadwell käynnisti dokumentoidun 90 päivän uudistuksen 335 kriittisessä asiakaskohtaisessa järjestelmässä ja antoi tämän kirjallisesti henkilökunnalle: • Kahden kollegan on allekirjoitettava ennen kuin koodimuutos otetaan käyttöön • Automaattiset tarkistukset valvovat luotettavuussääntöjä ennen käyttöönottoa • Viralliset muutoksenhallintatyökalut ovat nyt pakollisia kaikilla osa-alueilla • Jokaisen johtaja- ja varatoimitusjohtajan on auditoitava kaikki tuotantokoodin muutokset organisaatiossaan 90 päivän jälkeen Amazon rakentaa tiukkoja rajoja tekoälytyökalujensa ympärille. Koska virheet maksavat oikeaa rahaa, suojakaiteet eivät ole valinnaisia.