McKinsey byggde en AI-chatbot (Lilli) tränad på 100 års arbete, 100 000 dokument och intervjuer. 70 % av 45 000 anställda använder verktyget, vilket ger 500 000 prompts i månaden. Ett forskningsföretag hackade sig in med "full läs- och skrivåtkomst till produktionsdatabasen" inklusive "47 miljoner chattmeddelanden om strategi, M&A, kundengagemang, allt i klartext tillsammans med 728k som innehåller konfidentiell kunddata, 57 000 användarkonton och 95 systempromptar som styr AI:s beteende." Mcksinsey sade att de har åtgärdat sårbarheten, vilket möjliggjordes av "offentligt exponerad API-dokumentation, inklusive 22 slutpunkter som inte krävde autentisering... en av dessa skrev användarsökningar, och agenten upptäckte att JSON-nycklarna (detta är fältnamnen) var sammanfogade till SQL och sårbara för SQL-injektion."

Fullständig läsning här: Mckisney satsar fullt ut på Lilli!