McKinsey a construit un chatbot AI (Lilli) antrenat pe 100 de ani de activitate, 100.000 de documente și interviuri. 70% dintre cei 45.000 de angajați folosesc instrumentul, ceea ce face 500.000 de prompturi pe lună. O firmă de cercetare a spart sistemul cu "acces complet la baza de date de producție", inclusiv "47 de milioane de mesaje de chat despre strategie, fuziuni și achiziții, implicarea clienților, toate în text simplu, împreună cu 728k care conțin date confidențiale ale clienților, 57k conturi de utilizator și 95 de indicații de sistem care controlează comportamentul AI." Mcksinsey a spus că a reparat vulnerabilitatea, posibilă datorită "documentației API expuse public, inclusiv 22 de endpoint-uri care nu necesitau autentificare... unul dintre aceștia a scris interogări de căutare a utilizatorilor, iar agentul a constatat că cheile JSON (acestea sunt numele câmpurilor) erau concatenate în SQL și vulnerabile la injecția SQL."

Citește integral aici: McKisney merge pe Lilli!