McKinsey vytvořila AI chatbota (Lilli) vycvičeného na 100 letech své práce, 100 tisíc dokumentů a rozhovorů. 70 % z 45 tisíc zaměstnanců používá tento nástroj, což vytvoří 500 tisíc promptů měsíčně. Výzkumná firma se do něj nabourala s "plným přístupem k produkční databázi pro čtení a zápis" včetně "47 milionů chatovacích zpráv o strategii, fúzích a akvizitách, zapojení klientů, vše v prostém textu spolu s 728 tisíci obsahujícími důvěrná klientská data, 57 tisíci uživatelských účtů a 95 systémových promptů ovládajících chování AI." McKssinsey uvedl, že zranitelnost opravil, což bylo možné díky "veřejně zpřístupněné dokumentaci API, včetně 22 koncových bodů, které autentizaci nevyžadovaly... jeden z nich psal uživatelské dotazy a agent zjistil, že klíče JSON (to jsou názvy polí) byly sloučeny do SQL a zranitelné vůči SQL injection."

Celé čtení zde: McKinesney jde na Lilli naplno!