McKinsey ha creato un chatbot AI (Lilli) addestrato su 100 anni del suo lavoro, 100k documenti e interviste. Il 70% dei 45k dipendenti utilizza lo strumento, generando 500k richieste al mese. Una società di ricerca è riuscita ad accedervi con “accesso completo in lettura e scrittura al database di produzione”, inclusi “47 milioni di messaggi di chat riguardanti strategia, M&A, coinvolgimento dei clienti, tutto in testo semplice insieme a 728k contenenti dati riservati dei clienti, 57k account utente e 95 prompt di sistema che controllano il comportamento dell'AI.” McKinsey ha dichiarato di aver risolto la vulnerabilità, resa possibile da “documentazione API esposta pubblicamente, inclusi 22 endpoint che non richiedevano autenticazione…uno di questi scriveva le query di ricerca degli utenti, e l'agente ha scoperto che le chiavi JSON (questi sono i nomi dei campi) erano concatenate in SQL e vulnerabili all'iniezione SQL.”

Leggi tutto qui: Mckisney punta tutto su Lilli!