McKinsey створила чат-бота на основі штучного інтелекту (Lilli), навченого 100 років його роботи, 100 тисяч документів і інтерв'ю. 70% із 45 тисяч працівників користуються цим інструментом, отримуючи 500 тисяч запитів на місяць. Дослідницька компанія зламала його, отримавши «повний доступ до виробничої бази даних», включно з «47 мільйонами чат-повідомлень про стратегію, злиття та поглинання, залучення клієнтів, все у відкритому тексті, а також 728k з конфіденційними даними клієнтів, 57 тисяч облікових записів користувачів і 95 системних підказок, що контролюють поведінку ШІ». Mcksinsey повідомила, що усунула цю вразливість, що стало можливим завдяки «публічно відкритій API-документації, включно з 22 кінцевими точками, які не потребували автентифікації... один із них написав пошукові запити користувача, і агент виявив, що JSON-ключі (це імена полів) були інкатеновані в SQL і вразливі до ін'єкції SQL.»

Повне читання тут: МакКісні йде ва-банк на Ліллі!