McKinsey hat einen KI-Chatbot (Lilli) entwickelt, der auf 100 Jahren seiner Arbeit, 100.000 Dokumenten und Interviews trainiert wurde. 70 % der 45.000 Mitarbeiter nutzen das Tool und generieren 500.000 Eingaben pro Monat. Ein Forschungsunternehmen hat sich Zugang dazu verschafft mit „vollständigem Lese- und Schreibzugriff auf die Produktionsdatenbank“, einschließlich „47 Millionen Chatnachrichten über Strategie, M&A, Kundenengagement, alles im Klartext, zusammen mit 728.000, die vertrauliche Kundendaten enthalten, 57.000 Benutzerkonten und 95 Systemaufforderungen, die das Verhalten der KI steuern.“ McKinsey sagte, dass die Schwachstelle behoben wurde, die durch „öffentlich zugängliche API-Dokumentation, einschließlich 22 Endpunkten, die keine Authentifizierung erforderten... einer dieser Endpunkte schrieb Benutzer-Suchanfragen, und der Agent stellte fest, dass die JSON-Schlüssel (das sind die Feldnamen) in SQL verkettet waren und anfällig für SQL-Injection waren.“

Vollständigen Artikel hier lesen: Mckisney setzt alles auf Lilli!