A McKinsey construiu um chatbot de IA (Lilli) treinado com 100 anos de trabalho, 100 mil documentos e entrevistas. 70% dos 45 mil funcionários usam a ferramenta, gerando 500 mil prompts por mês. Uma empresa de pesquisa invadiu o banco com "acesso completo de leitura e escrita ao banco de dados de produção", incluindo "47 milhões de mensagens de chat sobre estratégia, fusões e aquisições, engajamento com clientes, tudo em texto simples, junto com 728k contendo dados confidenciais de clientes, 57 mil contas de usuário e 95 prompts do sistema controlando o comportamento da IA." Mcksinsey disse que corrigiu a vulnerabilidade, o que foi possível graças à "documentação da API exposta publicamente, incluindo 22 endpoints que não exigiam autenticação... um deles escreveu consultas de busca do usuário, e o agente descobriu que as chaves JSON (esses são os nomes dos campos) estavam concatenadas em SQL e vulneráveis à injeção de SQL."

Leia tudo aqui: McKisney apostando tudo na Lilli!