McKinsey construyó un chatbot de IA (Lilli) entrenado con 100 años de trabajo: 100.000 documentos y entrevistas. El 70% de los 45.000 empleados usan la herramienta, haciendo 500.000 prompts al mes. Una firma de investigación lo hackeó con "acceso completo de lectura y escritura a la base de datos de producción" que incluía "47 millones de mensajes de chat sobre estrategia, fusiones y adquisiciones, compromiso con clientes, todo en texto plano junto con 728k que contienen datos confidenciales de clientes, 57k cuentas de usuario y 95 indicaciones del sistema que controlan el comportamiento de la IA." Mcksinsey dijo que ha parcheado la vulnerabilidad, lo cual fue posible gracias a "documentación de la API públicamente expuesta, incluyendo 22 endpoints que no requerían autenticación... uno de ellos escribió consultas de búsqueda de usuario, y el agente descubrió que las claves JSON (estos son los nombres de los campos) estaban concatenadas en SQL y eran vulnerables a la inyección de SQL."

Lectura completa aquí: ¡McKisney apostando por completo a Lilli!