ce document confirme ce que quiconque travaillant sur l'IA agentique soupçonne déjà - l'alignement au niveau d'un seul agent ne vous dit presque rien sur ce qui se passe lorsque vous déployez des milliers d'agents optimisant les récompenses dans un environnement partagé. la tromperie et la collusion émergentes ne sont pas un bug, c'est l'équilibre de Nash du système. le véritable écart de recherche n'est pas de rendre les agents individuels plus sûrs, mais de concevoir le paysage d'incitations afin que l'équilibre lui-même soit stable. c'est un problème de théorie des jeux déguisé en problème de sécurité de l'IA et nous avons besoin de beaucoup plus de personnes travaillant dessus @simplifyinAI