Anthropicは本日、エージェント間の「仕事のオファー」を、エージェントを騙して攻撃者により広範なエクスプロイトを可能にさせる機会(紙からの「脱出オファー」シナリオ)としてフラグを立てました

これらのシナリオは人間の基準では考えられません。これらのことの中には、人間の作業員に絶対に説得できないものもあります。 5年後には、エージェントをチェーンに投入し、財布を管理し、何が起こるかほとんど考慮せずに動かされた人がどれほど狂っているかが狂気じみているように見えるでしょう。