Anthropic сьогодні позначив «пропозиції роботи» між агентами як можливість обдурити агентів, щоб вони здійснили ширший експлойт для зловмисника (сценарій «пропозиції виходу» з паперу)
Такі сценарії немислимі за людськими мірками. Деякі з цих речей ніколи не зможеш переконати людського працівника. Через 5 років виглядатиме неймовірно, скільки людей почали кидати агентів у мережу, керувати гаманцями, майже не думаючи про те, що може піти не так.
52