🚨 BREAKING: дослідники посадили одного недобросовісного актора в групу агентів LLM. Вся мережа не змогла досягти консенсусу. це проблема візантійських генералів. 40-річний кошмар розподілених систем. І тепер це проблема вашого Agent Pipeline. у повністю безпечних умовах, без жодних недобросовісних учасників, агенти LLM все одно не збігаються до спільних цінностей. І ситуація погіршується, коли ви додаєте більше агентів до групи. Режим невдачі показує. Це не прихована корупція цінності. Це не один агент, який дає неправильну відповідь. Моделі просто... затягувати. Вони роблять тайм-аут. Вони ходять по колу. Розмова так і не закінчується згодою. це важливо, бо весь цей ажіотаж навколо мультиагентного ШІ припускає, що координація працює. автономні рої агентів, спільне вирішення проблем, децентралізовані системи штучного інтелекту. усе це передбачає, що якщо ви розмістите кілька LLM у кімнаті і дасте їм протокол, вони зійдуться до спільного рішення. Візантійський консенсус — одна з найдавніших і найчастіше досліджених проблем у розподілених системах. Класичні алгоритми розв'язали це десятиліття тому за допомогою суворих математичних гарантій. питання полягало в тому, чи можуть агенти LLM досягти того ж за допомогою зв'язку природною мовою замість формальних протоколів. Відповідь, принаймні поки що, — ні. І причина варта того, щоб почекати. Традиційні алгоритми консенсусу працюють, оскільки кожен вузол слідує ідентичному детермінованому протоколу. LLM є стохастичними. Один і той самий запит дає різні результати між пробігами. Угода, що діє в третьому раунді, може розпатися в четвертому, оскільки агенти переглядають свої аргументи після перегляду відповідей колег. Ось у чому фундаментальна невідповідність: протоколи консенсусу припускають детерміновані автомати станів. LLM — це повна протилежність цьому. Це також означає, що «більше агентів = кращі відповіді» має межу, яку ніхто не виміряє. У певному розмірі групи накладні витрати на координацію та збої переважають будь-яку користь від різних точок зору. Практичне значення є незручним для тих, хто створює багатоагентні системи для завдань з високими ставками. Надійна угода — це не виникаюча властивість, коли розумні агенти ведуть розмову. Її потрібно створювати явно, з формальними гарантіями, а не сподіватися на існування. Ми впроваджуємо багатоагентні системи у фінансах, охороні здоров'я, автономній інфраструктурі. І проблема консенсусу, найпростіший примітив координації, ще не вирішена.