🚨 NOVINKA: vědci zasadili jednoho špatného aktéra do skupiny agentů LLM. Celá síť nedosáhla konsenzu. to je problém byzantských generálů. Čtyřicet let stará noční můra distribuovaných systémů. A teď je to i problém vašeho agenta. v plně neškodných prostředích, bez zlých aktérů, se agenti LLM stále nedokážou sjednotit ke sdíleným hodnotám. A čím víc přidáváte agenty, je to ještě horší. Způsob selhání je výmluvný. Není to jemná korupce hodnot. Není to jeden agent, který tajně vkládá špatnou odpověď. Modelky prostě... zdržovat. Vyprší čas. Chodí v kruhu. Rozhovor nikdy neskončí na souhlasu. to je důležité, protože celá multiagentní AI humbuk předpokládá, že koordinace funguje. autonomní agentní roje, spolupracující řešení problémů, decentralizované AI systémy. vše předpokládá, že pokud dáte více LLM do místnosti a dáte jim protokol, dospějí ke společnému rozhodnutí. Byzantský konsensus je jedním z nejstarších a nejvíce studovaných problémů v distribuovaných systémech. Klasické algoritmy to vyřešily před desítkami let s přísnými matematickými zárukami. otázkou bylo, zda agenti LLM dokážou dosáhnout totéž prostřednictvím komunikace v přirozeném jazyce místo formálních protokolů. Odpověď, alespoň prozatím, je ne. A důvod stojí za to si s tím sedět. Tradiční konsenzuální algoritmy fungují, protože každý uzel následuje identický deterministický protokol. LLM jsou stochastické. stejný prompt vytváří různé výstupy napříč běhy. Dohoda, která platí ve 3. kole, se může rozpadnout ve 4. kole, protože agenti po přečtení odpovědí vrstevníků přehodnotí své uvažování. To je základní nesoulad: konsenzuální protokoly předpokládají deterministické stavové automaty. LLM jsou pravý opak. Také to znamená, že "více agentů = lepší odpovědi" má strop, který nikdo neměří. Při určité velikosti skupiny převažují koordinační režie a selhání konvergence nad jakýmkoli přínosem z různých perspektiv. Praktické důsledky jsou nepříjemné pro každého, kdo buduje multiagentní systémy pro úkoly s vysokými sázkami. Spolehlivá dohoda není jen tím, že by chytří agenti začali komunikovat. musí být explicitně navržena, s formálními zárukami, ne doufat, že bude existovat. Zavádíme multiagentní systémy do financí, zdravotnictví, autonomní infrastruktury. A problém konsenzu, nejzákladnější koordinační primitiv, ještě není vyřešen.