🚨 UUTINEN: tutkijat istuttivat yhden pahantahtoisen toimijan LLM-agenttien joukkoon. koko verkosto ei päässyt yksimielisyyteen. tämä on Bysantin kenraalien ongelma. 40 vuotta vanha hajautettujen järjestelmien painajainen. Ja nyt se on myös agenttisi ongelma. täysin harmittomissa ympäristöissä, joissa ei ole lainkaan haitallisia toimijoita, LLM-agentit eivät silti onnistu konvergoimaan yhteisiä arvoja. Ja tilanne pahenee, kun ryhmään tulee lisää agentteja. Vikatilanne paljastaa. Kyse ei ole hienovaraisesta arvokorruptiosta. Kyse ei ole yhdestä agentista, joka salaa antaa väärän vastauksen. mallit vain... viivyttelyä. He jäävät aikaväliin. He pyörivät ympyrää. Keskustelu ei koskaan pääty yhteisymmärrykseen. tällä on merkitystä, koska koko moniagenttien tekoälyhype olettaa koordinoinnin toimivan. autonomiset agenttiparvet, yhteistyöhön perustuva ongelmanratkaisu, hajautetut tekoälyjärjestelmät. kaikki olettaa, että jos laitat useita LLM:iä samaan huoneeseen ja annat niille protokollan, ne päätyvät yhteiseen päätökseen. Bysanttilainen konsensus on yksi vanhimmista ja eniten tutkituista hajautettujen järjestelmien ongelmista. Klassiset algoritmit ratkaisivat sen vuosikymmeniä sitten tiukoin matemaattisilla takuilla. kysymys oli, voisivatko LLM-agentit saavuttaa saman luonnollisen kielen viestinnän kautta virallisten protokollien sijaan. Vastaus, ainakin toistaiseksi, on ei. Ja syy on sen arvoinen. Perinteiset konsensusalgoritmit toimivat, koska jokainen solmu noudattaa identtistä determinististä protokollaa. LLM:t ovat stokastisia. Sama kehote tuottaa erilaisia tuloksia eri ajoissa. Kolmannella kierroksella voimassa oleva sopimus voi purkautua neljännellä kierroksella, kun agentit tarkistavat perustelunsa nähtyään vertaisvastaukset. Tämä on perustavanlaatuinen ristiriita: konsensusprotokollat olettavat deterministiset tilakoneet. LLM:t ovat päinvastaisia. Se tarkoittaa myös, että "enemmän agentteja = parempia vastauksia" on katto, jota kukaan ei mittaa. Jossain ryhmäkoossa koordinointikulut ja konvergenssivirheet ylittävät monipuolisten näkökulmien hyödyt. Käytännön seuraus on epämiellyttävä kenelle tahansa, joka rakentaa moniagenttijärjestelmiä korkean panoksen tehtäviin. Luotettava sopimus ei ole nouseva ominaisuus siitä, että älykkäät agentit ovat keskustelussa. Se täytyy suunnitella nimenomaisesti, muodollisilla takuilla, ei toivoa sen toteutuvan. Otamme käyttöön moniagenttijärjestelmiä rahoitukseen, terveydenhuoltoon ja autonomiseen infrastruktuuriin. Ja konsensusongelma, peruskoordinaation primitiivi, ei ole vielä ratkaistu.