🚨 BREAKING: forskere plantet en enkelt dårlig aktør i en gruppe LLM-agenter. hele nettverket klarte ikke å oppnå enighet. dette er problemet med bysantinske generaler. Et 40 år gammelt mareritt for distribuerte systemer. Og nå er det også agent-pipelinens problem. i helt harmløse settinger, uten noen ondskapsfulle aktører, klarer LLM-agenter fortsatt ikke å konvergere om felles verdier. Og det blir verre jo flere agenter du legger til i gruppen. feilmodusen er avslørende. Det er ikke subtil verdikorrupsjon. Det er ikke én agent som sniker inn et feil svar. modellene bare... Utsett. De går på pause. De går i sirkler. samtalen ender aldri med enighet. dette er viktig fordi hele multi-agent AI-hypen forutsetter at koordinering fungerer. autonome agentsvermer, samarbeidende problemløsning, desentraliserte AI-systemer. alt dette forutsetter at hvis du setter flere LLM-er i et rom og gir dem en protokoll, vil de konvergere om en felles beslutning. Bysantinsk konsensus er et av de eldste og mest studerte problemene i distribuerte systemer. Klassiske algoritmer løste det for flere tiår siden med strenge matematiske garantier. spørsmålet var om LLM-agenter kunne oppnå det samme gjennom naturlig språkkommunikasjon i stedet for formelle protokoller. Svaret, i hvert fall for nå, er nei. Og grunnen er verdt å tenke på. Tradisjonelle konsensusalgoritmer fungerer fordi hver node følger en identisk deterministisk protokoll. LLM-er er stokastiske. Den samme prompten gir ulike utganger på tvers av løp. En avtale som gjelder i runde 3 kan oppløses i runde 4 når agentene reviderer sin resonnement etter å ha sett jevnaldrendes svar. Dette er den grunnleggende mismatchen: konsensusprotokoller antar deterministiske tilstandsmaskiner. LLM-er er det motsatte av det. Det betyr også at «flere agenter = bedre svar» har et tak ingen måler. Ved en viss gruppestørrelse veier koordineringskostnader og konvergensfeil tyngre enn fordelen fra ulike perspektiver. Den praktiske implikasjonen er ubehagelig for alle som bygger fleragentsystemer for oppgaver med høye innsatser. Pålitelig avtale er ikke en ny egenskap ved å sette smarte agenter i samtale. Den må konstrueres eksplisitt, med formelle garantier, ikke håpes til å eksistere. Vi implementerer systemer med flere agenter innen finans, helsevesen og autonom infrastruktur. Og konsensusproblemet, den mest grunnleggende koordinasjonsprimitive, er ennå ikke løst.