🚨 SON VERİCİ: Araştırmacılar bir grup LLM ajanının içine tek bir kötü niyet yerleştirdi. tüm ağ uzlaşmaya ulaşamadı. bu Bizans Generalleri Sorunu. 40 yıllık dağıtık sistemler kabusu. Ve artık bu sizin temsilcinizin de sorunu. tamamen zararsız ortamlarda, hiç kötü niyetli aktör olmadan, LLM ajanları ortak değerler üzerinde birleşemez. Ve gruba daha fazla ajan ekledikçe durum daha da kötüleşiyor. Arıza modu açıklayıcı. Bu ince değer yozlaşması değil. Yanlış cevap veren bir ajanın gizlice gelmesi değil. modeller sadece... Beklemek. Mola bitti. Daireler çiziyorlar. Konuşma asla kabul edilmiyor. bu önemli çünkü tüm çoklu ajanlı yapay zeka abartısı koordinasyonun işe yaradığını varsayıyor. otonom ajan sürüleri, işbirlikçi problem çözme, merkeziyetsiz yapay zeka sistemleri. hepsi birden fazla LLM'yi bir odaya koyup onlara bir protokol verirseniz, ortak bir karar üzerinde birleşeceklerini varsayıyor. Bizans konsensüsü, dağıtık sistemlerde en eski ve en çok incelenen sorunlardan biridir. Klasik algoritmalar onlarca yıl önce katı matematiksel garantilerle çözmüştür. soru, LLM ajanlarının resmi protokoller yerine doğal dil iletişimiyle aynı şeyi başarıp başaramayacağıydı. Cevap, en azından şimdilik, hayır. Ve bunun nedeni oturmaya değer. Geleneksel konsensüs algoritmaları çalışır çünkü her düğüm aynı deterministik protokolü takip eder. LLM'ler stokastiktir. Aynı prompt, çalışmalar boyunca farklı çıktılar üretir. 3. turda geçerli olan bir anlaşma, ajanların akran yanıtlarını gördükten sonra gerekçelerini gözden geçirmesiyle 4. turda da sona erebilir. İşte temel uyumsuzluk şudur: Uzlaşma protokolleri deterministik durum makinelerini varsayır. LLM'ler bunun tam tersidir. Ayrıca "daha fazla ajan = daha iyi cevaplar" seçeneğinin kimsenin ölçemediği bir tavanı olduğu anlamına gelir. Bazı grup büyüklüklerinde, koordinasyon ve yakınsama hataları, farklı bakış açılarından alınan faydalardan daha ağır basar. Pratikte bu durum, yüksek riskli görevler için çoklu ajan sistemleri inşa eden herkes için rahatsız edicidir. Güvenilir anlaşma, akıllı temsilcileri sohbete sokmanın acil bir özelliği değildir. Açıkça tasarlanmalı, resmi garantilerle yapılmalı, var olacağı umulmamalıdır. Finans, sağlık ve otonom altyapıya çoklu ajan sistemleri entegre ediyoruz. Ve en temel koordinasyon ilkel olan uzlaşma problemi henüz çözülmemiş.