🚨 التفصيل: زرع الباحثون فاعل خبيث واحد داخل مجموعة من عوامل نماذج اللغة الكبيرة. فشلت الشبكة بأكملها في التوصل إلى توافق. هذه هي مشكلة الجنرالات البيزنطيين. كابوس أنظمة موزعة عمره 40 عاما. والآن أصبحت مشكلة خط أنابيب الوكيل أيضا. في البيئات الحميدة تماما، مع عدم وجود أي جهات سيئة، لا يزال وكلاء نماذج اللغة الكبيرة يفشل في التقارب على قيم مشتركة. ويزداد الأمر سوءا كلما أضفت المزيد من العملاء إلى المجموعة. وضع الفشل كاشف. ليس فساد قيمة خفي. ليس عميلا واحدا يتسلل بإجابة خاطئة. العارضات فقط... تماطل. ينتهي الوقت. يدورون في دوائر. لم تصل المحادثة أبدا إلى اتفاق. وهذا مهم لأن كل الضجة حول الذكاء الاصطناعي متعدد الوكلاء تفترض أن التنسيق فعال. أسراب الوكلاء المستقلين، حل المشكلات التعاوني، أنظمة الذكاء الاصطناعي اللامركزية. كل ذلك يفترض أنه إذا وضعت عدة نماذج لغوية في غرفة وأعطيتهم بروتوكولا، فسوف يتجمعون في قرار مشترك. الإجماع البيزنطي هو أحد أقدم وأكثر المشكلات دراسة في الأنظمة الموزعة. الخوارزميات الكلاسيكية حلت ذلك منذ عقود مع ضمانات رياضية صارمة. كان السؤال هو ما إذا كان بإمكان وكلاء LLM تحقيق الشيء نفسه من خلال التواصل باللغة الطبيعية بدلا من البروتوكولات الرسمية. الإجابة، على الأقل في الوقت الحالي، هي لا. والسبب يستحق الجلوس معه. تعمل خوارزميات الإجماع التقليدية لأن كل عقدة تتبع بروتوكولا حتميا متطابقا. نماذج اللغة الكبيرة عشوائية. نفس التوجيه ينتج مخرجات مختلفة عبر التشغيل. الاتفاق الذي يثبت في الجولة الثالثة يمكن أن ينهار في الجولة الرابعة عندما يقوم الوكلاء بمراجعة أسبابهم بعد رؤية ردود الأقران. هذا هو التفاوت الجوهري: بروتوكولات الإجماع تفترض آلات حالة حتمية. نماذج اللغة الكبيرة عكس ذلك تماما. كما يعني أن "المزيد من الوكلاء = إجابات أفضل" له سقف لا يقيس أحد. في بعض حجم المجموعة، تفوق إخفاقات التنسيق وفشل التقارب أي فائدة من وجهات نظر متنوعة. التبعات العملية غير مريحة لأي شخص يبني أنظمة متعددة الوكلاء لمهام عالية المخاطر. الاتفاق الموثوق ليس خاصية ناشئة في وضع وكلاء أذكياء في الحوار. يجب أن يتم هندستها بشكل صريح، مع ضمانات رسمية، لا أن تأمل في وجودها. نحن ننشر أنظمة متعددة الوكلاء في مجالات المالية، والرعاية الصحية، والبنية التحتية المستقلة. ومشكلة الإجماع، وهي أبسط مشكلة تنسيق، لم تحل بعد.