🚨 CẬP NHẬT: các nhà nghiên cứu đã cài một tác nhân xấu vào trong một nhóm các tác nhân LLM. toàn bộ mạng lưới đã không thể đạt được sự đồng thuận. đây là Vấn Đề Tướng Byzantine. một cơn ác mộng của hệ thống phân tán đã tồn tại 40 năm. và bây giờ, đó cũng là vấn đề của đường ống tác nhân của bạn. trong các thiết lập hoàn toàn vô hại, với không có tác nhân xấu nào, các tác nhân LLM vẫn không thể hội tụ vào các giá trị chung. và điều này trở nên tồi tệ hơn khi bạn thêm nhiều tác nhân vào nhóm. chế độ thất bại đang tiết lộ. không phải là sự tham nhũng giá trị tinh vi. không phải là một tác nhân lén lút đưa ra một câu trả lời sai. các mô hình chỉ... dừng lại. chúng hết thời gian. chúng đi vòng vòng. cuộc trò chuyện không bao giờ đạt được sự đồng thuận. điều này quan trọng vì toàn bộ sự phấn khích về AI đa tác nhân giả định rằng sự phối hợp hoạt động. bầy đàn tác nhân tự động, giải quyết vấn đề hợp tác, hệ thống AI phi tập trung. tất cả đều giả định rằng nếu bạn đặt nhiều LLM vào một phòng và cho chúng một giao thức, chúng sẽ hội tụ vào một quyết định chung. đồng thuận Byzantine là một trong những vấn đề lâu đời nhất, được nghiên cứu nhiều nhất trong các hệ thống phân tán. các thuật toán cổ điển đã giải quyết nó từ nhiều thập kỷ trước với các đảm bảo toán học nghiêm ngặt. câu hỏi là liệu các tác nhân LLM có thể đạt được điều tương tự thông qua giao tiếp ngôn ngữ tự nhiên thay vì các giao thức chính thức hay không. câu trả lời, ít nhất là bây giờ, là không. và lý do thì đáng để suy ngẫm. các thuật toán đồng thuận truyền thống hoạt động vì mỗi nút tuân theo một giao thức xác định giống hệt nhau. các LLM là ngẫu nhiên. cùng một lời nhắc tạo ra các đầu ra khác nhau qua các lần chạy. một sự đồng thuận giữ vững ở vòng 3 có thể tan rã ở vòng 4 khi các tác nhân điều chỉnh lý luận của họ sau khi thấy phản hồi từ đồng nghiệp. đây là sự không khớp cơ bản: các giao thức đồng thuận giả định các máy trạng thái xác định. các LLM thì ngược lại. điều này cũng có nghĩa là "nhiều tác nhân = câu trả lời tốt hơn" có một giới hạn mà không ai đang đo lường. ở một kích thước nhóm nào đó, chi phí phối hợp và thất bại trong hội tụ vượt quá bất kỳ lợi ích nào từ các quan điểm đa dạng. hệ quả thực tiễn là không thoải mái cho bất kỳ ai xây dựng các hệ thống đa tác nhân cho các nhiệm vụ có tính rủi ro cao. sự đồng thuận đáng tin cậy không phải là một thuộc tính phát sinh từ việc đặt các tác nhân thông minh vào cuộc trò chuyện. nó phải được thiết kế một cách rõ ràng, với các đảm bảo chính thức, không phải hy vọng vào sự tồn tại. chúng tôi đang triển khai các hệ thống đa tác nhân vào tài chính, chăm sóc sức khỏe, cơ sở hạ tầng tự động. và vấn đề đồng thuận, nguyên tắc phối hợp cơ bản nhất, vẫn chưa được giải quyết.