نحتاج إلى إصلاح البنية، سياق النافذة المتحركة ليس ذاكرة 🧵 وكيل
سياق نافذة 1/النافذة المتحركة ليس ذاكرة وكيل. معظم الأشخاص الذين يبنون باستخدام وكلاء الذكاء الاصطناعي لا يعرفون الفرق. وهذا يكسر منتجاتهم.
نافذة متحركة هي فقط ما يمكن للنموذج الكبير أن يراه الآن. (مؤقت. بلا جنسية. أعمى خارج النافذة.) إنها المحادثة النشطة (الرموز تدخل، الرموز خارجة). بمجرد أن يتجاوز شيء ما الحد، يختفي. تماما. النموذج لا يعرف أنه كان موجودا أصلا.
ذاكرة الوكيل 3/شيء مختلف تماما. (هذا هو الفرق بين الذاكرة العشوائية والقرص الصلب.) إنه تخزين صريح (حقائق، تفضيلات، تفاعلات سابقة) يعيش خارج النموذج. يمكن الاستعلام عنه، تحديثه، حذفه. ينجو من نهاية الجلسات.
4/بدون ذاكرة حقيقية، الوكلاء لا يتعلمون فعليا من المحادثات السابقة. (إنها مجرد هلوسة واثقة جدا.) ما يفعلونه بدلا من ذلك هو التخمين. هم يتطابقون النمط داخل النافذة الحالية ويزيفون الاستمرارية. يبدو متماسكا. ليس كذلك.
5/الخلط بين الاثنين هو المكان الذي تسوء فيه الأمور بصمت. تفترض أن وكيلك يعرف تفضيلات المستخدم. لا يفعل ذلك (هذا مجرد سياق تم تمريره قبل جلستين). يبدو أنه يتذكر. كان الأمر مجرد العمل مع ما أمامها.
وكيلك ليس معطلا. لم يكن لديه ذاكرة أصلا.
‏‎33‏