we moeten de architectuur verbeteren, de rolling window context is geen agent geheugen 🧵

1/rollende venstercontext is geen agentgeheugen. de meeste mensen die bouwen met AI-agenten weten het verschil niet. en het breekt hun producten.

Een rolling window is precies wat de LLM op dit moment kan zien. (tijdelijk. stateless. blind buiten het venster.) het is het actieve gesprek (tokens in, tokens uit). zodra iets voorbij de limiet scrollt, is het weg. volledig. het model heeft geen idee dat het ooit heeft bestaan.

3/agent geheugen is iets heel anders. (het is het verschil tussen RAM en een harde schijf.) het is expliciete opslag (feiten, voorkeuren, eerdere interacties) die buiten het model leeft. het kan worden opgevraagd, bijgewerkt, verwijderd. het overleeft het beëindigen van sessies.

4/zonder echt geheugen leren agenten niet daadwerkelijk van eerdere gesprekken. (het is gewoon een zeer zelfverzekerde hallucinatie.) wat ze in plaats daarvan doen is raden. ze matchen patronen binnen het huidige venster en faken continuïteit. het lijkt samenhangend. dat is het niet.

5/het samenvoegen van de twee is waar dingen stilletjes verkeerd gaan. je gaat ervan uit dat je agent de voorkeuren van de gebruiker kent. dat doet het niet (dat is gewoon context die twee sessies geleden is weggescrolld). het leek alsof het zich herinnerde. het werkte gewoon met wat er voor hem lag.

je agent is niet kapot. hij had gewoon nooit geheugen om mee te beginnen.