アーキテクチャを修正する必要があります。ロールウィンドウコンテキストはエージェントメモリ🧵ではありません

1/ローリングウィンドウコンテキストはエージェントメモリではありません。 AIエージェントを使って構築している多くの人はその違いを知りません。そしてそれが彼らの製品を壊しています。

2/ローリングウィンドウは、LLMが今のところ見ているものです。(一時的で無国籍。窓の外は盲目。) 重要なのは、積極的な会話(トークンを入れて、トークンを出す)です。一度制限を超えてスクロールすると、そのものは消えます。完全に。モデルは自分が存在したことを全く知らない。

3/エージェントの記憶はまったく別の話です。(これはRAMとハードドライブの違いです。) それは明示的な記憶(事実、好み、過去のやり取り)であり、モデルの外に存在しています。クエリ、更新、削除が可能です。セッション終了を経て生き残ります。

4/本当の記憶がなければ、エージェントは過去の会話から学ぶことはありません。(ただのとても自信満々な幻覚だ。) 彼らが代わりにするのは推測です。彼らは現在のウィンドウ内でパターンマッチを行い、連続性を偽っています。一貫性があるように見えます。そうではありません。

5/両者を混同するのは、静かに問題が起きるところです。 エージェントがユーザーの好みを知っていると仮定します。そうではありません(これは2セッション前にコンテキストをスクロールしただけです)。それは覚えているようだった。目の前のものをうまく扱うだけでした。

あなたのエージェントは壊れていません。そもそも記憶がなかったのです。