短期の記憶は、いま話している一続きのやりとりです。指示、資料、これまでの応答。これは一度に扱える窓の中に置かれていて、やりとりが終われば消えます(A-02-1 トークンと文脈の窓)。
長期の記憶は、別に保管しておいて、必要なときに取り出すものです。放っておいて溜まるものではありません。残すと決めたものだけが残ります。
短期 ── いまのやりとり。窓の中。終われば消えます。速いかわりに、量に上限があります。
長期 ── 選んで保管したもの。必要なときだけ取り出します。量は増やせますが、探せる形にしておく必要があります。
この分け方は、エージェントを作る道具立ての側でも同じです(英語)。Google「Agent Development Kit ── Memory」↗
長いやりとりを続けると、前半が薄くなります。窓に入っていても、真ん中は参照が弱くなるためです。ですから当社は、大事な決めごとは短期に置きっぱなしにしません。その場で書き出して、長期の側へ移します。
「さっき言いましたよね」が通らないのは、意地悪ではなく作りの話です。
長いやりとりの途中で「先ほどの条件で」と書くと取り違えるのも、同じ理由です。当社は、途中で条件を箇条書きに直して貼り直しています。手間のようですが、やり直しが減ります。
ここでよく起きるのが、全部残す設計です。会話も報告も下書きも、ひとまず入れておく。すると量は増えますが、探したときに似たものが大量に返ってきます。古い決定と新しい決定が並んで出れば、AIはどちらかを引きます。
切り分けと入れ替えの考え方はA-03-1 資料の切り分けに書きました。記憶も同じで、足すだけの運用は精度を落とします。
1. 決めたこと ── 何を選び、何を選ばなかったか。理由を一行添えます。
2. 直した理由 ── 失敗と、その後どう変えたか。次に同じ手を打たないための材料です。
3. 例外 ── 「この取引先だけは別」。手引きに載らないのに効くものです。
逆に、その場の言い回しや途中の下書きは残しません。あとで参照されないものは、探す邪魔になります。
三つのどれにも当てはまらないものは、残しません。毎回その判断をするのは大変ですから、形をあらかじめ決めています。一件は数百字まで、決めたこと・理由・日付・出どころの四つを必ず入れる。形が決まっていると、残すかどうかも決まります。
当社は、動いた記録をそのまま記憶にはしていません。いったんエラーや結果を集め、そこから教訓の候補を抜き出してから入れています。実測では 3,521件 のうち 3,518件、99.9% を教訓として転換しました。
この形にしてある理由は、記録と記憶が別のものだからです。記録は起きたこと、記憶は次の判断に使える形にしたもの。同じではありません。
当社の記憶は 11,239件 で、全件が検索できる状態にあります。意味の近さで探せるように、一件ずつ 768次元 の形に直してから保管しています。仕組みはA-03-2 意味で探す検索と、語で探す検索に開きました。
件数が増えても困らないのは、一件が小さく、出どころが付いているからです。
残す話と同じだけ大事なのが、消す話です。個人に関わるもの、契約が終わったお客様のもの、期限のあるもの。いつ、誰が、どうやって消すかを先に決めておきます。決めていないと、消せないまま溜まります。
預けた資料がどこに残るのかという整理はA-03-3 渡した資料はどこへ行くのかにまとめました。
一体の作り方が見えたところで、次の章は分け方の話です。役割を分けると良くなる仕事と、悪くなる仕事があります。
章と記事の全体は図書館の見取り図で一枚にまとめています。