AIの記憶はどこに保存されるのか メモリ、会話履歴、RAG、ログの違い

この記事の要点

• LLM本体は、毎回すべての会話をそのまま永続記憶するわけではない。
• 会話履歴、保存メモリ、RAG、ログ、ストレージは役割が違う。
• 企業では、何を覚えさせるかより、どこに保存し、誰が読めるかが重要になる。

AIが覚えているように見える理由

ChatGPTなどのAIを使っていると、過去の会話や文脈を覚えているように感じることがあります。ここで注意したいのは、AIの記憶が一つの場所にまとまっているわけではないことです。

LLM本体、会話履歴、保存メモリ、RAG、ベクトルDB、監査ログ、ファイルストレージは、それぞれ役割が違います。どれもAIの体験には関わりますが、保存場所、権限、用途、消せるかどうかは異なります。

企業ITでは、「AIに学習させる」と「AIが検索して読む」を分ける必要があります。社内文書をRAGで検索対象にすることは、モデルそのものを再学習することとは別の話です。

会話履歴、メモリ、RAG、ログを分ける

会話履歴は、ユーザーが過去のやり取りを見返すため、または同じセッション内の文脈として使うために保存される情報です。保存メモリは、ユーザーの好みや継続的な情報を次回以降の応答に使うための機能として提供されることがあります。

RAGは、社内文書やFAQ、PDF、データベースなどを検索し、必要な部分をAIの回答に使う仕組みです。モデルがその情報を永続的に学習するのではなく、外側の検索基盤から読み出すイメージに近い。

ログは、利用状況、プロンプト、回答、操作、参照文書などを監査や品質改善のために残すものです。ファイルストレージは、元文書や録音、画像、文字起こしテキストを保管します。これらを混同すると、何を消せばよいのか、誰が読めるのか、どこにリスクがあるのか分からなくなります。

企業では、保存場所と閲覧権限が重要になる

企業でAIを使うとき、重要なのは何を覚えさせるかだけではありません。どこに保存するか、誰が読めるか、どれくらい残すか、消せるか、監査できるかです。

社内文書検索では、文書そのもの、抽出テキスト、検索インデックス、ベクトルDB、回答ログが別々に存在します。通話録音では、音声ファイル、文字起こし、要約、分類結果が増えます。AI活用が進むほど、ストレージ、ログ基盤、権限管理の重要性が上がります。

AIの記憶需要がSSDとNANDを押し上げるで扱うように、AIは外側の記憶装置を必要とします。モデルだけでは、企業の業務記憶を管理できません。

AIの記憶を分けると、社内データ活用が進めやすくなる

AIの記憶を一枚岩で捉えると、何でも危険に見えるか、逆に何でもAIが自動的に覚えてくれるように見えます。どちらも実務には向きません。

会話履歴、保存メモリ、RAG、ログ、ファイルストレージを分けて考えると、社内データをどこで使い、どこに保存し、誰が確認するかを設計できます。AIの記憶は、モデルの中だけではなく、企業のインフラ全体に広がる論点です。

次に読む記事

RAGは本当に必要か AIによる高速並列キーワード検索という別解

AIの記憶を検索へ使うとき、RAGだけに寄せない実務の入口を確認します。

未整理の資料こそAIに読ませる、社内情報を業務資産に変える考え方

AIが読む資料の形式より、誰が読める情報かが問題になる理由を確認します。

AIの記憶需要がSSDとNANDを押し上げる キオクシアとメモリを企業ITから見る

会話履歴やログが増えるほど、SSDやNAND需要につながる構造を見ます。