本文へ移動
相談する

BLOG

AIの記憶は、チャットの外にも残る

新しい会話を開いても、以前AIが作ったメールや文書を読み込めば、過去の情報は戻ってきます。Microsoftの「暗黙の記憶」の研究から、情報が残る仕組みと、会話の区切りだけでは見えないセキュリティの境界を考えます。

深い葡萄色の宇宙で、離れた銀色と薄紫の星雲を細い霞がつなぐ、記憶の経路を思わせる生成アート

会話を閉じても、AIが書いた文章は残る。

AIにメールの下書きを作ってもらい、送信する。数週間後、その返信を別の会話でAIに要約してもらう。このときAIは新しい会話を始めていますが、入力には以前のAIが作った文章が含まれています。

別々の計算の間に文書が置かれ、その文書を通る細い経路が二つをつなぐ。
生成イメージ。情報を運ぶのは再利用される文書であり、モデル内部に秘密の保存装置があることを表すものではありません。

画面上では会話が分かれていても、文章を介したつながりは残ります。情報を保持する場所は、チャット履歴だけではありません。メール、共有文書、コードなども、その役割を担います。

Microsoftが研究する「暗黙の記憶」とは。

Microsoftの研究者は、モデルが自分の出力に情報を埋め込み、それを後で読み直して引き継ぐ仕組みを「暗黙の記憶」と呼んでいます。論文は2026年2月に公開され、9月にはMicrosoftのセキュリティ部門が仕組みとリスクを解説しました。

ここでいう記憶には、過去の出力が再び入力される経路が必要です。何も渡していないのに会話が復活することや、別の利用者の履歴を自由に読めることを示した研究ではありません。通常の推論中に、モデルの重みを書き換える必要もありません。

研究者による仕組みの解説を読む

文章そのものを、情報の運び手にする。

研究では、画面に見えない文字などを出力に含め、次の入力から状態を取り出します。人には同じ文章に見えても、モデルが受け取る文字列には違いを作れるからです。

OUTPUT / ARTIFACT / REINGESTION

会話は分かれても、文書がつなぐ。

  1. 01 / 会話A

    AIが文章を作る

    研究の実験では、出力に状態を表す情報を含める。

  2. 02 / 会話の外

    メールや文書に残る

    情報の運び手は、保存・共有された文章。

  3. 03 / 会話B

    その文章を読み込む

    要約や検索を通して、過去の出力が再び入力になる。

  4. 04 / 引き継ぎ

    含まれた状態を取り出す

    再入力の経路があって初めて、やり取りをまたぐ情報の受け渡しが成立する。

新しい会話を開くだけで、過去を思い出す?

この研究では、過去の出力が入力へ戻る必要があります。何も戻していない会話から記憶が自然に復活したという実験ではありません。製品が持つ履歴・メモリ機能の扱いは、その製品の別の仕組みです。

SaTML論文の定義を基に作成。

さらに、言い回しや文章の並び方で情報を表す可能性も論じています。ただし、見えない文字の実験と、言語表現を使う難しい方式を、同じ確実さで実現済みと考えるべきではありません。途中の変換やモデルの能力で、引き継げる情報は変わります。

論文の定義と検証条件を読む

危険なのは、何回かのやり取りで条件がそろう場合。

著者らは、複数のやり取りで条件が蓄積したときだけ不適切な誘導を始める「時限爆弾型」のバックドアを実験しています。バックドアとは、普段は通常どおりに見えて、特定の条件で別の動作をする仕掛けです。

この実験では、攻撃者がシステム側の指示を制御する、またはモデルを追加学習させる条件を置いています。普通に使うすべてのAIが自然にこの動作を獲得している、という結果ではありません。

それでも検査の難しさは見えてきます。最初の質問だけ、最後の質問だけを調べても、途中で運ばれた状態はわかりません。毎回の応答を個別に採点する評価では、複数回を通じて生じる問題を取り逃がし得ます。

著者が公開した実験コードを見る

履歴の削除と、情報の回収は別の作業になる。

この研究から考えられるのは、会話単位の整理に加え、文章の行き先を追う必要があるということです。会話を削除しても、すでに送ったメールや共有した文書まで同時に消えるとは限りません。特定のチャット製品の削除機能を検証した結果ではなく、情報のコピーがあるシステム全般に関わる問題です。

  • 保存先:出力がメール、文書、検索用の保管場所のどこに残るか。
  • 再利用:どの仕事で、誰の権限を使って読み込まれるか。
  • 実行権限:文章に書かれた要求だけで、送信や設定変更まで許されないか。

AIが文書を作り、その文書を検索用の保管場所へ入れ、後で別のAIが読む。この便利な循環では、最初に誰が作った内容か、なぜ次の作業へ渡すのかが重要になります。生成された文章が、いつの間にか次のAIへの正当な指示として扱われれば、影響が広がるためです。

「忘れさせる」を、画面の操作だけで判断しない。

個人で使う場合も、機密情報を入れた会話の扱いに加え、その出力をどこへ貼り付けたかを意識する価値があります。業務システムでは、再利用する文書の出所と、読み取れるデータ、実行できる操作を別々に管理する必要があります。

見えない文字を取り除く対策は一部の経路には役立ちます。しかし、それだけで文章の意味や言い回しに乗った影響まで消せるとは限りません。対策の中心は、内容の検査とともに、情報が巡る範囲と操作の権限を制限することになります。

まとめ

AIの記憶を考えるときは、会話の外に残った文章と、その文章を再び読み込む経路まで見る必要があります。