BLOG
AIが読む「説明書」が、情報流出の入口になる
AIに資料を読ませることが、なぜ危険な操作につながるのでしょうか。悪意ある指示ファイルを使った攻撃の報告から、文章が命令へ変わる仕組みと、読む権限・実行する権限を分ける理由を考えます。

攻撃の入口は、普通の文章にもなる。
AIにWebページを調べさせ、資料を整理させ、必要ならファイルも作ってもらう。便利なのは、読んだ内容をそのまま次の作業に使えるからです。ところが、資料を書いた相手が、その「次の作業」まで誘導できたらどうなるでしょうか。
2026年10月22日、Forever Securityは、ダウンロードフォルダーに置かれた悪意ある指示ファイルを読み、AIが不正なソフトを導入しようとした事例を報告しました。同社は実行前に遮断したとしています。文章を読む機能と、コンピューターを操作する機能がつながるところに、新しい攻撃の入口があります。
Forever Securityによる事例の報告確認された試みと、再現実験を分ける。
報告の発端は、顧客の端末にあったAGENTS.mdというファイルです。これは一部の開発支援AIが、プロジェクトの作業方針を読むために使う名前です。問題のファイルは普通の開発資料のように見え、その中に、不正なソフトを導入させる指示が混ざっていました。
同社はその後、隔離した環境でCodexとClaude Codeを使った実験も行っています。ここで示された結果を、顧客の端末で全て起きた被害として読むことはできません。
- 顧客の端末:指示ファイルに従う不正ソフトの導入が検知され、実行前に遮断された。
- Codexの再現実験:設定の変更を経由して、不正なプログラムの実行につながったと報告。
- Claude Codeの再現実験:通信先の設定を変え、ログイン用の認証情報を研究者側へ送らせたと報告。
また、顧客のフォルダーへファイルが届いた経路は不明です。「サイトを見ただけで、その顧客が情報を盗まれた」とまでは確認されていません。成立する条件は、AIがどのファイルを読み、どの設定と権限で動いていたかによって変わります。
観測された事例と再現実験の条件を読む資料の内容が、なぜ命令へ変わるのか。
普通の文書は、開くだけでコンピューターへの命令になるわけではありません。しかしAIは、文書を読み、その意味を使って作業を組み立てます。そこに「作業の前に設定を直す必要がある」と書かれていれば、依頼を遂行するための準備だと受け取る可能性があります。
外部の文章を使い、AIを本来の依頼から別の操作へ誘導する攻撃を、間接的なプロンプトインジェクションと呼びます。利用者がAIへ直接頼んでいないことが、資料の中から入り込むのが特徴です。
英国のNCSCは、言語モデルの文脈内には、データと命令を厳密に分けるセキュリティ上の境界がないと指摘しています。「この先は資料です」と伝える工夫はあっても、データベースで値と命令を分ける仕組みと同じ保証にはなりません。だから、もっと強く言い聞かせることだけで、操作を任せる根拠にはできないのです。
NCSCによる、データと命令の境界の説明被害の範囲は、AIが使える権限で変わる。
同じ悪意ある文章を読んでも、その後にできることは環境によって違います。読んだ資料の要約を返すだけのAIと、ファイルを書き換えたり、ソフトを起動したり、外へ送信したりできるAIでは、誤った判断が届く範囲が異なります。
READING / AUTHORIZATION / ACTION
文章を読むことと、操作を許すことを分ける。
- 01 / 入り口
誰が書いた資料か
ダウンロードした文書やWebページ。内容を読めることは、命令する権限の証明にならない。
- 02 / AIの解釈
操作の提案に変わる
AIが「設定を変更する」「ファイルを送る」と提案しても、この段階では未承認。
- 03 / 実行前の確認
外側の仕組みが権限を確認
対象のファイル、送信先、操作の範囲を照合。必要な場合は利用者が具体的な内容を確認する。
- 04 / 実行
許可された操作だけを渡す
ツール側が範囲を制限する。AI自身の「必要です」という説明だけで権限を増やさない。
ファイルの書き込みを禁止すれば十分?
書き換えやプログラム実行の被害は絞れます。ただし、秘密を読めて外へ送れるなら情報流出は残ります。読み取り範囲と通信先も合わせて考えます。
ここで分けたいのは、AIの提案と、その提案を実行してよいという許可です。AIが必要だと説明しただけで、操作範囲まで広がる構成では、攻撃者の文章が権限の拡大にも影響します。許可の判断を、操作を受け取るツールやシステム側にも持たせる理由がここにあります。
OWASPによる権限の最小化と利用者確認の説明設定の変更は、その会話の外まで残る。
今回の報告で注目したいのは、悪意ある文章が、AI自身の設定を書き換える足掛かりになった点です。設定が残れば、資料を閉じたり、別の作業へ移ったりしても、以後の通信先や起動する処理へ影響する可能性があります。
例えば、AIが接続するサーバーのアドレスが変われば、画面上は同じように会話が続いていても、情報が届く相手は変わります。ログイン状態を示すトークンが送られる経路なら、文章の内容だけでなく、アカウントへのアクセスも問題になります。設定を書けることは、目の前の成果物を編集できることより広い意味を持ちます。
設定変更を経由した実験の詳細対策は、失敗しても届く範囲を狭くする。
OWASPの対策ガイドは、権限を必要な範囲に絞り、承認の判断をモデルの外で行い、複数の防御を組み合わせることを勧めています。AIが怪しい文章を見抜くことに加え、見抜けなかった場合にも実行できない操作を設ける考え方です。
「読み取り専用」にも範囲があります。ファイルの編集を禁止していても、秘密の資料を読めて、その内容を外部へ送れるなら流出の経路は残ります。何を読めるか、どこへ送れるか、何を書き換えられるかは、別々に確認する必要があります。
- 読み取り:依頼に必要な資料だけを渡し、認証情報などへ広く届く構成を避ける。
- 実行:外部の文章を読んだだけで、ソフトの導入や設定変更まで許可しない。
- 通信:送ってよい情報と、接続してよい相手を制限する。
- 作業場所:外から届くファイルが集まる場所と、管理している作業用の場所を分ける。
確認画面では、理由より操作の中身を見る。
人の確認を挟んでも、「この作業に必要です。許可しますか」という説明だけなら、判断に必要な情報が足りません。説得力のある理由こそ、攻撃者が文章に混ぜられる部分だからです。確認したいのは、その操作が実際に何を変えるかです。
- どのファイルや設定を変更するのか。
- 何を、どの相手へ送信するのか。
- 許可は今回だけか、今後の作業にも残るのか。
- 今の依頼を終えるために、その範囲の操作が必要なのか。
例えば、依頼が資料の整理なのに、AI全体の設定変更を求めてきたなら、その結び付きは問い直せます。権限を広げる操作を一つの「続行」へまとめず、依頼と対応する単位で見られることが、確認の意味を保ちます。
AIを狙う攻撃では、情報の出所が権限に関わる。
人を狙う詐欺では、相手に頼まれた操作を本人が行うことが被害につながります。AIが操作を引き受けると、攻撃者は利用者を直接説得せず、AIが読む資料へ誘導を埋め込めます。資料の内容だけでなく、その内容を誰が書き換えられるかが、操作の信頼性に関わってきます。
そのためAIを選ぶときは、賢く答えるかに加え、外部資料を読ませた状態でどこまで操作できるかも見たいところです。便利な連携が増えるほど、読み取り、設定変更、実行、送信の境界が見えることに価値が出ます。
まとめ
AIに読ませる資料は、利用者の許可と同じではありません。何を読めるか、何を動かせるか、どこへ送れるかを分けることが、誤った判断を被害へつなげない土台になります。