本文へ移動
相談する

BLOG

Notion AIの会話はどこで流出したのか。Fireworksの被害と委託先管理

Notionは、委託先Fireworksの事故で一部のAI会話記録が影響を受けたと公表しました。焦点は、通常の推論とは別に用意された分析用データセットです。名前を外した会話にも秘密は残ります。「学習しない」「保持しない」という契約を、どの処理まで確かめるべきでしょうか。

Notionが公開するNotion AIの公式イラスト。複数の仕事を助ける人物とアイコン。

AIの画面に入力した言葉は、別の会社でも処理される

AIサービスの画面に会社の名前が一つだけ表示されていても、その裏側では別の会社の計算基盤が使われることがあります。Notionは、委託先のFireworks AIで起きたセキュリティ事故により、1%未満のNotionワークスペースに影響があると公表しました。対象は利用者の人数の割合ではなく、ワークスペースの割合です。

利用者の会話から、通常の推論と、Insights用の分析データセットへの用途を分ける。今回の対象データセットでは、所属ラベルを除いても会話本文が残る。
NotionとFireworksが公表した用途・影響範囲を整理。両社の非公開ネットワーク構成や、侵入者の移動経路を再現したものではありません。冒頭はNotion公式イラストです。 冒頭イラストの出典:Notion

影響したのは、AIの利用状況を把握するInsights機能に使われた会話記録です。Notionは対象の顧客へ連絡し、Insightsを無効にし、Fireworks経由のオープンウェイトモデルの提供を停止しました。本稿は11月13日に確認できた公表情報をもとに、通常の推論と分析用データの経路を分けて整理します。

Notionによる事故の報告と更新

今回のデータセットと、通常の推論は処理が違う

推論とは、入力をモデルへ渡して答えを作る処理です。NotionはFireworksを、モデルを動かす委託先として使うほか、AIの使われ方を分類するInsightsにも利用していました。今回影響が確認された会話記録は、後者のデータセットに含まれていました。

Fireworksは調査時点で、既定がゼロデータ保持のInference、Training SDK、Nexusへの影響は検出していないと説明しています。一方で、特定顧客のデータセットや一部の未完成モデルなどへのアクセスを公表しています。保存しない推論の設定と、別用途で置いた分析・学習用データは、確認する範囲が異なります。

Fireworksの更新報告と影響したデータの区分

10月の侵害から、11月の会話記録確認まで

Fireworks側の調査結果と、Notion側への通知・停止・対象データ確認には時差があります。以下は、両社が公表する日付をそのまま並べたものです。時刻やタイムゾーンが明記されない項目を日本時間の一日に換算せず、新しいものを上にしています。

OCT — NOV 2026 / DISCLOSED DATES

侵害・通知・対象確認・認証情報への対応

  1. 他社のAPIキー発行元へ報告

    影響した本文で見つかった鍵について報告。Notionが13日の更新で説明。

  2. Notion APIキーを無効化

    対象メッセージに含まれたNotionの鍵へ対応。

  3. Notionが対象顧客へ連絡

    確認された影響に基づく通知を開始。

  4. 対象データセットを確認

    Fireworksの提供データを調べ、Insightsに使った会話記録を確認。

  5. 顧客データへの影響の可能性を通知

    FireworksからNotionへ追加連絡。Notionが再調査。

  6. NotionがFireworksとの接続を停止

    同社システム上のデータを削除し、両社間の通信を停止。

  7. 最初の通知は合成テストデータ

    この時点では顧客データを含まないとの説明だった。

  8. Fireworks開発機へ不正なアクセス

    第三者が不正な処理を実行し、追加の顧客データに影響。同日に検知・対応。

  9. Fireworksの外部クラウド提供者で事故

    研究開発用マシンのホスティング先で起きた事故と、後の影響をFireworksが説明。

  10. Fireworksが先行する事故を公表

    初期に把握していた秘密情報へのアクセスから、後に影響範囲が拡大。

各社が公表した日付。時刻・タイムゾーン不明の項目を日本時間へ補正していません。侵害側の経緯はFireworksの更新報告、通知と対応はNotionの報告に基づきます。 公表記録

初期には顧客データが含まれないと説明され、その後の調査で会話記録を含む対象データが判明しました。事故対応では、最初の通知だけで範囲を固定せず、追加の通知と対象データの更新を追う必要があります。

Notion側の通知・確認・対応の記録

名前を外しても、会話の中身に秘密が残る

Notionによると、影響を受けた大半のワークスペースでは、会話に作成者やワークスペースのラベルがなく、ツール呼び出しの結果も含まれていませんでした。本文以外に利用者や会社へ結びつける情報がないという説明です。会話の本文自体に会社名や機密情報が書かれていれば、その内容までは消えません。

11月11日には、影響したメッセージ内で見つかったNotion APIキーを無効化したと更新しています。13日の更新では、12日に他社のAPIキーの発行元へ報告したと説明しました。チャットの入力文が、そのまま外部システムへ入るための鍵を含んでいたことが、対応上の重要な点です。

Notionの11月11日・13日の更新

対象者は、通知されたデータを確認し、鍵を失効させる

Notionは、通知されたワークスペースの管理者が、影響したデータをサービス内で安全に確認できるよう案内しています。まず自社の対象範囲と本文を確認し、含まれていたパスワードやAPIキーなどを洗い出します。公式案内では、通知がないワークスペースは現時点で影響対象と特定されておらず、直ちに対応する必要はないとしています。調査は継続中です。

ここからは企業の対応案です。含まれた認証情報は発行元で失効し、新しいものへ交換します。設定ファイルを書き換えるだけでなく、古い鍵での要求が拒否されることを確かめ、アクセス履歴・権限変更・利用料金を調べます。鍵を交換すると停止する連携もあるため、接続先の更新と動作確認まで管理します。

認証情報の作成・交換・失効を扱うOWASPの指針

契約の「学習しない」「保持しない」を処理ごとに確かめる

モデルの学習に使わないこと、推論後に保持しないこと、分析用データを作らないことは、それぞれ別の条件です。Notionの一般的な説明でも、モデルの提供者と推論基盤の提供者を分け、現在の委託先はSubprocessorの一覧で確認するよう案内しています。会社として確認したいのは、サービス名だけでなく、どの処理へ何を渡すかです。

導入審査では、通常の応答、利用状況分析、評価・追加学習、ログ・バックアップを分け、保存場所・保持期間・閲覧できる役割・削除手順を書き出します。今回の原因として未公表の設定を推測するのではなく、自社の契約と実装が、この用途の違いを説明できるかを確認します。

現在の一般案内では、Enterpriseの多くのモデルはゼロデータ保持に対応し、例外は管理者の有効化が必要です。Free・Plus・Businessでは、AI提供者が最大30日保持すると説明されています。これは現在の一般的な利用条件で、今回の分析用データセットの保存期間が30日だったという説明ではありません。

Notion AIのデータ処理と委託先に関する説明

自社のAIでは、分析経路へ秘密を渡さない構成にする

対策案として、分析に必要な情報が機能別の件数や失敗率なら、会話本文を転送せず、必要な集計値だけを送る設計を検討できます。本文が必要な評価では、対象を限定し、認証情報の除去、短い保持期間、用途ごとの保存先と権限分離を組み合わせます。自動検出には見逃しがあるため、削除処理だけで安全が保証されたとは扱いません。

検証には架空のテスト用秘密を入力し、推論ゲートウェイ・分析用ストレージ・ログのどこへ残るかを追います。事故を想定して、そのデータを特定・削除し、委託先を切り離し、古い認証情報を無効化できるかも試します。AIの回答品質に加えて、入力した情報の行き先を説明できることが、企業利用の判断材料になります。

関連するクレジットカード情報の非保持化の解説