FinityAI.net · Hong Kong

Notion AI 對話喺供應商 Fireworks 洩漏

Notion 通知客戶,佢哋嘅 Notion AI 對話喺供應商 Fireworks AI 嘅資料外洩事件中曝光。受影響工作區少於 1%,但對話內容本身有外洩;Notion 已經喺 11 月 11 日撤銷喺受影響訊息中搵到嘅 API 金鑰。

事件重點

  • 少於 1% — 受影響嘅 Notion 工作區比例
  • 10 月 23 日 — 第三方雲端供應商出事,攻擊者其後入侵 Fireworks 開發機
  • 11 月 2 日 — Fireworks 通知 Notion,初時以為只係合成測試數據
  • 11 月 3 日 — Notion 斷開與 Fireworks 嘅連接,刪除所有存放喺嗰度嘅數據
  • 11 月 8 日 — Fireworks 確認最終數據集,包括真實客戶對話
  • 11 月 9 日 — Notion 開始聯絡受影響客戶

點解呢單嘢值得留意

  • 供應鏈先係真正風險:你嘅 AI 對話唔只係喺你用嘅工具度,仲會去到佢嘅次級處理商,仲可能去到罪犯手上。Notion 用 Fireworks 供應開放權重模型,同埋為 Insights 功能(顯示工作區內 AI 使用情況)做分類工作。
  • 「無法歸屬」唔等於安全:大部分受影響對話無標示邊個寫、邊個工作區,亦無工具呼叫結果,但用戶打咗咩字仍然喺入面——包括可能貼過嘅密碼、API 金鑰同內部資料。
  • 攻擊手法係 LLMjacking:攻擊者與出售未經授權 LLM 存取權嘅牟利集團有關;Google 威脅情報組同 Mandiant 喺 11 月 2 日警告過呢個趨勢上升。偷返嚟嘅模型存取權可以轉賣,變成另一種變現途徑。
  • 10 月初已經有一次入侵:外洩咗儲存咗嘅秘密,包括 API 金鑰。Fireworks 已經請 Palo Alto Networks Unit 42 協助調查。
  • 應對方法:受影響工作區要當數據已經曝光處理,輪換喺 Notion AI 入面貼過嘅密碼同金鑰;未收到 Notion 通知嘅用戶,暫時唔使做嘢。Insights 功能繼續停用,Notion 亦唔再經 Fireworks 供應開放權重模型。

對香港中小企的啟示

香港企業用 AI 工具,最緊要問:我啲對話會去邊?會唔會去第三方模型供應商?有冇得揀唔送出去?員工喺 AI 對話入面貼密碼、API 金鑰、客戶資料,係最常見嘅外洩源頭。FinityAI 幫客戶設計 Agent 權限同數據流向,就係要令呢啲問題有答案,唔係靠估。

資料來源

本文為 FinityAI 對公開報道的摘要及評論,與 Notion 或 Fireworks 無關。

相關服務

SRAA 服務專頁 · AI Agent 安全檢視指南 · AI Agent workflow planning

← 返回 AI Agent 最新消息

聯絡 FinityAI · Contact FinityAI →

WhatsApp 即時查詢