AI SECURITY CASES × FRAMEWORKS
1.8 · 資料合法性
閱讀 Databricks DASF 3.0 中 1.8「資料合法性」相關的 2 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。
風險分類說明
使用訓練資料時,沒有充分處理資料權利、智慧財產限制或適用法規,包括刪除資料的要求。刪掉來源紀錄,不一定能移除已訓練模型受到的影響,因為訓練會將資訊編入參數及其他內部表示。管理這項風險需要追蹤實際使用的資料,必要時也可能須以權利與使用合法性已確認的資料重新訓練。
框架官方來源 ↗ · 開啟互動探索 ↗
Incident · · 實務關聯
Google 表示,有行動者使用失竊憑證、假帳號與代理伺服器,大量蒐集模型回覆進行蒸餾,也就是拿一個模型的輸出訓練另一個模型。2026 年 2 月報告中的推理能力蒐集活動超過 10 萬個提示詞,後續部分活動更超過一億個。這些數字代表查詢規模,不能寫成模型權重已遭竊取或能力複製的成功率。Google 表示已封鎖相關帳號,並降低蒐集所得輸出的利用價值。
關聯理由: 供應商明確指出,這些活動違反服務條款,蒐集模型輸出以訓練競爭模型。實務交集在於訓練者是否獲准使用這些輸出;使用自有模型或取得授權的模型進行蒸餾,屬於不同情況。 此處對應的是供應商所述、涉及訓練資料使用的契約與智慧財產權疑慮,不是法院判決,也沒有判定違反個資刪除義務,更不表示所有模型蒸餾都違法。
Google 的失竊及假帳號活動;區分能力蒸餾與竊取原始權重。提示詞總量代表蒐集規模,不是複製成功率或取得的模型權重;未建立自主 agent 部署或受保護推理已取回的證據。
SecureFlow · 閱讀完整案例 ↗
Incident · · 實務關聯
Anthropic 將約 24,000 個假帳號、超過 1,600 萬次互動的蒸餾活動,歸因於 DeepSeek、Moonshot AI 與 MiniMax。流程分開呈現代理存取、帳號驗證、分散路由、取得推論回覆及後續模型訓練。供應商端的威脅調查與經驗證限制,須在輸出送出前作用;缺少防護的模型可能造成哪些傷害,維持為 Anthropic 的風險研判,不能當成已觀察到的下游受害者統計。
關聯理由: 供應商明確指出,這些活動違反服務條款,蒐集模型輸出以訓練競爭模型。實務交集在於訓練者是否獲准使用這些輸出;使用自有模型或取得授權的模型進行蒸餾,屬於不同情況。 此處對應的是供應商所述、涉及訓練資料使用的契約與智慧財產權疑慮,不是法院判決,也沒有判定違反個資刪除義務,更不表示所有模型蒸餾都違法。
Anthropic 報告的 DeepSeek、Moonshot AI 與 MiniMax 活動;區分能力蒸餾與竊取原始權重。約 24,000 個帳號與 1,600 萬次互動,不是取回權重或已觀察下游傷害的數量;潛在傷害維持為 Anthropic 研判,未建立 agent 部署。
SecureFlow · 閱讀完整案例 ↗