3.2 · 儲存與加密保護無效

閱讀 Databricks DASF 3.0 中 3.2「儲存與加密保護無效」相關的 1 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

訓練資料集的儲存或管理缺少適當保護,無法有效防止未授權存取與修改。組織需要釐清誰能接觸資料來源,以及來源被攻擊者控制後會造成什麼影響。公開來源尤其需要留意,因為組織內部的存取控制,無法阻止攻擊者在外部來源修改資料。

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research ·

網路規模資料集投毒:分歧視角攻擊

近年許多大規模資料集的發布方式,是給出一份網址清單,每個網址指向一筆資料。研究人員指出,這類資料集很多都擋不住所謂的「分歧視角(split-view)」投毒攻擊。這個攻擊利用的是一個時間差:當初蒐集資料集時看到的內容,和使用者後來下載來訓練時看到的內容,可能已經不一樣。研究人員找出那些曾經託管過資料集內容、但如今已到期而且可以買下來的網域,因此有辦法把資料集的一部分換成投毒後的資料。他們示範了在 10 個熱門的網路規模資料集中,可買到的網域數量都足以成功發動投毒攻擊。

關聯理由: 公開的資料集 URL 清單明確指出後續會下載哪些影像來源。研究者接手清單內的過期網域後,就能替換後續下載者取得的樣本,破壞原始蒐集與日後下載之間的資料完整性。研究沒有對公開下載投毒;模型影響是在本機替換影像、重新訓練 CLIP 後驗證的。

重新購買資料集 URL 的過期網域,改變之後下載的訓練資料。

SecureFlow · 閱讀完整案例 ↗