NISTAML.012 · 乾淨標籤投毒

閱讀 NIST Adversarial ML (2025) 中 NISTAML.012「乾淨標籤投毒」相關的 2 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

攻擊者在不竄改正確標籤,或無法控制標籤的情況下,操弄訓練樣本本身。即使資料標籤通過正確性檢查,樣本中的惡意變化仍可能影響模型學到的內容。NIST 將這種手法同時列於可用性與完整性風險之下:它既可能降低整體效能,也可能讓模型對指定目標做出錯誤預測。

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research · · 實務關聯

網路規模資料集投毒:分歧視角攻擊

近年許多大規模資料集的發布方式,是給出一份網址清單,每個網址指向一筆資料。研究人員指出,這類資料集很多都擋不住所謂的「分歧視角(split-view)」投毒攻擊。這個攻擊利用的是一個時間差:當初蒐集資料集時看到的內容,和使用者後來下載來訓練時看到的內容,可能已經不一樣。研究人員找出那些曾經託管過資料集內容、但如今已到期而且可以買下來的網域,因此有辦法把資料集的一部分換成投毒後的資料。他們示範了在 10 個熱門的網路規模資料集中,可買到的網域數量都足以成功發動投毒攻擊。

關聯理由: CLIP 實驗在本機替換指定訓練影像,攻擊者無法更改索引中的文字說明;重新訓練後,指定目標影像的預測結果發生改變。這支持標記不受攻擊者控制的投毒,以及針對特定目標的訓練資料投毒;不表示研究植入了觸發式後門,也不表示公開下載曾遭惡意投毒。 未被修改的監督訊號是對比學習中的影像與文字配對,而非一般分類資料的標記欄位。已驗證的影響限於本機重新訓練的 CLIP 模型,不是公開部署遭入侵。

重新購買資料集 URL 的過期網域,改變之後下載的訓練資料。

SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

VirusTotal 遭投毒

McAfee 進階威脅研究團隊注意到,某個勒索軟體家族的回報數量出現不尋常的增加。調查後發現,該家族的許多樣本是在很短的時間內,透過一個熱門的病毒分享平台上傳的。進一步分析顯示,以字串相似度來看,這些樣本其實完全等價;以程式碼相似度來看,彼此的相似度介於 98% 到 74% 之間。更值得注意的是,所有樣本的編譯時間都一模一樣。研究人員繼續追查後發現,有人使用了 metame 這個變形程式碼操作工具,把原始檔案改寫成多個變體。這些變體不一定都能執行,但仍會被歸類為同一個勒索軟體家族。

關聯理由: 大量變形樣本進入病毒共享平台,影響樣本分布;不宣稱每個變種可執行。 操作者提交經過變形的勒索軟體二進位檔,由廠商進行家族分類;這些變種污染了用來辨識該家族的資料集。來源記錄的是控制輸入樣本,而非直接翻轉既有訓練標記,且目標集中在特定家族的分類。 原始報告與 NIST 的真實事件討論,支持由外部分類機制產生標記、針對特定家族提交投毒樣本的路徑;沒有提供逐筆標記稽核、最佳化的 clean-label 實驗,或重新訓練後的準確率量測。

大量變形樣本進入病毒共享平台,影響樣本分布;不宣稱每個變種可執行。

SecureFlow · 閱讀完整案例 ↗