AML.T0076 · Corrupt AI Model

閱讀 MITRE ATLAS 中 AML.T0076「Corrupt AI Model」相關的 1 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

An adversary may purposefully corrupt a malicious AI model file so that it cannot be successfully deserialized in order to evade detection by a model scanner. The corrupt model may still successfully execute malicious code before deserialization fails.

框架官方來源 ↗ · 開啟互動探索 ↗

Incident ·

Hugging Face 上的惡意模型

ReversingLabs 的研究人員發現,Hugging Face 模型儲存庫上託管著內嵌惡意程式的模型。這些模型一被載入就會建立反向 shell,讓攻擊者取得對受害者系統的指揮控制能力。Hugging Face 使用 Picklescan 掃描模型中的惡意程式碼,但這些模型並沒有被標記為惡意。研究人員發現,這些模型檔案似乎是被刻意弄壞的:惡意內容會先被執行,模型才在最後反序列化失敗;而 Picklescan 的運作前提,正是必須能完整反序列化整個模型。 在得知這個問題之後,Hugging Face 已移除這些模型,並修改 Picklescan 以攔下這種特定攻擊。不過 pickle 檔案本質上就不安全,因為它允許執行任意程式碼,而且可能還有其他類型的惡意 pickle 是 Picklescan 偵測不到的。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗