MITRE ATLAS
mitre-atlas-cs0031
Hugging Face 上的惡意模型
- AI 供應鏈
- 模型投毒與完整性破壞
- 系統入侵與遠端程式碼執行
ReversingLabs 的研究人員發現，Hugging Face 模型儲存庫上託管著內嵌惡意程式的模型。這些模型一被載入就會建立反向 shell，讓攻擊者取得對受害者系統的指揮控制能力。Hugging Face 使用 Picklescan 掃描模型中的惡意程式碼，但這些模型並沒有被標記為惡意。研究人員發現，這些模型檔案似乎是被刻意弄壞的：惡意內容會先被執行，模型才在最後反序列化失敗；而 Picklescan 的運作前提，正是必須能完整反序列化整個模型。 在得知這個問題之後，Hugging Face 已移除這些模型，並修改 Picklescan 以攔下這種特定攻擊。不過 pickle 檔案本質上就不安全，因為它允許執行任意程式碼，而且可能還有其他類型的惡意 pickle 是 Picklescan 偵測不到的。