MITRE ATLAS
mitre-atlas-cs0027
Hugging Face 上的組織身分混淆
- AI 供應鏈
- 憑證與身分竊取
資安研究人員 threlfall_hax（https://5stars217.github.io/）在公開模型儲存平台 Hugging Face 上，建立了幾個冒充真實公司的組織帳號。這些假的 Hugging Face 組織帳號看起來很正式，被冒充公司的員工因此主動申請加入，以為那就是公司內部用來分享模型的官方空間。這讓研究人員完整取得了員工上傳的所有 AI 模型，包括把模型替換成惡意版本的能力。研究人員也示範了他可以把惡意程式嵌進一個 AI 模型中，藉此進入受害組織的環境。從這裡開始，攻擊者就能發動一連串具破壞性的攻擊，例如竊取智慧財產，或毒害受害者環境中的其他 AI 模型。