模型命名空間被重新註冊後,原本可信的名稱也可能改指向惡意模型
Unit 42 的研究顯示,只要 Hugging Face 作者命名空間 (namespace, 模型平台上用來區分作者或組織所屬模型的名稱範圍)被刪除,或模型移轉後舊作者命名空間又變成可被他人註冊,下游程式碼、設定與文件裡未更新的模型參照就可能改指向攻擊者重新註冊的命名空間。研究人員在受控測試環境中註冊已被放棄的名稱、重建原本的模型路徑,讓 Vertex AI 與 Azure AI Foundry 部署流程載入含有反向 shell(由受影響環境主動連回外部、讓對方取得命令列)的模型;原作者帳號並未遭入侵。防禦方不能再把熟悉的名稱當成模型身分,而要以不可變的成品雜湊值與簽章者身分固定模型版本、監看命名空間生命週期、使用內部鏡像站,並隔離模型載入流程。
關聯理由: 重用已刪除的模型作者命名空間,讓未固定版本的舊參照取得替代模型。 模型作者的命名空間被刪除或移轉後,遭重新註冊;下游目錄卻仍保留未固定版本的作者與模型參照。同一個歷史識別名稱,於是指向攻擊者替換的模型,無法可靠連回原先核准的提供者與模型內容。 證據支持的是解析與採用模型參照時,模型身分、版本與來源無法可靠連結的問題;來源沒有證實組織缺少整套治理制度、負責人員或法規文件。
重用已刪除的模型作者命名空間,讓未固定版本的舊參照取得替代模型。