4.1 · 模型資產缺少可追溯性與透明度

閱讀 Databricks DASF 3.0 中 4.1「模型資產缺少可追溯性與透明度」相關的 1 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

組織無法追溯資料、模型與相關資產,也不清楚由誰負責監督。文件與追蹤紀錄不足,會增加維護及更新的難度,也讓使用者難以理解決策依據。這同時削弱了模型相關流程中,用來證明合規與法律責任歸屬的證據。

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research · · 實務關聯

模型命名空間被重新註冊後,原本可信的名稱也可能改指向惡意模型

Unit 42 的研究顯示,只要 Hugging Face 作者命名空間 (namespace, 模型平台上用來區分作者或組織所屬模型的名稱範圍)被刪除,或模型移轉後舊作者命名空間又變成可被他人註冊,下游程式碼、設定與文件裡未更新的模型參照就可能改指向攻擊者重新註冊的命名空間。研究人員在受控測試環境中註冊已被放棄的名稱、重建原本的模型路徑,讓 Vertex AI 與 Azure AI Foundry 部署流程載入含有反向 shell(由受影響環境主動連回外部、讓對方取得命令列)的模型;原作者帳號並未遭入侵。防禦方不能再把熟悉的名稱當成模型身分,而要以不可變的成品雜湊值與簽章者身分固定模型版本、監看命名空間生命週期、使用內部鏡像站,並隔離模型載入流程。

關聯理由: 重用已刪除的模型作者命名空間,讓未固定版本的舊參照取得替代模型。 模型作者的命名空間被刪除或移轉後,遭重新註冊;下游目錄卻仍保留未固定版本的作者與模型參照。同一個歷史識別名稱,於是指向攻擊者替換的模型,無法可靠連回原先核准的提供者與模型內容。 證據支持的是解析與採用模型參照時,模型身分、版本與來源無法可靠連結的問題;來源沒有證實組織缺少整套治理制度、負責人員或法規文件。

重用已刪除的模型作者命名空間,讓未固定版本的舊參照取得替代模型。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗