AML.T0005.000 · Train Proxy via Gathered AI Artifacts

閱讀 MITRE ATLAS 中 AML.T0005.000「Train Proxy via Gathered AI Artifacts」相關的 1 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Proxy models may be trained from AI artifacts (such as data, model architectures, and pre-trained models) that are representative of the target model gathered by the adversary. This can be used to develop attacks that require higher levels of access than the adversary has available or as a means to validate pre-existing attacks without interacting with the target model.

框架官方來源 ↗ · 開啟互動探索 ↗

Exercise ·

複製 GPT-2 模型

OpenAI 開發的 GPT-2 是一個能生成高品質文字的語言模型。由於擔心 GPT-2 會被用於假冒他人、產生誤導性新聞、假的社群內容或垃圾訊息等惡意用途,OpenAI 採取分階段釋出的策略:先公開一個規模較小、能力較弱的版本並附上技術說明,但保留完整的訓練後模型。 在 OpenAI 釋出完整模型之前,布朗大學的研究人員就利用 OpenAI 已公開的資訊與開源的 ML 資源,成功複製出這個模型。這說明只要具備足夠的技術能力與運算資源,惡意行為者也可能在 AI 安全社群做好準備之前,先複製出 GPT-2 並用於有害目的。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗