AML.T0008.000 · AI Development Workspaces

閱讀 MITRE ATLAS 中 AML.T0008.000「AI Development Workspaces」相關的 1 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Developing and staging AI attacks often requires expensive compute resources. Adversaries may need access to one or many GPUs in order to develop an attack. They may try to anonymously use free resources such as Google Colaboratory, or cloud resources such as AWS, Azure, or Google Cloud as an efficient way to stand up temporary resources to conduct operations. Multiple workspaces may be used to avoid detection.

框架官方來源 ↗ · 開啟互動探索 ↗

Exercise ·

複製 GPT-2 模型

OpenAI 開發的 GPT-2 是一個能生成高品質文字的語言模型。由於擔心 GPT-2 會被用於假冒他人、產生誤導性新聞、假的社群內容或垃圾訊息等惡意用途,OpenAI 採取分階段釋出的策略:先公開一個規模較小、能力較弱的版本並附上技術說明,但保留完整的訓練後模型。 在 OpenAI 釋出完整模型之前,布朗大學的研究人員就利用 OpenAI 已公開的資訊與開源的 ML 資源,成功複製出這個模型。這說明只要具備足夠的技術能力與運算資源,惡意行為者也可能在 AI 安全社群做好準備之前,先複製出 GPT-2 並用於有害目的。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗