MITRE ATLAS
mitre-atlas-cs0057
Storm-2139 繞過 Azure OpenAI 的安全防護機制
- AI 基礎設施
- 資源劫持與成本損失
- 模型規避與繞過
- 憑證與身分竊取
Storm-2139 打造了客製化的越獄工具，用來繞過 Azure OpenAI 服務上的安全防護機制，讓使用者能產生有害的合成內容。 微軟指出，Storm-2139 的成員從公開來源蒐刮外流的客戶憑證，再用這些憑證登入生成式 AI 服務的帳號。這個組織開發並經營了一整套工具與服務，繞過安全防護、改變服務行為，讓終端使用者得以產生有害且違法的內容，包括未經當事人同意的名人私密影像，以及其他色情內容。 這整個行動涵蓋三種角色：開發違法工具的製作者、修改並供應這些工具的提供者，以及實際產生違禁內容的使用者。微軟已對此提起民事訴訟。