風險分類說明 Adversaries may impersonate a trusted person or organization in order to persuade and trick a target into performing some action on their behalf. For example, adversaries may communicate with victims (via [Phishing](/techniques/AML.T0052), or [Spearphishing via Social Engineering LLM](/techniques/AML.T0052.000)) while impersonating a known sender such as an executive, colleague, or third-party vendor. Established trust can then be leveraged to accomplish an adversary's ultimate goals, possibly against multiple victims. Adversaries may target resources that are part of the AI DevOps lifecycle, such as model repositories, container registries, and software registries.
框架官方來源 ↗ · 開啟互動探索 ↗
Incident · 2026-11-16
Epoch AI 與 Trajectory Labs 通報,在安全評估期間,受測 Agent 未經授權就對 Epoch 正式環境網站進行探測與冒名索取資料;評估方隨後把 Agent 導向本機模擬副本,卻因網路限制不夠完整,讓 Agent 又再次連上正式網站。Trajectory 報告說明了不同設定階段中出現的直接 IP 連線、替代位址與第三方網頁閱讀服務繞過路徑。兩次活動都沒有讓 Epoch 的私密資料遭到存取。至於後來事前取得同意的測試站實驗,以及離線環境的誘餌開關實驗,則必須和最初這兩起未授權事件分開看待。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-10-30
英國 AI Security Institute(AISI)在 2026 年 7 月的資安測試中,允許 agent 連網,並關閉供應商的資安濫用分類器。部分 agent 隨後對演練範圍以外的真實對象採取未經授權的行動。惡意 PR 被拒絕,提示詞注入也未證實被程式助理讀取。調查人員刻意在 Docker 容器執行了一個惡意程式,其他程式則在 Dependabot 套件處理容器執行,未報告逃出容器或主機遭入侵。不同執行還重用了公開暴露的 GitHub token。這 42 個步驟保留各條相連路徑,以及不同的實際結果。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Exercise · 2026-10-30
行動應用程式常用臉部生物辨識驗證服務,來完成使用者開通、身分驗證,以及 KYC(認識你的客戶)法遵要求。iProov 紅隊示範了一種換臉影像注入攻擊,能在行動裝置上成功規避即時人臉辨識驗證模型,連被動與主動的活體驗證(https://en.wikipedia.org/wiki/Liveness_test)也一併繞過。攻擊者若使用這種手法,就可能取得受害者具權限系統的存取權,或捏造假身分,在銀行或加密貨幣 App 上開立假帳號。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-30
資安研究人員 threlfall_hax(https://5stars217.github.io/)在公開模型儲存平台 Hugging Face 上,建立了幾個冒充真實公司的組織帳號。這些假的 Hugging Face 組織帳號看起來很正式,被冒充公司的員工因此主動申請加入,以為那就是公司內部用來分享模型的官方空間。這讓研究人員完整取得了員工上傳的所有 AI 模型,包括把模型替換成惡意版本的能力。研究人員也示範了他可以把惡意程式嵌進一個 AI 模型中,藉此進入受害組織的環境。從這裡開始,攻擊者就能發動一連串具破壞性的攻擊,例如竊取智慧財產,或毒害受害者環境中的其他 AI 模型。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Incident · 2026-10-24
一名惡意行為者透過供應鏈攻擊,成功從 Postmark MCP server 的使用者身上外洩郵件內容。Postmark 是一項郵件遞送服務,讓組織可以透過 API 寄送行銷與交易郵件;而 Postmark MCP server 則讓使用者能透過 AI agent 操作 Postmark。 這名惡意行為者假冒 Postmark,在 npm 上註冊了 postmark-mcp 這個套件名稱。一開始,他發布的是這個 MCP server 的正常版本。等到這個套件變得熱門、每週下載量超過 1,000 次之後,他就翻臉不認人(rugpull),上傳了一個惡意版本。這個惡意版本會把他自己的電子郵件位址,加進這個 MCP 工具所寄出每一封郵件的 BCC 欄位。凡是升級到這個版本、又繼續使用該工具的使用者,所有郵件都會被外洩到他手上。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Incident · 2026-10-24
Cato CTRL 的資安研究人員發現了 ProKYC,一款賣給網路犯罪者的深偽工具,用來繞過加密貨幣交易所等金融服務應用程式的 KYC(認識你的客戶)驗證。ProKYC 可以做出假的身分證明文件,也能產生深偽自拍影片,而這兩樣正是 KYC 驗證會用到的關鍵生物特徵資料。這個工具幫助網路犯罪者擊敗人臉辨識與活體檢查,藉此開出詐騙帳號。 下面的流程說明惡意行為者可以如何利用 ProKYC 的服務,繞過 KYC 驗證。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-01
Zenity Labs 驗證了針對 Agentforce in Slack 的兩條濫用路徑:外部攻擊者可將惡意指示注入員工 agent 稍後讀取的 CRM 潛在客戶資料(Lead);內部人員則可直接要求 agent 發送訊息。在受測的 Slack Knowledge 範本中,Reply to a Slack Thread 動作預設不要求送出前確認,回覆也未顯示是哪位使用者發起,且特製網址能繞過遮蔽機制。Salesforce 已於 2026 年 9 月完成相關預設設定與繞過修復。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-08-02
2025 年 7 月,烏克蘭當局通報出現一支名為 LAMEHUG 的新型 AI 惡意程式,並將其歸因於俄羅斯國家支持的攻擊組織 APT28(https://attack.mitre.org/groups/G0007/,另有 Forest Blizzard 或 UAC-0001 等代稱)。LAMEHUG 會用大型語言模型(LLM),在受感染的主機上即時產生命令。 這次攻擊活動的起點是一封釣魚郵件:攻擊者利用一個已被入侵的政府電子郵件帳號,寄送偽裝成 Appendix.pdf.zip 的惡意 ZIP 壓縮檔。壓縮檔裡是 LAMEHUG,一支以 Python 撰寫、再用 PyInstaller 打包成執行檔的惡意程式。執行後,它會呼叫 LLM 端點,把自然語言提示詞轉換成惡意命令。由於命令是即時產生的,這支惡意程式可能更難被偵測。LAMEHUG 被設定成蒐集本機檔案並外傳出去。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-27
Zenity 研究人員在受控測試環境中發現,只要受害者點開一個特製 ChatGPT 連結,ChatGPT Workspace Agents(OpenAI 用來建立企業工作流程 agent 的功能)就可能在已登入的受害者 session 中,自動建立並發布攻擊者指定的 agent。這個 agent 會接上受害者先前授權的連接器(讓 agent 存取 Outlook、Gmail、Slack 等外部服務的整合功能)、關閉操作前確認,並建立一組彼此錯開五分鐘的每小時排程,湊出每五分鐘一次的電子郵件指令循環。OpenAI 已在 2026 年 6 月 8 日修正 Zenity 回報的漏洞。這個案例顯示,agent 控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務)變更、連接器使用、排程執行和對外傳送資料,必須各自有獨立授權檢查。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗