AML.T0016.001 · Software Tools

閱讀 MITRE ATLAS 中 AML.T0016.001「Software Tools」相關的 5 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Adversaries may search for and obtain software tools to support their operations. Software designed for legitimate use may be repurposed by an adversary for malicious intent. An adversary may modify or customize software tools to achieve their purpose. Software tools used to support attacks on AI systems are not necessarily AI-based themselves.

框架官方來源 ↗ · 開啟互動探索 ↗

Exercise ·

以即時深偽影像注入規避行動裝置的 KYC 驗證

行動應用程式常用臉部生物辨識驗證服務,來完成使用者開通、身分驗證,以及 KYC(認識你的客戶)法遵要求。iProov 紅隊示範了一種換臉影像注入攻擊,能在行動裝置上成功規避即時人臉辨識驗證模型,連被動與主動的活體驗證(https://en.wikipedia.org/wiki/Liveness_test)也一併繞過。攻擊者若使用這種手法,就可能取得受害者具權限系統的存取權,或捏造假身分,在銀行或加密貨幣 App 上開立假帳號。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

LLM Jacking:盜用雲端 LLM 資源

Sysdig 觀察到攻擊者用失竊雲端憑證,探測託管 LLM 的存取權與記錄設定,再以反向代理轉供可能被轉售的模型存取。初始漏洞、持有憑證、準備工具與實際呼叫供應商,是不同步驟;流程保留使用服務前的平行準備。每日費用是可能風險的估算,防禦則落在供應商原生 IAM 與完整呼叫紀錄,涵蓋繞過應用程式代理的直接呼叫。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

DeepSeek 驅動 Hermes Agent 嘗試入侵 Langflow 與 n8n:已記錄的嘗試未得手

一名使用中文、化名 knaithe 或 KnYuan 的攻擊者,把 Hermes Agent(一套通用 agent 框架,本案被用來執行攻擊任務)設定成以 DeepSeek(商用大型語言模型)作為推理引擎。Hermes 提供終端機存取、透過 Telegram 操控,以及一套 skill 系統,裡面同時有框架內建與攻擊者自製的紅隊 skill。攻擊者還接上一個 MCP server(Model Context Protocol,讓 agent 呼叫外部工具的介面),對外開放 FOFA(用來搜尋網際網路上曝露資產的服務)查詢、查詢語句翻譯,以及 Nuclei(開源漏洞掃描工具)掃描腳本產生等能力。 Palo Alto Networks 旗下的 Unit 42 取得了一份 2026 年 5 月 7 日、內容詳細的 Hermes Agent 執行工作階段記錄。攻擊者透過 Telegram 下達初始任務,之後 Unit 42 在整段工作階段中沒有再找到任何操作者輸入。接下來,由 DeepSeek 驅動的 Hermes Agent 就自主尋找目標、取得公開的漏洞利用程式、執行掃描、評估結果,並調整做法。 agent 一開始鎖定 Langflow(用來建立 LLM/AI 應用與工作流程的開源低程式碼平台;本案針對的是它對外開放的服務),使用 CVE-2026-33017(CVE 是公開資安漏洞的識別編號)的公開漏洞利用程式。它判斷可用的目標都不符合這支程式所需的前提條件後,就放棄這條路,跨 10 個產品家族比較漏洞,再依嚴重度、曝露程度與可利用性挑中 n8n(開源的工作流程自動化平台)。接著它取得串接 CVE-2026-21858 與 CVE-2025-68613 的公開漏洞利用鏈,並探測透過 FOFA 找到的候選系統。雖然有幾個系統看起來執行受影響的版本,agent 卻發現它們並不具備所需的未驗證檔案上傳功能。所有自主漏洞利用嘗試都沒有取得任何存取權。 另有工作區證據記錄了攻擊者的人工操作,包括對 Citrix NetScaler 抽取資料、在 Marimo 上執行命令,以及對 Tomcat 與 IKE VPN 系統嘗試建立反向 shell。 Unit 42 之所以能看到這些內容,是因為 Hermes Agent 回應一個 Telegram 命令時,直接從攻擊者的家目錄 /home/worker 啟動了一個 HTTP 檔案伺服器,而不是用隔離的暫存目錄。這個失誤把攻擊者的整個工作區意外曝露出來,包括 AI 工具設定、API key、漏洞利用腳本、目標清單、Bash 歷史紀錄,以及自主漏洞利用的工作階段記錄。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

GTG-1002:攻擊者將網路間諜行動拆解為日常任務,濫用 Claude Code 協助滲透

Anthropic 於報告中揭露,2025 年 9 月有具國家背景的攻擊團隊鎖定約 30 個組織展開滲透,並導致少數單位受害。攻擊者假借執行正當資安檢測的名義,將整場攻擊行動拆解成數十個看似普通、合理的技術小任務,藉此規避安全防護並利用 AI 程式開發工具 Claude Code 加速攻擊流程。對 AI 服務提供者而言,此事件凸顯了多輪對話整體脈絡監控與輸出端嚴格把關的重要性,同時也表明防護邊界無法延伸至攻擊者本機執行的工具。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

以劫持相機的方式攻擊人臉辨識系統

這種劫持相機的攻擊,可以規避傳統的人臉活體辨識驗證模型,讓攻擊者取得具權限系統的存取權,並冒用受害者身分。 中國有兩名個人用這種攻擊手法,進入了地方政府的稅務系統。他們成立一家空殼公司,再透過稅務系統對所謂的客戶開立發票。這兩人從 2018 年開始這套手法,以詐騙方式取得了 7,700 萬美元。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗