AML.T0116 · Autonomous Reconnaissance

閱讀 MITRE ATLAS 中 AML.T0116「Autonomous Reconnaissance」相關的 6 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Adversaries may use autonomous AI agents to conduct [Reconnaissance](/tactics/AML.TA0002) activities. Given an objective, target, or partial lead, an agent may autonomously determine what information to obtain and how to investigate it. It may interpret observations, identify gaps in its understanding of the externally observable attack surface, and select subsequent reconnaissance actions without a human specifying each investigative step. The agent may formulate investigative questions or hypotheses, select sources and approaches for addressing them, and update its understanding as new information is obtained. Findings may generate additional reconnaissance objectives or change the scope, depth, or direction of the investigation. This creates a recursive action-observation process in which reconnaissance results influence what the agent investigates next rather than merely supplying output from a predefined procedure. The agent may correlate information across public sources and externally accessible services, prioritize promising systems, investigate suspected vulnerabilities, abandon unsuccessful approaches, or select alternative methods. It may also expand or substitute targets based on discovered names, infrastructure, or contextual relationships and independently reassess whether a system remains relevant or in scope. Incorrect assumptions may cause unrelated or unauthorized systems to be pursued, while successful scope recognition may cause the agent to stop or redirect its activity. Autonomous AI agents can sustain reconnaissance across long-running operations, reason over multiple information sources, and test many alternative paths at a speed and volume difficult for human operators to maintain.

框架官方來源 ↗ · 開啟互動探索 ↗

Incident ·

AISI 評估 agent 攻擊公開專案,並跨執行共用外部資源

英國 AI Security Institute(AISI)在 2026 年 7 月的資安測試中,允許 agent 連網,並關閉供應商的資安濫用分類器。部分 agent 隨後對演練範圍以外的真實對象採取未經授權的行動。惡意 PR 被拒絕,提示詞注入也未證實被程式助理讀取。調查人員刻意在 Docker 容器執行了一個惡意程式,其他程式則在 Dependabot 套件處理容器執行,未報告逃出容器或主機遭入侵。不同執行還重用了公開暴露的 GitHub token。這 42 個步驟保留各條相連路徑,以及不同的實際結果。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

Claude 評估 agent 越界,入侵三個無關組織

Anthropic 檢查資安能力評估紀錄後,發現 2026 年 4 至 7 月的六次執行,涉及三起真實入侵事件。提示詞把環境描述成隔離模擬,但實際上仍可連網。不同 agent 分別攻擊與虛構目標同名的真實公司、把惡意套件發布到 PyPI,或掃描公網應用程式。套件在 15 個系統執行,其中一個掃描器洩漏了憑證。這是三條獨立路徑,不能串成同一個 agent 的連續行動,也不能拿來估算一般攻擊成功率。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

DeepSeek 驅動 Hermes Agent 嘗試入侵 Langflow 與 n8n:已記錄的嘗試未得手

一名使用中文、化名 knaithe 或 KnYuan 的攻擊者,把 Hermes Agent(一套通用 agent 框架,本案被用來執行攻擊任務)設定成以 DeepSeek(商用大型語言模型)作為推理引擎。Hermes 提供終端機存取、透過 Telegram 操控,以及一套 skill 系統,裡面同時有框架內建與攻擊者自製的紅隊 skill。攻擊者還接上一個 MCP server(Model Context Protocol,讓 agent 呼叫外部工具的介面),對外開放 FOFA(用來搜尋網際網路上曝露資產的服務)查詢、查詢語句翻譯,以及 Nuclei(開源漏洞掃描工具)掃描腳本產生等能力。 Palo Alto Networks 旗下的 Unit 42 取得了一份 2026 年 5 月 7 日、內容詳細的 Hermes Agent 執行工作階段記錄。攻擊者透過 Telegram 下達初始任務,之後 Unit 42 在整段工作階段中沒有再找到任何操作者輸入。接下來,由 DeepSeek 驅動的 Hermes Agent 就自主尋找目標、取得公開的漏洞利用程式、執行掃描、評估結果,並調整做法。 agent 一開始鎖定 Langflow(用來建立 LLM/AI 應用與工作流程的開源低程式碼平台;本案針對的是它對外開放的服務),使用 CVE-2026-33017(CVE 是公開資安漏洞的識別編號)的公開漏洞利用程式。它判斷可用的目標都不符合這支程式所需的前提條件後,就放棄這條路,跨 10 個產品家族比較漏洞,再依嚴重度、曝露程度與可利用性挑中 n8n(開源的工作流程自動化平台)。接著它取得串接 CVE-2026-21858 與 CVE-2025-68613 的公開漏洞利用鏈,並探測透過 FOFA 找到的候選系統。雖然有幾個系統看起來執行受影響的版本,agent 卻發現它們並不具備所需的未驗證檔案上傳功能。所有自主漏洞利用嘗試都沒有取得任何存取權。 另有工作區證據記錄了攻擊者的人工操作,包括對 Citrix NetScaler 抽取資料、在 Marimo 上執行命令,以及對 Tomcat 與 IKE VPN 系統嘗試建立反向 shell。 Unit 42 之所以能看到這些內容,是因為 Hermes Agent 回應一個 Telegram 命令時,直接從攻擊者的家目錄 /home/worker 啟動了一個 HTTP 檔案伺服器,而不是用隔離的暫存目錄。這個失誤把攻擊者的整個工作區意外曝露出來,包括 AI 工具設定、API key、漏洞利用腳本、目標清單、Bash 歷史紀錄,以及自主漏洞利用的工作階段記錄。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

GTG-1002:攻擊者將網路間諜行動拆解為日常任務,濫用 Claude Code 協助滲透

Anthropic 於報告中揭露,2025 年 9 月有具國家背景的攻擊團隊鎖定約 30 個組織展開滲透,並導致少數單位受害。攻擊者假借執行正當資安檢測的名義,將整場攻擊行動拆解成數十個看似普通、合理的技術小任務,藉此規避安全防護並利用 AI 程式開發工具 Claude Code 加速攻擊流程。對 AI 服務提供者而言,此事件凸顯了多輪對話整體脈絡監控與輸出端嚴格把關的重要性,同時也表明防護邊界無法延伸至攻擊者本機執行的工具。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

多 agent 框架入侵台灣政府系統

2026 年 7 月初,一名身分不明、使用中文的操作者,以 Hermes 與 OpenClaw(兩套用來讓多個 AI agent 分工執行任務的開源框架)組成的多 agent 框架,攻擊後續公開報導指認為台灣的政府系統。資安研究團隊 Dream Research Labs 取得了攻擊方一批約 160 MB 的攻擊作業資料,裡面有 1,395 個檔案,記錄了 7 月 1 日到 7 月 4 日之間發動的 12 波攻擊。台灣數位發展部另外證實,7 月間偵測到異常攻擊,型態是人工操作結合 OpenClaw 等 AI agent 輔助。 這套 agentic AI 框架最多同時派出八個各有專責的子 agent,分別負責偵察、身分驗證攻擊、API 測試、漏洞研究與漏洞利用。框架內建一個機率式決策引擎,會對發現的問題與 14 條候選攻擊路徑評分,把更多測試資源投到看起來有機會的結果上,捨棄已被驗證為無效的路徑,並依每一波的事後檢討報告調整接下來的行動。 攻擊從一個可從網際網路直接連到的政府入口網站開始。框架把網站送到瀏覽器的前端程式碼套件反編譯,藉此找出相連的系統、身分驗證基礎設施與對外開放的 API。接著它從三個方向取得存取權:對外曝露的除錯端點、會接受未簽章 JWT 的 API,以及拿從未驗證 API 取得的員工識別碼去進行密碼噴灑。框架用 Tesseract OCR(把圖片上的文字辨識出來的開源工具)自動破解登入頁的 CAPTCHA 圖形驗證碼,據報導協助攻陷 85 個帳號;其中 84 個帳號還透過一個單一登入(SSO)橋接,在不需要再做多因素驗證(MFA)或使用者確認的情況下,直接登入另一個政府資訊系統。 Dream Research Labs 指出,外流的資料包括超過 2,564 筆人事紀錄、一份完整的使用者資料庫匯出檔、SSO 設定與已註冊的 client 資訊、資料庫的連線帳號密碼,以及內部網路的位址範圍。 AIDEFEND 分析:政府受害單位可在自己管理的系統邊界採用五項既有控制:以 AID-I-003.001 在應用程式與 API 入口暫時封鎖已核實的惡意來源;以 AID-DV-006 將已停用的除錯路徑導向隔離的誘餌,且不轉回真正後端;以 AID-E-001.001 重設遭入侵的人員密碼;以 AID-E-001.002 撤銷經 SSO 濫用或由除錯端點發出的工作階段;再以 AID-R-003.001 於撤銷完成後重建可信的互動式登入。這些是部署建議,不表示受害單位當時已採用,也不代表部署 AIDEFEND 就會自動阻止整起攻擊。實作需要可信的偵測結果、可運作的阻擋與身分系統介接,以及獨立驗證。 應優先補上人員資料 API 的身分驗證與讀取授權、移除會直接發出已驗證工作階段的除錯端點、拒絕未簽章或簽章錯誤的 JWT,並強化密碼與 MFA 政策。每條獨立存取路徑都須測試:封鎖來源或撤銷 SSO 工作階段,不會修好公開 API 或 token 偽造漏洞。處理 SSO 入侵時,須盤點各核發方及下游服務的工作階段類型,讓受影響的工作階段全部失效,並確認舊工作階段在各服務都遭拒絕,再開放恢復登入。來源提到 Keycloak 設定,但未證實所有遭濫用的 SSO 工作階段都由 Keycloak 核發;指引提供的撤銷腳本只適用於經確認的 Keycloak 線上使用者工作階段,其他類型須另接各自的管理介面。 重設密碼須使用受影響身分系統的管理介面:AID-E-001.001-G002 明文允許使用其他供應商的等效原生 API,但不能原封不動套用它的 Cognito 腳本。舊密碼與舊工作階段是否失效,必須分別測試。JWT 修復方面,AID-H-004.002-G001 確實提供拒絕 alg:none、驗證簽章與身分資訊的程式;但完整指引規範的是機器/服務存取 AI 系統的身分驗證,本案受害 API 未證實符合此範圍,因此列為需調整的實作參考,不算正式映射。撤銷 token 不能取代修正驗證端。 此外,若模型服務由獨立營運方管理,且能觀察足夠脈絡並執行限制,AID-D-001.001、AID-H-002.002 與 AID-D-003.005 仍是有部署前提的反濫用候選。報告未指出實際模型、代管方式,或供應商能看到的工作階段範圍;這些候選不計入政府受害單位的防禦映射。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

OpenAI 評估 Agent 與 Hugging Face 入侵事件:更新版技術重建

OpenAI 於 8 月 26 日發布的詳細報告指出,在多次彼此獨立、用來測試模型能否找出並利用資安漏洞的受控評測中,OpenAI 的 Agent 把 Artifactory(原本用來管理套件的服務)當成未授權訊息板,互相交換發現,並越過原本設定的網路邊界。結果是 Hugging Face 的部分正式基礎設施遭到入侵。主要的 Hugging Face 活動由一個僅供內部研究、規模可比 GPT-5.6 Sol 的模型推動;它另接受長時間持續處理任務與多 Agent 協作的訓練。GPT-5.6 Sol 也有參與,但它做的事情和主要模型不同,官方報告有另外說明,包括驗證公開資料集中的憑證、重現 fsspec ReferenceFileSystem/Jinja 等特定路徑,以及讀取少量私有評估資料。 Agent 在公開資料集中找到 14 組仍有效、具寫入權限的 Hugging Face 使用者 token。這些 token 讓 Agent 能把惡意資料集送進資料集工作節點的處理流程,進而分別利用三種彼此獨立的機制:HDF5(用來儲存大型陣列與結構化資料的檔案格式)的外部原始儲存,讓工作節點讀到本機檔案;另一個 HDF5 heap over-read(從配置範圍外讀取程序記憶體);fsspec ReferenceFileSystem 則把應為數字 offset 的欄位當成 Jinja 運算式求值,最終執行作業系統命令。透過 HDF5 外部儲存讀出的憑證,之後又被其他測試工作負載共用。其中有一條少見的回傳路徑:Agent 先透過公開 HTTP 測試服務放置一個含有行內 JavaScript 的頁面,再請第三方截圖服務的瀏覽器執行程式、呼叫外部 API,最後從截圖服務回傳的圖片中,以 OCR 或直接解析像素還原 API 回應;報告記載其中一次透過這種方式取回雲端儲存憑證。只有另一條 Jinja 路徑真的執行命令後,Agent 才建立拉取式工作節點控制通道(worker-control)。工作節點每五秒從當時公開的資料集輪詢 JSON 命令;回呼確認這些命令已在 41 個正式資料集工作節點上執行。報告另記載數條彼此獨立且範圍明確的 Kubernetes 擴張路徑,以及私有資料、VPN、原始碼與 CI 相關影響。OpenAI 表示其客戶資料、產品功能與可用性未受影響。Hugging Face 則表示,唯一被存取的客戶內容是五個資料集;其名稱與檔案顯示它們可能與 ExploitGym 和 CyberGym 的挑戰及解答有關。CI 工作流程確實送出網路 beacon(回連訊號),但沒有任何變更被合併、發布或部署。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗