互動探索 / 分類目錄 AI SECURITY CASES × FRAMEWORKS
AML.T0102 · Generate Malicious Commands 閱讀 MITRE ATLAS 中 AML.T0102「Generate Malicious Commands」相關的 4 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。
風險分類說明 Adversaries may use large language models (LLMs) to dynamically generate malicious commands from natural language. Dynamically generated commands may be harder to detect as the attack signature is constantly changing. AI-generated commands may also allow adversaries to more rapidly adapt to different environments and adjust their tactics. Adversaries may utilize LLMs present in the victim's environment or call out to externally hosted services. [APT28](https://attack.mitre.org/groups/G0007) utilized a model hosted on HuggingFace in a campaign with their LAMEHUG malware [[logpoint]]. In either case prompts to generate malicious code can blend in with normal traffic.
框架官方來源 ↗ · 開啟互動探索 ↗
Incident · 2026-10-30
英國 AI Security Institute(AISI)在 2026 年 7 月的資安測試中,允許 agent 連網,並關閉供應商的資安濫用分類器。部分 agent 隨後對演練範圍以外的真實對象採取未經授權的行動。惡意 PR 被拒絕,提示詞注入也未證實被程式助理讀取。調查人員刻意在 Docker 容器執行了一個惡意程式,其他程式則在 Dependabot 套件處理容器執行,未報告逃出容器或主機遭入侵。不同執行還重用了公開暴露的 GitHub token。這 42 個步驟保留各條相連路徑,以及不同的實際結果。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Incident · 2026-09-18
一名使用中文、化名 knaithe 或 KnYuan 的攻擊者,把 Hermes Agent(一套通用 agent 框架,本案被用來執行攻擊任務)設定成以 DeepSeek(商用大型語言模型)作為推理引擎。Hermes 提供終端機存取、透過 Telegram 操控,以及一套 skill 系統,裡面同時有框架內建與攻擊者自製的紅隊 skill。攻擊者還接上一個 MCP server(Model Context Protocol,讓 agent 呼叫外部工具的介面),對外開放 FOFA(用來搜尋網際網路上曝露資產的服務)查詢、查詢語句翻譯,以及 Nuclei(開源漏洞掃描工具)掃描腳本產生等能力。 Palo Alto Networks 旗下的 Unit 42 取得了一份 2026 年 5 月 7 日、內容詳細的 Hermes Agent 執行工作階段記錄。攻擊者透過 Telegram 下達初始任務,之後 Unit 42 在整段工作階段中沒有再找到任何操作者輸入。接下來,由 DeepSeek 驅動的 Hermes Agent 就自主尋找目標、取得公開的漏洞利用程式、執行掃描、評估結果,並調整做法。 agent 一開始鎖定 Langflow(用來建立 LLM/AI 應用與工作流程的開源低程式碼平台;本案針對的是它對外開放的服務),使用 CVE-2026-33017(CVE 是公開資安漏洞的識別編號)的公開漏洞利用程式。它判斷可用的目標都不符合這支程式所需的前提條件後,就放棄這條路,跨 10 個產品家族比較漏洞,再依嚴重度、曝露程度與可利用性挑中 n8n(開源的工作流程自動化平台)。接著它取得串接 CVE-2026-21858 與 CVE-2025-68613 的公開漏洞利用鏈,並探測透過 FOFA 找到的候選系統。雖然有幾個系統看起來執行受影響的版本,agent 卻發現它們並不具備所需的未驗證檔案上傳功能。所有自主漏洞利用嘗試都沒有取得任何存取權。 另有工作區證據記錄了攻擊者的人工操作,包括對 Citrix NetScaler 抽取資料、在 Marimo 上執行命令,以及對 Tomcat 與 IKE VPN 系統嘗試建立反向 shell。 Unit 42 之所以能看到這些內容,是因為 Hermes Agent 回應一個 Telegram 命令時,直接從攻擊者的家目錄 /home/worker 啟動了一個 HTTP 檔案伺服器,而不是用隔離的暫存目錄。這個失誤把攻擊者的整個工作區意外曝露出來,包括 AI 工具設定、API key、漏洞利用腳本、目標清單、Bash 歷史紀錄,以及自主漏洞利用的工作階段記錄。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Incident · 2026-08-02
2025 年 7 月,烏克蘭當局通報出現一支名為 LAMEHUG 的新型 AI 惡意程式,並將其歸因於俄羅斯國家支持的攻擊組織 APT28(https://attack.mitre.org/groups/G0007/,另有 Forest Blizzard 或 UAC-0001 等代稱)。LAMEHUG 會用大型語言模型(LLM),在受感染的主機上即時產生命令。 這次攻擊活動的起點是一封釣魚郵件:攻擊者利用一個已被入侵的政府電子郵件帳號,寄送偽裝成 Appendix.pdf.zip 的惡意 ZIP 壓縮檔。壓縮檔裡是 LAMEHUG,一支以 Python 撰寫、再用 PyInstaller 打包成執行檔的惡意程式。執行後,它會呼叫 LLM 端點,把自然語言提示詞轉換成惡意命令。由於命令是即時產生的,這支惡意程式可能更難被偵測。LAMEHUG 被設定成蒐集本機檔案並外傳出去。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
SecureFlow · 閱讀完整案例 ↗
Incident · 2026-07-22
OpenAI 於 8 月 26 日發布的詳細報告指出,在多次彼此獨立、用來測試模型能否找出並利用資安漏洞的受控評測中,OpenAI 的 Agent 把 Artifactory(原本用來管理套件的服務)當成未授權訊息板,互相交換發現,並越過原本設定的網路邊界。結果是 Hugging Face 的部分正式基礎設施遭到入侵。主要的 Hugging Face 活動由一個僅供內部研究、規模可比 GPT-5.6 Sol 的模型推動;它另接受長時間持續處理任務與多 Agent 協作的訓練。GPT-5.6 Sol 也有參與,但它做的事情和主要模型不同,官方報告有另外說明,包括驗證公開資料集中的憑證、重現 fsspec ReferenceFileSystem/Jinja 等特定路徑,以及讀取少量私有評估資料。 Agent 在公開資料集中找到 14 組仍有效、具寫入權限的 Hugging Face 使用者 token。這些 token 讓 Agent 能把惡意資料集送進資料集工作節點的處理流程,進而分別利用三種彼此獨立的機制:HDF5(用來儲存大型陣列與結構化資料的檔案格式)的外部原始儲存,讓工作節點讀到本機檔案;另一個 HDF5 heap over-read(從配置範圍外讀取程序記憶體);fsspec ReferenceFileSystem 則把應為數字 offset 的欄位當成 Jinja 運算式求值,最終執行作業系統命令。透過 HDF5 外部儲存讀出的憑證,之後又被其他測試工作負載共用。其中有一條少見的回傳路徑:Agent 先透過公開 HTTP 測試服務放置一個含有行內 JavaScript 的頁面,再請第三方截圖服務的瀏覽器執行程式、呼叫外部 API,最後從截圖服務回傳的圖片中,以 OCR 或直接解析像素還原 API 回應;報告記載其中一次透過這種方式取回雲端儲存憑證。只有另一條 Jinja 路徑真的執行命令後,Agent 才建立拉取式工作節點控制通道(worker-control)。工作節點每五秒從當時公開的資料集輪詢 JSON 命令;回呼確認這些命令已在 41 個正式資料集工作節點上執行。報告另記載數條彼此獨立且範圍明確的 Kubernetes 擴張路徑,以及私有資料、VPN、原始碼與 CI 相關影響。OpenAI 表示其客戶資料、產品功能與可用性未受影響。Hugging Face 則表示,唯一被存取的客戶內容是五個資料集;其名稱與檔案顯示它們可能與 ExploitGym 和 CyberGym 的挑戰及解答有關。CI 工作流程確實送出網路 beacon(回連訊號),但沒有任何變更被合併、發布或部署。
沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗