AML.T0112.000 · Local AI Agent

閱讀 MITRE ATLAS 中 AML.T0112.000「Local AI Agent」相關的 6 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Adversaries may achieve full system compromise by abusing AI agents running locally on a host, such as computer-use agents or AI-driven browsers. These agents are designed to autonomously interact with the operating system, applications, and external services, often with broad permissions to execute commands, access files, manage credentials, and control user workflows. If an adversary is able to take control of an AI agent's behavior, they effectively gain the same level of access as the agent. This can result in complete control over the machine, including executing arbitrary code, accessing or exfiltrating sensitive data, modifying system configurations, and establishing persistence.

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research ·

LLMSmith:整合 LLM 的應用程式中的遠端程式碼執行漏洞

LLMSmith 論文指出,研究人員在 11 個 LLM 框架中找出 20 個漏洞:19 個遠端程式碼執行(RCE)漏洞,以及 1 個任意檔案讀寫漏洞。研究評估 51 個應用程式,其中 17 個可被利用:16 個涉及 RCE,另 1 個涉及 SQL 注入。 受評估的框架包括 LangChain、LlamaIndex、Pandas-ai、Langflow、Pandas-llm、Auto-GPT、Griptape、Lagent、MetaGPT、vanna 與 langroid。 公開應用程式研究記錄了 14 個應用程式的反向 shell。至於植入後門與攻擊其他使用者等追加危害示範,研究另以可檢視內部程式碼的本機複製環境進行,避免傷害真實服務;不能把這些示範全部寫成正式環境中的利用結果。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AI ClickFix:用 ClickFix 手法挾持 computer-use agent

Embrace the Red(https://embracethered.com/)示範了 AI 的 computer-use agent 也會被社交工程手法攻擊,而且可以被操弄成在受害者電腦上執行任意程式碼。這個攻擊是「ClickFix」的變形,而 ClickFix 原本是一種騙人類自己複製惡意命令並執行的社交工程手法。 研究人員用 ChatGPT 產生了一個網站,專門設計來吸引 computer-use agent 和它互動。當使用者請自己的 Claude Computer-Use Agent 造訪這個網站時,頁面上「Are you a computer? Please see instructions to confirm:」這段文字,就讓 agent 去點了對應的按鈕。這個動作會執行 JavaScript,把一段惡意命令複製到 agent 的剪貼簿中。接著 agent 就照著頁面上的指示,開啟終端機、貼上那段惡意命令並執行。這道命令會從研究人員的網站下載一個腳本並執行它。在示範中,這個腳本只是打開受害者的小算盤,但在實際情境中,攻擊者可以執行任意程式碼,把受害者的系統整台拿下。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Ollama for Windows 自動更新造成的長期遠端程式碼執行

Striga 與 CERT Polska 記錄了 Ollama for Windows 0.12.10 到 0.22.0 之間一組串連起來的缺陷:攻擊者若能影響更新回應,就能提供惡意的 ETag 或 Content-Disposition 路徑值;更新程式會把惡意內容寫到暫存目錄之外的位置,例如 Windows 啟動資料夾;Windows 上的簽章驗證實際上不做任何事;使用者之後登入時,這個惡意程式就會被執行,而且會一直存在。Ollama 在 v0.23.3 首次提供了強化後的更新流程。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

JADEPUFFER:AI 工作流程伺服器遭入侵後,資料庫勒索如何展開

Sysdig 描述的 JADEPUFFER 是一套由 LLM 協助操作的資料庫勒索流程。攻擊者先利用 Langflow(用來建立 LLM/AI 工作流的視覺化框架)CVE-2025-3248,把 Base64 編碼的 Python 惡意程式碼送到 Langflow 主機執行;接著蒐集主機環境、憑證與可連線服務資訊,往 Nacos/MySQL 基礎設施移動,最後加密或刪除設定與資料庫資料表。這篇的防禦重點很實際:AI 工作流伺服器不能只當成測試工具管理,而要有受限的程式碼執行邊界、身分驗證、網路分段、對外連線管制、憑證撤銷與輪替、破壞性操作監控,以及實際驗證過的資料復原能力。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Prompt-to-Shell:Microsoft Semantic Kernel 中的兩條遠端程式碼執行路徑

微軟記錄了 Semantic Kernel 中兩條各自獨立、從提示詞一路走到主機遠端程式碼執行的路徑:一條是 Python 版 Search Plugin 的 filter 以 eval() 求值;另一條是 .NET 版 SessionsPythonPlugin 的檔案傳輸函式被開放給模型呼叫,因而能把惡意內容寫進主機的「啟動」資料夾。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗