AML.T0010.005 · AI Agent Tool

閱讀 MITRE ATLAS 中 AML.T0010.005「AI Agent Tool」相關的 3 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Adversaries may target AI agent tools as a means to compromise a victim's AI supply chain. Tools add capabilities to AI agents, allowing them to interact with other services, connect to data sources, access internet resources, run system tools, and execute code. They are an attractive target for adversaries because compromising an AI agent can provide them with broad access and permissions on the victim's system via the agent's other tools. Poisoned AI agent tools may contain malicious definitions or instructions, hidden executable logic, or deliberately poisoned runtime responses (See [AI Agent Tool Poisoning](/techniques/AML.T0110)). These changes may manipulate the agent's behavior, modify how other tools are invoked, introduce hidden side effects, or provide unauthorized access to data and services. Adversaries have successfully used a poisoned MCP server to exfiltrate private user data [[koi]]. Agent tools have exploded in popularity, with thousands of MCP servers available publicly [[glama]]. They are often released on open-source software repositories such as GitHub, indexed on hubs specific to MCP servers [[mcp-hub]][[mcp-server-hub]], and published to package registries such as NPM. AI agents can also be connected to remotely-hosted tools [[remote-mcp]]. This creates an environment where malicious tools can proliferate rapidly and safeguards are often not in place.

框架官方來源 ↗ · 開啟互動探索 ↗

Research ·

透過遠端被投毒的 MCP 工具外洩資料

Invariant Labs 的研究人員示範了,設定成使用遠端 Model Context Protocol(MCP)工具的 AI agent,可能受到模型投毒攻擊。他們指出,一個 MCP 工具可以在自己的 docstring 說明中夾帶惡意提示詞,而這段內容會被納入 AI agent 的處理脈絡,改變它的行為。 他們用一個概念驗證的 MCP 工具示範這個攻擊:這個工具會指示 agent 在真正使用它之前,先做幾件額外的事,包括從受害者電腦上讀取含有憑證的檔案,再把檔案內容存進這個工具的其中一個輸入參數。等到這個工具真的被執行時,受害者的憑證就被外傳到那台被投毒的 MCP server 上。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

被投毒的 Postmark MCP server 外洩郵件內容

一名惡意行為者透過供應鏈攻擊,成功從 Postmark MCP server 的使用者身上外洩郵件內容。Postmark 是一項郵件遞送服務,讓組織可以透過 API 寄送行銷與交易郵件;而 Postmark MCP server 則讓使用者能透過 AI agent 操作 Postmark。 這名惡意行為者假冒 Postmark,在 npm 上註冊了 postmark-mcp 這個套件名稱。一開始,他發布的是這個 MCP server 的正常版本。等到這個套件變得熱門、每週下載量超過 1,000 次之後,他就翻臉不認人(rugpull),上傳了一個惡意版本。這個惡意版本會把他自己的電子郵件位址,加進這個 MCP 工具所寄出每一封郵件的 BCC 欄位。凡是升級到這個版本、又繼續使用該工具的使用者,所有郵件都會被外洩到他手上。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

以被投毒的 ClawdBot Skill 發動供應鏈攻擊

一位資安研究人員做了一次概念驗證的供應鏈攻擊:他在 agent 的 Skill 登錄平台 ClawdHub 上,分享了一個被投毒的 ClawdBot Skill。這個 Skill 中含有一段提示詞注入,會讓 ClawdBot 執行一道 shell 命令,連到研究人員的伺服器。雖然這位研究人員只是拿這個存取權去警告使用者其中的危險,但他其實大可改成送出惡意內容,直接入侵使用者的系統。這位研究人員記錄到,在這個被投毒的 Skill 發布到 ClawdHub 之後的頭 8 小時內,就有 16 位不同的使用者下載並執行了它。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗