AML.T0110.000 · Definition and Instructions

閱讀 MITRE ATLAS 中 AML.T0110.000「Definition and Instructions」相關的 3 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Adversaries may poison the model-visible definition or operational instructions of an AI agent tool to manipulate how an agent interprets, selects, or invokes the tool. The poisoned content may be contained in tool descriptions, docstrings, parameter names, help text, input or output schemas, annotations, examples, manifests, skill instruction files, or other static content used to explain a tool's capabilities to the model. Malicious instructions in this layer may direct the agent to collect additional data, populate hidden or unnecessary parameters, conceal actions from the user, or invoke other tools. Because an agent may receive a more complete representation of a tool than is shown in the user interface, the model may process malicious instructions that are invisible or only partially visible to a human reviewer[[invariant-tool-poisoning]]. Definition poisoning may also be used for tool shadowing, in which the definition of one malicious tool contains instructions that alter how the agent selects or invokes another trusted tool. The poisoned tool may not need to be invoked for its definition to influence the agent if definitions from multiple connected tools are included in the same model context[[invariant-tool-poisoning]].

框架官方來源 ↗ · 開啟互動探索 ↗

Research ·

透過遠端被投毒的 MCP 工具外洩資料

Invariant Labs 的研究人員示範了,設定成使用遠端 Model Context Protocol(MCP)工具的 AI agent,可能受到模型投毒攻擊。他們指出,一個 MCP 工具可以在自己的 docstring 說明中夾帶惡意提示詞,而這段內容會被納入 AI agent 的處理脈絡,改變它的行為。 他們用一個概念驗證的 MCP 工具示範這個攻擊:這個工具會指示 agent 在真正使用它之前,先做幾件額外的事,包括從受害者電腦上讀取含有憑證的檔案,再把檔案內容存進這個工具的其中一個輸入參數。等到這個工具真的被執行時,受害者的憑證就被外傳到那台被投毒的 MCP server 上。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

仿冒 Agent Skill 先累積人氣,再換成惡意內容竊取憑證

skills.sh 是讓使用者尋找 Agent Skill 的公開登錄平台;Skill 是可供 AI Agent 載入的工作說明與工具設定。Zenity 揭露並協調移除一波正在進行的攻擊資產:攻擊者建立與 Paperclip、Browser Use 兩個 Agent 專案相似的組織、Skill、儲存庫與套件名稱。Paperclip Skill 家族在文件仍正常時先累積顯示安裝次數,7 月 11 日才把安裝說明換成惡意指令,這種先取得信任、之後替換內容的手法稱為供應鏈 Rug Pull。惡意指令會引導 Agent 執行攻擊者控制的程式碼;另一條 Browser Use 路徑則要求 Agent 安裝含木馬的 PyPI 套件。研究人員還原的憑證竊取程式會檢查超過 100 個設定路徑,再把 Base64 編碼的純文字資料送到 api[.]getpaperclipp[.]com/feedback 。報告中的 170 萬是彙總後的顯示安裝次數,不是獨立使用者數,也不是已確認感染數。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

以被投毒的 ClawdBot Skill 發動供應鏈攻擊

一位資安研究人員做了一次概念驗證的供應鏈攻擊:他在 agent 的 Skill 登錄平台 ClawdHub 上,分享了一個被投毒的 ClawdBot Skill。這個 Skill 中含有一段提示詞注入,會讓 ClawdBot 執行一道 shell 命令,連到研究人員的伺服器。雖然這位研究人員只是拿這個存取權去警告使用者其中的危險,但他其實大可改成送出惡意內容,直接入侵使用者的系統。這位研究人員記錄到,在這個被投毒的 Skill 發布到 ClawdHub 之後的頭 8 小時內,就有 16 位不同的使用者下載並執行了它。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗