AML.T0080 · AI Agent Context Poisoning

閱讀 MITRE ATLAS 中 AML.T0080「AI Agent Context Poisoning」相關的 3 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Adversaries may attempt to manipulate the context used by an AI agent's large language model (LLM) to influence the responses it generates or actions it takes. This allows an adversary to persistently change the behavior of the target agent and further their goals. Context poisoning can be accomplished by prompting the LLM to add instructions or preferences to memory (See [Memory](/techniques/AML.T0080.000)) or by simply prompting an LLM that uses prior messages in a thread as part of its context (See [Thread](/techniques/AML.T0080.001)).

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research ·

Notion AI Agent 間接提示詞注入與資料外洩漏洞

兩份研究展示了不同的 Notion AI 外洩路徑:CodeIntegrity 用客戶回饋 PDF 誘導 functions.search 傳出含客戶資料的 URL;PromptArmor 則在更新招募追蹤表時,用惡意履歷觸發圖片請求,於核准前外洩資料。PromptArmor 在 2026 年 1 月 8 日的更新中確認,文件更新漏洞已在正式環境修正;該更新沒有提供確切的部署時間。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Moltbook:agent 社群動態如何變成全球對外連線攻擊面

Zenity 用一組彼此配合的 Moltbook 貼文(讓 AI agent 讀取的社群貼文與動態內容),在不到一週內讓超過 1,000 個連上 OpenClaw(agent 平台)的 agent 端點,自動連線到研究團隊設置的無害測試網址。這不是破壞性漏洞,也不是已知惡意 botnet;它是一個安全警訊:如果 agent 會在背景讀取社群動態、解析貼文並自行開啟連結,社群內容就不只是資料,而是能驅動 agent 群體對外連線的攻擊面。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

提示詞地雷攻擊:CRM AI 助理的寫入動作為什麼需要一道授權關卡

Zenity 的 Prompt Mines 研究顯示,外部攻擊者可以透過 Email-to-Case 或 Web-to-Case(把 email 或網頁表單轉成客服案件的 Salesforce 功能)建立 Salesforce(CRM 平台)客服案件,把惡意指令拆進多筆案件標題,等使用者向 Einstein(Salesforce 的 CRM AI 助理)詢問常見後續問題時才觸發。攻擊成功後,Einstein 不是只回答錯誤內容,而是可能呼叫 QueryRecords 找出聯絡人 ID,再反覆呼叫 UpdateCustomerContact 把 CRM 聯絡資料改成攻擊者指定的值。防線必須放在寫入前:依使用者原始請求縮小工具權限、對高影響寫入做獨立驗證,並準備資料完整性復原措施。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗