NISTAML.039 · 相連資源遭入侵

閱讀 NIST Adversarial ML (2025) 中 NISTAML.039「相連資源遭入侵」相關的 31 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。例如,整合電子郵件的助理可能被誘導轉寄私人信件,或把使用者上傳的資料放入送往攻擊者網址的請求。應用程式原本合法的存取能力,被轉用來向未獲授權的接收者揭露資訊,因此跨越了資料保護的信任邊界。

框架官方來源 ↗ · 開啟互動探索 ↗

Incident · · 實務關聯

Flowise 蜜罐實錄:未驗證的 API、回連工作流程與 Agent 探查

2026 年 8 月底,Sekoia 威脅偵測與研究團隊(TDR)在一座模擬 Flowise 2.2.8(低程式碼 AI Agent 建置平台)的對外開放蜜罐中,記錄到一起分為六個階段的真實攻擊。第一階段不到三分鐘的掃描裡,攻擊者先辨識伺服器版本、列出對話工作流程,再從未設身分驗證的管理 API 取走預埋的 OpenAI、Anthropic 與 RAG PostgreSQL 資料庫誘餌憑證。約兩小時後,攻擊者再次掃描 14 個管理 API 路由,嘗試把既有流程改名,並在新增的 System Status 流程裡加入並設定 HTTP Request 節點,打算讓流程一執行就向外部主機回連。接著攻擊者轉向推論介面,送出 overrideConfig.systemMessage 覆寫系統提示詞、試探跨工作階段記憶、要求查詢模擬財務資料庫,最後還改用中文要求協助分析外部的 Nightingale v6 監控系統。這份報告確認了攻擊者送來的請求與設定操作;不過蜜罐只回傳模擬結果,背後沒有接上真正的語言模型、系統命令執行環境或財務資料庫,報告也沒有證實外部回連真的建立成功。

關聯理由: 攻擊者試圖借用 Agent 預期具備的檢索與內網存取能力,接觸受保護的資源。 真實攻擊者在模擬環境對相應的 API 或工具邊界送出請求。回應是模擬的,無法據此確認正式環境的憑證外洩、模型行為、命令執行、對外回連或所提到的系統遭入侵。

攻擊者的請求確實發生;由蜜罐模擬的工具與模型回應不能當成正式環境遭入侵的結果。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

透過日曆邀請對 Gemini 發動提示詞攻擊

SafeBreach 在 Gemini 網頁版與 Android 版示範,日曆邀請及電子郵件可夾帶間接提示詞注入。取回指令後,助理可能立即改寫回覆或操作日曆;另一些路徑則把指令留在對話紀錄,等使用者之後互動時,再調用 Google Home、開啟網站或啟動 Zoom。Gmail 外洩路徑先在初次回覆組好來源網址,把另一封郵件的主旨放進網址,之後才因使用者再次互動而開啟。這些是不同的受控示範,不能串成每次都會發生所有影響的單一路徑,也不是已確認的惡意活動。

關聯理由: 注入流程把日曆或 Gmail 資料送到攻擊者網址。

日曆邀請與郵件中的指令,在被檢索後改變 Gemini 的操作;立即執行與延後到下一輪的工具呼叫,仍須分開判斷。

SecureFlow · 閱讀完整案例 ↗

Research ·

透過遠端被投毒的 MCP 工具外洩資料

Invariant Labs 的研究人員示範了,設定成使用遠端 Model Context Protocol(MCP)工具的 AI agent,可能受到模型投毒攻擊。他們指出,一個 MCP 工具可以在自己的 docstring 說明中夾帶惡意提示詞,而這段內容會被納入 AI agent 的處理脈絡,改變它的行為。 他們用一個概念驗證的 MCP 工具示範這個攻擊:這個工具會指示 agent 在真正使用它之前,先做幾件額外的事,包括從受害者電腦上讀取含有憑證的檔案,再把檔案內容存進這個工具的其中一個輸入參數。等到這個工具真的被執行時,受害者的憑證就被外傳到那台被投毒的 MCP server 上。

關聯理由: 工具 docstring 要求讀取憑證並經工具參數送往 server。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

工具 docstring 要求讀取憑證並經工具參數送往 server。

SecureFlow · 閱讀完整案例 ↗

Exercise ·

透過 Copilot Studio 中的 agent 工具外洩資料

Zenity 的研究人員示範了如何以提示詞注入攻擊一個由 AI 驅動的客服 agent,把組織的資料外洩出去。 這次的目標系統,是 Zenity 用 Copilot Studio 做出來的客服 agent,設計上參照麥肯錫為了簡化自家客服流程所打造的 agent。這個 AI agent 會監看一個客服信箱,客戶會在那裡寄出委託需求。收到需求之後,agent 會查看該客戶過去的往來紀錄、判斷哪位顧問最適合接手,再寄信給該顧問說明這次的需求,並附上顧問後續與客戶接洽所需的所有相關脈絡。 Zenity 的研究人員先做目標鎖定,找出一個由 AI agent 管理的信箱。接著他們以提示詞注入,探查這個 AI agent 的細節,例如它有哪些知識來源與工具。等到摸清楚這個 AI agent 的能力之後,研究人員就能寫出一段提示詞,把該組織 RAG 資料庫與 CRM 中的客戶私人資料取出來,再透過這個 AI agent 的郵件工具外傳出去。 廠商回應:微軟很快承認並修正了這個問題。Zenity 研究人員在這次演練中所用的提示詞已經失效,不過其他寫法仍可能有效。

關聯理由: 客服 agent 從 CRM 與 RAG 取出資料並使用郵件工具外傳。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

客服 agent 從 CRM 與 RAG 取出資料並使用郵件工具外傳。

SecureFlow · 閱讀完整案例 ↗

Exercise ·

Morris II 蠕蟲:以 RAG 為途徑的攻擊

Morris II 是刻意建置的研究示範:RAG 郵件助理取回惡意郵件後,把指令複製到產生的回覆,並加入通信中的機敏資料,再由自動郵件流程寄出。流程圖把投遞、存入資料庫、取回後遵從指令、產生內容,以及寄出造成的兩種安全影響分開。兩條影響分支不代表觀察到兩封獨立郵件,也不是實際受害者活動。

關聯理由: 注入後的回覆揭露檢索通信中的私人聯絡資訊。

惡意郵件經 RAG 擷取,回應複製指令並洩漏資訊。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Now Assist:工單中的指示誘導 Agent 借用同團隊的高權限工具

AppOmni 測試了以 AI agent 處理服務管理工作的 ServiceNow Now Assist。低權限使用者把指示放進工單;管理者啟動分類 agent 後,工單文字誘導它找上同團隊可探索到的紀錄管理 agent。受控測試成功把受保護工單的內容複製到攻擊者可讀取的工單。這展示的是特定設定下的授權邊界問題,不是廠商證實的正式環境惡意入侵。

關聯理由: 注入後工作流程使用合法相連紀錄存取權,揭露私人資訊。

受控 Now Assist 工單到紀錄移轉,利用可探索的合法 agent;不合併其他管理或 SMTP 示範。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentCorruption:遭竊的執行角色將 agent 記憶轉為持續性控制管道(C2)

Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。

關聯理由: 注入後保留的指示,利用 agent 合法對話存取及 HTTP 能力傳出資料。

受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

SSMS Copilot:資料庫指示繞過唯讀檢查,讓 db_owner 取得 sysadmin 權限

Johann Rehberger 測試微軟 SQL Server Management Studio(SSMS,用來管理 SQL Server 的工具)內建的 Copilot AI 查詢助理,發現資料庫擁有者寫入的惡意指示,能誘使 Copilot 借用另一位權限更高的使用者連線來執行 SQL。系統內建以正規表示式判斷是否唯讀的防護機制,未能阻止動態 SQL;研究者最終成功將攻擊者的登入帳號加入 sysadmin 伺服器角色。此外,研究另以直接提示詞示範透過備份工具將資料表內容經由 SMB 傳出;這是另一組獨立測試,目前沒有公開資料顯示這些手法已被用於實際攻擊。

關聯理由: 本案同時建立相連助理的間接控制,以及直接示範的相連資料庫外洩能力。 SMB 外洩由不同直接提示測試示範;最終間接權限提升測試並未證明同一次也有外洩。

SSMS 中繼資料至 SQL 權限提升的受控測試,另有直接 SQL/SMB 測試;不把兩者串成同一次入侵,也不主張逃出作業系統沙箱。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Azure DevOps PR 隱藏指示誘導審查 agent 跨專案讀取資料並貼回留言

Manifold Security 驗證指出:Azure DevOps PR 說明中對人眼隱藏的 HTML 註解,會被微軟官方 MCP 伺服器的 PR 工具原樣回傳。受測的 Claude Code 與 Copilot CLI 審查 agent 依照註解指示,利用審查者的高權限帳號觸發外部貢獻者無權存取的專案管線(pipeline)、讀取私有 Wiki 頁面,並將敏感內容貼到攻擊者看得到的 PR 留言中。MSRC 已受理並追蹤該通報;公開資料並未確認微軟已完成伺服器端修補。

關聯理由: PR 說明裡的 HTML 註解經官方 MCP 工具原文回傳,審查 agent 讀取投稿者無權存取的 wiki 並張貼出來;MSRC 已受理,來源未確認修補。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

PR 說明裡的 HTML 註解經官方 MCP 工具原文回傳,審查 agent 讀取投稿者無權存取的 wiki 並張貼出來;MSRC 已受理,來源未確認修補。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentCore Harness:提示注入竊取 MCP 服務憑證並讀取測試資料

Unit 42 在虛構的 SupportCo 環境中測試 AgentCore Harness:研究人員把惡意指示藏在客服票單,讓 agent 透過預設可用的 shell 執行程式。程式讀取 Harness 主程序的記憶體,取得營運方 MCP 服務帳號的 JWT 與伺服器網址,再以一次 HTTP POST 將兩者傳到模擬攻擊者的接收端。研究人員接著從另一台電腦重用 JWT,透過 MCP 服務讀取測試用客戶個資。這不是終端使用者的憑證,也不是已確認的真實客戶入侵;AWS 將通報列為客戶應處理的組態安全問題,並未宣布修補雲端服務漏洞。

關聯理由: Unit 42 的虛構 SupportCo 測試中,客服票單誘使 agent 執行 shell 程式,讀取 Harness 主程序記憶體中的營運方 MCP 服務帳號 JWT。程式以一次 HTTP POST 傳出 JWT 與 MCP 網址,研究人員再從另一台電腦重用 JWT 存取測試用客戶資料;這不是終端使用者的憑證。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

Unit 42 的虛構 SupportCo 測試中,客服票單誘使 agent 執行 shell 程式,讀取 Harness 主程序記憶體中的營運方 MCP 服務帳號 JWT。程式以一次 HTTP POST 傳出 JWT 與 MCP 網址,研究人員再從另一台電腦重用 JWT 存取測試用客戶資料;這不是終端使用者的憑證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

一個共用的內部套件服務,讓某個 ChatGPT 帳號能在別人的對話裡執行任務

資安公司 Check Point Research 發現,ChatGPT 為了處理需要跑程式的問題,會建立「程式碼執行容器」;這些容器本身連不到公開網際網路,但全部都能連到同一台內部的 JFrog Artifactory(一種用來集中存放與發送軟體套件的服務),以便安裝 Python 與 npm 套件。問題在於,這台服務開放了「項目屬性」API,任何容器都能在同一個套件項目上寫入與讀取任意字串,等於把套件的中繼資料(metadata)變成一個不同帳號之間共用的信箱。在概念驗證(PoC)中,攻擊者的工作階段先把一項任務放進這個信箱,受害者的工作階段就在同一輪回答中執行它,讀取受害者已連接的 Gmail,再把資料送回去。

關聯理由: 共用 Artifactory properties 形成跨帳號信箱;受害端仍需收到誘導指令。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

共用 Artifactory properties 形成跨帳號信箱;受害端仍需收到誘導指令。

AIA · 閱讀完整案例 ↗

Validated Research ·

一封藏有偽造對話的電子郵件,串起多條瀏覽器帳號攻擊路徑(Claude-Site Scripting)

Zenity 的受控研究示範了新型態的攻擊路徑:攻擊者寄送一封藏有偽造歷史對話紀錄 (Conversation Turns) 的惡意 email,當使用者要求瀏覽器擴充功能 Claude in Chrome 摘要最近信件時,該信件便誘導 Claude 呼叫 javascript_tool,從 esm-sh.com 載入仿冒套件並在已登入的瀏覽器環境中執行。惡意程式碼利用瀏覽器已具備的登入狀態讀取 Gmail 的郵件資料與驗證碼,進而分別展示了接管 Slack、X 與 Claude.ai 帳號的攻擊路徑。需澄清的是,Gmail 在本案中是資料來源與攔截管道,並非 Gmail 帳號本身遭攻破。

關聯理由: 郵件指令讓瀏覽器 agent 載入套件,研究分別展示帳號接管路徑。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

郵件指令讓瀏覽器 agent 載入套件,研究分別展示帳號接管路徑。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

加密內容注入(Cryptographic Context Injection):網頁加密指令繞過靜態檢查,誘導 AI 執行環境外洩資料

資安機構 Adversa AI 展示了一項受控概念驗證:攻擊者將惡意指令以 AES-256-GCM 演算法加密後嵌入網頁中,順利繞過前置的靜態內容審查;接著,後端的 Python 執行環境在處理網頁時將其解密為明文,使惡意指令重新進入 AI 的決策流程。在針對 Grok 的測試中,解密後的指令誘導系統將使用者資料傳送至攻擊者控制的伺服器;而在另一項針對 Gemini 的測試中,則誘發了類似越獄(Jailbreak)的異常回應。需說明的是,該研究未公開完整攻擊程式碼,亦尚未有第三方獨立重現此結果。

關聯理由: 來源描述解密後的指令及 Grok 外傳路徑;未公開 payload,也無獨立重現。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。 來源描述解密後的指令及 Grok 外傳路徑;未公開 payload,也無獨立重現。

來源描述解密後的指令及 Grok 外傳路徑;未公開 payload,也無獨立重現。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

CoSnitch:Copilot 自動執行外傳與長期記憶投毒是兩條不同路徑

CoSnitch 是 Varonis 對 Microsoft Copilot 網頁版(一般使用者可在瀏覽器中使用的 AI 助理)的研究,涵蓋兩種彼此獨立的攻擊。第一條在 copilot.microsoft.com 連結中結合 ?q= 與未見於公開文件的 autorun=1 ,讓已登入的工作階段未經確認就執行內嵌的提示詞(prompt),再透過 Copilot 的 URL 擷取能力將已連接資料送出。第二條則利用惡意網頁中的隱藏指令,讓摘要工作呼叫 memory.add ,把攻擊者指令寫入長期記憶。Microsoft 已於 8 月 18 日修補;CVE-2026-24301 是這項公開資安漏洞的識別編號。

關聯理由: 網址 autorun 在已登入工作階段自動提交指令。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

長期記憶投毒會跨工作階段存在,直到明確移除。 網址 autorun 在已登入工作階段自動提交指令。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Atlassian Rovo 的兩條提示詞注入路徑,都能把內部資料送出

Atlassian Rovo 是一項可依使用者權限搜尋 Jira、Confluence 等已連接工作資料的 AI 助理;兩份研究從不同的 Rovo 入口,得到相同的防禦教訓。RovoBlast 把攻擊者的提示詞(prompt)放進攻擊者可控制的 rovoChatPrompt URL 參數;Atlassian 已於 7 月 8 日完成伺服器端修正。PromptArmor 則利用上傳文件中的隱藏指令,搜尋 Jira 與 Confluence,再透過 Rovo 的 URL 開啟工具送出結果;即使關閉網路搜尋,這條路徑仍成立。兩案適合放在同一篇比較,但不能串成同一條攻擊鏈。

關聯理由: 文件指令使 Rovo 搜尋內部資料並透過擷取能力外傳。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

文件指令使 Rovo 搜尋內部資料並透過擷取能力外傳。 網址參數供給外部指令,使用受害者可用的搜尋與工具權限。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

透過 Cursor 使用的 MCP server 外洩資料

Backslash 資安研究團隊示範了一個 Model Context Protocol(MCP)工具,可以成為對 Cursor 發動間接提示詞注入攻擊的管道,最後甚至導致惡意 shell 命令被執行。 Backlash 資安研究團隊做了一個概念驗證用的 MCP server,功能是抓取網頁內容。當使用者請 Cursor 用這個工具去抓一個含有惡意提示詞的網站時,那段提示詞就被注入 Cursor 的脈絡中。這段提示詞會指示 Cursor 執行一道 shell 命令,把受害者含有憑證的 AI agent 設定檔外傳出去。Cursor 在執行這道惡意命令之前確實會先詢問使用者,這一點有機會緩解整個攻擊。

關聯理由: 遭投毒的 MCP 回應,會讓 Cursor 提出外洩憑證的 shell 命令。實際執行與資料揭露仍需要使用者核准;來源示範中的確認視窗,仍是能介入阻止攻擊的位置。

MCP 網頁內容誘導 shell 外傳;仍存在使用者執行確認。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

ZombieAgent:連接器提示詞注入如何跨工作階段持續,並擴散到更多收件者

Radware 研究人員在受控測試環境中展示了這種攻擊流程:攻擊者把提示詞藏進電子郵件或文件後,只要使用者日後要求 ChatGPT 透過連接器讀取該內容,原本正常的工作流程就可能遭惡意指令操弄,轉而外洩資料。研究人員觀察到,攻擊者可以事先準備多個固定 URL,讓每個 URL 分別對應一個字元。例如,請求 https://attacker.example/a 代表字元 A,請求 https://attacker.example/b 代表字元 B;系統依序請求哪些 URL,就等於逐字傳出遭竊資料,攻擊者再從伺服器紀錄還原完整內容。攻擊者還能引導 ChatGPT 把指令寫入 Memory(可跨對話保存資訊的記憶功能),讓它跨對話持續生效;另有一條支線會竊取聯絡人,再由攻擊者控制的伺服器寄出更多惡意郵件;Radware 表示 OpenAI 已在 2025 年 12 月 16 日修正回報的漏洞。工作區管理者能停用不需要的連接器或 Memory、縮小 OAuth 授權與資料範圍,並撤銷不再需要的授權;原始內容隔離、Memory 寫入與讀回管制,以及一律阻擋未經核准的對外連線,則由 OpenAI 或其他平台實作者負責;資料去向政策也只能直接管制仍保有伺服器端內容 ID 的明確資料傳送。

關聯理由: 連接器擷取郵件內的隱藏指令後,經 URL 請求外傳資料。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

連接器擷取郵件內的隱藏指令後,經 URL 請求外傳資料。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Claude Code GitHub Action:不可信內容如何利用讀檔工具,跨過持續整合環境的憑證隔離邊界

Microsoft 研究人員在受控測試環境中發現,攻擊者可以把指令放進 GitHub issue、pull request 或留言;符合條件的工作流程把這些不可信文字交給 Claude Code GitHub Action 後,Claude 可能用 Read 工具讀取 /proc/self/environ 。Bash 雖然在 bubblewrap 內執行,環境變數也會先清除,但同一個程序裡的 Read 走了另一條路徑,仍能取得 ANTHROPIC_API_KEY ;移除金鑰前綴有助於避開模型拒絕與 GitHub 遮罩規則。Anthropic 已修正公開研究中的敏感 /proc 讀取,部署方仍要讓所有工具共用同一套機敏憑證保護邊界,以及不由模型自行決定的固定授權規則。

關聯理由: GitHub 內容注入使 CI agent 讀取並輸出環境憑證。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

GitHub 內容注入使 CI agent 讀取並輸出環境憑證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

AgentForger:一個 ChatGPT 連結如何觸發企業內部惡意 agent 的自主運作

Zenity 研究人員在受控測試環境中發現,只要受害者點開一個特製 ChatGPT 連結,ChatGPT Workspace Agents(OpenAI 用來建立企業工作流程 agent 的功能)就可能在已登入的受害者 session 中,自動建立並發布攻擊者指定的 agent。這個 agent 會接上受害者先前授權的連接器(讓 agent 存取 Outlook、Gmail、Slack 等外部服務的整合功能)、關閉操作前確認,並建立一組彼此錯開五分鐘的每小時排程,湊出每五分鐘一次的電子郵件指令循環。OpenAI 已在 2026 年 6 月 8 日修正 Zenity 回報的漏洞。這個案例顯示,agent 控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務)變更、連接器使用、排程執行和對外傳送資料,必須各自有獨立授權檢查。

關聯理由: 偽造的工作流程把合法連接器存取權,轉用來把私人業務資料與憑證寄給攻擊者。 最初機制是已登入工作階段中的指令偽造;不另把後續刻意設定的 TASK 郵件命令處理,當成另一個隱藏式間接注入。

已登入工作階段中的指令偽造,建立可持續執行的惡意 agent。Preview、排程郵件控制及四條展示的影響分支,均分開保留。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Notion AI Agent 間接提示詞注入與資料外洩漏洞

兩份研究展示了不同的 Notion AI 外洩路徑:CodeIntegrity 用客戶回饋 PDF 誘導 functions.search 傳出含客戶資料的 URL;PromptArmor 則在更新招募追蹤表時,用惡意履歷觸發圖片請求,於核准前外洩資料。PromptArmor 在 2026 年 1 月 8 日的更新中確認,文件更新漏洞已在正式環境修正;該更新沒有提供確切的部署時間。

關聯理由: 間接注入借用應用程式合法的私有頁面存取權,再把內容傳給未獲授權的 URL 接收者。

兩份獨立受控研究,分別透過 functions.search 傳出客戶資料,以及在核准前透過圖片請求傳出招募資料。1 月 8 日的更新確認文件編輯修補已上線,未提供確切部署時間,也不能據此判定所有搜尋路徑都已修正。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentFlayer:企業 AI 連接器如何變成零點擊的資料外洩路徑

Zenity 展示一條零點擊外洩路徑:使用者只是把不可信文件交給 ChatGPT 摘要,文件裡的隱藏指令卻要求 ChatGPT 連接器(讓 ChatGPT 讀取已授權 SaaS 資料的工具)搜尋已連接的 Google Drive,找出 API key,再把這把 API key 放進 Markdown 圖片 URL。當用戶端渲染回覆並載入那張看似安全的 Azure Blob(Microsoft Azure 的物件儲存服務)圖片時,API key 就會隨網址參數送到攻擊者可觀察的位置。核心教訓是資料流向控制:連接器可以為了任務讀取資料,不代表讀到的值可以被放進遠端圖片、網址或任何會把資料送往外部的功能。

關聯理由: 連接器內容讓 agent 找出金鑰,透過自動載入圖片的查詢參數外傳。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

連接器內容讓 agent 找出金鑰,透過自動載入圖片的查詢參數外傳。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

PerplexedBrowser:行事曆邀請如何誘使 AI 瀏覽器讀取本機檔案

Zenity 使用兩個測試帳號與本機的測試用憑證檔案進行受控示範:含有惡意指令的行事曆邀請,讓 Perplexity Comet 經過攻擊者網站後瀏覽本機檔案,再把檔案內容放進網址查詢參數外傳。最初的 file:// 封鎖可被 view-source:file:// 繞過;Zenity 在 2 月 13 日驗證追加修補有效,並於 3 月 3 日發表研究。

關聯理由: 日曆內容操縱瀏覽器進入 file:// 並外傳受控測試憑證。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

日曆內容操縱瀏覽器進入 file:// 並外傳受控測試憑證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

瀏覽器 agent 碰到密碼保管庫時,工作階段與資料流向必須隔離

Zenity 透過受控示範,讓 Perplexity Comet(可自主執行工作的瀏覽器)從含有惡意指令的行事曆邀請,進入已解鎖的 1Password 擴充功能與已登入的密碼保管庫工作階段。agent 顯示保管庫中的機密值,再把資料放進網址參數外傳;另一條路徑則變更帳號密碼,並從寄到電子郵件的 Emergency Kit(帳號救援文件)擷取 Secret Key(登入新裝置時需要的帳號秘密金鑰)。瀏覽器 agent 在遵循不可信工作內容時,也沿用了機敏登入狀態。

關聯理由: 需已安裝並解鎖 1Password;使用既有瀏覽器能力與登入狀態。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

需已安裝並解鎖 1Password;使用既有瀏覽器能力與登入狀態。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Copirate 365:在 Microsoft 365 Copilot 中以記憶體後門長期外洩資料(CVE-2026-24299)

Johann Rehberger(Embrace The Red)把 Microsoft 365 Copilot 的多個弱點串成一個叫 SpAIware 的持續性後門。使用者請 Copilot 摘要一份被投毒的文件時,其中夾帶的指令就被讀了進來;接著以「延遲工具呼叫」(Delayed Tool Invocation)讓惡意內容穩定觸發,同時避開內容防護檢查;最後在一個看似無害的是/否確認背後,透過 record_memory 這個工具把指令寫進長期記憶。之後每一次對話中,只要使用者貼上機敏資料,這段被植入的記憶就會讓 Copilot 顯示一個 HTML 分割預覽畫面,而它的 CSS @font-face 會把 font-src 指向 wuzzi.net/ /pirate.woff2。瀏覽器會自動去抓這個字型檔,機敏資料因此外流,而且繞過了原本只針對 image-src 的內容安全政策。微軟為此指派了 CVE-2026-24299,並在 2026-03-05 修正了這條 HTML 預覽的外洩路徑。

關聯理由: 文件投毒加上延後工具呼叫,建立跨對話的記憶外傳路徑。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

文件投毒加上延後工具呼叫,建立跨對話的記憶外傳路徑。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Cowork Exfil:透過 Microsoft 365 Copilot Cowork 的被投毒 skill 外洩檔案

PromptArmor 示範了在一個 81 行的 Copilot Cowork Skills 檔案中,藏進五行間接提示詞注入,就足以把整個 Microsoft 365 租戶裡的文件外洩出去。當使用者請 Cowork 幫忙回顧這一週的工作時,這個被投毒的 skill 會指示自主 agent 讀取 SharePoint 與 OneDrive 的檔案、產生免登入就能下載的連結、把它們塞進 HTML 圖片標籤中,並自動送出一則 Teams 訊息;由於把 Teams 或 Outlook 訊息送給使用者本人不需要任何人工核准,因此使用者一打開訊息,就會觸發那些圖片請求,把連結外洩出去。這個攻擊在針對 Claude Opus 4.7 與 Sonnet 4.6 的測試中,五次全部成功(5/5)。

關聯理由: skill 內的指令使 agent 取得檔案下載連結並送出 Teams 訊息。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

skill 內的指令使 agent 取得檔案下載連結並送出 Teams 訊息。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

SearchLeak:Copilot 搜尋連結如何變成企業資料外洩路徑

SearchLeak 的資安風險在於,一個看起來可信的 Microsoft 365 Copilot Enterprise Search(用來搜尋 Microsoft 365 企業資料的 Copilot 搜尋介面)連結本身就能帶攻擊指令。Varonis 把 q 參數被當成提示詞(prompt)的問題,接上串流輸出清理不及的空檔:回答還沒完全清理完,瀏覽器就可能先讀到 HTML 圖片標籤並送出請求;再加上 Bing 圖片搜尋的伺服器端請求偽造(SSRF,也就是讓 Bing 代為向攻擊者指定的網址發出請求),受害者點開連結後,Copilot 可能會讀到使用者有權限看的郵件、行事曆、SharePoint 或 OneDrive 資料,然後把其中的敏感內容夾在圖片網址裡,瀏覽器或 Bing 去載入那張圖片時,資料就跟著送到攻擊者控制的伺服器。真正要守的是三個地方:搜尋參數進模型前要檢查,輸出進瀏覽器前要先變安全,任何自動對外連線,都要先檢查其中夾帶的資料能不能送到該連線目標。

關聯理由: 網址提示詞與受信任圖片擷取路徑組合成資料外傳。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

網址提示詞與受信任圖片擷取路徑組合成資料外傳。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Gemini 語音助理:手機通知如何變成提示詞注入入口

SafeBreach 展示了 Gemini 語音助理(Google 的語音助理)如何被藏在 WhatsApp、Slack、SMS 等手機通知裡的惡意指令影響。 注意: 這篇的防禦責任主要落在語音助理和行動平台供應商,例如 Google Gemini、Amazon Alexa、Apple Siri、Samsung Bixby,以及正在自建助理執行環境的團隊。一般企業如果只是採用供應商提供的助理,通常無法直接修補這條 AI 執行鏈;能做的是透過裝置政策、通知內容設計和供應商治理降低曝險。

關聯理由: 日曆邀請等內容在擷取後影響工具使用,部分行為延到後續對話。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

日曆邀請等內容在擷取後影響工具使用,部分行為延到後續對話。

AIA · 閱讀完整案例 ↗

Research ·

A2A 工作階段夾帶:惡意 agent 如何利用委派任務傳入隱藏指令

Palo Alto Networks 旗下的 Unit 42 提出 Agent Session Smuggling 攻擊手法:惡意遠端 agent 會利用已建立的工作階段,在正常的跨 agent 互動中夾帶隱藏指令。本案的遠端研究助理由攻擊者控制,透過 A2A(Agent2Agent,讓不同 agent 彼此溝通、委派任務並回傳結果的協定)接收金融助理委派的市場新聞研究。工作階段(session)會保留對話前後文與任務狀態,讓惡意研究助理有機會持續提出額外要求。兩個概念驗證(PoC)分別展示了內部資訊外洩,以及未經使用者授權買進 10 股股票;第二個 PoC 假設攻擊者已知道工具介面,這些資訊可來自公開資料或先前的 PoC。防禦重點是讓每則訊息及其引發的動作,都能追溯到原始使用者、agent 身分、委派範圍與資料來源,並對高影響動作獨立驗證授權。

關聯理由: 惡意遠端 agent 藉有狀態的 A2A 工作階段提供隱藏指令。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

惡意遠端 agent 藉有狀態的 A2A 工作階段提供隱藏指令。

AIA · 閱讀完整案例 ↗

Validated Research ·

OpenClaw 透過提示詞注入建立命令與控制通道

研究人員證實,藏在網頁中的間接提示詞注入攻擊(indirect prompt injection),可以使 OpenClaw 執行惡意指令碼、污染後續 agent 上下文,並像命令與控制 agent 一樣運作。

關聯理由: 保留外部提示詞、持久設定與 C2 的分支及條件。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

保留外部提示詞、持久設定與 C2 的分支及條件。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

EchoLeak:一封電子郵件如何讓 Microsoft 365 Copilot 在零點擊下外洩內部資料

EchoLeak 證明,外部電子郵件一旦在回答時被 Microsoft 365 Copilot(可讀取 Microsoft 365 資料的企業 AI 助理)擷取進同一段上下文,就可能從「參考資料」變成「模型會照做的指令」。攻擊者再把機密內容塞進 Markdown 連結或圖片網址,利用聊天介面的自動載入和被內容安全政策(Content Security Policy,CSP,也就是瀏覽器用來限制頁面可以連到哪些網路位置的規則)放行的 Microsoft Teams 代理路徑,就能在使用者完全沒點任何東西的情況下把資料送出去。真正要守的,不只是提示詞分類器,而是擷取邊界、可信與不可信內容分區、資料流出出口,以及輸出呈現層。

關聯理由: 郵件進入 RAG 後注入指令,繞過輸出與網域限制外傳資料。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

郵件進入 RAG 後注入指令,繞過輸出與網域限制外傳資料。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Salesforce Agentforce「ForcedLeak」:Web-to-Lead 表單遭提示詞注入攻擊,CRM 資料被帶走

Noma 在受控 Salesforce Agentforce 環境驗證一條間接提示詞注入攻擊鏈:Web-to-Lead 潛在客戶資料的描述欄影響了後續回答,使 CRM 電子郵件資料出現在圖片 URL 中。該 URL 使用研究者重新註冊、仍位於允許清單的網域;載入圖片時,資料便傳到研究者的伺服器。Noma 評為 CVSS 9.4;Salesforce 隨後重新取得網域,並加入 Trusted URLs 管制。 防禦須涵蓋不可信紀錄、工具權限,以及回答呈現層發出的網路請求。

關聯理由: Web-to-Lead 的外部指令使回答含有夾帶 CRM 電子郵件資料的圖片 URL;短版展示日誌顯示 GET 請求傳到研究者重新註冊的允許網域。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。

Web-to-Lead 的外部指令使回答含有夾帶 CRM 電子郵件資料的圖片 URL;短版展示日誌顯示 GET 請求傳到研究者重新註冊的允許網域。

AIA · 閱讀完整案例 ↗