Incident · 2026-11-17 · 實務關聯
2026 年 8 月底,Sekoia 威脅偵測與研究團隊(TDR)在一座模擬 Flowise 2.2.8(低程式碼 AI Agent 建置平台)的對外開放蜜罐中,記錄到一起分為六個階段的真實攻擊。第一階段不到三分鐘的掃描裡,攻擊者先辨識伺服器版本、列出對話工作流程,再從未設身分驗證的管理 API 取走預埋的 OpenAI、Anthropic 與 RAG PostgreSQL 資料庫誘餌憑證。約兩小時後,攻擊者再次掃描 14 個管理 API 路由,嘗試把既有流程改名,並在新增的 System Status 流程裡加入並設定 HTTP Request 節點,打算讓流程一執行就向外部主機回連。接著攻擊者轉向推論介面,送出 overrideConfig.systemMessage 覆寫系統提示詞、試探跨工作階段記憶、要求查詢模擬財務資料庫,最後還改用中文要求協助分析外部的 Nightingale v6 監控系統。這份報告確認了攻擊者送來的請求與設定操作;不過蜜罐只回傳模擬結果,背後沒有接上真正的語言模型、系統命令執行環境或財務資料庫,報告也沒有證實外部回連真的建立成功。
關聯理由: 攻擊者試圖借用 Agent 預期具備的檢索與內網存取能力,接觸受保護的資源。 真實攻擊者在模擬環境對相應的 API 或工具邊界送出請求。回應是模擬的,無法據此確認正式環境的憑證外洩、模型行為、命令執行、對外回連或所提到的系統遭入侵。
攻擊者的請求確實發生;由蜜罐模擬的工具與模型回應不能當成正式環境遭入侵的結果。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-30
SafeBreach 在 Gemini 網頁版與 Android 版示範,日曆邀請及電子郵件可夾帶間接提示詞注入。取回指令後,助理可能立即改寫回覆或操作日曆;另一些路徑則把指令留在對話紀錄,等使用者之後互動時,再調用 Google Home、開啟網站或啟動 Zoom。Gmail 外洩路徑先在初次回覆組好來源網址,把另一封郵件的主旨放進網址,之後才因使用者再次互動而開啟。這些是不同的受控示範,不能串成每次都會發生所有影響的單一路徑,也不是已確認的惡意活動。
關聯理由: 注入流程把日曆或 Gmail 資料送到攻擊者網址。
日曆邀請與郵件中的指令,在被檢索後改變 Gemini 的操作;立即執行與延後到下一輪的工具呼叫,仍須分開判斷。
SecureFlow · 閱讀完整案例 ↗
Research · 2026-10-30
Invariant Labs 的研究人員示範了,設定成使用遠端 Model Context Protocol(MCP)工具的 AI agent,可能受到模型投毒攻擊。他們指出,一個 MCP 工具可以在自己的 docstring 說明中夾帶惡意提示詞,而這段內容會被納入 AI agent 的處理脈絡,改變它的行為。 他們用一個概念驗證的 MCP 工具示範這個攻擊:這個工具會指示 agent 在真正使用它之前,先做幾件額外的事,包括從受害者電腦上讀取含有憑證的檔案,再把檔案內容存進這個工具的其中一個輸入參數。等到這個工具真的被執行時,受害者的憑證就被外傳到那台被投毒的 MCP server 上。
關聯理由: 工具 docstring 要求讀取憑證並經工具參數送往 server。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
工具 docstring 要求讀取憑證並經工具參數送往 server。
SecureFlow · 閱讀完整案例 ↗
Exercise · 2026-10-30
Zenity 的研究人員示範了如何以提示詞注入攻擊一個由 AI 驅動的客服 agent,把組織的資料外洩出去。 這次的目標系統,是 Zenity 用 Copilot Studio 做出來的客服 agent,設計上參照麥肯錫為了簡化自家客服流程所打造的 agent。這個 AI agent 會監看一個客服信箱,客戶會在那裡寄出委託需求。收到需求之後,agent 會查看該客戶過去的往來紀錄、判斷哪位顧問最適合接手,再寄信給該顧問說明這次的需求,並附上顧問後續與客戶接洽所需的所有相關脈絡。 Zenity 的研究人員先做目標鎖定,找出一個由 AI agent 管理的信箱。接著他們以提示詞注入,探查這個 AI agent 的細節,例如它有哪些知識來源與工具。等到摸清楚這個 AI agent 的能力之後,研究人員就能寫出一段提示詞,把該組織 RAG 資料庫與 CRM 中的客戶私人資料取出來,再透過這個 AI agent 的郵件工具外傳出去。 廠商回應:微軟很快承認並修正了這個問題。Zenity 研究人員在這次演練中所用的提示詞已經失效,不過其他寫法仍可能有效。
關聯理由: 客服 agent 從 CRM 與 RAG 取出資料並使用郵件工具外傳。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
客服 agent 從 CRM 與 RAG 取出資料並使用郵件工具外傳。
SecureFlow · 閱讀完整案例 ↗
Exercise · 2026-10-30
Morris II 是刻意建置的研究示範:RAG 郵件助理取回惡意郵件後,把指令複製到產生的回覆,並加入通信中的機敏資料,再由自動郵件流程寄出。流程圖把投遞、存入資料庫、取回後遵從指令、產生內容,以及寄出造成的兩種安全影響分開。兩條影響分支不代表觀察到兩封獨立郵件,也不是實際受害者活動。
關聯理由: 注入後的回覆揭露檢索通信中的私人聯絡資訊。
惡意郵件經 RAG 擷取,回應複製指令並洩漏資訊。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-26
AppOmni 測試了以 AI agent 處理服務管理工作的 ServiceNow Now Assist。低權限使用者把指示放進工單;管理者啟動分類 agent 後,工單文字誘導它找上同團隊可探索到的紀錄管理 agent。受控測試成功把受保護工單的內容複製到攻擊者可讀取的工單。這展示的是特定設定下的授權邊界問題,不是廠商證實的正式環境惡意入侵。
關聯理由: 注入後工作流程使用合法相連紀錄存取權,揭露私人資訊。
受控 Now Assist 工單到紀錄移轉,利用可探索的合法 agent;不合併其他管理或 SMTP 示範。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-23
Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。
關聯理由: 注入後保留的指示,利用 agent 合法對話存取及 HTTP 能力傳出資料。
受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-23 · 實務關聯
Johann Rehberger 測試微軟 SQL Server Management Studio(SSMS,用來管理 SQL Server 的工具)內建的 Copilot AI 查詢助理,發現資料庫擁有者寫入的惡意指示,能誘使 Copilot 借用另一位權限更高的使用者連線來執行 SQL。系統內建以正規表示式判斷是否唯讀的防護機制,未能阻止動態 SQL;研究者最終成功將攻擊者的登入帳號加入 sysadmin 伺服器角色。此外,研究另以直接提示詞示範透過備份工具將資料表內容經由 SMB 傳出;這是另一組獨立測試,目前沒有公開資料顯示這些手法已被用於實際攻擊。
關聯理由: 本案同時建立相連助理的間接控制,以及直接示範的相連資料庫外洩能力。 SMB 外洩由不同直接提示測試示範;最終間接權限提升測試並未證明同一次也有外洩。
SSMS 中繼資料至 SQL 權限提升的受控測試,另有直接 SQL/SMB 測試;不把兩者串成同一次入侵,也不主張逃出作業系統沙箱。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-01
Manifold Security 驗證指出:Azure DevOps PR 說明中對人眼隱藏的 HTML 註解,會被微軟官方 MCP 伺服器的 PR 工具原樣回傳。受測的 Claude Code 與 Copilot CLI 審查 agent 依照註解指示,利用審查者的高權限帳號觸發外部貢獻者無權存取的專案管線(pipeline)、讀取私有 Wiki 頁面,並將敏感內容貼到攻擊者看得到的 PR 留言中。MSRC 已受理並追蹤該通報;公開資料並未確認微軟已完成伺服器端修補。
關聯理由: PR 說明裡的 HTML 註解經官方 MCP 工具原文回傳,審查 agent 讀取投稿者無權存取的 wiki 並張貼出來;MSRC 已受理,來源未確認修補。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
PR 說明裡的 HTML 註解經官方 MCP 工具原文回傳,審查 agent 讀取投稿者無權存取的 wiki 並張貼出來;MSRC 已受理,來源未確認修補。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-01
Unit 42 在虛構的 SupportCo 環境中測試 AgentCore Harness:研究人員把惡意指示藏在客服票單,讓 agent 透過預設可用的 shell 執行程式。程式讀取 Harness 主程序的記憶體,取得營運方 MCP 服務帳號的 JWT 與伺服器網址,再以一次 HTTP POST 將兩者傳到模擬攻擊者的接收端。研究人員接著從另一台電腦重用 JWT,透過 MCP 服務讀取測試用客戶個資。這不是終端使用者的憑證,也不是已確認的真實客戶入侵;AWS 將通報列為客戶應處理的組態安全問題,並未宣布修補雲端服務漏洞。
關聯理由: Unit 42 的虛構 SupportCo 測試中,客服票單誘使 agent 執行 shell 程式,讀取 Harness 主程序記憶體中的營運方 MCP 服務帳號 JWT。程式以一次 HTTP POST 傳出 JWT 與 MCP 網址,研究人員再從另一台電腦重用 JWT 存取測試用客戶資料;這不是終端使用者的憑證。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
Unit 42 的虛構 SupportCo 測試中,客服票單誘使 agent 執行 shell 程式,讀取 Harness 主程序記憶體中的營運方 MCP 服務帳號 JWT。程式以一次 HTTP POST 傳出 JWT 與 MCP 網址,研究人員再從另一台電腦重用 JWT 存取測試用客戶資料;這不是終端使用者的憑證。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-09-15
資安公司 Check Point Research 發現,ChatGPT 為了處理需要跑程式的問題,會建立「程式碼執行容器」;這些容器本身連不到公開網際網路,但全部都能連到同一台內部的 JFrog Artifactory(一種用來集中存放與發送軟體套件的服務),以便安裝 Python 與 npm 套件。問題在於,這台服務開放了「項目屬性」API,任何容器都能在同一個套件項目上寫入與讀取任意字串,等於把套件的中繼資料(metadata)變成一個不同帳號之間共用的信箱。在概念驗證(PoC)中,攻擊者的工作階段先把一項任務放進這個信箱,受害者的工作階段就在同一輪回答中執行它,讀取受害者已連接的 Gmail,再把資料送回去。
關聯理由: 共用 Artifactory properties 形成跨帳號信箱;受害端仍需收到誘導指令。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
共用 Artifactory properties 形成跨帳號信箱;受害端仍需收到誘導指令。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-09-13
Zenity 的受控研究示範了新型態的攻擊路徑:攻擊者寄送一封藏有偽造歷史對話紀錄 (Conversation Turns) 的惡意 email,當使用者要求瀏覽器擴充功能 Claude in Chrome 摘要最近信件時,該信件便誘導 Claude 呼叫 javascript_tool,從 esm-sh.com 載入仿冒套件並在已登入的瀏覽器環境中執行。惡意程式碼利用瀏覽器已具備的登入狀態讀取 Gmail 的郵件資料與驗證碼,進而分別展示了接管 Slack、X 與 Claude.ai 帳號的攻擊路徑。需澄清的是,Gmail 在本案中是資料來源與攔截管道,並非 Gmail 帳號本身遭攻破。
關聯理由: 郵件指令讓瀏覽器 agent 載入套件,研究分別展示帳號接管路徑。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
郵件指令讓瀏覽器 agent 載入套件,研究分別展示帳號接管路徑。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-09-13
資安機構 Adversa AI 展示了一項受控概念驗證:攻擊者將惡意指令以 AES-256-GCM 演算法加密後嵌入網頁中,順利繞過前置的靜態內容審查;接著,後端的 Python 執行環境在處理網頁時將其解密為明文,使惡意指令重新進入 AI 的決策流程。在針對 Grok 的測試中,解密後的指令誘導系統將使用者資料傳送至攻擊者控制的伺服器;而在另一項針對 Gemini 的測試中,則誘發了類似越獄(Jailbreak)的異常回應。需說明的是,該研究未公開完整攻擊程式碼,亦尚未有第三方獨立重現此結果。
關聯理由: 來源描述解密後的指令及 Grok 外傳路徑;未公開 payload,也無獨立重現。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。 來源描述解密後的指令及 Grok 外傳路徑;未公開 payload,也無獨立重現。
來源描述解密後的指令及 Grok 外傳路徑;未公開 payload,也無獨立重現。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-08-25
CoSnitch 是 Varonis 對 Microsoft Copilot 網頁版(一般使用者可在瀏覽器中使用的 AI 助理)的研究,涵蓋兩種彼此獨立的攻擊。第一條在 copilot.microsoft.com 連結中結合 ?q= 與未見於公開文件的 autorun=1 ,讓已登入的工作階段未經確認就執行內嵌的提示詞(prompt),再透過 Copilot 的 URL 擷取能力將已連接資料送出。第二條則利用惡意網頁中的隱藏指令,讓摘要工作呼叫 memory.add ,把攻擊者指令寫入長期記憶。Microsoft 已於 8 月 18 日修補;CVE-2026-24301 是這項公開資安漏洞的識別編號。
關聯理由: 網址 autorun 在已登入工作階段自動提交指令。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
長期記憶投毒會跨工作階段存在,直到明確移除。 網址 autorun 在已登入工作階段自動提交指令。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-08-25
Atlassian Rovo 是一項可依使用者權限搜尋 Jira、Confluence 等已連接工作資料的 AI 助理;兩份研究從不同的 Rovo 入口,得到相同的防禦教訓。RovoBlast 把攻擊者的提示詞(prompt)放進攻擊者可控制的 rovoChatPrompt URL 參數;Atlassian 已於 7 月 8 日完成伺服器端修正。PromptArmor 則利用上傳文件中的隱藏指令,搜尋 Jira 與 Confluence,再透過 Rovo 的 URL 開啟工具送出結果;即使關閉網路搜尋,這條路徑仍成立。兩案適合放在同一篇比較,但不能串成同一條攻擊鏈。
關聯理由: 文件指令使 Rovo 搜尋內部資料並透過擷取能力外傳。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
文件指令使 Rovo 搜尋內部資料並透過擷取能力外傳。 網址參數供給外部指令,使用受害者可用的搜尋與工具權限。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-08-06
Backslash 資安研究團隊示範了一個 Model Context Protocol(MCP)工具,可以成為對 Cursor 發動間接提示詞注入攻擊的管道,最後甚至導致惡意 shell 命令被執行。 Backlash 資安研究團隊做了一個概念驗證用的 MCP server,功能是抓取網頁內容。當使用者請 Cursor 用這個工具去抓一個含有惡意提示詞的網站時,那段提示詞就被注入 Cursor 的脈絡中。這段提示詞會指示 Cursor 執行一道 shell 命令,把受害者含有憑證的 AI agent 設定檔外傳出去。Cursor 在執行這道惡意命令之前確實會先詢問使用者,這一點有機會緩解整個攻擊。
關聯理由: 遭投毒的 MCP 回應,會讓 Cursor 提出外洩憑證的 shell 命令。實際執行與資料揭露仍需要使用者核准;來源示範中的確認視窗,仍是能介入阻止攻擊的位置。
MCP 網頁內容誘導 shell 外傳;仍存在使用者執行確認。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-08-02
Radware 研究人員在受控測試環境中展示了這種攻擊流程:攻擊者把提示詞藏進電子郵件或文件後,只要使用者日後要求 ChatGPT 透過連接器讀取該內容,原本正常的工作流程就可能遭惡意指令操弄,轉而外洩資料。研究人員觀察到,攻擊者可以事先準備多個固定 URL,讓每個 URL 分別對應一個字元。例如,請求 https://attacker.example/a 代表字元 A,請求 https://attacker.example/b 代表字元 B;系統依序請求哪些 URL,就等於逐字傳出遭竊資料,攻擊者再從伺服器紀錄還原完整內容。攻擊者還能引導 ChatGPT 把指令寫入 Memory(可跨對話保存資訊的記憶功能),讓它跨對話持續生效;另有一條支線會竊取聯絡人,再由攻擊者控制的伺服器寄出更多惡意郵件;Radware 表示 OpenAI 已在 2025 年 12 月 16 日修正回報的漏洞。工作區管理者能停用不需要的連接器或 Memory、縮小 OAuth 授權與資料範圍,並撤銷不再需要的授權;原始內容隔離、Memory 寫入與讀回管制,以及一律阻擋未經核准的對外連線,則由 OpenAI 或其他平台實作者負責;資料去向政策也只能直接管制仍保有伺服器端內容 ID 的明確資料傳送。
關聯理由: 連接器擷取郵件內的隱藏指令後,經 URL 請求外傳資料。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
連接器擷取郵件內的隱藏指令後,經 URL 請求外傳資料。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-08-02
Microsoft 研究人員在受控測試環境中發現,攻擊者可以把指令放進 GitHub issue、pull request 或留言;符合條件的工作流程把這些不可信文字交給 Claude Code GitHub Action 後,Claude 可能用 Read 工具讀取 /proc/self/environ 。Bash 雖然在 bubblewrap 內執行,環境變數也會先清除,但同一個程序裡的 Read 走了另一條路徑,仍能取得 ANTHROPIC_API_KEY ;移除金鑰前綴有助於避開模型拒絕與 GitHub 遮罩規則。Anthropic 已修正公開研究中的敏感 /proc 讀取,部署方仍要讓所有工具共用同一套機敏憑證保護邊界,以及不由模型自行決定的固定授權規則。
關聯理由: GitHub 內容注入使 CI agent 讀取並輸出環境憑證。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
GitHub 內容注入使 CI agent 讀取並輸出環境憑證。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-27 · 實務關聯
Zenity 研究人員在受控測試環境中發現,只要受害者點開一個特製 ChatGPT 連結,ChatGPT Workspace Agents(OpenAI 用來建立企業工作流程 agent 的功能)就可能在已登入的受害者 session 中,自動建立並發布攻擊者指定的 agent。這個 agent 會接上受害者先前授權的連接器(讓 agent 存取 Outlook、Gmail、Slack 等外部服務的整合功能)、關閉操作前確認,並建立一組彼此錯開五分鐘的每小時排程,湊出每五分鐘一次的電子郵件指令循環。OpenAI 已在 2026 年 6 月 8 日修正 Zenity 回報的漏洞。這個案例顯示,agent 控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務)變更、連接器使用、排程執行和對外傳送資料,必須各自有獨立授權檢查。
關聯理由: 偽造的工作流程把合法連接器存取權,轉用來把私人業務資料與憑證寄給攻擊者。 最初機制是已登入工作階段中的指令偽造;不另把後續刻意設定的 TASK 郵件命令處理,當成另一個隱藏式間接注入。
已登入工作階段中的指令偽造,建立可持續執行的惡意 agent。Preview、排程郵件控制及四條展示的影響分支,均分開保留。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-11
兩份研究展示了不同的 Notion AI 外洩路徑:CodeIntegrity 用客戶回饋 PDF 誘導 functions.search 傳出含客戶資料的 URL;PromptArmor 則在更新招募追蹤表時,用惡意履歷觸發圖片請求,於核准前外洩資料。PromptArmor 在 2026 年 1 月 8 日的更新中確認,文件更新漏洞已在正式環境修正;該更新沒有提供確切的部署時間。
關聯理由: 間接注入借用應用程式合法的私有頁面存取權,再把內容傳給未獲授權的 URL 接收者。
兩份獨立受控研究,分別透過 functions.search 傳出客戶資料,以及在核准前透過圖片請求傳出招募資料。1 月 8 日的更新確認文件編輯修補已上線,未提供確切部署時間,也不能據此判定所有搜尋路徑都已修正。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-07
Zenity 展示一條零點擊外洩路徑:使用者只是把不可信文件交給 ChatGPT 摘要,文件裡的隱藏指令卻要求 ChatGPT 連接器(讓 ChatGPT 讀取已授權 SaaS 資料的工具)搜尋已連接的 Google Drive,找出 API key,再把這把 API key 放進 Markdown 圖片 URL。當用戶端渲染回覆並載入那張看似安全的 Azure Blob(Microsoft Azure 的物件儲存服務)圖片時,API key 就會隨網址參數送到攻擊者可觀察的位置。核心教訓是資料流向控制:連接器可以為了任務讀取資料,不代表讀到的值可以被放進遠端圖片、網址或任何會把資料送往外部的功能。
關聯理由: 連接器內容讓 agent 找出金鑰,透過自動載入圖片的查詢參數外傳。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
連接器內容讓 agent 找出金鑰,透過自動載入圖片的查詢參數外傳。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-07
Zenity 使用兩個測試帳號與本機的測試用憑證檔案進行受控示範:含有惡意指令的行事曆邀請,讓 Perplexity Comet 經過攻擊者網站後瀏覽本機檔案,再把檔案內容放進網址查詢參數外傳。最初的 file:// 封鎖可被 view-source:file:// 繞過;Zenity 在 2 月 13 日驗證追加修補有效,並於 3 月 3 日發表研究。
關聯理由: 日曆內容操縱瀏覽器進入 file:// 並外傳受控測試憑證。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
日曆內容操縱瀏覽器進入 file:// 並外傳受控測試憑證。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-06
Zenity 透過受控示範,讓 Perplexity Comet(可自主執行工作的瀏覽器)從含有惡意指令的行事曆邀請,進入已解鎖的 1Password 擴充功能與已登入的密碼保管庫工作階段。agent 顯示保管庫中的機密值,再把資料放進網址參數外傳;另一條路徑則變更帳號密碼,並從寄到電子郵件的 Emergency Kit(帳號救援文件)擷取 Secret Key(登入新裝置時需要的帳號秘密金鑰)。瀏覽器 agent 在遵循不可信工作內容時,也沿用了機敏登入狀態。
關聯理由: 需已安裝並解鎖 1Password;使用既有瀏覽器能力與登入狀態。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
需已安裝並解鎖 1Password;使用既有瀏覽器能力與登入狀態。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-06-29
Johann Rehberger(Embrace The Red)把 Microsoft 365 Copilot 的多個弱點串成一個叫 SpAIware 的持續性後門。使用者請 Copilot 摘要一份被投毒的文件時,其中夾帶的指令就被讀了進來;接著以「延遲工具呼叫」(Delayed Tool Invocation)讓惡意內容穩定觸發,同時避開內容防護檢查;最後在一個看似無害的是/否確認背後,透過 record_memory 這個工具把指令寫進長期記憶。之後每一次對話中,只要使用者貼上機敏資料,這段被植入的記憶就會讓 Copilot 顯示一個 HTML 分割預覽畫面,而它的 CSS @font-face 會把 font-src 指向 wuzzi.net/ /pirate.woff2。瀏覽器會自動去抓這個字型檔,機敏資料因此外流,而且繞過了原本只針對 image-src 的內容安全政策。微軟為此指派了 CVE-2026-24299,並在 2026-03-05 修正了這條 HTML 預覽的外洩路徑。
關聯理由: 文件投毒加上延後工具呼叫,建立跨對話的記憶外傳路徑。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
文件投毒加上延後工具呼叫,建立跨對話的記憶外傳路徑。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-06-29
PromptArmor 示範了在一個 81 行的 Copilot Cowork Skills 檔案中,藏進五行間接提示詞注入,就足以把整個 Microsoft 365 租戶裡的文件外洩出去。當使用者請 Cowork 幫忙回顧這一週的工作時,這個被投毒的 skill 會指示自主 agent 讀取 SharePoint 與 OneDrive 的檔案、產生免登入就能下載的連結、把它們塞進 HTML 圖片標籤中,並自動送出一則 Teams 訊息;由於把 Teams 或 Outlook 訊息送給使用者本人不需要任何人工核准,因此使用者一打開訊息,就會觸發那些圖片請求,把連結外洩出去。這個攻擊在針對 Claude Opus 4.7 與 Sonnet 4.6 的測試中,五次全部成功(5/5)。
關聯理由: skill 內的指令使 agent 取得檔案下載連結並送出 Teams 訊息。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
skill 內的指令使 agent 取得檔案下載連結並送出 Teams 訊息。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-06-22
SearchLeak 的資安風險在於,一個看起來可信的 Microsoft 365 Copilot Enterprise Search(用來搜尋 Microsoft 365 企業資料的 Copilot 搜尋介面)連結本身就能帶攻擊指令。Varonis 把 q 參數被當成提示詞(prompt)的問題,接上串流輸出清理不及的空檔:回答還沒完全清理完,瀏覽器就可能先讀到 HTML 圖片標籤並送出請求;再加上 Bing 圖片搜尋的伺服器端請求偽造(SSRF,也就是讓 Bing 代為向攻擊者指定的網址發出請求),受害者點開連結後,Copilot 可能會讀到使用者有權限看的郵件、行事曆、SharePoint 或 OneDrive 資料,然後把其中的敏感內容夾在圖片網址裡,瀏覽器或 Bing 去載入那張圖片時,資料就跟著送到攻擊者控制的伺服器。真正要守的是三個地方:搜尋參數進模型前要檢查,輸出進瀏覽器前要先變安全,任何自動對外連線,都要先檢查其中夾帶的資料能不能送到該連線目標。
關聯理由: 網址提示詞與受信任圖片擷取路徑組合成資料外傳。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
網址提示詞與受信任圖片擷取路徑組合成資料外傳。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-06-09
SafeBreach 展示了 Gemini 語音助理(Google 的語音助理)如何被藏在 WhatsApp、Slack、SMS 等手機通知裡的惡意指令影響。 注意: 這篇的防禦責任主要落在語音助理和行動平台供應商,例如 Google Gemini、Amazon Alexa、Apple Siri、Samsung Bixby,以及正在自建助理執行環境的團隊。一般企業如果只是採用供應商提供的助理,通常無法直接修補這條 AI 執行鏈;能做的是透過裝置政策、通知內容設計和供應商治理降低曝險。
關聯理由: 日曆邀請等內容在擷取後影響工具使用,部分行為延到後續對話。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
日曆邀請等內容在擷取後影響工具使用,部分行為延到後續對話。
AIA · 閱讀完整案例 ↗
Research · 2026-05-27
Palo Alto Networks 旗下的 Unit 42 提出 Agent Session Smuggling 攻擊手法:惡意遠端 agent 會利用已建立的工作階段,在正常的跨 agent 互動中夾帶隱藏指令。本案的遠端研究助理由攻擊者控制,透過 A2A(Agent2Agent,讓不同 agent 彼此溝通、委派任務並回傳結果的協定)接收金融助理委派的市場新聞研究。工作階段(session)會保留對話前後文與任務狀態,讓惡意研究助理有機會持續提出額外要求。兩個概念驗證(PoC)分別展示了內部資訊外洩,以及未經使用者授權買進 10 股股票;第二個 PoC 假設攻擊者已知道工具介面,這些資訊可來自公開資料或先前的 PoC。防禦重點是讓每則訊息及其引發的動作,都能追溯到原始使用者、agent 身分、委派範圍與資料來源,並對高影響動作獨立驗證授權。
關聯理由: 惡意遠端 agent 藉有狀態的 A2A 工作階段提供隱藏指令。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
惡意遠端 agent 藉有狀態的 A2A 工作階段提供隱藏指令。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-05-08
研究人員證實,藏在網頁中的間接提示詞注入攻擊(indirect prompt injection),可以使 OpenClaw 執行惡意指令碼、污染後續 agent 上下文,並像命令與控制 agent 一樣運作。
關聯理由: 保留外部提示詞、持久設定與 C2 的分支及條件。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
保留外部提示詞、持久設定與 C2 的分支及條件。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-04-23
EchoLeak 證明,外部電子郵件一旦在回答時被 Microsoft 365 Copilot(可讀取 Microsoft 365 資料的企業 AI 助理)擷取進同一段上下文,就可能從「參考資料」變成「模型會照做的指令」。攻擊者再把機密內容塞進 Markdown 連結或圖片網址,利用聊天介面的自動載入和被內容安全政策(Content Security Policy,CSP,也就是瀏覽器用來限制頁面可以連到哪些網路位置的規則)放行的 Microsoft Teams 代理路徑,就能在使用者完全沒點任何東西的情況下把資料送出去。真正要守的,不只是提示詞分類器,而是擷取邊界、可信與不可信內容分區、資料流出出口,以及輸出呈現層。
關聯理由: 郵件進入 RAG 後注入指令,繞過輸出與網域限制外傳資料。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
郵件進入 RAG 後注入指令,繞過輸出與網域限制外傳資料。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-04-16
Noma 在受控 Salesforce Agentforce 環境驗證一條間接提示詞注入攻擊鏈:Web-to-Lead 潛在客戶資料的描述欄影響了後續回答,使 CRM 電子郵件資料出現在圖片 URL 中。該 URL 使用研究者重新註冊、仍位於允許清單的網域;載入圖片時,資料便傳到研究者的伺服器。Noma 評為 CVSS 9.4;Salesforce 隨後重新取得網域,並加入 Trusted URLs 管制。 防禦須涵蓋不可信紀錄、工具權限,以及回答呈現層發出的網路請求。
關聯理由: Web-to-Lead 的外部指令使回答含有夾帶 CRM 電子郵件資料的圖片 URL;短版展示日誌顯示 GET 請求傳到研究者重新註冊的允許網域。 此處對應「相連資源遭入侵」:攻擊者利用提示詞注入,讓生成式 AI 應用程式洩漏其原本有權存取的私密資源。
Web-to-Lead 的外部指令使回答含有夾帶 CRM 電子郵件資料的圖片 URL;短版展示日誌顯示 GET 請求傳到研究者重新註冊的允許網域。
AIA · 閱讀完整案例 ↗