IIC · 不安全的整合元件

閱讀 Google SAIF 2.0 中 IIC「不安全的整合元件」相關的 74 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。風險可能來自兩個方向:元件把不安全的模型輸出當成指令,或元件回傳不受信任的第三方內容,讓模型誤將其視為指令。提示詞注入只是其中一種手法;不安全的整合元件也可能遭資料投毒、規避攻擊或一般軟體漏洞利用。

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research · · 實務關聯

VerCellBreak:利用雙向 TLS 用戶端憑證的 AIA 欄位繞過 Vercel Sandbox 出口限制

AIR Security 研究員 Matan Elgabsi 與 Or Nevo 發表名為 VerCellBreak 的實證研究,示範一種利用雙向 TLS 驗證機制、間接繞過 Vercel Sandbox(Vercel 提供的程式碼隔離執行環境)對外網路限制的資料外流通道。實驗從沙盒內的程式已經能夠讀取測試機密開始。Vercel Sandbox 會把工作負載隔離在 Firecracker 微型虛擬機中,受測設定的網路政策會在 TLS 交握時檢查伺服器名稱指示(SNI),擋掉未經核准的直接連線。然而,允許清單內的服務如果使用雙向 TLS(mTLS,伺服器也會要求驗證用戶端憑證),並在檢查用戶端憑證時依憑證內 X.509「發證機構資訊存取(AIA)」擴充欄位提供的網址對外查找中繼憑證,情況就會改變:雖然沙盒本身的連線目標合乎允許清單,但外部驗證服務接下來會用自己的網路權限另發一筆查詢請求。研究團隊實測證實,這筆查找請求就這樣把沙盒內的測試資料帶到另一個未獲核准的站點。依 AIR 轉述,Vercel 認為最後一筆請求是由外部服務發出,因此將這次通報列為超出漏洞獎勵範圍。

關聯理由: 外部服務是准許連線的目的地,但它處理來源不受信任的憑證時,額外在該邊界之外發送網路請求。 受控 TLS 驗證方把沙盒內資料帶到另一個接收端。測試以沙盒內程式能讀取機密為前提,未驗證由模型產生外傳內容、改變 Agent 的決策或存取主機。

已驗證的是資料由外部驗證方間接送出。實驗未測試如何控制 Agent 或突破虛擬機。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Symantec:未經授權的 AI 中繼安裝腳本改寫模型連線與 Codex 沙盒設定

Symantec 威脅獵捕團隊(Threat Hunter Team)揭露,自 2026 年初起,在中國大陸及跨國企業位於南韓、台灣與馬來西亞的子公司等據點,共約 12 家組織的電腦上出現未經授權的「AI 中繼服務(AI relays)」。紀錄顯示這些端點通常先用 npm 安裝正版的 Codex 或 Claude Code,接著在幾分鐘到約半小時內,便執行了第三方提供的無檔案設定腳本(從網路取得內容後直接執行,省去先存成腳本檔的步驟)。這些腳本會改寫 ~/.codex/config.toml 、 ~/.claude/settings.json 及使用者層級的環境變數,把模型連線導向第三方中繼站。另有部分設定直接把 Codex 的 sandbox_mode 改成 danger-full-access ,解除本機沙盒保護,端點紀錄裡也出現關閉廠商遙測和錯誤回報的選項;甚至至少有一台 Claude Code 主機改用了中繼站自己發出的登入憑證。一旦請求流經第三方中繼站,對方就有機會看到實際送出的提示詞、程式碼與工具執行結果,也有辦法篡改回來的模型輸出。不過 Symantec 目前掌握的是端點設定異動;公開報告沒有證實中繼業者確實從中竊取過機密,或主動下達過惡意工具指令。

關聯理由: 第三方中繼站變成開發工具連線至模型時使用的整合端點,超出了原先核准的信任範圍。

端點記錄確認了設定異動。報告未觀察到中繼方進一步下達惡意命令或竊取機密。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

OpenAI Codex 與 Claude Code:下載資料夾內的 AGENTS.md 與 CLAUDE.md 如何影響 Agent

Forever Security 研究員 Gal Weizman 與 Omer Samet 在一名客戶的 ~/Downloads(下載)資料夾中,攔截並阻擋了一起實際投放:網頁透過瀏覽器自動下載了一支 13 KB 的惡意 AGENTS.md(給 AI 程式開發工具讀取的專案工作指示檔)。文件內容偽裝成「工程開發工作準則」,裡頭藏著誘導指令,企圖讓命令列開發工具 OpenAI Codex 去安裝惡意 npm 套件 function-color。只要開發者順手在下載資料夾啟動 Agent 並選擇信任該目錄,瀏覽器存進來的檔案就有機會被當成開發工作指示來執行。研究團隊在隔離虛擬機重現這條 Codex 路徑時,回報成功率超過 90%:Codex 會依指示修改使用者層級的 ~/.codex/config.toml、加入新的 MCP 啟動項目,再開一個未套用原有保護的新程序來載入它;大多數重複測試都改用無害替代套件,只有一次在隔離虛擬機執行了原本的惡意套件。研究團隊也另外寫了測試用 CLAUDE.md 來驗證 Claude Code,結果約半數測試成功改寫了模型連線設定;只要這個新端點生效,研究伺服器就會收到可重放的 OAuth token,同時也能假冒模型服務對客戶端回傳工具呼叫。重啟 Claude Code 就會讀進這個新端點,而約五分之一的測試甚至透過啟動子代理(subagent),在原本的工作階段內就直接切換過去。

關聯理由: 外部工作區內容進入了啟動、MCP 與模型端點整合,這些位置沒有依來源建立足夠的隔離。

Codex 客戶端攔截、隔離重現和 Claude Code 的獨立測試,各自有不同的證據範圍。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LiteLLM CVE-2026-89032:語意快取隔離失效導致跨使用者個資外洩與工具呼叫投毒

NVISO Labs 研究員 Tanguy Snoeck 揭露了一項影響 LiteLLM(用來統一串接與轉送多個語言模型 API 的代理閘道)的語意快取漏洞,公開資安漏洞識別編號為 CVE-2026-89032;這個問題在 v1.99.0 的受控環境獲得驗證,並已在 v1.101.0-rc.1 修補。相較於一般精確快取需要提示詞完全一模一樣才會命中,「語意快取(semantic cache)」會把提問轉成代表語意的向量嵌入(embeddings),只要後續提問的語意夠相近,就直接重用先前的模型輸出。照設計,LiteLLM 應該按 API 金鑰把快取空間分開,但在受影響版本開啟 redis-semantic 且透過 /v1/responses 呼叫時,不同 API 金鑰的請求卻會讀寫到同一區。研究團隊把相似度門檻設為 0.2 以便觀察命中,成功驗證了四種跨使用者後果:讓其他使用者讀到含測試個資的客服摘要、收到虛構的 449.99 美元促銷價、在設定成免人工核准的模擬 MCP 銀行執行非預期的轉帳(原本要求轉 50 美元,實際送給模擬工具的卻變成先前快取的 1,000 美元且收款對象也不同),以及在 pi 程式開發 Agent(v0.45.3)觸發本機 Shell 執行等狀況。

關聯理由: 閘道快取元件把另一位呼叫者的結構化回應交給下游應用。

下游影響分別來自四個各自設有前提的受控情境,共通起點是有問題的快取區隔。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

GTIG/Mandiant:跨雲端 LLMJacking 算力劫持與「LLM 混幣器」轉售

Google 威脅情資團隊(GTIG)與 Mandiant 彙整 2026 年在北美、南美與亞太地區處理的多起第一線事件應變調查,揭露了 LLMJacking(大型語言模型算力劫持)的常見手法,以及下游如何把盜來的推論額度包裝轉售。在部分案件中,受害組織單日遭盜刷的雲端 LLM 費用就超過 10 萬美元。不同案件採用的入侵入口各異,包括外洩的雲端或模型金鑰、對外開放的 Ollama 服務,以及 UNC6993 的工作階段釣魚。進入受影響的雲端環境後,有些案件的攻擊者會清查模型配額、從資料倉儲中繼資料裡翻找資料庫密碼,或冒用服務帳號讀取雲端機密。GTIG 另記錄到後續攻擊群組取得已驗證可用的 LiteLLM 虛擬金鑰後,提升 AI 閘道管理權限的案例。GTIG 引用的 CVE(公開資安漏洞的識別編號)在原廠公告中指向另一項漏洞;v1.83.14-stable 雖已包含該 CVE 的修補,重發金鑰時仍缺少變更所有權的授權檢查,這項修補另納入 v1.84.0。在另一個涉及「LLM 混幣器」Jet Night 的案件中,這套轉送服務在不到八小時內發出超過 50 萬次模型呼叫,讓單一家受害組織承擔近 100 萬美元的帳單;報告另也記錄了把受害帳號切到隨用隨付方案、反覆更換短效服務帳號的案例,以及在受害環境部署反向代理、使用 Manus Agent 框架建立容器化後門的案件。這些都是公開報告中各自記錄的獨立案例,並非同一起攻擊事件。

關聯理由: 對外開放的 Ollama 介面與報告提及的 LiteLLM 金鑰管理問題,分別讓攻擊者越過各自的 AI 服務整合邊界。

各種行為須回到有證據的個別案件。金鑰重發的通報與原廠公告中的漏洞編號各有來源,不能視為相同漏洞。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Exercise · · 實務關聯

TypeSafe AI Jev:偽造判定政策讓分類器召回率驟降並壓低工具風險評分

Datadog Security Labs 針對 TypeSafe AI 推出的快速結構化決策模型 Jev 做了一系列安全性實測。這類主打低延遲的「系統一」模型,不展開長鏈推理,能在單次推論中回傳分類選擇、數值評分或機率,常被用來偵測提示詞注入或評估工具呼叫有沒有風險。研究人員先拿四個公開提示詞注入資料集(共 12,295 筆樣本,含 4,643 筆攻擊與 7,652 筆正常輸入)做測試,發現 Noul 分數以 0.5 為門檻時,原本有 99.66% 的精確率與 82.90% 的召回率;但只要在待審查的不可信文字前面塞入偽造政策、讓模型採用另一套攻擊分類標準,Noul 的召回率就會一口氣掉 79.02 個百分點、只剩 3.88%(等於漏掉 96.12% 的攻擊),甚至有兩個資料集的攻擊樣本全數漏報。研究團隊也在 LangChain 的工具風險評估模擬情境中,測試僅有檢視權限(can_edit: false)的使用者要求呼叫 edit_workspace_file 修改員工手冊:這項工具背後的共用服務帳號原本就能寫入,風險評估關卡又會把使用者可自行編輯的個人簡介一併送進去判定。還沒加上偽造政策時,40 次測試全數被擋下,平均風險分數為 0.893;加入偽造政策後,40 次的平均分數就掉到 0.290,遠低於 0.5 的攔截門檻。研究公布的是評分變化,並沒有證實檔案真的遭到越權修改。

關聯理由: 中介層把使用者可控制的描述和可信的權限資料一起交給寫入工具的風險評估器。 應用程式測試量測的是該筆提議操作的風險分數,未驗證檔案確實遭到改寫、權限被擴大或每一輪測試的具體結果。

已證實的是分類器與風險評估分數的變化,後續操作是否執行另無證據。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Flowise 蜜罐實錄:未驗證的 API、回連工作流程與 Agent 探查

2026 年 8 月底,Sekoia 威脅偵測與研究團隊(TDR)在一座模擬 Flowise 2.2.8(低程式碼 AI Agent 建置平台)的對外開放蜜罐中,記錄到一起分為六個階段的真實攻擊。第一階段不到三分鐘的掃描裡,攻擊者先辨識伺服器版本、列出對話工作流程,再從未設身分驗證的管理 API 取走預埋的 OpenAI、Anthropic 與 RAG PostgreSQL 資料庫誘餌憑證。約兩小時後,攻擊者再次掃描 14 個管理 API 路由,嘗試把既有流程改名,並在新增的 System Status 流程裡加入並設定 HTTP Request 節點,打算讓流程一執行就向外部主機回連。接著攻擊者轉向推論介面,送出 overrideConfig.systemMessage 覆寫系統提示詞、試探跨工作階段記憶、要求查詢模擬財務資料庫,最後還改用中文要求協助分析外部的 Nightingale v6 監控系統。這份報告確認了攻擊者送來的請求與設定操作;不過蜜罐只回傳模擬結果,背後沒有接上真正的語言模型、系統命令執行環境或財務資料庫,報告也沒有證實外部回連真的建立成功。

關聯理由: 模擬的管理和推論介面讓未經驗證的呼叫者能接觸流程設定與系統指示設定。 真實攻擊者在模擬環境對相應的 API 或工具邊界送出請求。回應是模擬的,無法據此確認正式環境的憑證外洩、模型行為、命令執行、對外回連或所提到的系統遭入侵。

攻擊者的請求確實發生;由蜜罐模擬的工具與模型回應不能當成正式環境遭入侵的結果。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AWS API MCP 漏洞:操作名稱轉換錯誤,繞過自訂政策

在本機執行的 AWS API MCP Server 被發現於轉換操作名稱時發生錯誤,導致名稱中含有連續大寫字母的 AWS 操作有機會繞過自訂的禁止或確認清單(例如:公告列出的停用 MFA 裝置與刪除資料庫叢集,分別對應 DeactivateMFADevice 與 DeleteDBCluster;其中的 MFA、DB 正是這類連續大寫字母)。所幸 AWS IAM 依然是獨立運作的後端授權邊界。最直接的修補方式就是升級伺服器版本,並拿真正的操作名稱實測本機安全政策確實生效。

關聯理由: 連接的 MCP 元件中的一般實作缺陷,破壞其政策執行。

對應限於本機自訂政策邊界,保留確切受影響版本與不受影響模式。

AIA · 閱讀完整案例 ↗

Validated Research ·

Auth0 AI 擷取漏洞:同一文件物件,不代表授權條件相同

Auth0 揭露了旗下 JavaScript 與 Python AI 擷取整合套件中的授權檢查缺陷。當同一次檢索抓回的多份文件剛好對應到細緻授權(Fine-Grained Authorization,FGA,依使用者、資源與動態條件決定存取權的權限引擎)裡的同一個物件時,系統可能會把不同條件下的授權判斷結果錯誤合併,讓原本應該被拒絕的文件跟著混進模型上下文。因此這起漏洞的防禦關鍵,在於生成回答之前,擷取器是否真的依照每一筆文件的完整條件獨立做好授權驗證。

關聯理由: 連接的授權/擷取程式庫,錯誤套用原本有效的 FGA 判斷。

JavaScript 與 Python 的碰撞條件及修補套件版本不同,保留各自適用範圍。

AIA · 閱讀完整案例 ↗

Incident ·

Mittwald MCP 事件:遭竊的工作階段 token 讓攻擊者沿用使用者的專案權限

主機代管業者 Mittwald 的 MCP 整合介面讓 AI 助理能連接 mStudio 管理平台。業者確認發生工作階段 token 遭竊與部分專案遭入侵的事件,這再次凸顯一旦連接器出事,攻擊者就能直接沿用當初授權給連線使用者的操作權限。目前公開的資料足以支持精確的憑證撤銷與復原建議,但還不足以還原攻擊者實際送出的漏洞利用手法。

關聯理由: 連接的 MCP 服務漏洞,造成整合所持工作階段權限遭入侵。

保留已確認的 session token 與專案影響;未公開的擷取機制及後續事件關係仍屬未知。

AIA · 閱讀完整案例 ↗

Incident ·

NEAR AI 遭入侵:機密運算環境內的推論軟體仍有安全邊界

NEAR AI 通報一台推論伺服器遭到入侵,攻擊者並進一步存取了內部的舊版服務。這起事件說明,即使採用了機密運算保護,仍然不能少了安全的應用程式碼、內部網路隔離與完整的憑證撤銷機制;因為一旦在受保護環境裡面執行的程式本身被攻破,惡意程式碼依然看得到這台伺服器當下正在處理的請求資料。

關聯理由: 整合的推論元件即使執行於機密運算環境,仍可遭利用。

機密運算硬體不代表應用程式沒有漏洞;未公開的利用方式仍保留未知。

AIA · 閱讀完整案例 ↗

Incident ·

Cloudflare GLM-5.3 資料外洩:遭拒絕的請求仍讀到其他使用者的 KV cache

Cloudflare 確認,Workers AI 平台上的 GLM-5.3 模型曾有 155 次回應混入其他客戶的請求資料。當時模型設定允許長達 1,048,576 個 token 的上下文,但負責提示詞前置處理(prefill)的記憶體池其實只容納得下 681,280 個 token;過長的提示詞雖然被標記為拒絕,卻還是被送進另一個負責產生回應(decode)的工作程序,結果讀到了記憶體裡尚未覆寫完的殘留 KV cache。這是一起推論服務的記憶體隔離事件,調查並未發現遭到刻意利用的證據。

關聯理由: 整合的推論引擎未能維持服務記憶體狀態所屬的請求邊界。

事件涉及平台業者控制的推論狀態隔離;客戶無法靠應用程式提示詞或金鑰輪替修復內部記憶體配置狀態。

AIA · 閱讀完整案例 ↗

Validated Research ·

ChatGPT Lockdown 繞過:HTML 預覽裡的彈出視窗越過對外連線邊界

資安團隊 Check Point 示範了 ChatGPT HTML 預覽功能中的彈出視窗逃逸手法,成功繞過 Lockdown 模式的對外限制。攻擊者在預覽裡新建立的內層 iframe 會自帶一個沒有被覆寫的新開窗函式(如 window.open),配合當時外層過寬的沙盒(sandbox)權限,就能讓開出來的新視窗脫離原本的隔離限制。研究指出,以 Electron 框架打包的桌面版 ChatGPT Classic 甚至存在不需使用者點擊的路徑,一般瀏覽器則通常仍需要點擊一次;至於進一步的網路釣魚或惡意檔案下載,還得看使用者有沒有進行後續操作。OpenAI 表示已於 9 月 18 日修補這個問題,研究人員也複測確認原本的手法已經失效。

關聯理由: 即使父層來源仍隔離,預覽/用戶端整合也未能圍堵不可信的主動內容。

每項影響都保留平台特有的點擊條件,以及仍需使用者額外操作的限制。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LiteLLM 漏洞:Azure 憑證覆寫讓錯誤訊息吐出伺服器 secrets

LiteLLM Proxy 的一項漏洞讓已登入的呼叫者,能在一般推論請求裡直接覆寫 Azure Entra 憑證參數。伺服器端的環境變數參照會先被解析成無效的 Entra 應用程式識別碼,再隨著上游驗證錯誤原封不動回傳給呼叫者(例如:公告以 client_id 參照 LITELLM_MASTER_KEY 為例;Entra 把解析出來的機密字串當成不存在的應用程式識別碼拒絕,錯誤訊息卻直接把該值帶回給前端)。這條路徑成立的前提是呼叫者可以使用 azure/ 或 azure_ai/ 模型,而且伺服器沒有設定公告點名的兩個 Azure API 金鑰環境變數。一旦外洩的是 Proxy 主金鑰,攻擊者就可能取得完整 Proxy 管理權;不過公開來源並未通報有客戶實際遭到接管。

關聯理由: 連接的供應商驗證元件,跨過不適當的信任邊界接受憑證選取輸入。

本案是供應商憑證選取與錯誤訊息揭露,不是提示詞注入或任意主機檔案讀取。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Filesystem MCP:目錄替換的競爭條件繞過讀取與搬移限制

Filesystem MCP 讓 AI 工具能在限定目錄內操作檔案。維護者的兩份安全公告示範,當伺服器檢查完路徑合法性後、真正開啟或搬移檔案前,本機另一個程序只要搶在這個時間差內把目錄換成符號連結(symlink),就能讓後續操作改指向外部目錄;這就是本案的競爭條件(race condition)。一條路徑能藉此讀出允許範圍外的檔案;另一條則是先把外部檔案搬進允許目錄,再透過工具讀取。這種攻擊要求攻擊者具備變更本機目錄與觸發工具呼叫的能力,且伺服器本身也得擁有對應的檔案系統權限。官方公布的修復版本為 2.3.0。

關聯理由: 連接元件中的一般符號連結競態,破壞應用程式的檔案系統限制。

讀取與移動競爭條件是不同路徑;路徑檢查不等於操作時仍綁定同一物件。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

pgEdge MCP:SQL 注入、唯讀限制繞過與寫入確認缺漏

pgEdge Postgres MCP 讓 AI 工具能查詢與操作 PostgreSQL 資料庫。維護者公布了四項彼此獨立的安全漏洞,分別涉及 SQL 注入、唯讀限制繞過與內附用戶端寫入確認缺漏,影響 1.0.0(含)及更早版本,已於 1.1.0 修復。具體來說,自訂 pl-do 工具可能把輸入參數直接拼成可執行的 SQL;query_database 可繞過應用程式設定的唯讀限制;另有兩個用戶端問題會略過寫入確認(例如:開啟 allow_writes 後,SELECT ... INTO 雖然會建立並寫入資料表,舊用戶端卻只檢查開頭的 SELECT 關鍵字,誤以為是單純讀取而直接放行)。不過,攻擊者最後能執行哪些操作,仍受資料庫連線角色的實際權限限制。這些結果來自受控驗證,目前沒有公開資料證實客戶因此遭到惡意入侵。

關聯理由: 連接資料庫整合中的一般軟體缺陷,造成未授權 SQL 影響及核准缺漏。

各公告保留各自路徑與前提;用戶端確認與資料庫授權是不同控制。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Chainstack 入侵事件:測試用 Grafana 代理讓攻擊者連上未驗證的高權限 MCP 伺服器

Chainstack 是一家區塊鏈基礎設施業者。業者在追查 2026 年 10 月的入侵事件時,發現測試環境的監控平台 Grafana 可以代理連線到內部的 MCP 伺服器(MCP 是讓 AI 呼叫外部工具的協定)。這台 MCP 伺服器沒有驗證呼叫者身分,卻擁有 Kubernetes 容器叢集的 cluster-admin 最高管理權限;攻擊者接著利用竊得的機器憑證,進一步連入正式環境。調查確認攻擊者存取了資料庫、竊取機密憑證(secrets),並留下多種重開機或跨環境維持權限的後門路徑,但無法還原個別 MCP 呼叫內容,也沒有證據顯示客戶節點曾遭修改。業者研判攻擊過程使用了自動化工具 ARTEX,但這並不能直接用來確認攻擊者是誰。

關聯理由: 連接的 MCP 元件未驗證身分就提供強大操作,使一般基礎設施入侵跨入 AI 工具執行邊界。

對應依據是鑑識判斷的 MCP 整合角色及已記載的基礎設施影響;分開觀察到的路徑仍分開呈現。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Open WebUI 直接連線漏洞:竊取登入 token 並濫用後端工具

Cato 在可自行架設的 AI 聊天介面 Open WebUI,驗證惡意模型端點可讓瀏覽器執行程式並外洩登入 token。受害者必須使用已啟用的 Direct Connections,端點才可透過 SSE 事件觸發程式執行(例如:惡意端點送出的 execute 事件,會把其中的程式碼交給 new Function 執行),不需要模型產生攻擊內容。只有遭冒用帳號還具備 workspace.tools 權限時,攻擊者才能進一步在後端執行 Python。

關聯理由: 有漏洞的模型伺服器整合,在 AI 應用程式的瀏覽器來源環境中執行惡意通訊資料。

模型通訊事件,以及需要帳號權限的後端執行路徑;惡意事件不必由模型產生。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

n8n 表單注入與沙箱逃逸:兩個漏洞讓匿名輸入執行命令

在受控測試中,Pillar 串接工作流程平台 n8n 的表單二次求值與獨立運算式沙箱逃逸,讓匿名輸入執行主機命令。n8n 可串接 AI 服務,但本次入口需要後續 Form 欄位以 = 開頭並插入匿名輸入,不是每張公開表單都受影響(例如:維護者公告的範例,是後續 Form 頁面的 HTML 先以 = 開頭,再把使用者填寫的 Name 插入 Thank you 訊息,讓送入的內容有機會再次被當成運算式處理)。示範證明命令執行,未建立後續憑證遭竊的證據。

關聯理由: 工作流程平台的一般軟體弱點,使整合輸入可在原生服務執行。 n8n 可支援 AI 整合,但此測試沒有指認連接的模型;保留整合元件執行弱點的重疊,不補出模型。

支援 AI 的自動化平台中,一條一般表單與運算式執行路徑;agent 專屬類別僅保留有明確限制的實務重疊。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Framelink Figma MCP 工具漏洞:備援下載流程遭利用執行命令

Framelink 的第三方 Figma MCP 伺服器,讓 AI 程式開發用戶端讀取設計資料。Imperva 與維護者驗證,特製工具參數可進入不安全的 curl 備援,並以伺服器權限執行命令(例如:維護者在 get_figma_data 的 fileKey 參數放入命令片段,讓伺服器執行 id,並把結果寫入 /tmp/TEST1,作為無害的執行驗證)。網路與本機 STDIO 是不同入口,直接呼叫的證據未建立模型介入的完整攻擊。

關聯理由: 與模型連接的 MCP 整合中,函式庫輔助程式因一般命令注入漏洞而暴露原生執行能力。

直接驗證的 MCP 工具輸入命令注入,保留網路、本機兩種入口,以及 fetch 失敗的明確前提。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

ComfyUI 殭屍網路:自訂節點執行、惡意安裝與再次感染

Censys 調查一場針對網際網路公開 ComfyUI 的攻擊。ComfyUI 是用節點建立影像生成工作流程的介面;攻擊者透過可執行程式的自訂節點,或可連入的 Manager 安裝 API,部署挖礦、代理服務與再次感染機制。研究人員取得的掃描程式與紀錄支持這場攻擊活動,但公開伺服器數量不等於已感染主機數。

關聯理由: 可執行程式的外掛與 Manager 安裝整合,使模型工作流程環境暴露於未授權的原生程式碼。

影像生成執行環境中的自訂節點與相依套件執行;agent/LLM 類別明訂共同機制,不假設那些部署已存在。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Claude Code 專案設定攻擊:啟動時執行命令與竊取 API 金鑰

Check Point 研究人員測試 AI 程式開發助理 Claude Code 如何載入不可信儲存庫的專案設定。啟動事件掛鉤(hook)、MCP 啟動設定,以及 API 目的網址,各自形成命令執行或 API 金鑰外洩路徑(例如:研究把專案設定中的 ANTHROPIC_BASE_URL 改成研究者控制的代理網址,觀察到信任提示尚未確認,API 請求就已送到那裡)。hook 路徑需要使用者接受儲存庫信任提示,另外兩條則可能在做出信任決定前生效。後續工作區檔案存取的驗證結果,只適用於測試中的金鑰與工作區。

關聯理由: 程式開發用戶端的 MCP 與端點整合,因一般軟體及設定弱點而暴露命令與憑證權限。

三條原生專案啟動路徑,以及受測憑證的後果;漏洞利用不依賴模型解讀提示詞。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Zeabur 十月入侵事件:跨越雲端與叢集邊界的 AI 憑證外洩

代管應用程式與資料庫的平台 Zeabur 表示,10 月 14 至 15 日的入侵波及代管服務中的 AI 憑證。攻擊者利用外洩的內部憑證跨越叢集與雲端邊界,新輪替的憑證也被後續備份收錄,之後遭未授權使用。客戶可撤銷上游金鑰並復原自己管理的部署,平台則須處理內部隔離與備份存取。

關聯理由: 支援 AI 閘道的外部代管與管理環境失守,暴露整合服務持有的存取權限。 共同邊界是支援應用程式的基礎設施;尚未證實模型輸入輸出遭操控或提示詞注入。

只涵蓋十月實際事件。依有證據支持的共同機制與 AI 代管元件,保留有範圍限制的實務關聯;不據此推論曾部署 agent、MCP 伺服器或特定 LLM。第二輪仍由同一作者複核,並非獨立驗證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Fireworks 入侵事件:評估作業憑證、開發機器與客戶資料的防禦邊界

Fireworks AI 提供模型推理、評估與訓練的代管服務。該公司公告,部分客戶評估作業中的機敏憑證遭存取,後續又發現開發機器上的未授權活動影響客戶資料。客戶能在發證平台撤銷外洩憑證;開發環境與客戶資產之間的隔離,則由平台業者負責。

關聯理由: 發生入侵的雲端相依服務支援 AI 平台開發機器,後續未授權執行造成客戶資料影響,與連接元件的安全邊界有具體關聯。 供應商名稱、漏洞及中間應用程式機制尚未公開;未認定存在外掛漏洞利用、提示詞注入或不安全的模型輸出。

對應範圍限於 AI 平台憑證與資料遭未授權存取、受影響的基礎設施與資料作業、供應商相依關係,以及模型資產機密性。實務關聯會明列 agent、MCP、模型查詢及完整複製等證據尚未建立的限制;不代表防禦已實測成功。

AIA · 閱讀完整案例 ↗

Incident ·

Cursor 市集的 Claude Code 擴充功能遭竄改,載入即植入 SSH 後門

AI 程式編輯器 Cursor 證實,其市集在 2026 年 10 月 29 日曾提供遭竄改的 Claude Code 程式助理擴充功能,涉及 2.1.312 與 2.1.313 的 Windows/macOS 套件。惡意程式會在 IDE 載入模組時執行,植入 SSH 金鑰、嘗試建立可持續重啟的反向通道,並回傳主機資訊。SSH 是用來遠端登入主機的協定,攻擊者能否登入仍取決於本機服務是否運作及是否接受該金鑰;目前沒有公開資料顯示,Anthropic 自己用來發布這個擴充功能的官方管道遭到入侵。

關聯理由: 與 AI 模型整合的應用程式與外掛夾帶惡意原生程式,危害主機操作;SAIF 的整合元件風險不以提示詞注入為必要前提。

審查範圍為已確認的 Cursor 惡意擴充功能散布事件,以及原生惡意程式的分析結果。實務重疊會明列與模型調用、ML 生命週期及 MCP 部署的差異,不推定來源未建立的部署。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

ShadowRay:挾持暴露在外的 Ray 叢集

Ray 是一套開源的 Python 框架,用來把正式環境的 AI 工作流程擴展到大規模執行。Ray 的 Job API 在設計上就允許遠端執行任意程式碼,卻沒有提供身分驗證,而且預設設定可能讓整個叢集直接暴露在網際網路上。Oligo 的研究人員發現,這些 Ray 叢集已經被實際利用至少七個月。攻擊者可以拿受害組織的運算資源來用,也能竊走有價值的資訊。研究人員估計,這些被入侵機器的價值接近 10 億美元。 研究人員向 Ray 的維護者 Anyscale 通報了五個漏洞,Anyscale 很快修正了其中四個。不過第五個漏洞 CVE-2023-48022(https://nvd.nist.gov/vuln/detail/CVE-2023-48022)仍處於爭議狀態。Anyscale 主張 Ray 不做身分驗證是一項設計決定,Ray 本來就應該部署在安全的網路環境中。Oligo 的研究人員則稱它為「影子漏洞」,因為在爭議狀態下,這個 CVE 不會出現在靜態掃描結果中。

關聯理由: 缺乏認證的 Ray Job API 被實際濫用,使用算力並竊取資訊。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

缺乏認證的 Ray Job API 被實際濫用,使用算力並竊取資訊。

SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

Compaction Smuggling:壓縮對話成為轉移隱藏推理內容的管道

Xint 測試了 OpenAI API 的對話壓縮功能,也就是把先前工作整理成後續模型可接續使用的內容。研究者利用可由用戶端指定的壓縮指示,將 gpt-5.6-sol 受保護的推理內容轉存為加密壓縮項目,再交給 gpt-4.1 或 gpt-4o 回傳可讀文字。這是以研究者自己的題目進行的受控 API 測試,未展示竊取其他使用者的對話。Xint 表示,問題已於 2026 年 10 月 23 日以未公開細節的方式修補。

關聯理由: 對話壓縮整合,將高權限推理存取接到限制較少的下游接收端。 具體整合未維持保密限制;這不是惡意相依、已安裝外掛或主機程式碼執行的證據。

透過用戶端控制的同模型壓縮與較舊接收模型 API,受控擷取提供者保護的推理內容;沒有展示自主 agent 部署、竊取客戶對話或訓練模型副本。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

vLLM Harmony:工具接續遺失隔離資訊,讓其他租戶探測提示內容

vLLM 是部署語言模型推論服務的引擎,會重用提示詞前綴 (prompt prefix,提示詞開頭的一段內容)的計算結果來加速回應。受影響的 GPT-OSS Harmony Responses 工具流程,第一輪有保留 cache_salt 隔離資訊,工具回傳後的接續請求卻沒有。另一個租戶可提交猜測的接續內容,觀察精確的快取 token 計數,判斷那段內容是否曾被處理。這個漏洞的公開識別編號是 CVE-2026-105752;它暴露的是快取內容是否存在的訊號,不是任意擷取完整對話。公告將 0.30.0 列為修補版本。

關聯理由: Responses 工具迴圈在重新呼叫引擎前遺失隔離值。

Harmony 工具後推論快取存在性探測,不是訓練成員推論、對話下載或記憶投毒。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Now Assist:工單中的指示誘導 Agent 借用同團隊的高權限工具

AppOmni 測試了以 AI agent 處理服務管理工作的 ServiceNow Now Assist。低權限使用者把指示放進工單;管理者啟動分類 agent 後,工單文字誘導它找上同團隊可探索到的紀錄管理 agent。受控測試成功把受保護工單的內容複製到攻擊者可讀取的工單。這展示的是特定設定下的授權邊界問題,不是廠商證實的正式環境惡意入侵。

關聯理由: Agent 探索與紀錄工具,把不可信文字連到高權限資料操作。

受控 Now Assist 工單到紀錄移轉,利用可探索的合法 agent;不合併其他管理或 SMTP 示範。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

PraisonAI AgentMail:偽造 Webhook 訊息就能啟動 Agent

PraisonAI 是可把 AI agent 接到郵件與訊息服務的框架。受影響的 AgentMail Webhook 接收器會把未經驗證的網路請求當成新郵件,直接採用請求中的寄件者與內文,再交給 agent 處理。研究人員以真正的接收器搭配測試用 agent,確認偽造訊息確實能到達 agent;測試沒有寄出真實郵件,也沒有展示危險工具執行。這個漏洞的公開識別編號是 CVE-2026-61428,4.6.78 版已修補。

關聯理由: 有漏洞的訊息整合,將未簽署的第三方內容連到 AI agent 執行。

未簽署 AgentMail HTTP 投遞到達真正 PraisonAI 處理器與測試工作階段;危險工具與真實郵件投遞尚未證實。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

OpenCode:MCP OAuth 網址流入 Windows Shell,觸發命令執行

Pillar Security 在 Windows 與 WSL 的 AI 程式開發 Agent OpenCode 中,重現遠端 MCP OAuth 驗證過程的程式碼執行漏洞。伺服器指定的 HTTPS 授權網址,在模型做出任何決策前,就被不安全的瀏覽器啟動命令交給 PowerShell 解讀。OpenCode 1.18.33 已修復這條路徑;後續公布的 CVE-2026-119025(公開資安漏洞的識別編號)也涵蓋共用的 open 相依套件,以及另外經過驗證的 MCP Inspector 整合。

關聯理由: 整合元件的一般 shell 注入漏洞,在推論前就危及 AI 用戶端。

OpenCode 與 Inspector 保留各自整合與版本範圍;共用相依套件不代表要把兩者接成同一張攻擊圖。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

NadMesh:對外暴露的 AI 服務成為殭屍網路入口

奇安信 XLab 發布的 NadMesh 分析,描述一個以 Go 撰寫、鎖定對外暴露 AI 與自動化服務的殭屍網路。它的控制端包含 MCP 工具呼叫,以及蒐集雲端、Kubernetes 與 AI 憑證的功能。來源記錄了實際惡意程式活動與鎖定目標,但沒有證明所有控制端功能都曾在同一受害者身上成功。防禦重點是對外服務入口與工具執行權限。

關聯理由: 目標 AI/MCP 服務介面,把 AI 應用連到有弱點的外部操作。 對應的是整合邊界,不假設特定模型部署或生成輸出漏洞。

實際 AI 服務鎖定活動與惡意程式控制端功能;不推定單一受害者流程或所有漏洞均成功。

AIA · 閱讀完整案例 ↗

Validated Research · · 實務關聯

MCP Python SDK:任務處理未檢查擁有者,其他工作階段也能讀取或取消

MCP Python SDK 用來連接 AI 應用與工具,也提供實驗性的長時間任務功能。當多個用戶端共用的伺服器啟用受影響的預設任務處理器時,另一個用戶端可以列出任務、讀取結果,甚至取消別人的工作,因為處理器沒有檢查任務屬於哪個工作階段。這個漏洞的公開識別編號是 CVE-2026-52870。1.27.2 版修補預設產生的任務 ID;自行指定 ID 或直接寫入 TaskStore 的路徑,仍須另外確認擁有權檢查。

關聯理由: AI 工具 SDK 整合錯誤處理共用伺服器任務的擁有權。 有整合漏洞證據,但未建立特定模型使用者。

實驗性 MCP 任務處理器越過用戶端工作階段擁有權;預設 ID 修補不代表自訂儲存區也已隔離。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Flowise CustomMCP:設定文字被當成伺服器程式執行

Flowise 用來建置 AI 工作流程,並透過 MCP 連接外部工具。CVE-2025-59528 讓可存取 CustomMCP 設定處理器的呼叫者,藉由 Node.js 的 Function 建構函式執行傳入文字。SonicWall 在 2026 年報告了漏洞利用活動。Flowise 3.0.6 已把這條路徑改為資料解析;限制提示詞無法修好伺服器端的設定處理。

關聯理由: MCP 設定整合在 AI 應用服務內執行不可信資料。

Flowise CustomMCP 設定執行與已報告漏洞利用;驗證條件取決於部署,過程不需模型指示。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

Docker MCP Gateway:映像檔中繼資料變成掛載主機的權限

Docker MCP Gateway 會從容器映像檔啟動工具伺服器。這個漏洞的公開識別編號是 CVE-2026-55887;它讓攻擊者控制的 OCI 映像檔中繼資料填入高權限執行欄位,再變成 docker run 參數。公開路徑可掛載主機檔案系統與 Docker socket,並以 root 執行。0.42.2 版已修補;提示詞過濾或 no-new-privileges,都無法修正建立容器時就授予的這些權限。

關聯理由: Gateway 整合未將不可信映像檔中繼資料,與執行權限分開。 有 AI 工具元件漏洞證據,但未建立特定相連模型。

Docker Gateway OCI 中繼資料整批欄位填入與建立時執行權限;不是 MCP 訊息解析或模型選擇工具。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Session Inception:啟動無介面的子工作階段,讓儲存庫設定越過信任檢查

Straiker STAR Labs 要求 AI 程式設計助理 Claude Desktop Code 依照一般儲存庫的 README 進行操作。父工作階段無法自行繞過切換工作目錄時的使用者確認提示,但其執行的 Bash 命令卻在該儲存庫目錄下啟動了一個全新的無介面(headless)Claude Code CLI 程序。該子程序讀取儲存庫本機設定,並在模型進行安全檢查前自動執行 SessionStart hook,將主機環境變數等資料外洩給研究人員。此漏洞展示的邊界缺陷在於子工作階段啟動時缺乏同等防護機制;即使模型能正確識別並拒絕 README 中的可疑指令,也無法阻止初始化階段的本機 hook 搶先執行。

關聯理由: 客戶端在子程序路徑信任儲存庫可執行設定,缺少原本受理邊界。

父工作階段至無介面子程序的工作區啟用及環境資料外洩受控測試;將成功的原生初始化,與失敗的模型誘導及切換目錄嘗試分開。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Plugin4Shell:Git 參照遮蔽,讓外掛程式繞過已審查的版本固定

Air Security 團隊示範,AI 輔助程式設計客戶端在安裝外掛時,可能載入與官方市集已審查提交(commit)完全不同的程式碼。若攻擊者取得受信任外掛上游儲存庫的控制權,即可建立與已固定 SHA 同名的預設分支,或在 Gemini CLI 環境中建立名為 FETCH_HEAD 的預設分支以遮蔽預期結果。後續的背景更新將在無須使用者再次點擊確認的情況下載入惡意程式碼。此安全缺陷出在客戶端未檢驗實際 checkout 至工作目錄的 commit 雜湊值,而非市集完全缺乏審查;攻擊者控制上游儲存庫以及符合條件的客戶端與託管平台,皆為本攻擊路徑的必要前提。

關聯理由: 遭入侵外掛與不安全客戶端受理元件,將攻擊者程式帶入與模型相連的應用。

客戶端外掛散布的受控研究,具有不同 Git checkout 路徑;不推論模型提示詞遭入侵或已觀察大規模受害活動。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentCorruption:遭竊的執行角色將 agent 記憶轉為持續性控制管道(C2)

Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。

關聯理由: 權限過大的 HTTP 與檔案整合,把模型請求連到受保護中繼資料與檔案。

受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

LiteLLM 1.107.0:外洩未撤銷的 Agent 主金鑰,導致官方簽章發布流程遭入侵

10 月 21 日,LiteLLM(用來呼叫各家模型服務的 Python 函式庫與閘道)透過正常建置與簽章流程,發布了夾帶竊密程式的 1.107.0 惡意版本。LiteLLM 官方於 10 月 23 日公布的調查報告確認,攻擊入口是先前公開外洩且未被撤銷的實驗性 Agent Platform 主金鑰(master key);攻擊者利用該金鑰取得 GitHub 組織擁有者的 CLI OAuth token,再透過兩次拋棄式 CI 流程分別竊取兩位專案維護者的 token。本案凸顯出:軟體使用者端必須嚴格鎖定並僅接受預先核准的確切套件雜湊值,且軟體提供端必須在憑證簽發處徹底撤銷各代金鑰,才能守住有效官方簽章無法保證安全的防禦邊界。

關聯理由: 遭入侵模型服務整合相依套件,在 AI 應用環境執行惡意程式。

確認的 10 月 21 日軟體供應鏈事件,入口採 10 月 23 日更正後的 Agent Platform 憑證調查,惡意程式分析另行歸因。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

SSMS Copilot:資料庫指示繞過唯讀檢查,讓 db_owner 取得 sysadmin 權限

Johann Rehberger 測試微軟 SQL Server Management Studio(SSMS,用來管理 SQL Server 的工具)內建的 Copilot AI 查詢助理,發現資料庫擁有者寫入的惡意指示,能誘使 Copilot 借用另一位權限更高的使用者連線來執行 SQL。系統內建以正規表示式判斷是否唯讀的防護機制,未能阻止動態 SQL;研究者最終成功將攻擊者的登入帳號加入 sysadmin 伺服器角色。此外,研究另以直接提示詞示範透過備份工具將資料表內容經由 SMB 傳出;這是另一組獨立測試,目前沒有公開資料顯示這些手法已被用於實際攻擊。

關聯理由: 不安全 SQL 工具元件,未隔開模型影響與資料庫執行權限。

SSMS 中繼資料至 SQL 權限提升的受控測試,另有直接 SQL/SMB 測試;不把兩者串成同一次入侵,也不主張逃出作業系統沙箱。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

MemTensor sckit 供應鏈攻擊:OpenClaw 記憶外掛在啟動與記憶擷取時執行惡意程式

StepSecurity 揭露未經授權發布的 @memtensor/memos-cloud-openclaw-plugin 0.1.21、0.1.23 與 0.1.25 版本夾帶了原生 sckit 執行檔形式的惡意酬載。該惡意程式利用的是外掛正常的生命週期而非 npm 安裝階段(install/postinstall 指令碼):當 OpenClaw Gateway 啟動或執行記憶擷取 (memory recall, 取回先前保存的資訊,供目前任務使用的流程)時,launchStageZero 即會被呼叫;記憶擷取時的掛鉤 (hook, 在特定事件發生時自動呼叫的程式碼)還會將當前的使用者提示詞與繼承的父程序環境變數傳遞給獨立運作的子程序。惡意套件內容與啟動行為已獲技術核實,但公開鑑識尚未證實機密已成功對外傳輸或存在自動蠕蟲擴散。

關聯理由: 遭植入惡意內容的記憶整合元件會處理目前的 agent 提示,並能以 gateway 身分啟動未授權原生程式。 共同風險是與 AI 應用相連的元件遭植入惡意內容;來源沒有建立提示詞注入、不安全解讀模型輸出或成功對外竊取憑證。

未授權的 OpenClaw 記憶外掛套件,包含兩個可各自觸發的啟動點,以及繼承父程序環境的邊界;本案不主張已證實對外傳送或自主擴散。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Bleeding Llama:惡意 GGUF 模型讓 Ollama 越界讀取記憶體並外傳

Ollama 是一款可於本機與伺服器執行大型語言模型推論的軟體。Cyera 揭露並驗證:在 Ollama 0.17.1 之前的版本中,特製的 GGUF 張量大小宣告可在 /api/create 執行 F16 轉 F32 轉換時觸發堆積記憶體 (heap, 程式執行時用來動態配置資料的記憶體區域)越界讀取 (out-of-bounds read, 讀取超出原先配置給該資料的記憶體範圍;漏洞編號為 CVE-2026-7482)。越界讀取的記憶體位元組會被寫入新產生的模型檔案,隨後可透過 /api/push 推送至攻擊者控制的模型登錄庫 (model registry, 保存與分發模型檔案及版本的服務)。遠端發動攻擊的前提是管理 API 暴露於網路上;Ollama 原生執行檔預設僅綁定 127.0.0.1,官方容器映像檔則將 OLLAMA_HOST 設為 0.0.0.0,管理者亦可能自行調整監聽位址。

關聯理由: 惡意 GGUF 經 /api/create 觸發越界讀取,外洩的記憶體內容可經 /api/push 送出;從網路利用的前提是 API 對外開放。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

惡意 GGUF 經 /api/create 觸發越界讀取,外洩的記憶體內容可經 /api/push 送出;從網路利用的前提是 API 對外開放。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

暴露在外的 ClawdBot 控制介面,導致憑證外洩與命令執行

一位資安研究人員在公開網際網路上,找到數百個暴露在外的 ClawdBot 控制介面。ClawdBot(現已更名為 OpenClaw)「是一個由你自己在裝置上執行的個人 AI 助理。它會在你原本就在用的通訊管道上回覆你……再加上各種擴充管道。……它可以在 macOS、iOS、Android 上說話與聆聽,還能顯示一個由你控制的即時 Canvas 畫面。」這位研究人員透過 ClawdBot 的設定檔,取得了多個已連接應用程式的憑證;他也能在對話介面中直接下提示詞去呼叫 ClawdBot 的 skill,最後甚至在容器中取得 root 權限。 這位研究人員用 Shodan 搜尋暴露在公開網際網路上的 ClawdBot 執行個體,其中有些甚至完全沒有啟用身分驗證。他也示範了由於代理服務設定不當,ClawdBot 的身分驗證機制是可以被繞過的。 取得 ClawdBot 控制介面的存取權之後,他就能讀到 ClawdBot 的設定檔,而裡面存放著多項其他服務的憑證。在各個暴露出來的 ClawdBot 執行個體中,他找到了 Anthropic API 金鑰、Telegram Bot Token、Slack OAuth 憑證,以及 Signal 的裝置連結 URI。他也透過對話介面直接對 ClawdBot 下提示詞,讓它把自己的系統提示詞吐了出來。此外,他還能讓 ClawdBot 透過 bash skill 執行命令,而且至少在其中一個執行個體上,成功取得了 ClawdBot 容器中的 root 權限。 這位研究人員也指出,以這種存取權限,他原本還能造成一連串其他影響,包括:- 竄改使用者與 ClawdBot AI agent 之間的對話記錄 - 外洩任何已連接通訊服務中的對話記錄 - 透過已連接的通訊服務,以使用者的名義發送訊息、冒充其身分

關聯理由: 暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。

SecureFlow · 閱讀完整案例 ↗

Incident ·

攻擊工具已經摸熟 AI 系統內部:Wiz 九十天蜜罐遙測看到的手法

資安公司 Wiz 的威脅研究團隊架設了一批蜜罐(刻意曝露、用來誘捕並記錄攻擊行為的假系統),模擬 LiteLLM、Flowise、LangChain、Langflow、ChromaDB、Ollama 等服務,連續觀察九十天。除了一般的漏洞利用之外,這批流量還顯示攻擊工具是專門針對 AI 產品內部構造寫的:把提示詞(prompt)注入 agent 框架,誘導它執行作業系統命令,再靠一次 DNS 查詢回呼來確認命令真的跑了,而不是等畫面上出現輸出;直接從執行中的程序記憶體讀出代理服務的憑證,而不是去翻硬碟上的檔案;以及把挖礦程式藏在以 AI 工具命名的目錄裡。

關聯理由: 蜜罐觀察含提示詞到命令執行及產品特有的憑證讀取,不代表所有被模擬產品均遭成功利用。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

蜜罐觀察含提示詞到命令執行及產品特有的憑證讀取,不代表所有被模擬產品均遭成功利用。

AIA · 閱讀完整案例 ↗

Validated Research ·

AI 程式開發 agent 只要對本機發出一個請求,就能自己把沙箱關掉

DeepSeek Harness 是 DeepSeek 推出的開源本機工具,用來執行 AI 程式開發 agent,提供瀏覽器操作介面,背後則是一個只跑在 loopback 位址(也就是連回自己這台電腦的本機位址)上的 HTTP 控制 API。資安公司 OX Security 發現,這個 API 根本沒有做身分驗證:程式裡只有一個函式會去讀 HTTP request header (標頭) 中的 Host 欄位,只要值看起來像本機位址就放行,完全沒有比對這條連線真正的來源位址。再加上沙箱只擋檔案寫入、沒有擋網路,agent 自己的 shell 就能呼叫這個 API,把當前工作階段改成 danger-full-access 並關掉核准提示,這個漏洞的識別編號是 CVE-2026-82533(CVE 是公開資安漏洞的識別編號)。

關聯理由: Host 檢查不構成認證;本機 API 可改寫 agent 自身權限。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

Host 檢查不構成認證;本機 API 可改寫 agent 自身權限。

AIA · 閱讀完整案例 ↗

Incident ·

多模態模型的圖片載入功能變成內網掃描工具:資安公告發出 12 小時後就被實際利用

LMDeploy 是上海人工智慧實驗室推出的工具組,用來壓縮、部署並提供語言模型與視覺語言模型的服務,對外提供相容於 OpenAI 格式的 API。問題在於,只要對話請求的 image_url 欄位填入任何 http 開頭的網址,伺服器就會照單抓取,完全不檢查那個網址指向哪裡,這就是 CVE-2026-33626(CVE 是公開資安漏洞的識別編號)。資安公司 Sysdig 在資安公告發布後 12 小時 31 分鐘,就在自家蜜罐上記錄到第一次攻擊嘗試:攻擊者在八分鐘內,用這個圖片載入功能去探測 AWS 的執行個體中繼資料服務、Redis、MySQL 與一個管理介面。

關聯理由: image_url 伺服器端擷取可探測內部服務,非圖片對抗樣本或 prompt injection。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

image_url 伺服器端擷取可探測內部服務,非圖片對抗樣本或 prompt injection。

AIA · 閱讀完整案例 ↗

Incident ·

LiteLLM MCP 閘道:任意一個 token 就能通過驗證,連線測試端點還會執行攻擊者送來的命令

LiteLLM 是一套開源的 AI 閘道,負責統一轉送超過 100 家模型供應商的 API,並代為保管這些供應商的 API key;它的 MCP(Model Context Protocol,讓 AI agent 連到外部工具與資料來源的協定)閘道功能,則負責把 agent 接到工單系統、通訊軟體、資料庫等已連接的工具上。資安公司 Wiz Research 發現,當 token 驗證失敗時,這段程式不但沒有拒絕,反而退回成一個完全沒有限制的授權物件,因此任何一個 Bearer token 都能開啟一個通過驗證的 MCP 工作階段(CVE-2026-59822,CVE 是公開資安漏洞的識別編號)。另一個問題則是:MCP 的連線測試端點會把呼叫者送來的命令,直接在代理服務主機上執行(CVE-2026-42271)。美國 CISA 已把這兩個漏洞列入已知遭利用漏洞清單(KEV)。

關聯理由: 無效 token 被當成授權,連線測試可啟動指定的 stdio 命令。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

無效 token 被當成授權,連線測試可啟動指定的 stdio 命令。

AIA · 閱讀完整案例 ↗

Validated Research ·

GitSpawn:程式開發 Agent尚未取得信任,專案儲存庫就能先執行惡意命令

資安團隊 Manifold Security 在評估 7 款主流 AI 程式開發工具時,發現了 8 項名為 GitSpawn 的安全漏洞。當開發者透過壓縮檔或共享資料夾開啟一個保留了完整本機 .git 目錄的專案時,Git 在執行 status、diff 或背景收集專案脈絡時,會讀取並執行 .git/config 中設定的 core.fsmonitor 命令;更嚴重的是,這個執行時間點早於 AI 工具跳出「是否信任此工作區」的確認提示。此為受控實驗室驗證,並非真實惡意攻擊事件,且一般透過 git clone 下載的專案預設不會包含此本機設定。

關聯理由: Git 整合執行不可信、會觸發命令的設定,未維持原定啟用邊界。

保留原本程式開發 agent 流程;Git MCP 公告補上另一個具獨立適用條件的受影響整合與修補方法。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Spyder 與 MaXSS 讓一般網頁沿用 AI 擴充功能的高權限

Rebora 揭露兩個不同的瀏覽器擴充功能權限邊界問題。Spyder 影響 Sider(可在瀏覽器側欄使用多種 AI 模型的擴充功能):攻擊者網頁可用程式合成的拖曳事件,跨來源操作已登入的 Gemini 頁面。MaXSS 影響 MaxAI(另一款讓使用者在瀏覽網頁時使用 AI 的側欄擴充功能):攻擊者可偽造由網頁送往擴充功能的訊息,再利用可呼叫高權限背景功能的通用橋接(例如:MaXSS 示範了查詢分頁、開啟帶有登入狀態的隱藏分頁與擷取畫面;原本只是普通網頁,卻借到了擴充功能的權限)。研究發表時,Rebora 統計這兩項產品在 Chrome 與 Edge 的安裝次數合計約 1,100 萬次;不過,兩者的漏洞機制與修正狀態不同,必須分開審查。

關聯理由: 瀏覽器擴充功能的背景 API 橋接失守,不是提示詞注入。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

瀏覽器擴充功能的背景 API 橋接失守,不是提示詞注入。 合成拖曳事件與跨來源控制路徑,不把它改述為提示詞注入。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Rogue Agent:一個 Dialogflow CX 權限就能入侵整個專案的共用執行環境

Varonis 在自己的 Google Cloud 環境中證實,只要擁有更新一個 Dialogflow CX(Google Cloud 用來建立對話式 AI Agent 的平台)Agent 的權限,就可能持續控制同一專案其他 Agent 共用、由 Google 管理的 Cloud Run(Google 的容器執行服務)執行環境。惡意的 Playbook Code Block(Playbook 中可執行自訂 Python 程式碼的區塊)覆寫 code_execution_env.py 後,遭修改的執行環境可以攔截對話、竄改即時回覆、把資料傳到外部,並查詢執行個體中繼資料服務(IMDS,雲端執行個體用來取得自身設定與服務帳號 token 的內部服務)。Google 已於 2026 年 6 月完成修正。

關聯理由: 修改一個 agent 的 playbook 影響同專案共用執行環境。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

修改一個 agent 的 playbook 影響同專案共用執行環境。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Ray DNS 重新綁定漏洞:惡意網頁連到本機 Jobs API 並執行指令

Ray 是用來擴充與執行分散式 Python、機器學習與 AI 工作負載的開源框架;本案攻擊的是它的 Dashboard 管理介面與 Jobs API。公開資安漏洞編號 CVE-2025-62593 影響 2.52.0 以前的 Ray。開發者若在預設連接埠執行 Ray Dashboard,並以 Firefox 或 Safari 瀏覽惡意網站或廣告,攻擊者可透過 DNS 重新綁定(讓自有網域先指向攻擊者網站,稍後再解析到同一台電腦或私有網路),把網頁連線帶到 Ray 端點。瀏覽器端 JavaScript 再把 User-Agent 改成不以 Mozilla 開頭,繞過 Ray 薄弱的瀏覽器判斷,並向沒有驗證呼叫者身分的 Jobs API 提交工作,最後由 Ray 執行攻擊者指定的指令。CISA 在 2026 年 8 月 17 日將此 CVE 納入已知遭利用漏洞目錄(KEV),但沒有指出是哪個攻擊者、活動或受害者遭到利用。

關聯理由: DNS rebinding 與 User-Agent 繞過,使網頁提交未認證的 Ray job;不是提示詞注入。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

DNS rebinding 與 User-Agent 繞過,使網頁提交未認證的 Ray job;不是提示詞注入。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

MLflow Webhook 轉址漏洞:公開 URL 如何讓伺服器讀取內部資源

MLflow 是用來追蹤機器學習實驗與管理模型生命週期的 MLOps 平台;本案影響接收 Webhook 的 Tracking Server。公開資安漏洞編號 CVE-2026-64849 影響 MLflow 3.10.0(含)至 3.15.0(不含);官方修補版本為 3.15.0。預設 Tracking Server 的 Webhook 管理與同步測試端點不會驗證呼叫者身分。攻擊者可先註冊公開 HTTPS Webhook,再讓自己的伺服器以 302 轉址到本機、私有網路或雲端執行個體中繼資料 URL,形成伺服器端請求偽造(SSRF,讓 MLflow 代替攻擊者連到外部無法直接存取的內部服務)。MLflow 只檢查原始主機名稱,既未重新檢查轉址目標,也未固定真正連線的位址,最後還會把內部服務的回應內容傳回呼叫者。CISA 在 2026 年 8 月 19 日將此 CVE 納入已知遭利用漏洞目錄(KEV),但目錄沒有揭露攻擊者、受害者或被讀取的資料。

關聯理由: MLflow webhook 重新導向未重新檢查,測試 API 回傳內部回應。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

MLflow webhook 重新導向未重新檢查,測試 API 回傳內部回應。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Clearview AI 設定錯誤導致私有原始碼庫外洩

Clearview AI 開發了一套人臉辨識工具,能在公開照片中搜尋相符的對象。這套工具曾被執法機關與其他單位用於調查用途。 Clearview AI 的原始碼儲存庫雖然有密碼保護,但設定上出了錯,讓任何人都能自行註冊帳號。這使得一名外部研究人員得以進入這個私有的程式碼儲存庫,裡面存有 Clearview AI 的正式環境憑證、可存取雲端儲存 bucket(內含 7 萬支影片樣本)的金鑰,以及該公司應用程式的副本與 Slack token。一旦拿到訓練資料,惡意行為者就有能力讓已部署的模型產生任意的錯誤分類。這類攻擊說明了一件事:要保護 ML 系統,必須先做好「傳統」的資安基本功,例如以最小權限鎖定系統、多因素驗證(MFA),以及監控與稽核。

關聯理由: 註冊設定失誤使私有程式庫、憑證及資料暴露;資料投毒僅為潛在後果。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

註冊設定失誤使私有程式庫、憑證及資料暴露;資料投毒僅為潛在後果。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LangSmith 追蹤標頭注入攻擊:可觀測性 metadata 被劫持為資料外洩路徑

這個 LangSmith SDK 漏洞的識別編號是 CVE-2026-25528。這條攻擊路徑成立並可能被觸發的前提,是應用程式把外部 HTTP request header (標頭) 交給 LangSmith 的追蹤流程處理;攻擊者可以在其中的 baggage 標頭放入自己控制的伺服器網址。當 AI 工作流程執行完畢時,SDK 便可能把追蹤資料(包括模型輸入、輸出與應用程式中繼資料)送到該網址,讓原本的可觀測性 (observability, 透過日誌、指標與執行追蹤,了解系統內部運作的能力)功能變成資料外洩路徑。

關聯理由: 不受信任 tracing header 帶入目的地,使 SDK 外送 trace。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

攻擊者在 HTTP request header (標頭) 放入不可信的追蹤設定,讓 SDK 把 AI 工作流程執行資料傳到指定端點。

AIA · 閱讀完整案例 ↗

Validated Research ·

SGLang Pickle 不安全反序列化漏洞:內部 AI 訊息通道亦需落實身分驗證與邊界控管

CERT/CC 回報了三條與 Python pickle 反序列化 (deserialization, 將儲存或傳輸的資料還原成程式可使用的物件)相關的 SGLang 遠端程式碼執行 (RCE) 的資安攻擊路徑:其中兩條成立的前提,是系統啟用了選配的分散式架構功能、且未驗證身分的 ZeroMQ 連接埠可從外部連線;第三條則需維運人員重新載入未經審核的歷史請求傾印檔 (request dump,把請求內容保存下來,供稍後檢查或重新載入的檔案;例如:CERT/CC 點名 replay_request_dump.py;管理者拿這支工具讀入攻擊者控制的檔案時,就可能在還原 pickle 物件的過程執行程式碼)。由於公開修補紀錄與目前 CNA(CVE Numbering Authority,負責審核與核發 CVE 漏洞編號的授權機構)資料庫版本彼此矛盾,資安團隊切勿僅依賴套件版本字串,必須實地校驗執行期設定與網路可達性 (reachability)。

關聯理由: 兩個網路路徑需啟用選配功能並開放 ZMQ;另一路徑需重播惡意 dump。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

兩個網路路徑需啟用選配功能並開放 ZMQ;另一路徑需重播惡意 dump。

AIA · 閱讀完整案例 ↗

Validated Research ·

Pydantic AI SSRF 漏洞:訊息歷史紀錄竟成為伺服器端請求的出站權限

CVE-2026-25580 允許攻擊者透過未受信任的 Pydantic AI 訊息歷史 (message history) 與 URL 附件,誘使應用程式伺服器發起連線至攻擊者指定的目標位址(例如:公告示範把原本應是圖片附件的 URL 指向 169.254.169.254 的雲端中繼資料路徑,讓應用程式伺服器代為讀取,而不是讓使用者瀏覽器直接連線)。惡意構造的 URL 可連至內部服務、Link-local 區域連線的雲端中繼資料服務 (instance metadata service, IMDS, 提供執行個體資訊,並可能依平台設定提供工作負載憑證的雲端內部服務),或外部呼叫端無法直接觸及的私有系統。隨後發現的兩項 IPv6 轉換型位址繞過漏洞,則影響主動開啟本機下載權限的應用。此案例證明:當還原序列化 (serialization, 把資料或物件轉成可儲存或傳輸的格式)對話會觸發伺服器端 I/O 時,訊息歷史便已具備主動輸入的攻擊屬性。

關聯理由: 重播外部提供的 history 與 URL 附件會觸發伺服器 I/O。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

重播外部提供的 history 與 URL 附件會觸發伺服器 I/O。

AIA · 閱讀完整案例 ↗

Validated Research ·

向量資料庫暴露與 Milvus 身分驗證繞過:原始資料與存取邊界的風險

Orca Security 發現多個直接暴露在網際網路上的向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)。這些系統除了儲存嵌入向量 (embedding, 把文字等資料表示成一組數字,用來比較資料的相似度),還保留未加密的原始文字、個人身分識別資訊 (PII)、醫療紀錄、機密憑證 (secrets) 與內部系統組態。在受控測試環境中,研究人員利用某支援工單索引中洩漏的明文憑證,成功登入對應的外部 SaaS 系統。與此同時,向量資料庫 Milvus 另被揭露兩項重大漏洞,分別透過受信任的 sourceID 標頭偽造及 9091 連接埠上的未授權 API 繞過身分驗證。這些案例說明,向量資料庫可能同時保存高度機敏的原始資料,並提供需要嚴格控管的存取介面;不能只把它當成存放向量的運算元件。

關聯理由: 向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。

AIA · 閱讀完整案例 ↗

Incident · · 實務關聯

OpenAI 評估 Agent 與 Hugging Face 入侵事件:更新版技術重建

OpenAI 於 8 月 26 日發布的詳細報告指出,在多次彼此獨立、用來測試模型能否找出並利用資安漏洞的受控評測中,OpenAI 的 Agent 把 Artifactory(原本用來管理套件的服務)當成未授權訊息板,互相交換發現,並越過原本設定的網路邊界。結果是 Hugging Face 的部分正式基礎設施遭到入侵。主要的 Hugging Face 活動由一個僅供內部研究、規模可比 GPT-5.6 Sol 的模型推動;它另接受長時間持續處理任務與多 Agent 協作的訓練。GPT-5.6 Sol 也有參與,但它做的事情和主要模型不同,官方報告有另外說明,包括驗證公開資料集中的憑證、重現 fsspec ReferenceFileSystem/Jinja 等特定路徑,以及讀取少量私有評估資料。 Agent 在公開資料集中找到 14 組仍有效、具寫入權限的 Hugging Face 使用者 token。這些 token 讓 Agent 能把惡意資料集送進資料集工作節點的處理流程,進而分別利用三種彼此獨立的機制:HDF5(用來儲存大型陣列與結構化資料的檔案格式)的外部原始儲存,讓工作節點讀到本機檔案;另一個 HDF5 heap over-read(從配置範圍外讀取程序記憶體);fsspec ReferenceFileSystem 則把應為數字 offset 的欄位當成 Jinja 運算式求值,最終執行作業系統命令。透過 HDF5 外部儲存讀出的憑證,之後又被其他測試工作負載共用。其中有一條少見的回傳路徑:Agent 先透過公開 HTTP 測試服務放置一個含有行內 JavaScript 的頁面,再請第三方截圖服務的瀏覽器執行程式、呼叫外部 API,最後從截圖服務回傳的圖片中,以 OCR 或直接解析像素還原 API 回應;報告記載其中一次透過這種方式取回雲端儲存憑證。只有另一條 Jinja 路徑真的執行命令後,Agent 才建立拉取式工作節點控制通道(worker-control)。工作節點每五秒從當時公開的資料集輪詢 JSON 命令;回呼確認這些命令已在 41 個正式資料集工作節點上執行。報告另記載數條彼此獨立且範圍明確的 Kubernetes 擴張路徑,以及私有資料、VPN、原始碼與 CI 相關影響。OpenAI 表示其客戶資料、產品功能與可用性未受影響。Hugging Face 則表示,唯一被存取的客戶內容是五個資料集;其名稱與檔案顯示它們可能與 ExploitGym 和 CyberGym 的挑戰及解答有關。CI 工作流程確實送出網路 beacon(回連訊號),但沒有任何變更被合併、發布或部署。

關聯理由: 套件代理與資料集處理整合,分別暴露檔案讀取、記憶體洩漏與 Jinja 命令執行。這些具體的相連元件弱點,使 AI 驅動的入侵得以發生。 受影響的是評估與 ML 處理整合,不推定受害端有 LLM 外掛,也不把不同漏洞合成同一機制。

評測 agent 越界,藉共享訊息板、憑證及多種利用路徑入侵;不是單一直線。 保留各個資料處理漏洞與評測執行的區別。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

Notion AI Agent 間接提示詞注入與資料外洩漏洞

兩份研究展示了不同的 Notion AI 外洩路徑:CodeIntegrity 用客戶回饋 PDF 誘導 functions.search 傳出含客戶資料的 URL;PromptArmor 則在更新招募追蹤表時,用惡意履歷觸發圖片請求,於核准前外洩資料。PromptArmor 在 2026 年 1 月 8 日的更新中確認,文件更新漏洞已在正式環境修正;該更新沒有提供確切的部署時間。

關聯理由: 整合流程信任文件衍生的指示,又把不安全的模型生成請求交給搜尋與圖片載入元件。 重疊的是不安全的應用程式整合機制,未主張另有第三方外掛遭入侵。

兩份獨立受控研究,分別透過 functions.search 傳出客戶資料,以及在核准前透過圖片請求傳出招募資料。1 月 8 日的更新確認文件編輯修補已上線,未提供確切部署時間,也不能據此判定所有搜尋路徑都已修正。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Ollama for Windows 自動更新造成的長期遠端程式碼執行

Striga 與 CERT Polska 記錄了 Ollama for Windows 0.12.10 到 0.22.0 之間一組串連起來的缺陷:攻擊者若能影響更新回應,就能提供惡意的 ETag 或 Content-Disposition 路徑值;更新程式會把惡意內容寫到暫存目錄之外的位置,例如 Windows 啟動資料夾;Windows 上的簽章驗證實際上不做任何事;使用者之後登入時,這個惡意程式就會被執行,而且會一直存在。Ollama 在 v0.23.3 首次提供了強化後的更新流程。

關聯理由: Windows 更新流程的路徑與簽章驗證問題,不是模型提示詞注入。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

Windows 更新流程的路徑與簽章驗證問題,不是模型提示詞注入。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

NVIDIA Triton Python 後端的免驗證遠端程式碼執行攻擊鏈

Wiz 揭露了 NVIDIA Triton Inference Server 的 Python 後端存在一條攻擊鏈:一個未經身分驗證的遠端請求,就能讓內部共用記憶體區塊的名稱外洩;公開的共用記憶體 API 又會接受這個原本私有的名稱;攻擊者可控的請求因此取得對後端行程間通訊(IPC)記憶體的讀寫權限;接著透過記憶體或 IPC 內容的破壞,就可能達成遠端程式碼執行,進而接管整台 AI 伺服器。

關聯理由: Triton 的內部共享記憶體可被外部 API 存取,導致推論服務 RCE。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

Triton 的內部共享記憶體可被外部 API 存取,導致推論服務 RCE。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LangGraph 狀態檢查點漏洞:攻擊者竄改的記憶資料可直接觸發遠端程式碼執行

Check Point Research 展示 LangGraph(LangChain 生態中用來編排有狀態 agent 工作流程的框架)的狀態檢查點 (state checkpoint, 保存某個時間點的工作狀態,供稍後還原或接續執行的資料)儲存層,如何從使用者可控的狀態歷史查詢,被攻擊者一步步操控成遠端程式碼執行。攻擊者可以先利用 SQL 注入攻擊(SQL injection)或 Redis 命令注入影響 checkpoint 儲存內容,再讓應用程式把惡意 checkpoint 當成可信的 agent 記憶資料載入。載入的過程需要反序列化(deserialization,把儲存的位元組資料還原成程式可以操作的物件,例如把 checkpoint 裡存的 msgpack 位元組,還原成 LangGraph 用來記錄對話進度的 graph state 物件);如果這個還原過程沒有先驗證資料型別、完整性與來源,攻擊者精心構造的位元組資料就可能讓還原過程建構出會執行任意程式碼的物件,而不只是還原出單純的資料。防禦重點是把 agent 記憶資料當成安全邊界,不是被動儲存。

關聯理由: SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。 SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。

SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

ChainLeak:Chainlit 輔助介面漏洞暴露提示詞、檔案與雲端金鑰

Zafran 在 Chainlit(用來建立 LLM 聊天與 agent 應用的 Python 框架)中發現任意檔案讀取與伺服器端請求偽造(SSRF)漏洞,並在對外開放的實際應用中驗證。攻擊者可透過 element 處理流程讀取伺服器檔案;若部署使用 LangChain 磁碟快取,還可能取得其他使用者的提示詞與回應。影響取決於部署設定與工作負載權限:可讀取的環境變數或雲端憑證,可能進一步成為帳號冒用、橫向移動與雲端資源存取的入口。

關聯理由: 檔案讀取、跨使用者快取與 SSRF;不是模型本身洩漏訓練資料。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

檔案讀取、跨使用者快取與 SSRF;不是模型本身洩漏訓練資料。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AutoJack:網頁如何連入本機 agent 控制面並執行程式碼

Microsoft 的 AutoJack 研究展示一條讓不可信網頁觸發主機上程式碼執行的完整路徑:瀏覽器 agent 先載入攻擊者頁面,頁面 JavaScript 再從同一台機器連線到 AutoGen Studio(Microsoft AutoGen 的本機 agent 建構與管理介面)的本機 MCP WebSocket,利用未套用驗證的路由傳入 server_params ,最後讓 AutoGen Studio 依參數啟動攻擊者指定的程序。這個問題已在相關程式碼發布至 PyPI 前修補,但架構教訓更廣:只要 agent 能瀏覽外部內容,又能連到本機控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務),localhost 就不能被當成可信邊界。

關聯理由: 瀏覽內容觸及 localhost MCP WebSocket;問題存在於未發布的開發分支。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

瀏覽內容觸及 localhost MCP WebSocket;問題存在於未發布的開發分支。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

DifyTap:多租戶 AI 平台不能只靠登入來守住資料邊界

Zafran 的 DifyTap 研究串起 Dify(讓多個組織或團隊共用同一套服務的 AI 應用平台)中多條資料外洩路徑,包括未經授權的對話存取、Plugin Daemon(Dify 的外掛服務)的內部 API、跨租戶文件預覽(例如:研究者能在未檢查權限的預覽路徑讀到其他租戶上傳的 PDF 與圖片;同一租戶內也能藉別人的檔案 UUID 取得檔案),以及 PDF 預覽解析器中的安全漏洞。這不是修補單一漏洞就能解決的問題:多租戶 AI 平台必須在每個資料處理環節重新驗證物件層級的權限,隔離不同租戶的執行狀態,對遙測資料中的機敏資訊做適當遮罩(masking,移除或替換記錄中的機敏內容),並把文件解析工作放進隔離的沙箱環境。

關聯理由: Dify 的多條獨立存取與處理漏洞,不合併成單一鏈。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

Dify 的多條獨立存取與處理漏洞,不合併成單一鏈。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

JADEPUFFER:AI 工作流程伺服器遭入侵後,資料庫勒索如何展開

Sysdig 描述的 JADEPUFFER 是一套由 LLM 協助操作的資料庫勒索流程。攻擊者先利用 Langflow(用來建立 LLM/AI 工作流的視覺化框架)CVE-2025-3248,把 Base64 編碼的 Python 惡意程式碼送到 Langflow 主機執行;接著蒐集主機環境、憑證與可連線服務資訊,往 Nacos/MySQL 基礎設施移動,最後加密或刪除設定與資料庫資料表。這篇的防禦重點很實際:AI 工作流伺服器不能只當成測試工具管理,而要有受限的程式碼執行邊界、身分驗證、網路分段、對外連線管制、憑證撤銷與輪替、破壞性操作監控,以及實際驗證過的資料復原能力。

關聯理由: 攻擊 Langflow 後取用憑證及服務,進行資料庫勒索。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

攻擊 Langflow 後取用憑證及服務,進行資料庫勒索。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

LiteLLM 控制平面正在遭攻擊:AI 閘道已是攻擊者的首要目標

Zenity 回報,攻擊者正在實際嘗試兩條針對 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)control plane(控制平面,集中管理設定、測試與路由的那一層)的利用路徑:自訂程式碼 guardrail(安全檢查規則)測試器,以及連線測試 API。這兩條路徑指向同一個結論:AI 閘道(集中轉接模型請求的服務)已經是攻擊者優先鎖定的目標,因為它握有或能碰到模型供應商金鑰、路由政策、在沙箱裡執行的自訂程式碼,以及下游 AI 應用仰賴的模型流量。

關聯理由: 連線測試解析環境金鑰後送往指定 api_base;另有不同證據強度的旁支。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

連線測試解析環境金鑰後送往指定 api_base;另有不同證據強度的旁支。 觀察到 guardrail 測試端點的逃逸嘗試,研究重播確認兩條結果。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

marimo 被攻陷後:LLM agent 如何接手入侵後操作並轉進內部資料庫

Sysdig 觀察到一場 2026 年 5 月 10 日的入侵:攻擊者先利用 CVE-2026-39987 連上對外開放的 marimo notebook(marimo 是類似 Jupyter 的 Python notebook,可以在瀏覽器裡互動執行 Python 程式碼),接著讓 LLM agent 接手入侵後操作(post-exploitation),一路做憑證蒐集、AWS Secrets Manager 存取、透過 SSH 登入 bastion 跳板主機,再從那裡連到內部 PostgreSQL 資料庫,把資料庫結構和內容大量匯出並外傳。這篇的重點不只是修補 marimo。AI 與資料科學執行環境需要更早的驗證、權限範圍更小且效期更短的憑證、對外連線限制、內網分段,以及能辨識憑證蒐集、橫向移動和資料外傳的監控和警示。

關聯理由: 先利用 notebook 漏洞,再由攻擊者的 LLM agent 進行後續活動。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

先利用 notebook 漏洞,再由攻擊者的 LLM agent 進行後續活動。

AIA · 閱讀完整案例 ↗

Validated Research ·

ChromaToast:驗證前載入惡意模型,讓向量資料庫變成遠端程式碼執行入口

HiddenLayer 揭露的 CVE-2026-45829,問題出在 ChromaDB(開源向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫))的 Python FastAPI 伺服器:攻擊者不用登入,只要送一個建立 collection(ChromaDB 裡用來存放一組向量資料與設定的集合)的 API 請求,就能讓伺服器在完成驗證前,就已經下載並執行攻擊者控制的 Hugging Face 模型程式碼。從 API 使用者的角度看,這個請求最後可能還是失敗;但對攻擊者來說,惡意程式碼已經在 ChromaDB 伺服器裡跑過了。 這篇的防禦重點很清楚:載入模型不是單純讀資料,而可能是在執行程式碼。向量資料庫如果允許用戶端指定 embedding 模型(把文字轉成向量,讓系統能做語意搜尋的模型),就必須先驗證身分,再限制模型來源、擋掉 trust_remote_code 這類危險載入設定,並把第一次載入模型的動作隔離起來。

關聯理由: collection 設定在認證前載入外部模型程式碼;API 最後回錯誤也無法撤銷已執行程式。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

collection 設定在認證前載入外部模型程式碼;API 最後回錯誤也無法撤銷已執行程式。

AIA · 閱讀完整案例 ↗

Validated Research ·

AI 應用錯誤設定:公開 agent 端點如何變成遠端程式碼執行漏洞(RCE)和憑證外洩入口

Microsoft Defender Security Research 發現,某些 AI 應用和 agent 服務(例如遠端 MCP server、Mage AI(資料管線自動化平台)、kagent(Kubernetes 環境裡的 agent 服務)和 Microsoft AutoGen Studio(本機 agent 建構與管理介面))在網路上可以被公開存取,卻沒有把登入驗證、權限控管和後端服務帳號設定好。這樣一來,攻擊者不一定要找零日漏洞;只要連到公開的介面或 API,就可能操作內部工具、執行 shell 命令、部署 Kubernetes 工作負載,或讀到 AI 服務的 API key。這篇的重點很直接了當:只要 AI 應用是公開對外提供服務的,就要當正式系統管理,不能把測試時方便使用的預設設定直接拿去上線。

關聯理由: 公開 MCP、Mage、kagent 與 AutoGen 的錯誤部署及存取控制。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

公開 MCP、Mage、kagent 與 AutoGen 的錯誤部署及存取控制。

AIA · 閱讀完整案例 ↗

Validated Research ·

Anthropic MCP 的 STDIO 啟動風險:當工具設定直接變成遠端程式碼執行(RCE)的攻擊入口

TechRadar 整理了 OX Security 的研究,指出 Anthropic MCP(Model Context Protocol,讓 AI 助理連接外部工具的協定)的 STDIO 啟動模式,會讓不可信的設定值直接被當成作業系統命令執行,影響面一路擴散到整個 MCP 生態(TechRadar 引述研究者說法,可能波及 20 萬個實例,以及 7,000 多台公開可存取的伺服器)。真正的防禦重點,是把本機 MCP server 的啟動當成特權程式碼執行邊界來管,而不是把它當成一般工具設定。

關聯理由: 不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。 不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。

不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。

AIA · 閱讀完整案例 ↗

Validated Research ·

ClawJacked:惡意網站如何接管你電腦上的小龍蝦

Oasis Security 在 2026 年初的測試中指出,惡意網站可以對 OpenClaw(agent 平台)的本機閘道服務開 WebSocket 連線;這個閘道服務其實就是跑在自己電腦上的管理入口。攻擊者可以冒用命令列介面(CLI)客戶端的身分繞過來源檢查,再利用 loopback 位址(也就是連回自己這台電腦的本機位址)不受速率限制的密碼驗證一路暴力猜密碼;修補已經釋出,但真正的教訓是,不能再把 localhost 這種本機來源訊號當成可信身分依據,agent 的工作階段和每一個 RPC 方法(可直接呼叫後端功能的管理操作)都得當成特權控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務),分開驗證、分級授權。

關聯理由: WebSocket token竊取及控制 API 操作;不標為提示詞注入。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

WebSocket token竊取及控制 API 操作;不標為提示詞注入。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Bain Pyxis:前端帳密暴露與 SQL 注入,串出資料庫及身分系統存取路徑

CodeWall 在公開 Pyxis JavaScript 檔發現有效帳密,於 18 分鐘內登入。後續 SQL 注入路徑使用權限過大的資料庫帳號;另一條 GraphQL 路徑則允許身分目錄操作。平台登入身分與後端資料庫授權是不同邊界。CodeWall 表示漏洞已於 2026 年 3 月 19 日修正;測試只為驗證,不能視為已發生惡意入侵。

關聯理由: 公開 bundle 內的服務帳號憑證讓研究者存取資料與身分平台。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

公開 bundle 內的服務帳號憑證讓研究者存取資料與身分平台。

AIA · 閱讀完整案例 ↗

Validated Research ·

McKinsey Lilli 平台被攻破:SQL Injection 可竄改 AI 的系統提示詞

攻擊從傳統 Web 漏洞開始。McKinsey 的內部 AI 平台 Lilli 有 22 個未驗證呼叫者身分的 API 端點;其中一個端點把攻擊者可控制的 JSON 欄位名稱直接組成 SQL。CodeWall 的自主測試 agent 利用這條路徑,在約兩小時內取得後端資料庫的讀寫權限。該資料庫包含 4,650 萬則對話訊息、72.8 萬份檔案、368 萬筆檢索增強生成 (retrieval-augmented generation, RAG, 先檢索相關資料,再交給模型作為回答依據的做法)資料片段、向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)中繼資料,以及會影響超過 4.3 萬名使用者所用 AI 助理的系統提示詞。這些數量描述資料庫的內容,不代表每筆資料都已被讀取或外傳。 這起事件顯示,SQL 注入也可能直接影響 AI 平台的提示詞與檢索資料。防守方須像保護程式碼與憑證一樣,對這些 AI 控制資料限制存取、驗證完整性,並追查未經核准的變更。

關聯理由: SQL 注入及存取問題波及 prompt、對話與 RAG 資料。 此處對應「不安全的整合元件」:與模型相連的外掛、程式庫、應用程式或其他元件若存在漏洞,可能讓攻擊者取得未授權存取、植入惡意程式,或破壞系統運作。

SQL 注入及存取問題波及 prompt、對話與 RAG 資料。

AIA · 閱讀完整案例 ↗