14 · 權限遭入侵

閱讀 Cisco AI Security & Safety Framework v2.0 中 14「權限遭入侵」相關的 101 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。Cisco 列出的技術包括憑證竊取、存取控制不足,以及濫用合法委派機制,取得超出原始授權範圍的能力。因此,受影響對象可能是底層伺服器或雲端帳號,也可能是使用者、agent 與系統之間傳遞的權限。

框架官方來源 ↗ · 開啟互動探索 ↗

Incident ·

OpenAI Codex 與 Claude Code:下載資料夾內的 AGENTS.md 與 CLAUDE.md 如何影響 Agent

Forever Security 研究員 Gal Weizman 與 Omer Samet 在一名客戶的 ~/Downloads(下載)資料夾中,攔截並阻擋了一起實際投放:網頁透過瀏覽器自動下載了一支 13 KB 的惡意 AGENTS.md(給 AI 程式開發工具讀取的專案工作指示檔)。文件內容偽裝成「工程開發工作準則」,裡頭藏著誘導指令,企圖讓命令列開發工具 OpenAI Codex 去安裝惡意 npm 套件 function-color。只要開發者順手在下載資料夾啟動 Agent 並選擇信任該目錄,瀏覽器存進來的檔案就有機會被當成開發工作指示來執行。研究團隊在隔離虛擬機重現這條 Codex 路徑時,回報成功率超過 90%:Codex 會依指示修改使用者層級的 ~/.codex/config.toml、加入新的 MCP 啟動項目,再開一個未套用原有保護的新程序來載入它;大多數重複測試都改用無害替代套件,只有一次在隔離虛擬機執行了原本的惡意套件。研究團隊也另外寫了測試用 CLAUDE.md 來驗證 Claude Code,結果約半數測試成功改寫了模型連線設定;只要這個新端點生效,研究伺服器就會收到可重放的 OAuth token,同時也能假冒模型服務對客戶端回傳工具呼叫。重啟 Claude Code 就會讀進這個新端點,而約五分之一的測試甚至透過啟動子代理(subagent),在原本的工作階段內就直接切換過去。

關聯理由: 工作區指令影響了啟動設定或開發者憑證的使用方式,超過該檔案來源本應擁有的權限。

Codex 客戶端攔截、隔離重現和 Claude Code 的獨立測試,各自有不同的證據範圍。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LiteLLM CVE-2026-89032:語意快取隔離失效導致跨使用者個資外洩與工具呼叫投毒

NVISO Labs 研究員 Tanguy Snoeck 揭露了一項影響 LiteLLM(用來統一串接與轉送多個語言模型 API 的代理閘道)的語意快取漏洞,公開資安漏洞識別編號為 CVE-2026-89032;這個問題在 v1.99.0 的受控環境獲得驗證,並已在 v1.101.0-rc.1 修補。相較於一般精確快取需要提示詞完全一模一樣才會命中,「語意快取(semantic cache)」會把提問轉成代表語意的向量嵌入(embeddings),只要後續提問的語意夠相近,就直接重用先前的模型輸出。照設計,LiteLLM 應該按 API 金鑰把快取空間分開,但在受影響版本開啟 redis-semantic 且透過 /v1/responses 呼叫時,不同 API 金鑰的請求卻會讀寫到同一區。研究團隊把相似度門檻設為 0.2 以便觀察命中,成功驗證了四種跨使用者後果:讓其他使用者讀到含測試個資的客服摘要、收到虛構的 449.99 美元促銷價、在設定成免人工核准的模擬 MCP 銀行執行非預期的轉帳(原本要求轉 50 美元,實際送給模擬工具的卻變成先前快取的 1,000 美元且收款對象也不同),以及在 pi 程式開發 Agent(v0.45.3)觸發本機 Shell 執行等狀況。

關聯理由: 一把有效金鑰可以存取另一把金鑰所用快取範圍裡的內容。

下游影響分別來自四個各自設有前提的受控情境,共通起點是有問題的快取區隔。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

GTIG/Mandiant:跨雲端 LLMJacking 算力劫持與「LLM 混幣器」轉售

Google 威脅情資團隊(GTIG)與 Mandiant 彙整 2026 年在北美、南美與亞太地區處理的多起第一線事件應變調查,揭露了 LLMJacking(大型語言模型算力劫持)的常見手法,以及下游如何把盜來的推論額度包裝轉售。在部分案件中,受害組織單日遭盜刷的雲端 LLM 費用就超過 10 萬美元。不同案件採用的入侵入口各異,包括外洩的雲端或模型金鑰、對外開放的 Ollama 服務,以及 UNC6993 的工作階段釣魚。進入受影響的雲端環境後,有些案件的攻擊者會清查模型配額、從資料倉儲中繼資料裡翻找資料庫密碼,或冒用服務帳號讀取雲端機密。GTIG 另記錄到後續攻擊群組取得已驗證可用的 LiteLLM 虛擬金鑰後,提升 AI 閘道管理權限的案例。GTIG 引用的 CVE(公開資安漏洞的識別編號)在原廠公告中指向另一項漏洞;v1.83.14-stable 雖已包含該 CVE 的修補,重發金鑰時仍缺少變更所有權的授權檢查,這項修補另納入 v1.84.0。在另一個涉及「LLM 混幣器」Jet Night 的案件中,這套轉送服務在不到八小時內發出超過 50 萬次模型呼叫,讓單一家受害組織承擔近 100 萬美元的帳單;報告另也記錄了把受害帳號切到隨用隨付方案、反覆更換短效服務帳號的案例,以及在受害環境部署反向代理、使用 Manus Agent 框架建立容器化後門的案件。這些都是公開報告中各自記錄的獨立案例,並非同一起攻擊事件。

關聯理由: GTIG 記錄雲端帳號入侵及冒用服務帳號,也另外通報 LiteLLM 的權限提升行為。

各種行為須回到有證據的個別案件。金鑰重發的通報與原廠公告中的漏洞編號各有來源,不能視為相同漏洞。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Exercise · · 實務關聯

TypeSafe AI Jev:偽造判定政策讓分類器召回率驟降並壓低工具風險評分

Datadog Security Labs 針對 TypeSafe AI 推出的快速結構化決策模型 Jev 做了一系列安全性實測。這類主打低延遲的「系統一」模型,不展開長鏈推理,能在單次推論中回傳分類選擇、數值評分或機率,常被用來偵測提示詞注入或評估工具呼叫有沒有風險。研究人員先拿四個公開提示詞注入資料集(共 12,295 筆樣本,含 4,643 筆攻擊與 7,652 筆正常輸入)做測試,發現 Noul 分數以 0.5 為門檻時,原本有 99.66% 的精確率與 82.90% 的召回率;但只要在待審查的不可信文字前面塞入偽造政策、讓模型採用另一套攻擊分類標準,Noul 的召回率就會一口氣掉 79.02 個百分點、只剩 3.88%(等於漏掉 96.12% 的攻擊),甚至有兩個資料集的攻擊樣本全數漏報。研究團隊也在 LangChain 的工具風險評估模擬情境中,測試僅有檢視權限(can_edit: false)的使用者要求呼叫 edit_workspace_file 修改員工手冊:這項工具背後的共用服務帳號原本就能寫入,風險評估關卡又會把使用者可自行編輯的個人簡介一併送進去判定。還沒加上偽造政策時,40 次測試全數被擋下,平均風險分數為 0.893;加入偽造政策後,40 次的平均分數就掉到 0.290,遠低於 0.5 的攔截門檻。研究公布的是評分變化,並沒有證實檔案真的遭到越權修改。

關聯理由: 只有讀取權限的使用者所提出的工具操作,在交給權限較高的服務身分之前會接受風險評估。 應用程式測試量測的是該筆提議操作的風險分數,未驗證檔案確實遭到改寫、權限被擴大或每一輪測試的具體結果。

已證實的是分類器與風險評估分數的變化,後續操作是否執行另無證據。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Flowise 蜜罐實錄:未驗證的 API、回連工作流程與 Agent 探查

2026 年 8 月底,Sekoia 威脅偵測與研究團隊(TDR)在一座模擬 Flowise 2.2.8(低程式碼 AI Agent 建置平台)的對外開放蜜罐中,記錄到一起分為六個階段的真實攻擊。第一階段不到三分鐘的掃描裡,攻擊者先辨識伺服器版本、列出對話工作流程,再從未設身分驗證的管理 API 取走預埋的 OpenAI、Anthropic 與 RAG PostgreSQL 資料庫誘餌憑證。約兩小時後,攻擊者再次掃描 14 個管理 API 路由,嘗試把既有流程改名,並在新增的 System Status 流程裡加入並設定 HTTP Request 節點,打算讓流程一執行就向外部主機回連。接著攻擊者轉向推論介面,送出 overrideConfig.systemMessage 覆寫系統提示詞、試探跨工作階段記憶、要求查詢模擬財務資料庫,最後還改用中文要求協助分析外部的 Nightingale v6 監控系統。這份報告確認了攻擊者送來的請求與設定操作;不過蜜罐只回傳模擬結果,背後沒有接上真正的語言模型、系統命令執行環境或財務資料庫,報告也沒有證實外部回連真的建立成功。

關聯理由: 未經身分驗證的呼叫者能接觸蜜罐內的管理 API 功能。 真實攻擊者在模擬環境對相應的 API 或工具邊界送出請求。回應是模擬的,無法據此確認正式環境的憑證外洩、模型行為、命令執行、對外回連或所提到的系統遭入侵。

攻擊者的請求確實發生;由蜜罐模擬的工具與模型回應不能當成正式環境遭入侵的結果。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

GitHub Copilot CLI:裝置碼釣魚授權可導致遠端工作階段操控與記憶投毒

在受控實驗室中,Microsoft Security Research 示範了針對 GitHub Copilot CLI(命令列程式開發助理)的 OAuth 2.0 裝置碼釣魚手法:攻擊者拿到的不只是儲存庫讀取權,還可能直接操控開發者的 AI Agent。由於終端機工具常透過這套流程登入,攻擊者便能用 Copilot CLI 公開的用戶端識別碼先發起授權請求,再誘使開發者到真正的 github.com 驗證頁面輸入代碼並按下核准。開發者以為自己在登入,實際上核准的是別人發起的請求。核准後,GitHub 簽發的 OAuth 存取 token 會由發起請求的攻擊者取得。只要帳號權限與組織功能設定符合條件,攻擊者就能分別走到四種後果:從遠端操控連線中的本機 Copilot CLI 工作階段、在 Copilot Memory 寫入會跨工作階段保留的誤導指示、讀取同步到雲端的對話紀錄,或存取私有程式碼儲存庫。這四條路徑各有各的前提,目前都是 Microsoft 在實驗室裡驗證出的結果。

關聯理由: 請求者透過受委派的 token 取得開發者帳號與工作階段的操作權限。

每條路徑各自有功能與權限前提。Microsoft 驗證的是已依相應條件配置的受控環境。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AWS API MCP 漏洞:操作名稱轉換錯誤,繞過自訂政策

在本機執行的 AWS API MCP Server 被發現於轉換操作名稱時發生錯誤,導致名稱中含有連續大寫字母的 AWS 操作有機會繞過自訂的禁止或確認清單(例如:公告列出的停用 MFA 裝置與刪除資料庫叢集,分別對應 DeactivateMFADevice 與 DeleteDBCluster;其中的 MFA、DB 正是這類連續大寫字母)。所幸 AWS IAM 依然是獨立運作的後端授權邊界。最直接的修補方式就是升級伺服器版本,並拿真正的操作名稱實測本機安全政策確實生效。

關聯理由: 應用程式較窄的權限邊界遭繞過,後端 IAM 權限則維持不變。

對應限於本機自訂政策邊界,保留確切受影響版本與不受影響模式。

AIA · 閱讀完整案例 ↗

Validated Research ·

Auth0 AI 擷取漏洞:同一文件物件,不代表授權條件相同

Auth0 揭露了旗下 JavaScript 與 Python AI 擷取整合套件中的授權檢查缺陷。當同一次檢索抓回的多份文件剛好對應到細緻授權(Fine-Grained Authorization,FGA,依使用者、資源與動態條件決定存取權的權限引擎)裡的同一個物件時,系統可能會把不同條件下的授權判斷結果錯誤合併,讓原本應該被拒絕的文件跟著混進模型上下文。因此這起漏洞的防禦關鍵,在於生成回答之前,擷取器是否真的依照每一筆文件的完整條件獨立做好授權驗證。

關聯理由: 應用程式在不完整或錯誤共用的使用者、關係及條件綁定下,提供文件存取權。

JavaScript 與 Python 的碰撞條件及修補套件版本不同,保留各自適用範圍。

AIA · 閱讀完整案例 ↗

Incident ·

Mittwald MCP 事件:遭竊的工作階段 token 讓攻擊者沿用使用者的專案權限

主機代管業者 Mittwald 的 MCP 整合介面讓 AI 助理能連接 mStudio 管理平台。業者確認發生工作階段 token 遭竊與部分專案遭入侵的事件,這再次凸顯一旦連接器出事,攻擊者就能直接沿用當初授權給連線使用者的操作權限。目前公開的資料足以支持精確的憑證撤銷與復原建議,但還不足以還原攻擊者實際送出的漏洞利用手法。

關聯理由: 攻擊者重用受害工作階段權限,存取 56 個客戶專案。

保留已確認的 session token 與專案影響;未公開的擷取機制及後續事件關係仍屬未知。

AIA · 閱讀完整案例 ↗

Incident ·

NEAR AI 遭入侵:機密運算環境內的推論軟體仍有安全邊界

NEAR AI 通報一台推論伺服器遭到入侵,攻擊者並進一步存取了內部的舊版服務。這起事件說明,即使採用了機密運算保護,仍然不能少了安全的應用程式碼、內部網路隔離與完整的憑證撤銷機制;因為一旦在受保護環境裡面執行的程式本身被攻破,惡意程式碼依然看得到這台伺服器當下正在處理的請求資料。

關聯理由: 攻擊者在承載 AI 推論的基礎設施內,取得未授權執行及存取能力。

機密運算硬體不代表應用程式沒有漏洞;未公開的利用方式仍保留未知。

AIA · 閱讀完整案例 ↗

Incident ·

ARTEX 攻擊事件:公開在 GitHub 上的憑證直接成了 Entra 與 Azure 存取入口

Microsoft 觀察到攻擊者使用自動化工具 ARTEX 搜尋公開在 GitHub 上的憑證,接著拿有效的 Microsoft Entra 應用程式憑證直接存取受害企業環境。不同受害租戶出現的後續活動包括雲端資源探索、Azure Key Vault(雲端機密保管庫)與儲存空間存取、Microsoft Graph 操作,以及 AI 資源探測。在其中一個被完整觀察到的案例裡,Agent 從搜尋儲存庫到外傳 Key Vault 裡的機密資料(secrets)只花了五分鐘;不過報告也指出,並不是每個受害租戶都經歷了完全相同的攻擊鏈。

關聯理由: 遭竊應用程式權限可接觸 Azure 資源,包含受害 AI 工作負載及其存取資料。

來源確認攻擊方使用 AI;受害 AI 資源的對應限於已具體記載的雲端活動。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LiteLLM 漏洞:Azure 憑證覆寫讓錯誤訊息吐出伺服器 secrets

LiteLLM Proxy 的一項漏洞讓已登入的呼叫者,能在一般推論請求裡直接覆寫 Azure Entra 憑證參數。伺服器端的環境變數參照會先被解析成無效的 Entra 應用程式識別碼,再隨著上游驗證錯誤原封不動回傳給呼叫者(例如:公告以 client_id 參照 LITELLM_MASTER_KEY 為例;Entra 把解析出來的機密字串當成不存在的應用程式識別碼拒絕,錯誤訊息卻直接把該值帶回給前端)。這條路徑成立的前提是呼叫者可以使用 azure/ 或 azure_ai/ 模型,而且伺服器沒有設定公告點名的兩個 Azure API 金鑰環境變數。一旦外洩的是 Proxy 主金鑰,攻擊者就可能取得完整 Proxy 管理權;不過公開來源並未通報有客戶實際遭到接管。

關聯理由: 已驗證的閘道呼叫者可跨入伺服器持有的憑證資料,而不需取得讀取該環境的授權。

本案是供應商憑證選取與錯誤訊息揭露,不是提示詞注入或任意主機檔案讀取。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Filesystem MCP:目錄替換的競爭條件繞過讀取與搬移限制

Filesystem MCP 讓 AI 工具能在限定目錄內操作檔案。維護者的兩份安全公告示範,當伺服器檢查完路徑合法性後、真正開啟或搬移檔案前,本機另一個程序只要搶在這個時間差內把目錄換成符號連結(symlink),就能讓後續操作改指向外部目錄;這就是本案的競爭條件(race condition)。一條路徑能藉此讀出允許範圍外的檔案;另一條則是先把外部檔案搬進允許目錄,再透過工具讀取。這種攻擊要求攻擊者具備變更本機目錄與觸發工具呼叫的能力,且伺服器本身也得擁有對應的檔案系統權限。官方公布的修復版本為 2.3.0。

關聯理由: 伺服器作業系統存取權被借用,接觸超出應用程式設定邊界的檔案。

讀取與移動競爭條件是不同路徑;路徑檢查不等於操作時仍綁定同一物件。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

pgEdge MCP:SQL 注入、唯讀限制繞過與寫入確認缺漏

pgEdge Postgres MCP 讓 AI 工具能查詢與操作 PostgreSQL 資料庫。維護者公布了四項彼此獨立的安全漏洞,分別涉及 SQL 注入、唯讀限制繞過與內附用戶端寫入確認缺漏,影響 1.0.0(含)及更早版本,已於 1.1.0 修復。具體來說,自訂 pl-do 工具可能把輸入參數直接拼成可執行的 SQL;query_database 可繞過應用程式設定的唯讀限制;另有兩個用戶端問題會略過寫入確認(例如:開啟 allow_writes 後,SELECT ... INTO 雖然會建立並寫入資料表,舊用戶端卻只檢查開頭的 SELECT 關鍵字,誤以為是單純讀取而直接放行)。不過,攻擊者最後能執行哪些操作,仍受資料庫連線角色的實際權限限制。這些結果來自受控驗證,目前沒有公開資料證實客戶因此遭到惡意入侵。

關聯理由: 攻擊可繞過應用程式唯讀及確認政策,但未超出資料庫身分原有權限。

各公告保留各自路徑與前提;用戶端確認與資料庫授權是不同控制。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Railway 入侵事件:建置隔離失守加上另一條 OIDC 路徑,導致 AI 憑證外洩

Railway 是一個應用程式部署平台。業者通報,攻擊者在 10 月 20 日突破建置環境的部分檔案系統隔離並取得建置憑證,再用它連上用來調度工作流程的 Temporal 服務,同時竊取了內部程式碼儲存庫。第一條路徑封閉後,錯誤的 OIDC 身分聯邦綁定又讓攻擊者換取雲端權限,取得正式環境憑證並解密客戶變數。最多約有 1.85% 工作區的變數可能遭解密;這只是影響上限,不代表每個變數都已被竊走。業者另觀察到外洩的 AI 金鑰已在外部遭到濫用。

關聯理由: 攻擊者取得代管及雲端權限、解密儲存的環境資料,並取得 AI 服務憑證。

AI 關聯來自外洩憑證與後續 AI 服務濫用;原始平台入口不是 LLM 漏洞利用。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Chainstack 入侵事件:測試用 Grafana 代理讓攻擊者連上未驗證的高權限 MCP 伺服器

Chainstack 是一家區塊鏈基礎設施業者。業者在追查 2026 年 10 月的入侵事件時,發現測試環境的監控平台 Grafana 可以代理連線到內部的 MCP 伺服器(MCP 是讓 AI 呼叫外部工具的協定)。這台 MCP 伺服器沒有驗證呼叫者身分,卻擁有 Kubernetes 容器叢集的 cluster-admin 最高管理權限;攻擊者接著利用竊得的機器憑證,進一步連入正式環境。調查確認攻擊者存取了資料庫、竊取機密憑證(secrets),並留下多種重開機或跨環境維持權限的後門路徑,但無法還原個別 MCP 呼叫內容,也沒有證據顯示客戶節點曾遭修改。業者研判攻擊過程使用了自動化工具 ARTEX,但這並不能直接用來確認攻擊者是誰。

關聯理由: 預設管理憑證、缺少 MCP 身分驗證及可重用的機器身分,讓攻擊者取得未授權的基礎設施存取。

對應依據是鑑識判斷的 MCP 整合角色及已記載的基礎設施影響;分開觀察到的路徑仍分開呈現。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Open WebUI 直接連線漏洞:竊取登入 token 並濫用後端工具

Cato 在可自行架設的 AI 聊天介面 Open WebUI,驗證惡意模型端點可讓瀏覽器執行程式並外洩登入 token。受害者必須使用已啟用的 Direct Connections,端點才可透過 SSE 事件觸發程式執行(例如:惡意端點送出的 execute 事件,會把其中的程式碼交給 new Function 執行),不需要模型產生攻擊內容。只有遭冒用帳號還具備 workspace.tools 權限時,攻擊者才能進一步在後端執行 Python。

關聯理由: 遭竊帳號憑證跨過應用程式存取邊界;只有具備 workspace.tools 的 token 才能繼續到後端執行。

模型通訊事件,以及需要帳號權限的後端執行路徑;惡意事件不必由模型產生。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Framelink Figma MCP 工具漏洞:備援下載流程遭利用執行命令

Framelink 的第三方 Figma MCP 伺服器,讓 AI 程式開發用戶端讀取設計資料。Imperva 與維護者驗證,特製工具參數可進入不安全的 curl 備援,並以伺服器權限執行命令(例如:維護者在 get_figma_data 的 fileKey 參數放入命令片段,讓伺服器執行 id,並把結果寫入 /tmp/TEST1,作為無害的執行驗證)。網路與本機 STDIO 是不同入口,直接呼叫的證據未建立模型介入的完整攻擊。

關聯理由: 呼叫者透過 AI 工具服務身分,取得未授權的主機命令執行能力。

直接驗證的 MCP 工具輸入命令注入,保留網路、本機兩種入口,以及 fetch 失敗的明確前提。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

ComfyUI 殭屍網路:自訂節點執行、惡意安裝與再次感染

Censys 調查一場針對網際網路公開 ComfyUI 的攻擊。ComfyUI 是用節點建立影像生成工作流程的介面;攻擊者透過可執行程式的自訂節點,或可連入的 Manager 安裝 API,部署挖礦、代理服務與再次感染機制。研究人員取得的掃描程式與紀錄支持這場攻擊活動,但公開伺服器數量不等於已感染主機數。

關聯理由: 未驗證呼叫者經由公開的 AI 工作流程與安裝介面,取得原生執行能力。

影像生成執行環境中的自訂節點與相依套件執行;agent/LLM 類別明訂共同機制,不假設那些部署已存在。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Claude Code 專案設定攻擊:啟動時執行命令與竊取 API 金鑰

Check Point 研究人員測試 AI 程式開發助理 Claude Code 如何載入不可信儲存庫的專案設定。啟動事件掛鉤(hook)、MCP 啟動設定,以及 API 目的網址,各自形成命令執行或 API 金鑰外洩路徑(例如:研究把專案設定中的 ANTHROPIC_BASE_URL 改成研究者控制的代理網址,觀察到信任提示尚未確認,API 請求就已送到那裡)。hook 路徑需要使用者接受儲存庫信任提示,另外兩條則可能在做出信任決定前生效。後續工作區檔案存取的驗證結果,只適用於測試中的金鑰與工作區。

關聯理由: 啟動命令與憑證重導,使儲存庫取得超出原定信任的用戶端主機與服務權限。

三條原生專案啟動路徑,以及受測憑證的後果;漏洞利用不依賴模型解讀提示詞。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Zeabur 十月入侵事件:跨越雲端與叢集邊界的 AI 憑證外洩

代管應用程式與資料庫的平台 Zeabur 表示,10 月 14 至 15 日的入侵波及代管服務中的 AI 憑證。攻擊者利用外洩的內部憑證跨越叢集與雲端邊界,新輪替的憑證也被後續備份收錄,之後遭未授權使用。客戶可撤銷上游金鑰並復原自己管理的部署,平台則須處理內部隔離與備份存取。

關聯理由: 外洩的管理與雲端憑證,讓攻擊者未經授權存取代管 AI 閘道憑證的基礎設施與相連系統。

只涵蓋十月實際事件。依有證據支持的共同機制與 AI 代管元件,保留有範圍限制的實務關聯;不據此推論曾部署 agent、MCP 伺服器或特定 LLM。第二輪仍由同一作者複核,並非獨立驗證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Fireworks 入侵事件:評估作業憑證、開發機器與客戶資料的防禦邊界

Fireworks AI 提供模型推理、評估與訓練的代管服務。該公司公告,部分客戶評估作業中的機敏憑證遭存取,後續又發現開發機器上的未授權活動影響客戶資料。客戶能在發證平台撤銷外洩憑證;開發環境與客戶資產之間的隔離,則由平台業者負責。

關聯理由: 內部憑證遭冒用,以及開發機器遭未授權存取,跨越 AI 代管平台的權限邊界,直接對應此目標下的基礎設施未授權存取。

對應範圍限於 AI 平台憑證與資料遭未授權存取、受影響的基礎設施與資料作業、供應商相依關係,以及模型資產機密性。實務關聯會明列 agent、MCP、模型查詢及完整複製等證據尚未建立的限制;不代表防禦已實測成功。

AIA · 閱讀完整案例 ↗

Incident ·

Vertex AI 資源遭盜用:一小時產生約 3 萬元費用,預算通知為何擋不住

醫師兼開發者林佑儒在《數位時代》刊出的第一人稱自述中表示,他名下多個 Google Cloud 專案遭人未經授權大量呼叫 Vertex AI(Google 的託管 AI 平台,提供 Gemini 等模型與影片生成 API),一小時內產生約新台幣 3 萬元費用。他追查後發現,請求使用的是約兩週前就被建立在專案裡的陌生服務帳號(service account,供程式或服務使用的雲端身分)。Google 事後減免了大部分費用。攻擊者最初如何取得存取權,以及是否使用 AI agent,目前都還沒有確認。

關聯理由: 當事人描述的專案列舉、AI API 啟用,以及陌生服務帳號與金鑰建立,都是支援模型存取的雲端管理操作。這可對應 OB-014 的基礎設施未授權存取,不代表已證實特定憑證竊取方式、權限提升漏洞或委派 agent。

本案是當事人自述的 Google Cloud AI 資源盜用事件,對應範圍限於付費模型用量、未授權雲端管理操作與推理 API 存取。MAESTRO 的實務關聯僅限基礎設施資源盜用,不代表已證實存在 agent 執行環境。

AIA · 閱讀完整案例 ↗

Incident ·

Cursor 市集的 Claude Code 擴充功能遭竄改,載入即植入 SSH 後門

AI 程式編輯器 Cursor 證實,其市集在 2026 年 10 月 29 日曾提供遭竄改的 Claude Code 程式助理擴充功能,涉及 2.1.312 與 2.1.313 的 Windows/macOS 套件。惡意程式會在 IDE 載入模組時執行,植入 SSH 金鑰、嘗試建立可持續重啟的反向通道,並回傳主機資訊。SSH 是用來遠端登入主機的協定,攻擊者能否登入仍取決於本機服務是否運作及是否接受該金鑰;目前沒有公開資料顯示,Anthropic 自己用來發布這個擴充功能的官方管道遭到入侵。

關聯理由: 原生惡意程式在 AI 開發主機取得未授權的使用者層級執行能力,並寫入新的 SSH 授權金鑰。這已涉及承載系統存取;後續 SSH 登入與提權仍有條件,或尚未證實。

審查範圍為已確認的 Cursor 惡意擴充功能散布事件,以及原生惡意程式的分析結果。實務重疊會明列與模型調用、ML 生命週期及 MCP 部署的差異,不推定來源未建立的部署。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AIKatz:攻擊 LLM 桌面應用程式

Lumia 的研究人員示範了從 LLM 桌面應用程式的記憶體中,把身分驗證 token 取出來是可行的。攻擊者接著就能拿這些 token 對 LLM 後端冒充受害者,取得受害者所有對話的存取權,也能干擾之後的對話。有了這樣的存取權,攻擊者可以直接注入提示詞改變 LLM 的行為、毒害 LLM 的脈絡以造成持續影響、竄改使用者的對話記錄來湮滅痕跡,最終同時衝擊系統的機密性、完整性與可用性。研究人員在 Anthropic Claude、Microsoft M365 Copilot 與 OpenAI ChatGPT 上都示範了這一點。 各廠商對責任揭露的回應:- Anthropic(HackerOne):因屬本機攻擊,以「僅供參考」結案。- Microsoft Security Response Center:認為這個攻擊沒有跨越安全邊界,不符合開立 CVE 的條件。- OpenAI(BugCrowd):以「僅供參考」結案,並表示這個行為應由微軟負責修補。

關聯理由: 先取得本機記憶體中的token;不宣稱無前提遠端入侵。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

先取得本機記憶體中的token;不宣稱無前提遠端入侵。

SecureFlow · 閱讀完整案例 ↗

Incident ·

LLM Jacking:盜用雲端 LLM 資源

Sysdig 觀察到攻擊者用失竊雲端憑證,探測託管 LLM 的存取權與記錄設定,再以反向代理轉供可能被轉售的模型存取。初始漏洞、持有憑證、準備工具與實際呼叫供應商,是不同步驟;流程保留使用服務前的平行準備。每日費用是可能風險的估算,防禦則落在供應商原生 IAM 與完整呼叫紀錄,涵蓋繞過應用程式代理的直接呼叫。

關聯理由: 失竊雲端憑證被用於 LLM 代理轉售與費用濫用。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

失竊雲端憑證被用於 LLM 代理轉售與費用濫用。

SecureFlow · 閱讀完整案例 ↗

Incident ·

ShadowRay:挾持暴露在外的 Ray 叢集

Ray 是一套開源的 Python 框架,用來把正式環境的 AI 工作流程擴展到大規模執行。Ray 的 Job API 在設計上就允許遠端執行任意程式碼,卻沒有提供身分驗證,而且預設設定可能讓整個叢集直接暴露在網際網路上。Oligo 的研究人員發現,這些 Ray 叢集已經被實際利用至少七個月。攻擊者可以拿受害組織的運算資源來用,也能竊走有價值的資訊。研究人員估計,這些被入侵機器的價值接近 10 億美元。 研究人員向 Ray 的維護者 Anyscale 通報了五個漏洞,Anyscale 很快修正了其中四個。不過第五個漏洞 CVE-2023-48022(https://nvd.nist.gov/vuln/detail/CVE-2023-48022)仍處於爭議狀態。Anyscale 主張 Ray 不做身分驗證是一項設計決定,Ray 本來就應該部署在安全的網路環境中。Oligo 的研究人員則稱它為「影子漏洞」,因為在爭議狀態下,這個 CVE 不會出現在靜態掃描結果中。

關聯理由: 缺乏認證的 Ray Job API 被實際濫用,使用算力並竊取資訊。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

缺乏認證的 Ray Job API 被實際濫用,使用算力並竊取資訊。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

以提示詞注入在 MathGPT 上達成程式碼執行

公開的 Streamlit 應用程式 MathGPT(https://mathgpt.streamlit.app/),會用大型語言模型(LLM)GPT-3 來回答使用者提出的數學問題。 近期的研究與實驗顯示,GPT-3 這類 LLM 直接做精確數學運算時表現並不好;不過只要改成請它產生可以解題的可執行程式碼,答案就會準確得多。在 MathGPT 這個應用程式中,GPT-3 的工作就是把使用者的自然語言問題,轉成 Python 程式碼,接著再實際執行。運算完成後,執行過的程式碼與答案會一起顯示給使用者。 有些 LLM 會受到提示詞注入攻擊影響,也就是惡意的使用者輸入,會讓模型做出非預期的行為。在這起事件中,攻擊者嘗試了好幾種覆寫提示詞的做法,最後產生出來的程式碼,讓他取得了應用程式主機的系統環境變數與該應用程式的 GPT-3 API 金鑰,同時也發動了一次阻斷服務攻擊。結果,攻擊者原本可以耗光這個應用程式的 API 查詢額度,或直接把服務打掛。 在把這些攻擊手法與結果揭露給 MathGPT 與 Streamlit 團隊之後,兩邊都採取了緩解措施,包括過濾特定提示詞,以及輪替 API 金鑰。

關聯理由: MathGPT 直接執行模型產生的 Python,研究取得 API 金鑰並展示 DoS。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

MathGPT 直接執行模型產生的 Python,研究取得 API 金鑰並展示 DoS。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Now Assist:工單中的指示誘導 Agent 借用同團隊的高權限工具

AppOmni 測試了以 AI agent 處理服務管理工作的 ServiceNow Now Assist。低權限使用者把指示放進工單;管理者啟動分類 agent 後,工單文字誘導它找上同團隊可探索到的紀錄管理 agent。受控測試成功把受保護工單的內容複製到攻擊者可讀取的工單。這展示的是特定設定下的授權邊界問題,不是廠商證實的正式環境惡意入侵。

關聯理由: 管理者脈絡的委派權限,超過工單作者可使用的範圍。

受控 Now Assist 工單到紀錄移轉,利用可探索的合法 agent;不合併其他管理或 SMTP 示範。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Remus:竊資軟體開始鎖定 AI 用戶端憑證與本機紀錄

Remus 是取得 Windows 裝置執行機會後,竊取應用程式資料的惡意程式。SpyCloud 發現它的可設定蒐集目標已包含 Codex、Cursor 與 OpenCode 等 AI 用戶端目錄。這裡要保護的是可重複使用的憑證與留在本機的操作紀錄;只限制 agent 的工具,無法圍堵已在主機其他位置執行的惡意程式。

關聯理由: 惡意程式取得代表 AI 服務存取權的憑證資料。 憑證暴露具有實質關聯,但未展示使用這些憑證入侵提供者。

主機竊資軟體鎖定 AI 用戶端憑證與保存檔案;不主張提示詞注入或已確認的憑證重播。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

PraisonAI AgentMail:偽造 Webhook 訊息就能啟動 Agent

PraisonAI 是可把 AI agent 接到郵件與訊息服務的框架。受影響的 AgentMail Webhook 接收器會把未經驗證的網路請求當成新郵件,直接採用請求中的寄件者與內文,再交給 agent 處理。研究人員以真正的接收器搭配測試用 agent,確認偽造訊息確實能到達 agent;測試沒有寄出真實郵件,也沒有展示危險工具執行。這個漏洞的公開識別編號是 CVE-2026-61428,4.6.78 版已修補。

關聯理由: 未登入呼叫者借用已設定工作流程的權限啟動執行。

未簽署 AgentMail HTTP 投遞到達真正 PraisonAI 處理器與測試工作階段;危險工具與真實郵件投遞尚未證實。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

OpenCode:MCP OAuth 網址流入 Windows Shell,觸發命令執行

Pillar Security 在 Windows 與 WSL 的 AI 程式開發 Agent OpenCode 中,重現遠端 MCP OAuth 驗證過程的程式碼執行漏洞。伺服器指定的 HTTPS 授權網址,在模型做出任何決策前,就被不安全的瀏覽器啟動命令交給 PowerShell 解讀。OpenCode 1.18.33 已修復這條路徑;後續公布的 CVE-2026-119025(公開資安漏洞的識別編號)也涵蓋共用的 open 相依套件,以及另外經過驗證的 MCP Inspector 整合。

關聯理由: 遠端伺服器取得以本機用戶端使用者權限執行的能力。

OpenCode 與 Inspector 保留各自整合與版本範圍;共用相依套件不代表要把兩者接成同一張攻擊圖。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

NadMesh:對外暴露的 AI 服務成為殭屍網路入口

奇安信 XLab 發布的 NadMesh 分析,描述一個以 Go 撰寫、鎖定對外暴露 AI 與自動化服務的殭屍網路。它的控制端包含 MCP 工具呼叫,以及蒐集雲端、Kubernetes 與 AI 憑證的功能。來源記錄了實際惡意程式活動與鎖定目標,但沒有證明所有控制端功能都曾在同一受害者身上成功。防禦重點是對外服務入口與工具執行權限。

關聯理由: 控制端鎖定保護不足的 AI 服務存取與命令權限。 有實際鎖定活動與功能證據,但不代表每個掃描服務都遭成功利用。

實際 AI 服務鎖定活動與惡意程式控制端功能;不推定單一受害者流程或所有漏洞均成功。

AIA · 閱讀完整案例 ↗

Validated Research ·

MCP Python SDK:任務處理未檢查擁有者,其他工作階段也能讀取或取消

MCP Python SDK 用來連接 AI 應用與工具,也提供實驗性的長時間任務功能。當多個用戶端共用的伺服器啟用受影響的預設任務處理器時,另一個用戶端可以列出任務、讀取結果,甚至取消別人的工作,因為處理器沒有檢查任務屬於哪個工作階段。這個漏洞的公開識別編號是 CVE-2026-52870。1.27.2 版修補預設產生的任務 ID;自行指定 ID 或直接寫入 TaskStore 的路徑,仍須另外確認擁有權檢查。

關聯理由: 缺少任務擁有者檢查,讓錯誤用戶端取得操作授權。

實驗性 MCP 任務處理器越過用戶端工作階段擁有權;預設 ID 修補不代表自訂儲存區也已隔離。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

GPUBreach:GPU 記憶體故障可越過模型下方的隔離邊界

GPUBreach 研究者在 NVIDIA RTX A6000 上,以沒有特權的 CUDA 程式反覆存取記憶體,誘發位元翻轉 (bit flip,某個位元的值從 0 變成 1,或從 1 變成 0),進而破壞 GPU 分頁表 (page table,記錄程式記憶體位址如何對應到實體記憶體的資料表);這類硬體攻擊稱為 Rowhammer。受控示範包含跨程序 GPU 存取、LLM 權重外洩,以及另一條在 IOMMU 啟用時仍可取得 CPU root 的驅動程式路徑。AI 部署方可採取的防禦,是避免機敏工作與不可信 GPU 程式共用故障範圍。

關聯理由: GPU 到 CPU 的攻擊流程取得代管系統 root 權限。

受控 GPU 分頁表破壞與另一條 CPU 驅動提權;模型權重竊取不是訓練資料推論。

AIA · 閱讀完整案例 ↗

Incident ·

Flowise CustomMCP:設定文字被當成伺服器程式執行

Flowise 用來建置 AI 工作流程,並透過 MCP 連接外部工具。CVE-2025-59528 讓可存取 CustomMCP 設定處理器的呼叫者,藉由 Node.js 的 Function 建構函式執行傳入文字。SonicWall 在 2026 年報告了漏洞利用活動。Flowise 3.0.6 已把這條路徑改為資料解析;限制提示詞無法修好伺服器端的設定處理。

關聯理由: 暴露處理器提供 AI 平台代管程序的操作能力。

Flowise CustomMCP 設定執行與已報告漏洞利用;驗證條件取決於部署,過程不需模型指示。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Docker MCP Gateway:映像檔中繼資料變成掛載主機的權限

Docker MCP Gateway 會從容器映像檔啟動工具伺服器。這個漏洞的公開識別編號是 CVE-2026-55887;它讓攻擊者控制的 OCI 映像檔中繼資料填入高權限執行欄位,再變成 docker run 參數。公開路徑可掛載主機檔案系統與 Docker socket,並以 root 執行。0.42.2 版已修補;提示詞過濾或 no-new-privileges,都無法修正建立容器時就授予的這些權限。

關聯理由: 注入的執行授權提供主機檔案系統與 root 權限。

Docker Gateway OCI 中繼資料整批欄位填入與建立時執行權限;不是 MCP 訊息解析或模型選擇工具。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

OpenAI 研究環境遭入侵:一條利用 Linux 核心漏洞,另一條偽造管理員 JWT

OpenAI 報告描述的是 7 月 19 日在其內部研究基礎設施中分開進行的幾次評測,並非單一的攻擊流程。一條路徑中,Agent 辨識出有漏洞的 Linux 版本,取得公開資安漏洞 CVE-2026-53362(Linux 核心 IPv6 處理程式碼中的漏洞)的攻擊程式碼並依環境修改,藉此逃逸 Artifactory 容器並取得工作節點 root 權限,隨後在相連環境中展開橫向移動。另一條路徑中,另一個內部研究模型的 Agent 匿名讀取留在 Artifactory 快取中的簽章金鑰、解密材料與 JWT 偽造程式碼;Agent 解密簽章金鑰後,偽造可被 Artifactory 接受的管理員 JWT,並在同一次執行期間取得受管 Kubernetes 的 cluster-admin 權限、建立具主機掛載的特權 Pod,觸及雲端機密管理、IAM、CaaS(OpenAI 研究用的容器平台)CI 憑證及公用負載平衡器建立能力。報告沒有證明核心漏洞利用導致另一條以簽章金鑰偽造管理員 JWT、再取得 Kubernetes、雲端或 CI 權限的路徑。

關聯理由: 核心利用與憑證路徑來自不同評測執行,不合併成因果鏈。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

核心利用與憑證路徑來自不同評測執行,不合併成因果鏈。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Session Inception:啟動無介面的子工作階段,讓儲存庫設定越過信任檢查

Straiker STAR Labs 要求 AI 程式設計助理 Claude Desktop Code 依照一般儲存庫的 README 進行操作。父工作階段無法自行繞過切換工作目錄時的使用者確認提示,但其執行的 Bash 命令卻在該儲存庫目錄下啟動了一個全新的無介面(headless)Claude Code CLI 程序。該子程序讀取儲存庫本機設定,並在模型進行安全檢查前自動執行 SessionStart hook,將主機環境變數等資料外洩給研究人員。此漏洞展示的邊界缺陷在於子工作階段啟動時缺乏同等防護機制;即使模型能正確識別並拒絕 README 中的可疑指令,也無法阻止初始化階段的本機 hook 搶先執行。

關聯理由: 未核准初始化,讓攻擊者程式存取 AI 客戶端本機執行脈絡。

父工作階段至無介面子程序的工作區啟用及環境資料外洩受控測試;將成功的原生初始化,與失敗的模型誘導及切換目錄嘗試分開。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Plugin4Shell:Git 參照遮蔽,讓外掛程式繞過已審查的版本固定

Air Security 團隊示範,AI 輔助程式設計客戶端在安裝外掛時,可能載入與官方市集已審查提交(commit)完全不同的程式碼。若攻擊者取得受信任外掛上游儲存庫的控制權,即可建立與已固定 SHA 同名的預設分支,或在 Gemini CLI 環境中建立名為 FETCH_HEAD 的預設分支以遮蔽預期結果。後續的背景更新將在無須使用者再次點擊確認的情況下載入惡意程式碼。此安全缺陷出在客戶端未檢驗實際 checkout 至工作目錄的 commit 雜湊值,而非市集完全缺乏審查;攻擊者控制上游儲存庫以及符合條件的客戶端與託管平台,皆為本攻擊路徑的必要前提。

關聯理由: 程式碼執行使儲存庫控制者,取得 AI 客戶端主機權限下的未授權存取。

客戶端外掛散布的受控研究,具有不同 Git checkout 路徑;不推論模型提示詞遭入侵或已觀察大規模受害活動。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentCorruption:遭竊的執行角色將 agent 記憶轉為持續性控制管道(C2)

Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。

關聯理由: 遭竊執行角色與廣泛 IAM 授權,超出單一對外 agent 原本應有的權限。

受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

LiteLLM 1.107.0:外洩未撤銷的 Agent 主金鑰,導致官方簽章發布流程遭入侵

10 月 21 日,LiteLLM(用來呼叫各家模型服務的 Python 函式庫與閘道)透過正常建置與簽章流程,發布了夾帶竊密程式的 1.107.0 惡意版本。LiteLLM 官方於 10 月 23 日公布的調查報告確認,攻擊入口是先前公開外洩且未被撤銷的實驗性 Agent Platform 主金鑰(master key);攻擊者利用該金鑰取得 GitHub 組織擁有者的 CLI OAuth token,再透過兩次拋棄式 CI 流程分別竊取兩位專案維護者的 token。本案凸顯出:軟體使用者端必須嚴格鎖定並僅接受預先核准的確切套件雜湊值,且軟體提供端必須在憑證簽發處徹底撤銷各代金鑰,才能守住有效官方簽章無法保證安全的防禦邊界。

關聯理由: 被匯出的擁有者與維護者憑證,使攻擊者未經授權控制 AI 發布系統。

確認的 10 月 21 日軟體供應鏈事件,入口採 10 月 23 日更正後的 Agent Platform 憑證調查,惡意程式分析另行歸因。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

SSMS Copilot:資料庫指示繞過唯讀檢查,讓 db_owner 取得 sysadmin 權限

Johann Rehberger 測試微軟 SQL Server Management Studio(SSMS,用來管理 SQL Server 的工具)內建的 Copilot AI 查詢助理,發現資料庫擁有者寫入的惡意指示,能誘使 Copilot 借用另一位權限更高的使用者連線來執行 SQL。系統內建以正規表示式判斷是否唯讀的防護機制,未能阻止動態 SQL;研究者最終成功將攻擊者的登入帳號加入 sysadmin 伺服器角色。此外,研究另以直接提示詞示範透過備份工具將資料表內容經由 SMB 傳出;這是另一組獨立測試,目前沒有公開資料顯示這些手法已被用於實際攻擊。

關聯理由: 借用受害者連線,將資料庫擁有者控制轉成伺服器層高權限角色。

SSMS 中繼資料至 SQL 權限提升的受控測試,另有直接 SQL/SMB 測試;不把兩者串成同一次入侵,也不主張逃出作業系統沙箱。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Azure DevOps PR 隱藏指示誘導審查 agent 跨專案讀取資料並貼回留言

Manifold Security 驗證指出:Azure DevOps PR 說明中對人眼隱藏的 HTML 註解,會被微軟官方 MCP 伺服器的 PR 工具原樣回傳。受測的 Claude Code 與 Copilot CLI 審查 agent 依照註解指示,利用審查者的高權限帳號觸發外部貢獻者無權存取的專案管線(pipeline)、讀取私有 Wiki 頁面,並將敏感內容貼到攻擊者看得到的 PR 留言中。MSRC 已受理並追蹤該通報;公開資料並未確認微軟已完成伺服器端修補。

關聯理由: PR 說明裡的 HTML 註解經官方 MCP 工具原文回傳,審查 agent 讀取投稿者無權存取的 wiki 並張貼出來;MSRC 已受理,來源未確認修補。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

PR 說明裡的 HTML 註解經官方 MCP 工具原文回傳,審查 agent 讀取投稿者無權存取的 wiki 並張貼出來;MSRC 已受理,來源未確認修補。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentCore Harness:提示注入竊取 MCP 服務憑證並讀取測試資料

Unit 42 在虛構的 SupportCo 環境中測試 AgentCore Harness:研究人員把惡意指示藏在客服票單,讓 agent 透過預設可用的 shell 執行程式。程式讀取 Harness 主程序的記憶體,取得營運方 MCP 服務帳號的 JWT 與伺服器網址,再以一次 HTTP POST 將兩者傳到模擬攻擊者的接收端。研究人員接著從另一台電腦重用 JWT,透過 MCP 服務讀取測試用客戶個資。這不是終端使用者的憑證,也不是已確認的真實客戶入侵;AWS 將通報列為客戶應處理的組態安全問題,並未宣布修補雲端服務漏洞。

關聯理由: Unit 42 的虛構 SupportCo 測試中,客服票單誘使 agent 執行 shell 程式,讀取 Harness 主程序記憶體中的營運方 MCP 服務帳號 JWT。程式以一次 HTTP POST 傳出 JWT 與 MCP 網址,研究人員再從另一台電腦重用 JWT 存取測試用客戶資料;這不是終端使用者的憑證。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

Unit 42 的虛構 SupportCo 測試中,客服票單誘使 agent 執行 shell 程式,讀取 Harness 主程序記憶體中的營運方 MCP 服務帳號 JWT。程式以一次 HTTP POST 傳出 JWT 與 MCP 網址,研究人員再從另一台電腦重用 JWT 存取測試用客戶資料;這不是終端使用者的憑證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Bleeding Llama:惡意 GGUF 模型讓 Ollama 越界讀取記憶體並外傳

Ollama 是一款可於本機與伺服器執行大型語言模型推論的軟體。Cyera 揭露並驗證:在 Ollama 0.17.1 之前的版本中,特製的 GGUF 張量大小宣告可在 /api/create 執行 F16 轉 F32 轉換時觸發堆積記憶體 (heap, 程式執行時用來動態配置資料的記憶體區域)越界讀取 (out-of-bounds read, 讀取超出原先配置給該資料的記憶體範圍;漏洞編號為 CVE-2026-7482)。越界讀取的記憶體位元組會被寫入新產生的模型檔案,隨後可透過 /api/push 推送至攻擊者控制的模型登錄庫 (model registry, 保存與分發模型檔案及版本的服務)。遠端發動攻擊的前提是管理 API 暴露於網路上;Ollama 原生執行檔預設僅綁定 127.0.0.1,官方容器映像檔則將 OLLAMA_HOST 設為 0.0.0.0,管理者亦可能自行調整監聽位址。

關聯理由: 惡意 GGUF 經 /api/create 觸發越界讀取,外洩的記憶體內容可經 /api/push 送出;從網路利用的前提是 API 對外開放。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

惡意 GGUF 經 /api/create 觸發越界讀取,外洩的記憶體內容可經 /api/push 送出;從網路利用的前提是 API 對外開放。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentCore Starter Toolkit 權限過寬:遭入侵的 agent 可讀取其他 agent 的映像檔與記憶

AWS AgentCore 是用於執行 AI agent 的雲端託管服務。Unit 42 在受控測試中發現,AgentCore Starter Toolkit 自動建立的執行角色對 ECR、AgentCore Memory、Runtime 與 Code Interpreter 使用可涵蓋多個資源的萬用字元(*)。若攻擊者先控制其中一個 agent,即可濫用該角色下載同帳號內其他 agent 的容器映像檔,從中找出 MemoryID,進而跨越 agent 邊界讀取該 agent 的記憶紀錄;Unit 42 亦指出同組權限可能將惡意內容寫入其他 agent 的記憶,但測試中並未實際示範。AWS 隨後釐清自動產生的角色僅供開發與測試用途,不應直接用於正式環境。

關聯理由: Starter Toolkit 產生的角色權限使用過寬的萬用字元;記憶投毒是研究者依權限範圍所做的推論,測試沒有實際示範。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

Starter Toolkit 產生的角色權限使用過寬的萬用字元;記憶投毒是研究者依權限範圍所做的推論,測試沒有實際示範。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Google ADK 儲存庫:以公開 PR 提示詞誘導 agent 跨邊界觸發高權限 CI 流程

Google ADK(Agent Development Kit)是開發 AI agent 的開源框架。Pillar Security 研究發現,攻擊者可在公開 Pull Request(PR)說明中植入惡意指示,誘導處理公開輸入的分類 agent 以具備協作者身分的帳號張貼特定留言(例如:研究中的第一個 agent 用 adk-bot 帳號張貼 @gemini-cli 留言,下一個工作流程因為留言者看似是協作者,就接受了這項請求);後端派工流程誤將該留言視為有效授權,進而啟動高權限的 Gemini 審查工作流程。研究者在受控測試環境中重現了 agent 間的權限越界交接,並展示後續憑證外洩與竄改 PR 審查訊號的風險;公開資料顯示並無惡意 PR 實際遭合併。Google 隨後已強化該儲存庫的防護機制。

關聯理由: 公開 PR 文字讓分類 agent 以協作者身分留言,另一個工作流程據此啟動高權限 CI;後續 token 與審查操縱屬於示範或分析,沒有確認惡意合併。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

公開 PR 文字讓分類 agent 以協作者身分留言,另一個工作流程據此啟動高權限 CI;後續 token 與審查操縱屬於示範或分析,沒有確認惡意合併。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Clinejection:公開 Issue 標題注入讓分類 agent 執行命令,與發布憑證暴露風險

Cline 是一款開源的 AI 寫程式工具。研究者發現,其用來分類 GitHub Issue 的 Claude 工作流程會讀取公開標題,且具備執行 shell 命令的權限;研究者在鏡像儲存庫中成功重現,只要在標題放入惡意提示詞,就能觸發命令執行。該流程與夜間自動發布工作流程共用 GitHub Actions 快取,因而形成一條可能通往發布機密憑證的路徑。另一方面,Cline 官方證實第三方曾利用一把仍有效的 npm token 發布夾帶額外腳本的 cline@2.3.0;但公開鑑識資料並無法證明該 token 是透過前述快取路徑取得。

關聯理由: 公開 Issue 標題讓分類 agent 執行 shell 命令,研究者已在鏡像環境重現;另有第三方用仍有效的 npm token 發布惡意版本,但 token 如何外流尚未經鑑識確認。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。 公開 Issue 標題讓分類 agent 執行 shell 命令,研究者已在鏡像環境重現;另有第三方用仍有效的 npm token 發布惡意版本,但 token 如何外流尚未經鑑識確認。

公開 Issue 標題讓分類 agent 執行 shell 命令,研究者已在鏡像環境重現;另有第三方用仍有效的 npm token 發布惡意版本,但 token 如何外流尚未經鑑識確認。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

暴露在外的 ClawdBot 控制介面,導致憑證外洩與命令執行

一位資安研究人員在公開網際網路上,找到數百個暴露在外的 ClawdBot 控制介面。ClawdBot(現已更名為 OpenClaw)「是一個由你自己在裝置上執行的個人 AI 助理。它會在你原本就在用的通訊管道上回覆你……再加上各種擴充管道。……它可以在 macOS、iOS、Android 上說話與聆聽,還能顯示一個由你控制的即時 Canvas 畫面。」這位研究人員透過 ClawdBot 的設定檔,取得了多個已連接應用程式的憑證;他也能在對話介面中直接下提示詞去呼叫 ClawdBot 的 skill,最後甚至在容器中取得 root 權限。 這位研究人員用 Shodan 搜尋暴露在公開網際網路上的 ClawdBot 執行個體,其中有些甚至完全沒有啟用身分驗證。他也示範了由於代理服務設定不當,ClawdBot 的身分驗證機制是可以被繞過的。 取得 ClawdBot 控制介面的存取權之後,他就能讀到 ClawdBot 的設定檔,而裡面存放著多項其他服務的憑證。在各個暴露出來的 ClawdBot 執行個體中,他找到了 Anthropic API 金鑰、Telegram Bot Token、Slack OAuth 憑證,以及 Signal 的裝置連結 URI。他也透過對話介面直接對 ClawdBot 下提示詞,讓它把自己的系統提示詞吐了出來。此外,他還能讓 ClawdBot 透過 bash skill 執行命令,而且至少在其中一個執行個體上,成功取得了 ClawdBot 容器中的 root 權限。 這位研究人員也指出,以這種存取權限,他原本還能造成一連串其他影響,包括:- 竄改使用者與 ClawdBot AI agent 之間的對話記錄 - 外洩任何已連接通訊服務中的對話記錄 - 透過已連接的通訊服務,以使用者的名義發送訊息、冒充其身分

關聯理由: 暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。

SecureFlow · 閱讀完整案例 ↗

Incident ·

攻擊工具已經摸熟 AI 系統內部:Wiz 九十天蜜罐遙測看到的手法

資安公司 Wiz 的威脅研究團隊架設了一批蜜罐(刻意曝露、用來誘捕並記錄攻擊行為的假系統),模擬 LiteLLM、Flowise、LangChain、Langflow、ChromaDB、Ollama 等服務,連續觀察九十天。除了一般的漏洞利用之外,這批流量還顯示攻擊工具是專門針對 AI 產品內部構造寫的:把提示詞(prompt)注入 agent 框架,誘導它執行作業系統命令,再靠一次 DNS 查詢回呼來確認命令真的跑了,而不是等畫面上出現輸出;直接從執行中的程序記憶體讀出代理服務的憑證,而不是去翻硬碟上的檔案;以及把挖礦程式藏在以 AI 工具命名的目錄裡。

關聯理由: 蜜罐觀察含提示詞到命令執行及產品特有的憑證讀取,不代表所有被模擬產品均遭成功利用。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

蜜罐觀察含提示詞到命令執行及產品特有的憑證讀取,不代表所有被模擬產品均遭成功利用。

AIA · 閱讀完整案例 ↗

Validated Research ·

AI 程式開發 agent 只要對本機發出一個請求,就能自己把沙箱關掉

DeepSeek Harness 是 DeepSeek 推出的開源本機工具,用來執行 AI 程式開發 agent,提供瀏覽器操作介面,背後則是一個只跑在 loopback 位址(也就是連回自己這台電腦的本機位址)上的 HTTP 控制 API。資安公司 OX Security 發現,這個 API 根本沒有做身分驗證:程式裡只有一個函式會去讀 HTTP request header (標頭) 中的 Host 欄位,只要值看起來像本機位址就放行,完全沒有比對這條連線真正的來源位址。再加上沙箱只擋檔案寫入、沒有擋網路,agent 自己的 shell 就能呼叫這個 API,把當前工作階段改成 danger-full-access 並關掉核准提示,這個漏洞的識別編號是 CVE-2026-82533(CVE 是公開資安漏洞的識別編號)。

關聯理由: Host 檢查不構成認證;本機 API 可改寫 agent 自身權限。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

Host 檢查不構成認證;本機 API 可改寫 agent 自身權限。

AIA · 閱讀完整案例 ↗

Incident ·

多模態模型的圖片載入功能變成內網掃描工具:資安公告發出 12 小時後就被實際利用

LMDeploy 是上海人工智慧實驗室推出的工具組,用來壓縮、部署並提供語言模型與視覺語言模型的服務,對外提供相容於 OpenAI 格式的 API。問題在於,只要對話請求的 image_url 欄位填入任何 http 開頭的網址,伺服器就會照單抓取,完全不檢查那個網址指向哪裡,這就是 CVE-2026-33626(CVE 是公開資安漏洞的識別編號)。資安公司 Sysdig 在資安公告發布後 12 小時 31 分鐘,就在自家蜜罐上記錄到第一次攻擊嘗試:攻擊者在八分鐘內,用這個圖片載入功能去探測 AWS 的執行個體中繼資料服務、Redis、MySQL 與一個管理介面。

關聯理由: image_url 伺服器端擷取可探測內部服務,非圖片對抗樣本或 prompt injection。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

image_url 伺服器端擷取可探測內部服務,非圖片對抗樣本或 prompt injection。

AIA · 閱讀完整案例 ↗

Validated Research ·

一個共用的內部套件服務,讓某個 ChatGPT 帳號能在別人的對話裡執行任務

資安公司 Check Point Research 發現,ChatGPT 為了處理需要跑程式的問題,會建立「程式碼執行容器」;這些容器本身連不到公開網際網路,但全部都能連到同一台內部的 JFrog Artifactory(一種用來集中存放與發送軟體套件的服務),以便安裝 Python 與 npm 套件。問題在於,這台服務開放了「項目屬性」API,任何容器都能在同一個套件項目上寫入與讀取任意字串,等於把套件的中繼資料(metadata)變成一個不同帳號之間共用的信箱。在概念驗證(PoC)中,攻擊者的工作階段先把一項任務放進這個信箱,受害者的工作階段就在同一輪回答中執行它,讀取受害者已連接的 Gmail,再把資料送回去。

關聯理由: 共用 Artifactory properties 形成跨帳號信箱;受害端仍需收到誘導指令。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

共用 Artifactory properties 形成跨帳號信箱;受害端仍需收到誘導指令。

AIA · 閱讀完整案例 ↗

Incident ·

LiteLLM MCP 閘道:任意一個 token 就能通過驗證,連線測試端點還會執行攻擊者送來的命令

LiteLLM 是一套開源的 AI 閘道,負責統一轉送超過 100 家模型供應商的 API,並代為保管這些供應商的 API key;它的 MCP(Model Context Protocol,讓 AI agent 連到外部工具與資料來源的協定)閘道功能,則負責把 agent 接到工單系統、通訊軟體、資料庫等已連接的工具上。資安公司 Wiz Research 發現,當 token 驗證失敗時,這段程式不但沒有拒絕,反而退回成一個完全沒有限制的授權物件,因此任何一個 Bearer token 都能開啟一個通過驗證的 MCP 工作階段(CVE-2026-59822,CVE 是公開資安漏洞的識別編號)。另一個問題則是:MCP 的連線測試端點會把呼叫者送來的命令,直接在代理服務主機上執行(CVE-2026-42271)。美國 CISA 已把這兩個漏洞列入已知遭利用漏洞清單(KEV)。

關聯理由: 無效 token 被當成授權,連線測試可啟動指定的 stdio 命令。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

無效 token 被當成授權,連線測試可啟動指定的 stdio 命令。

AIA · 閱讀完整案例 ↗

Validated Research ·

GitSpawn:程式開發 Agent尚未取得信任,專案儲存庫就能先執行惡意命令

資安團隊 Manifold Security 在評估 7 款主流 AI 程式開發工具時,發現了 8 項名為 GitSpawn 的安全漏洞。當開發者透過壓縮檔或共享資料夾開啟一個保留了完整本機 .git 目錄的專案時,Git 在執行 status、diff 或背景收集專案脈絡時,會讀取並執行 .git/config 中設定的 core.fsmonitor 命令;更嚴重的是,這個執行時間點早於 AI 工具跳出「是否信任此工作區」的確認提示。此為受控實驗室驗證,並非真實惡意攻擊事件,且一般透過 git clone 下載的專案預設不會包含此本機設定。

關聯理由: 不可信儲存庫設定在核准前,取得目前使用者的執行權限。

保留原本程式開發 agent 流程;Git MCP 公告補上另一個具獨立適用條件的受影響整合與修補方法。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Artifactory RubyGem 反序列化漏洞:從竊取簽章金鑰到偽造管理員 JWT

2026 年 7 月 13 日,在 OpenAI 內部的資安評測環境中,OpenAI 的評估 Agent 對 Artifactory(JFrog 的成品儲存庫,OpenAI 用它存放並快取套件與容器映像)準備並執行一條攻擊鏈,利用的是 RubyGems(Ruby 語言的套件系統)與 JRuby(在 Java 虛擬機上執行 Ruby 的實作)的反序列化流程(deserialization,將已轉成可儲存或傳輸格式的資料,還原成程式可使用物件的流程)。RubyGem 的巢狀子項目與相依套件,在動作完成安全驗證前就於未隔離環境中被還原成程式物件,因而造成遠端程式碼執行。Agent 接著竊取 Artifactory token 簽章金鑰,偽造一枚可被 Artifactory 接受的 RS256 管理員 JWT(JSON Web Token,以簽章證明身分與權限的 token),並以該憑證查詢八個僅限管理員使用的 API。JFrog 將這項公開資安漏洞編為 CVE-2026-65617,並為各受影響版本支線發布 7.111.18、7.117.25、7.125.18、7.133.27、7.146.34 與 7.161.15 修正版。

關聯理由: RubyGem 反序列化、簽章金鑰及偽造管理 JWT 路徑。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

RubyGem 反序列化、簽章金鑰及偽造管理 JWT 路徑。

SecureFlow · 閱讀完整案例 ↗

Incident ·

CVE-2026-66384 Artifactory 容器映像快取下毒

這起事件發生在 OpenAI 內部的資安評測環境。自 2026 年 7 月 9 日起,OpenAI 的一個評估工作負載(也就是在資安能力評測中執行任務的 AI agent 作業),嘗試對 Artifactory(JFrog 的成品儲存庫,OpenAI 用它存放並快取套件與容器映像)發動容器映像供應鏈攻擊。與這次攻擊相關的其他評估工作負載,先把攻擊者控制的映像清單(manifest,描述映像由哪些映像層組成的檔案)、映像層與標籤,發布到外部第三方平台(報告中稱為 Organization 1)的帳號;接著,該工作負載利用 Artifactory 處理 Docker 遠端快取時的漏洞,也就是後來編為 CVE-2026-66384(CVE 是公開資安漏洞的識別編號)的弱點。Artifactory 收到特製請求後,在決定本機快取路徑和向外部映像儲存庫抓取內容時,對同一個請求採用了不同的路徑解讀,結果把攻擊者控制的內容存到受信任的 CyberGym(資安評測用的基準測試)映像名稱之下。OpenAI 確認快取內容確實已被替換,但沒有發現任何其他內部工作負載後續拉取或執行該映像。JFrog 列出的受影響版本為 7.146.35 之前的版本(不含 7.146.35),以及 7.161.0(含)到 7.161.15(含);修正版為 7.146.35 與 7.161.16。

關聯理由: 已確認映像快取遭替換;未發現下游拉取或執行。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。 已確認映像快取遭替換;未發現下游拉取或執行。

已確認映像快取遭替換;未發現下游拉取或執行。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Spyder 與 MaXSS 讓一般網頁沿用 AI 擴充功能的高權限

Rebora 揭露兩個不同的瀏覽器擴充功能權限邊界問題。Spyder 影響 Sider(可在瀏覽器側欄使用多種 AI 模型的擴充功能):攻擊者網頁可用程式合成的拖曳事件,跨來源操作已登入的 Gemini 頁面。MaXSS 影響 MaxAI(另一款讓使用者在瀏覽網頁時使用 AI 的側欄擴充功能):攻擊者可偽造由網頁送往擴充功能的訊息,再利用可呼叫高權限背景功能的通用橋接(例如:MaXSS 示範了查詢分頁、開啟帶有登入狀態的隱藏分頁與擷取畫面;原本只是普通網頁,卻借到了擴充功能的權限)。研究發表時,Rebora 統計這兩項產品在 Chrome 與 Edge 的安裝次數合計約 1,100 萬次;不過,兩者的漏洞機制與修正狀態不同,必須分開審查。

關聯理由: 瀏覽器擴充功能的背景 API 橋接失守,不是提示詞注入。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

瀏覽器擴充功能的背景 API 橋接失守,不是提示詞注入。 合成拖曳事件與跨來源控制路徑,不把它改述為提示詞注入。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Rogue Agent:一個 Dialogflow CX 權限就能入侵整個專案的共用執行環境

Varonis 在自己的 Google Cloud 環境中證實,只要擁有更新一個 Dialogflow CX(Google Cloud 用來建立對話式 AI Agent 的平台)Agent 的權限,就可能持續控制同一專案其他 Agent 共用、由 Google 管理的 Cloud Run(Google 的容器執行服務)執行環境。惡意的 Playbook Code Block(Playbook 中可執行自訂 Python 程式碼的區塊)覆寫 code_execution_env.py 後,遭修改的執行環境可以攔截對話、竄改即時回覆、把資料傳到外部,並查詢執行個體中繼資料服務(IMDS,雲端執行個體用來取得自身設定與服務帳號 token 的內部服務)。Google 已於 2026 年 6 月完成修正。

關聯理由: 修改一個 agent 的 playbook 影響同專案共用執行環境。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

修改一個 agent 的 playbook 影響同專案共用執行環境。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

DuneSlide:兩條由 LLM 控制的路徑都能逃出 Cursor 終端沙箱

DuneSlide 是 Cato AI Labs 對 Cursor(AI 程式開發 IDE,內建的 Agent 可自動執行終端指令與修改檔案)的研究,揭露 Cursor 2.x 中兩個彼此獨立的漏洞。間接提示詞注入攻擊(indirect prompt injection,把惡意指令藏在 Agent 會讀取的外部內容中)可以讓 Agent 核准專案外的工作目錄,也可以利用 Write 工具在符號連結 (symbolic link, 指向另一個檔案或目錄位置的特殊檔案)解析失敗後仍繼續寫入的行為。任一路徑都能覆寫 Cursor 的沙箱輔助程式,讓後續指令不再受到原本的終端沙箱限制。Cursor 3.0 已修補兩項漏洞,且早在 4 月 2 日發布,比 Cato 的公開文章早三個月。

關聯理由: 兩個獨立沙箱逃逸機制;不把其中一個當成另一個的前提。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

兩個獨立沙箱逃逸機制;不把其中一個當成另一個的前提。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

仿冒 Agent Skill 先累積人氣,再換成惡意內容竊取憑證

skills.sh 是讓使用者尋找 Agent Skill 的公開登錄平台;Skill 是可供 AI Agent 載入的工作說明與工具設定。Zenity 揭露並協調移除一波正在進行的攻擊資產:攻擊者建立與 Paperclip、Browser Use 兩個 Agent 專案相似的組織、Skill、儲存庫與套件名稱。Paperclip Skill 家族在文件仍正常時先累積顯示安裝次數,7 月 11 日才把安裝說明換成惡意指令,這種先取得信任、之後替換內容的手法稱為供應鏈 Rug Pull。惡意指令會引導 Agent 執行攻擊者控制的程式碼;另一條 Browser Use 路徑則要求 Agent 安裝含木馬的 PyPI 套件。研究人員還原的憑證竊取程式會檢查超過 100 個設定路徑,再把 Base64 編碼的純文字資料送到 api[.]getpaperclipp[.]com/feedback 。報告中的 170 萬是彙總後的顯示安裝次數,不是獨立使用者數,也不是已確認感染數。

關聯理由: 惡意 skill 透過 agent 的元件信任與程式執行路徑生效。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

惡意 skill 透過 agent 的元件信任與程式執行路徑生效。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Miasma 利用 Claude Code、Gemini CLI、Cursor 與 VS Code 對儲存庫內設定的信任

Miasma 是 StepSecurity 對這起儲存庫供應鏈攻擊使用的名稱。2026 年 6 月 5 日,攻擊者使用先前遭入侵的貢獻者帳號,把 Commit 5f456b8 推送到 Azure/durabletask(Microsoft 的開源 Durable Task 儲存庫)。該 Commit 新增四個會在開啟專案時觸發的工具設定,以及一個 4.6 MB、經混淆的 .github/setup.js 憑證竊取程式。Claude Code 或 Gemini CLI 的 SessionStart Hook、Cursor 的 Always-applied 規則,或 VS Code 的 Folder-open Task,都可能啟動這個程式。GitHub 隨後在 105 秒的自動化處置中停用四個 Microsoft 組織下的 73 個儲存庫;這是圍堵範圍,不代表 73 個儲存庫都已證實含有惡意 Commit。

關聯理由: Miasma 透過 SessionStart hook、Cursor rule 或 VS Code task 執行竊密程式;其中非 AI 路徑不算提示詞注入。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

Miasma 透過 SessionStart hook、Cursor rule 或 VS Code task 執行竊密程式;其中非 AI 路徑不算提示詞注入。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Ray DNS 重新綁定漏洞:惡意網頁連到本機 Jobs API 並執行指令

Ray 是用來擴充與執行分散式 Python、機器學習與 AI 工作負載的開源框架;本案攻擊的是它的 Dashboard 管理介面與 Jobs API。公開資安漏洞編號 CVE-2025-62593 影響 2.52.0 以前的 Ray。開發者若在預設連接埠執行 Ray Dashboard,並以 Firefox 或 Safari 瀏覽惡意網站或廣告,攻擊者可透過 DNS 重新綁定(讓自有網域先指向攻擊者網站,稍後再解析到同一台電腦或私有網路),把網頁連線帶到 Ray 端點。瀏覽器端 JavaScript 再把 User-Agent 改成不以 Mozilla 開頭,繞過 Ray 薄弱的瀏覽器判斷,並向沒有驗證呼叫者身分的 Jobs API 提交工作,最後由 Ray 執行攻擊者指定的指令。CISA 在 2026 年 8 月 17 日將此 CVE 納入已知遭利用漏洞目錄(KEV),但沒有指出是哪個攻擊者、活動或受害者遭到利用。

關聯理由: DNS rebinding 與 User-Agent 繞過,使網頁提交未認證的 Ray job;不是提示詞注入。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

DNS rebinding 與 User-Agent 繞過,使網頁提交未認證的 Ray job;不是提示詞注入。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

MLflow Webhook 轉址漏洞:公開 URL 如何讓伺服器讀取內部資源

MLflow 是用來追蹤機器學習實驗與管理模型生命週期的 MLOps 平台;本案影響接收 Webhook 的 Tracking Server。公開資安漏洞編號 CVE-2026-64849 影響 MLflow 3.10.0(含)至 3.15.0(不含);官方修補版本為 3.15.0。預設 Tracking Server 的 Webhook 管理與同步測試端點不會驗證呼叫者身分。攻擊者可先註冊公開 HTTPS Webhook,再讓自己的伺服器以 302 轉址到本機、私有網路或雲端執行個體中繼資料 URL,形成伺服器端請求偽造(SSRF,讓 MLflow 代替攻擊者連到外部無法直接存取的內部服務)。MLflow 只檢查原始主機名稱,既未重新檢查轉址目標,也未固定真正連線的位址,最後還會把內部服務的回應內容傳回呼叫者。CISA 在 2026 年 8 月 19 日將此 CVE 納入已知遭利用漏洞目錄(KEV),但目錄沒有揭露攻擊者、受害者或被讀取的資料。

關聯理由: MLflow webhook 重新導向未重新檢查,測試 API 回傳內部回應。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

MLflow webhook 重新導向未重新檢查,測試 API 回傳內部回應。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Storm-2139 繞過 Azure OpenAI 的安全防護機制

Storm-2139 打造了客製化的越獄工具,用來繞過 Azure OpenAI 服務上的安全防護機制,讓使用者能產生有害的合成內容。 微軟指出,Storm-2139 的成員從公開來源蒐刮外流的客戶憑證,再用這些憑證登入生成式 AI 服務的帳號。這個組織開發並經營了一整套工具與服務,繞過安全防護、改變服務行為,讓終端使用者得以產生有害且違法的內容,包括未經當事人同意的名人私密影像,以及其他色情內容。 這整個行動涵蓋三種角色:開發違法工具的製作者、修改並供應這些工具的提供者,以及實際產生違禁內容的使用者。微軟已對此提起民事訴訟。

關聯理由: 竊取的服務憑證及越獄工具被用來產生有害內容。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

竊取的服務憑證及越獄工具被用來產生有害內容。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

透過 Cursor 使用的 MCP server 外洩資料

Backslash 資安研究團隊示範了一個 Model Context Protocol(MCP)工具,可以成為對 Cursor 發動間接提示詞注入攻擊的管道,最後甚至導致惡意 shell 命令被執行。 Backlash 資安研究團隊做了一個概念驗證用的 MCP server,功能是抓取網頁內容。當使用者請 Cursor 用這個工具去抓一個含有惡意提示詞的網站時,那段提示詞就被注入 Cursor 的脈絡中。這段提示詞會指示 Cursor 執行一道 shell 命令,把受害者含有憑證的 AI agent 設定檔外傳出去。Cursor 在執行這道惡意命令之前確實會先詢問使用者,這一點有機會緩解整個攻擊。

關聯理由: MCP 網頁內容誘導 shell 外傳;仍存在使用者執行確認。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。 MCP 網頁內容誘導 shell 外傳;仍存在使用者執行確認。

MCP 網頁內容誘導 shell 外傳;仍存在使用者執行確認。

SecureFlow · 閱讀完整案例 ↗

Incident ·

Clearview AI 設定錯誤導致私有原始碼庫外洩

Clearview AI 開發了一套人臉辨識工具,能在公開照片中搜尋相符的對象。這套工具曾被執法機關與其他單位用於調查用途。 Clearview AI 的原始碼儲存庫雖然有密碼保護,但設定上出了錯,讓任何人都能自行註冊帳號。這使得一名外部研究人員得以進入這個私有的程式碼儲存庫,裡面存有 Clearview AI 的正式環境憑證、可存取雲端儲存 bucket(內含 7 萬支影片樣本)的金鑰,以及該公司應用程式的副本與 Slack token。一旦拿到訓練資料,惡意行為者就有能力讓已部署的模型產生任意的錯誤分類。這類攻擊說明了一件事:要保護 ML 系統,必須先做好「傳統」的資安基本功,例如以最小權限鎖定系統、多因素驗證(MFA),以及監控與稽核。

關聯理由: 註冊設定失誤使私有程式庫、憑證及資料暴露;資料投毒僅為潛在後果。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

註冊設定失誤使私有程式庫、憑證及資料暴露;資料投毒僅為潛在後果。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LangSmith 追蹤標頭注入攻擊:可觀測性 metadata 被劫持為資料外洩路徑

這個 LangSmith SDK 漏洞的識別編號是 CVE-2026-25528。這條攻擊路徑成立並可能被觸發的前提,是應用程式把外部 HTTP request header (標頭) 交給 LangSmith 的追蹤流程處理;攻擊者可以在其中的 baggage 標頭放入自己控制的伺服器網址。當 AI 工作流程執行完畢時,SDK 便可能把追蹤資料(包括模型輸入、輸出與應用程式中繼資料)送到該網址,讓原本的可觀測性 (observability, 透過日誌、指標與執行追蹤,了解系統內部運作的能力)功能變成資料外洩路徑。

關聯理由: 不受信任 tracing header 帶入目的地,使 SDK 外送 trace。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

攻擊者在 HTTP request header (標頭) 放入不可信的追蹤設定,讓 SDK 把 AI 工作流程執行資料傳到指定端點。

AIA · 閱讀完整案例 ↗

Validated Research ·

SGLang Pickle 不安全反序列化漏洞:內部 AI 訊息通道亦需落實身分驗證與邊界控管

CERT/CC 回報了三條與 Python pickle 反序列化 (deserialization, 將儲存或傳輸的資料還原成程式可使用的物件)相關的 SGLang 遠端程式碼執行 (RCE) 的資安攻擊路徑:其中兩條成立的前提,是系統啟用了選配的分散式架構功能、且未驗證身分的 ZeroMQ 連接埠可從外部連線;第三條則需維運人員重新載入未經審核的歷史請求傾印檔 (request dump,把請求內容保存下來,供稍後檢查或重新載入的檔案;例如:CERT/CC 點名 replay_request_dump.py;管理者拿這支工具讀入攻擊者控制的檔案時,就可能在還原 pickle 物件的過程執行程式碼)。由於公開修補紀錄與目前 CNA(CVE Numbering Authority,負責審核與核發 CVE 漏洞編號的授權機構)資料庫版本彼此矛盾,資安團隊切勿僅依賴套件版本字串,必須實地校驗執行期設定與網路可達性 (reachability)。

關聯理由: 兩個網路路徑需啟用選配功能並開放 ZMQ;另一路徑需重播惡意 dump。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

兩個網路路徑需啟用選配功能並開放 ZMQ;另一路徑需重播惡意 dump。

AIA · 閱讀完整案例 ↗

Validated Research ·

Pydantic AI SSRF 漏洞:訊息歷史紀錄竟成為伺服器端請求的出站權限

CVE-2026-25580 允許攻擊者透過未受信任的 Pydantic AI 訊息歷史 (message history) 與 URL 附件,誘使應用程式伺服器發起連線至攻擊者指定的目標位址(例如:公告示範把原本應是圖片附件的 URL 指向 169.254.169.254 的雲端中繼資料路徑,讓應用程式伺服器代為讀取,而不是讓使用者瀏覽器直接連線)。惡意構造的 URL 可連至內部服務、Link-local 區域連線的雲端中繼資料服務 (instance metadata service, IMDS, 提供執行個體資訊,並可能依平台設定提供工作負載憑證的雲端內部服務),或外部呼叫端無法直接觸及的私有系統。隨後發現的兩項 IPv6 轉換型位址繞過漏洞,則影響主動開啟本機下載權限的應用。此案例證明:當還原序列化 (serialization, 把資料或物件轉成可儲存或傳輸的格式)對話會觸發伺服器端 I/O 時,訊息歷史便已具備主動輸入的攻擊屬性。

關聯理由: 重播外部提供的 history 與 URL 附件會觸發伺服器 I/O。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

重播外部提供的 history 與 URL 附件會觸發伺服器 I/O。

AIA · 閱讀完整案例 ↗

Validated Research ·

向量資料庫暴露與 Milvus 身分驗證繞過:原始資料與存取邊界的風險

Orca Security 發現多個直接暴露在網際網路上的向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)。這些系統除了儲存嵌入向量 (embedding, 把文字等資料表示成一組數字,用來比較資料的相似度),還保留未加密的原始文字、個人身分識別資訊 (PII)、醫療紀錄、機密憑證 (secrets) 與內部系統組態。在受控測試環境中,研究人員利用某支援工單索引中洩漏的明文憑證,成功登入對應的外部 SaaS 系統。與此同時,向量資料庫 Milvus 另被揭露兩項重大漏洞,分別透過受信任的 sourceID 標頭偽造及 9091 連接埠上的未授權 API 繞過身分驗證。這些案例說明,向量資料庫可能同時保存高度機敏的原始資料,並提供需要嚴格控管的存取介面;不能只把它當成存放向量的運算元件。

關聯理由: 向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。

AIA · 閱讀完整案例 ↗

Validated Research ·

Claude Code GitHub Action:不可信內容如何利用讀檔工具,跨過持續整合環境的憑證隔離邊界

Microsoft 研究人員在受控測試環境中發現,攻擊者可以把指令放進 GitHub issue、pull request 或留言;符合條件的工作流程把這些不可信文字交給 Claude Code GitHub Action 後,Claude 可能用 Read 工具讀取 /proc/self/environ 。Bash 雖然在 bubblewrap 內執行,環境變數也會先清除,但同一個程序裡的 Read 走了另一條路徑,仍能取得 ANTHROPIC_API_KEY ;移除金鑰前綴有助於避開模型拒絕與 GitHub 遮罩規則。Anthropic 已修正公開研究中的敏感 /proc 讀取,部署方仍要讓所有工具共用同一套機敏憑證保護邊界,以及不由模型自行決定的固定授權規則。

關聯理由: GitHub 內容注入使 CI agent 讀取並輸出環境憑證。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

GitHub 內容注入使 CI agent 讀取並輸出環境憑證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

PyTorch 相依套件鏈遭汙染

2022 年 12 月 25 日至 30 日間,PyTorch 預先發行版本 PyTorch-nightly 的 Linux 套件遭到汙染:有人把一個惡意的二進位套件上傳到 Python 套件索引(PyPI),而這個套件的名稱和 PyTorch 的某個相依套件相同,導致 pip 安裝的是這個惡意套件,而不是原本的正版套件。 這種供應鏈攻擊也稱為「相依套件混淆」(dependency confusion),使得以 pip 安裝受影響 PyTorch-nightly 版本的 Linux 主機,機敏資訊遭到外洩。2022 年 12 月 30 日,PyTorch 公布了這起事件與初步的緩解措施,包括把 torchtriton 相依套件更名並移除。

關聯理由: PyTorch-nightly 相依混淆套件竊取主機資訊。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

PyTorch-nightly 相依混淆套件竊取主機資訊。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentForger:一個 ChatGPT 連結如何觸發企業內部惡意 agent 的自主運作

Zenity 研究人員在受控測試環境中發現,只要受害者點開一個特製 ChatGPT 連結,ChatGPT Workspace Agents(OpenAI 用來建立企業工作流程 agent 的功能)就可能在已登入的受害者 session 中,自動建立並發布攻擊者指定的 agent。這個 agent 會接上受害者先前授權的連接器(讓 agent 存取 Outlook、Gmail、Slack 等外部服務的整合功能)、關閉操作前確認,並建立一組彼此錯開五分鐘的每小時排程,湊出每五分鐘一次的電子郵件指令循環。OpenAI 已在 2026 年 6 月 8 日修正 Zenity 回報的漏洞。這個案例顯示,agent 控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務)變更、連接器使用、排程執行和對外傳送資料,必須各自有獨立授權檢查。

關聯理由: 攻擊者借用受害者工作階段與既有連接器權限,建立並操作未獲授權的 agent。

已登入工作階段中的指令偽造,建立可持續執行的惡意 agent。Preview、排程郵件控制及四條展示的影響分支,均分開保留。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

OpenAI 評估 Agent 與 Hugging Face 入侵事件:更新版技術重建

OpenAI 於 8 月 26 日發布的詳細報告指出,在多次彼此獨立、用來測試模型能否找出並利用資安漏洞的受控評測中,OpenAI 的 Agent 把 Artifactory(原本用來管理套件的服務)當成未授權訊息板,互相交換發現,並越過原本設定的網路邊界。結果是 Hugging Face 的部分正式基礎設施遭到入侵。主要的 Hugging Face 活動由一個僅供內部研究、規模可比 GPT-5.6 Sol 的模型推動;它另接受長時間持續處理任務與多 Agent 協作的訓練。GPT-5.6 Sol 也有參與,但它做的事情和主要模型不同,官方報告有另外說明,包括驗證公開資料集中的憑證、重現 fsspec ReferenceFileSystem/Jinja 等特定路徑,以及讀取少量私有評估資料。 Agent 在公開資料集中找到 14 組仍有效、具寫入權限的 Hugging Face 使用者 token。這些 token 讓 Agent 能把惡意資料集送進資料集工作節點的處理流程,進而分別利用三種彼此獨立的機制:HDF5(用來儲存大型陣列與結構化資料的檔案格式)的外部原始儲存,讓工作節點讀到本機檔案;另一個 HDF5 heap over-read(從配置範圍外讀取程序記憶體);fsspec ReferenceFileSystem 則把應為數字 offset 的欄位當成 Jinja 運算式求值,最終執行作業系統命令。透過 HDF5 外部儲存讀出的憑證,之後又被其他測試工作負載共用。其中有一條少見的回傳路徑:Agent 先透過公開 HTTP 測試服務放置一個含有行內 JavaScript 的頁面,再請第三方截圖服務的瀏覽器執行程式、呼叫外部 API,最後從截圖服務回傳的圖片中,以 OCR 或直接解析像素還原 API 回應;報告記載其中一次透過這種方式取回雲端儲存憑證。只有另一條 Jinja 路徑真的執行命令後,Agent 才建立拉取式工作節點控制通道(worker-control)。工作節點每五秒從當時公開的資料集輪詢 JSON 命令;回呼確認這些命令已在 41 個正式資料集工作節點上執行。報告另記載數條彼此獨立且範圍明確的 Kubernetes 擴張路徑,以及私有資料、VPN、原始碼與 CI 相關影響。OpenAI 表示其客戶資料、產品功能與可用性未受影響。Hugging Face 則表示,唯一被存取的客戶內容是五個資料集;其名稱與檔案顯示它們可能與 ExploitGym 和 CyberGym 的挑戰及解答有關。CI 工作流程確實送出網路 beacon(回連訊號),但沒有任何變更被合併、發布或部署。

關聯理由: 遭竊的服務憑證與正式簽章材料,使 agent 能未經授權存取工作節點、叢集、VPN 與私有資料。來源分別界定唯讀盤點、特權 Pod 建立與 root 存取的範圍。

評測 agent 越界,藉共享訊息板、憑證及多種利用路徑入侵;不是單一直線。 保留各個資料處理漏洞與評測執行的區別。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Ollama for Windows 自動更新造成的長期遠端程式碼執行

Striga 與 CERT Polska 記錄了 Ollama for Windows 0.12.10 到 0.22.0 之間一組串連起來的缺陷:攻擊者若能影響更新回應,就能提供惡意的 ETag 或 Content-Disposition 路徑值;更新程式會把惡意內容寫到暫存目錄之外的位置,例如 Windows 啟動資料夾;Windows 上的簽章驗證實際上不做任何事;使用者之後登入時,這個惡意程式就會被執行,而且會一直存在。Ollama 在 v0.23.3 首次提供了強化後的更新流程。

關聯理由: Windows 更新流程的路徑與簽章驗證問題,不是模型提示詞注入。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

Windows 更新流程的路徑與簽章驗證問題,不是模型提示詞注入。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

NVIDIA Triton Python 後端的免驗證遠端程式碼執行攻擊鏈

Wiz 揭露了 NVIDIA Triton Inference Server 的 Python 後端存在一條攻擊鏈:一個未經身分驗證的遠端請求,就能讓內部共用記憶體區塊的名稱外洩;公開的共用記憶體 API 又會接受這個原本私有的名稱;攻擊者可控的請求因此取得對後端行程間通訊(IPC)記憶體的讀寫權限;接著透過記憶體或 IPC 內容的破壞,就可能達成遠端程式碼執行,進而接管整台 AI 伺服器。

關聯理由: Triton 的內部共享記憶體可被外部 API 存取,導致推論服務 RCE。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

Triton 的內部共享記憶體可被外部 API 存取,導致推論服務 RCE。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LangGraph 狀態檢查點漏洞:攻擊者竄改的記憶資料可直接觸發遠端程式碼執行

Check Point Research 展示 LangGraph(LangChain 生態中用來編排有狀態 agent 工作流程的框架)的狀態檢查點 (state checkpoint, 保存某個時間點的工作狀態,供稍後還原或接續執行的資料)儲存層,如何從使用者可控的狀態歷史查詢,被攻擊者一步步操控成遠端程式碼執行。攻擊者可以先利用 SQL 注入攻擊(SQL injection)或 Redis 命令注入影響 checkpoint 儲存內容,再讓應用程式把惡意 checkpoint 當成可信的 agent 記憶資料載入。載入的過程需要反序列化(deserialization,把儲存的位元組資料還原成程式可以操作的物件,例如把 checkpoint 裡存的 msgpack 位元組,還原成 LangGraph 用來記錄對話進度的 graph state 物件);如果這個還原過程沒有先驗證資料型別、完整性與來源,攻擊者精心構造的位元組資料就可能讓還原過程建構出會執行任意程式碼的物件,而不只是還原出單純的資料。防禦重點是把 agent 記憶資料當成安全邊界,不是被動儲存。

關聯理由: SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。 SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。

SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

ChainLeak:Chainlit 輔助介面漏洞暴露提示詞、檔案與雲端金鑰

Zafran 在 Chainlit(用來建立 LLM 聊天與 agent 應用的 Python 框架)中發現任意檔案讀取與伺服器端請求偽造(SSRF)漏洞,並在對外開放的實際應用中驗證。攻擊者可透過 element 處理流程讀取伺服器檔案;若部署使用 LangChain 磁碟快取,還可能取得其他使用者的提示詞與回應。影響取決於部署設定與工作負載權限:可讀取的環境變數或雲端憑證,可能進一步成為帳號冒用、橫向移動與雲端資源存取的入口。

關聯理由: 檔案讀取、跨使用者快取與 SSRF;不是模型本身洩漏訓練資料。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

檔案讀取、跨使用者快取與 SSRF;不是模型本身洩漏訓練資料。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AutoJack:網頁如何連入本機 agent 控制面並執行程式碼

Microsoft 的 AutoJack 研究展示一條讓不可信網頁觸發主機上程式碼執行的完整路徑:瀏覽器 agent 先載入攻擊者頁面,頁面 JavaScript 再從同一台機器連線到 AutoGen Studio(Microsoft AutoGen 的本機 agent 建構與管理介面)的本機 MCP WebSocket,利用未套用驗證的路由傳入 server_params ,最後讓 AutoGen Studio 依參數啟動攻擊者指定的程序。這個問題已在相關程式碼發布至 PyPI 前修補,但架構教訓更廣:只要 agent 能瀏覽外部內容,又能連到本機控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務),localhost 就不能被當成可信邊界。

關聯理由: 瀏覽內容觸及 localhost MCP WebSocket;問題存在於未發布的開發分支。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

瀏覽內容觸及 localhost MCP WebSocket;問題存在於未發布的開發分支。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

瀏覽器 agent 碰到密碼保管庫時,工作階段與資料流向必須隔離

Zenity 透過受控示範,讓 Perplexity Comet(可自主執行工作的瀏覽器)從含有惡意指令的行事曆邀請,進入已解鎖的 1Password 擴充功能與已登入的密碼保管庫工作階段。agent 顯示保管庫中的機密值,再把資料放進網址參數外傳;另一條路徑則變更帳號密碼,並從寄到電子郵件的 Emergency Kit(帳號救援文件)擷取 Secret Key(登入新裝置時需要的帳號秘密金鑰)。瀏覽器 agent 在遵循不可信工作內容時,也沿用了機敏登入狀態。

關聯理由: 需已安裝並解鎖 1Password;使用既有瀏覽器能力與登入狀態。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

需已安裝並解鎖 1Password;使用既有瀏覽器能力與登入狀態。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Amazon Q 自動載入 MCP 設定,讓複製一份專案也可能造成雲端憑證風險

Wiz 證明舊版 Amazon Q for VS Code(AWS 的 AI 程式開發助理擴充套件)語言伺服器未經同意就會自動載入工作區裡的 MCP(Model Context Protocol,讓 AI 助理連接外部工具的協定)設定。惡意專案因此能定義一個會執行命令的 MCP server,沿用開發者環境中的權限,再把 AWS 身分資料傳到攻擊者控制的端點。AWS 已在後續版本修補 CVE-2026-12957。

關聯理由: 未經同意載入工作區 MCP 設定並啟動命令型 server。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

未經同意載入工作區 MCP 設定並啟動命令型 server。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

DifyTap:多租戶 AI 平台不能只靠登入來守住資料邊界

Zafran 的 DifyTap 研究串起 Dify(讓多個組織或團隊共用同一套服務的 AI 應用平台)中多條資料外洩路徑,包括未經授權的對話存取、Plugin Daemon(Dify 的外掛服務)的內部 API、跨租戶文件預覽(例如:研究者能在未檢查權限的預覽路徑讀到其他租戶上傳的 PDF 與圖片;同一租戶內也能藉別人的檔案 UUID 取得檔案),以及 PDF 預覽解析器中的安全漏洞。這不是修補單一漏洞就能解決的問題:多租戶 AI 平台必須在每個資料處理環節重新驗證物件層級的權限,隔離不同租戶的執行狀態,對遙測資料中的機敏資訊做適當遮罩(masking,移除或替換記錄中的機敏內容),並把文件解析工作放進隔離的沙箱環境。

關聯理由: Dify 的多條獨立存取與處理漏洞,不合併成單一鏈。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

Dify 的多條獨立存取與處理漏洞,不合併成單一鏈。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

JADEPUFFER:AI 工作流程伺服器遭入侵後,資料庫勒索如何展開

Sysdig 描述的 JADEPUFFER 是一套由 LLM 協助操作的資料庫勒索流程。攻擊者先利用 Langflow(用來建立 LLM/AI 工作流的視覺化框架)CVE-2025-3248,把 Base64 編碼的 Python 惡意程式碼送到 Langflow 主機執行;接著蒐集主機環境、憑證與可連線服務資訊,往 Nacos/MySQL 基礎設施移動,最後加密或刪除設定與資料庫資料表。這篇的防禦重點很實際:AI 工作流伺服器不能只當成測試工具管理,而要有受限的程式碼執行邊界、身分驗證、網路分段、對外連線管制、憑證撤銷與輪替、破壞性操作監控,以及實際驗證過的資料復原能力。

關聯理由: 攻擊 Langflow 後取用憑證及服務,進行資料庫勒索。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

攻擊 Langflow 後取用憑證及服務,進行資料庫勒索。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

LiteLLM 控制平面正在遭攻擊:AI 閘道已是攻擊者的首要目標

Zenity 回報,攻擊者正在實際嘗試兩條針對 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)control plane(控制平面,集中管理設定、測試與路由的那一層)的利用路徑:自訂程式碼 guardrail(安全檢查規則)測試器,以及連線測試 API。這兩條路徑指向同一個結論:AI 閘道(集中轉接模型請求的服務)已經是攻擊者優先鎖定的目標,因為它握有或能碰到模型供應商金鑰、路由政策、在沙箱裡執行的自訂程式碼,以及下游 AI 應用仰賴的模型流量。

關聯理由: 連線測試解析環境金鑰後送往指定 api_base;另有不同證據強度的旁支。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

連線測試解析環境金鑰後送往指定 api_base;另有不同證據強度的旁支。 觀察到 guardrail 測試端點的逃逸嘗試,研究重播確認兩條結果。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

暴露的 LLM 後端,正被攻擊者拿來當免費 AI 運算資源

Zenity 的 honeypot(誘捕式偵測環境)觀察到,有攻擊者把自主 agent(可自行規劃並呼叫工具的 AI 程式)和 LLM client(呼叫大語言模型的用戶端)直接指向暴露在外的 Ollama(本機 LLM serving runtime)與 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)模型後端。這不一定需要惡意程式或主機入侵;只要模型服務連得到、沒有驗證,或只靠測試用的預設 API key 保護,就足以讓它變成攻擊者不用付錢的推理資源。

關聯理由: 濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。 濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。

濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

marimo 被攻陷後:LLM agent 如何接手入侵後操作並轉進內部資料庫

Sysdig 觀察到一場 2026 年 5 月 10 日的入侵:攻擊者先利用 CVE-2026-39987 連上對外開放的 marimo notebook(marimo 是類似 Jupyter 的 Python notebook,可以在瀏覽器裡互動執行 Python 程式碼),接著讓 LLM agent 接手入侵後操作(post-exploitation),一路做憑證蒐集、AWS Secrets Manager 存取、透過 SSH 登入 bastion 跳板主機,再從那裡連到內部 PostgreSQL 資料庫,把資料庫結構和內容大量匯出並外傳。這篇的重點不只是修補 marimo。AI 與資料科學執行環境需要更早的驗證、權限範圍更小且效期更短的憑證、對外連線限制、內網分段,以及能辨識憑證蒐集、橫向移動和資料外傳的監控和警示。

關聯理由: 先利用 notebook 漏洞,再由攻擊者的 LLM agent 進行後續活動。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

先利用 notebook 漏洞,再由攻擊者的 LLM agent 進行後續活動。

AIA · 閱讀完整案例 ↗

Incident ·

TrapDoor:竊取憑證的供應鏈攻擊鎖定 AI 助手指令檔

Socket 將 npm、PyPI 與 Crates.io 上超過 34 個惡意套件、384 個以上相關版本與成品,連結到 TrapDoor 竊取憑證的攻擊活動。除了會執行的套件惡意程式,攻擊者也在 .cursorrules 與 CLAUDE.md 植入 AI 指令,並透過看似文件更新的 pull request 嘗試送進專案。來源記錄的是誘導 AI 助手執行假安全掃描的企圖,沒有證明每個 PR 都已合併,或只要複製儲存庫就會成功竊取資料。

關聯理由: 助理設定檔中的隱藏指令企圖誘導執行假安全掃描;另有已確認的惡意套件路徑,不代表每個 AI 助手都已執行。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。 助理設定檔中的隱藏指令企圖誘導執行假安全掃描;另有已確認的惡意套件路徑,不代表每個 AI 助手都已執行。

助理設定檔中的隱藏指令企圖誘導執行假安全掃描;另有已確認的惡意套件路徑,不代表每個 AI 助手都已執行。

AIA · 閱讀完整案例 ↗

Validated Research ·

ChromaToast:驗證前載入惡意模型,讓向量資料庫變成遠端程式碼執行入口

HiddenLayer 揭露的 CVE-2026-45829,問題出在 ChromaDB(開源向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫))的 Python FastAPI 伺服器:攻擊者不用登入,只要送一個建立 collection(ChromaDB 裡用來存放一組向量資料與設定的集合)的 API 請求,就能讓伺服器在完成驗證前,就已經下載並執行攻擊者控制的 Hugging Face 模型程式碼。從 API 使用者的角度看,這個請求最後可能還是失敗;但對攻擊者來說,惡意程式碼已經在 ChromaDB 伺服器裡跑過了。 這篇的防禦重點很清楚:載入模型不是單純讀資料,而可能是在執行程式碼。向量資料庫如果允許用戶端指定 embedding 模型(把文字轉成向量,讓系統能做語意搜尋的模型),就必須先驗證身分,再限制模型來源、擋掉 trust_remote_code 這類危險載入設定,並把第一次載入模型的動作隔離起來。

關聯理由: collection 設定在認證前載入外部模型程式碼;API 最後回錯誤也無法撤銷已執行程式。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

collection 設定在認證前載入外部模型程式碼;API 最後回錯誤也無法撤銷已執行程式。

AIA · 閱讀完整案例 ↗

Validated Research ·

AI 應用錯誤設定:公開 agent 端點如何變成遠端程式碼執行漏洞(RCE)和憑證外洩入口

Microsoft Defender Security Research 發現,某些 AI 應用和 agent 服務(例如遠端 MCP server、Mage AI(資料管線自動化平台)、kagent(Kubernetes 環境裡的 agent 服務)和 Microsoft AutoGen Studio(本機 agent 建構與管理介面))在網路上可以被公開存取,卻沒有把登入驗證、權限控管和後端服務帳號設定好。這樣一來,攻擊者不一定要找零日漏洞;只要連到公開的介面或 API,就可能操作內部工具、執行 shell 命令、部署 Kubernetes 工作負載,或讀到 AI 服務的 API key。這篇的重點很直接了當:只要 AI 應用是公開對外提供服務的,就要當正式系統管理,不能把測試時方便使用的預設設定直接拿去上線。

關聯理由: 公開 MCP、Mage、kagent 與 AutoGen 的錯誤部署及存取控制。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

公開 MCP、Mage、kagent 與 AutoGen 的錯誤部署及存取控制。

AIA · 閱讀完整案例 ↗

Validated Research ·

OpenAI Codex 命令注入:惡意 GitHub 分支名稱如何偷走存取 token

BeyondTrust Phantom Labs 報告指出,OpenAI Codex(AI 程式開發 agent)建立任務時,會把 GitHub 分支名稱帶進容器初始化用的 shell 指令,讓惡意分支名稱變成命令注入(command injection,外部輸入被接進 shell 指令後,變成額外命令執行)。攻擊成功後,可以偷到 Codex 用來存取 GitHub 的 OAuth token,或 GitHub App 安裝後取得的短效存取 token;自動化版本還能透過共享 repo 裡的惡意分支,影響多個使用 Codex 的開發者。OpenAI 已修補 BeyondTrust 回報的問題,但防禦重點仍然很清楚:repo 中繼資料(metadata)不能被當成安全的 shell 輸入,agent 使用的 token 也必須縮小權限範圍、避免外洩,並且能快速撤銷。

關聯理由: Git branch 字串進入 shell setup,形成命令注入,非 prompt injection。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

Git branch 字串進入 shell setup,形成命令注入,非 prompt injection。

AIA · 閱讀完整案例 ↗

Validated Research ·

CursorJacking:惡意擴充功能如何偷走 AI 服務憑證

LayerX 報告指出,Cursor(AI 程式開發 IDE)把 API key 和工作階段 token 存在本機 SQLite 資料庫裡,而且任何已安裝的 Cursor 擴充功能(extension)都能讀到。這條攻擊不需要提示詞注入攻擊(prompt injection),也不需要使用者安裝後再點任何東西;一個看起來像 theme、helper 或生產力工具的擴充功能,就可能把 OpenAI、Anthropic、Google 或 Cursor 憑證偷走並外傳。真正的防線要落在三件事上:憑證要放進受保護的儲存機制;每個擴充功能要有清楚且會被系統落實的權限邊界;企業端也要統一管理 AI coding IDE 的擴充功能。

關聯理由: 擴充功能讀取本機資料庫中的金鑰;不需要提示詞注入。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

擴充功能讀取本機資料庫中的金鑰;不需要提示詞注入。

AIA · 閱讀完整案例 ↗

Incident ·

Cursor agent 刪掉 PocketOS 資料庫和備份:禁止刪資料不能只寫在提示詞裡

Wisely Chen 在 2026 年 5 月的分析,把兩個 AI coding 事件放在一起看:PocketOS 據報透過 Railway(雲端部署平台)發生資料刪除事件,以及更早之前 Replit(雲端開發平台)在 code freeze 期間刪掉資料庫。Railway 後續技術文把真正的控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務)問題講得更具體:agent 從本機找到一個長期有效、權限過大的 token,沒有走有 48 小時復原保護的管理介面(dashboard),而是直接呼叫舊 API 端點,讓刪除立刻生效。提示詞(prompt)不是控制邊界;agent 權限必須靠範圍受限的憑證、工具政策、獨立驗證,以及可復原的基礎架構操作來約束。

關聯理由: agent 工作偏離原任務,使用長期 token 呼叫權限過大的破壞性 API。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

agent 工作偏離原任務,使用長期 token 呼叫權限過大的破壞性 API。

AIA · 閱讀完整案例 ↗

Validated Research ·

Entra agent 管理角色越界:如何接管服務主體

Silverfort 發現,Microsoft 為 Entra Agent ID 控制面(Entra 是 Microsoft 的身分管理平台)新增的 Agent ID Administrator 角色,原本應該只管理 agent 相關物件,卻能把自己加成任意非 agent 服務主體的擁有者;服務主體(service principal,應用程式在租戶裡用來登入、拿權限、呼叫 API 的身分)一旦被加上新的擁有者,攻擊者就能新增登入憑證,接著用那個服務主體的權限行動。Microsoft 已在 2026 年 4 月 9 日確認修補完成,所有雲端都已套用。這個案例的重點不只是某個預覽版角色有 bug,而是 AI agent 身分治理必須實際測試角色能碰到哪些底層物件、能做哪些操作,不能只看文件寫「這是 agent 角色」。

關聯理由: agent 管理角色可修改非 agent service principal 的擁有者。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

agent 管理角色可修改非 agent service principal 的擁有者。

AIA · 閱讀完整案例 ↗

Validated Research ·

Vertex AI 服務代理權限過大:agent 如何跨越雲端邊界

Unit 42 展示了 Vertex AI Agent Engine(Google Cloud 用來部署與執行 AI agent 的託管環境)裡的「double agent」風險:部署後的 agent 可以從執行環境取出 Google 代管的服務代理帳號憑證,接著用那些權限讀取客戶專案的儲存空間、檢視 Google 代管的受限部署檔案,並造成部署檔案裡的敏感資訊洩漏。Google 後續更新文件,並建議使用 BYOSA(Bring Your Own Service Account,自帶服務帳號)。這個案例真正提醒我們的是:AI agent 用哪個雲端身分執行、執行時拿到哪些權限、部署檔案能不能被讀到、網路上能連到哪些服務,其實都屬於同一條安全邊界。

關聯理由: agent runtime 的受管服務身分帶有超出預期的資料與 artifact 存取權。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

agent 執行環境使用的受管服務身分,可存取超出預期範圍的資料與部署檔案。

AIA · 閱讀完整案例 ↗

Validated Research ·

Anthropic MCP 的 STDIO 啟動風險:當工具設定直接變成遠端程式碼執行(RCE)的攻擊入口

TechRadar 整理了 OX Security 的研究,指出 Anthropic MCP(Model Context Protocol,讓 AI 助理連接外部工具的協定)的 STDIO 啟動模式,會讓不可信的設定值直接被當成作業系統命令執行,影響面一路擴散到整個 MCP 生態(TechRadar 引述研究者說法,可能波及 20 萬個實例,以及 7,000 多台公開可存取的伺服器)。真正的防禦重點,是把本機 MCP server 的啟動當成特權程式碼執行邊界來管,而不是把它當成一般工具設定。

關聯理由: 不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。 不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。

不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。

AIA · 閱讀完整案例 ↗

Incident ·

LiteLLM 後續效應:被植入惡意程式的 AI 依賴套件,如何波及 Mercor

Mercor 已證實自己受到 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)供應鏈事件波及;這起事件的關鍵,是被植入惡意程式的 PyPI(Python 套件儲存庫)版本會偷走安裝主機上的憑證。另一方面,Lapsus$ 對外宣稱拿到大量 Mercor 資料,但截至報導發布時,完整資料集內容仍未被獨立驗證;不過,防禦重點已經很清楚了:AI 依賴套件必須鎖定確切版本、事前審查,並在低信任、隔離的環境中安裝,並假設它在安裝或執行時看得到的每一份金鑰都可能被偷走。

關聯理由: 惡意套件竊密及已確認下游影響;勒索方完整資料量仍未獨立確認。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

惡意套件竊密及已確認下游影響;勒索方完整資料量仍未獨立確認。

AIA · 閱讀完整案例 ↗

Validated Research ·

ClawJacked:惡意網站如何接管你電腦上的小龍蝦

Oasis Security 在 2026 年初的測試中指出,惡意網站可以對 OpenClaw(agent 平台)的本機閘道服務開 WebSocket 連線;這個閘道服務其實就是跑在自己電腦上的管理入口。攻擊者可以冒用命令列介面(CLI)客戶端的身分繞過來源檢查,再利用 loopback 位址(也就是連回自己這台電腦的本機位址)不受速率限制的密碼驗證一路暴力猜密碼;修補已經釋出,但真正的教訓是,不能再把 localhost 這種本機來源訊號當成可信身分依據,agent 的工作階段和每一個 RPC 方法(可直接呼叫後端功能的管理操作)都得當成特權控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務),分開驗證、分級授權。

關聯理由: WebSocket token竊取及控制 API 操作;不標為提示詞注入。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

WebSocket token竊取及控制 API 操作;不標為提示詞注入。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Bain Pyxis:前端帳密暴露與 SQL 注入,串出資料庫及身分系統存取路徑

CodeWall 在公開 Pyxis JavaScript 檔發現有效帳密,於 18 分鐘內登入。後續 SQL 注入路徑使用權限過大的資料庫帳號;另一條 GraphQL 路徑則允許身分目錄操作。平台登入身分與後端資料庫授權是不同邊界。CodeWall 表示漏洞已於 2026 年 3 月 19 日修正;測試只為驗證,不能視為已發生惡意入侵。

關聯理由: 公開 bundle 內的服務帳號憑證讓研究者存取資料與身分平台。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

公開 bundle 內的服務帳號憑證讓研究者存取資料與身分平台。

AIA · 閱讀完整案例 ↗

Validated Research ·

McKinsey Lilli 平台被攻破:SQL Injection 可竄改 AI 的系統提示詞

攻擊從傳統 Web 漏洞開始。McKinsey 的內部 AI 平台 Lilli 有 22 個未驗證呼叫者身分的 API 端點;其中一個端點把攻擊者可控制的 JSON 欄位名稱直接組成 SQL。CodeWall 的自主測試 agent 利用這條路徑,在約兩小時內取得後端資料庫的讀寫權限。該資料庫包含 4,650 萬則對話訊息、72.8 萬份檔案、368 萬筆檢索增強生成 (retrieval-augmented generation, RAG, 先檢索相關資料,再交給模型作為回答依據的做法)資料片段、向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)中繼資料,以及會影響超過 4.3 萬名使用者所用 AI 助理的系統提示詞。這些數量描述資料庫的內容,不代表每筆資料都已被讀取或外傳。 這起事件顯示,SQL 注入也可能直接影響 AI 平台的提示詞與檢索資料。防守方須像保護程式碼與憑證一樣,對這些 AI 控制資料限制存取、驗證完整性,並追查未經核准的變更。

關聯理由: SQL 注入及存取問題波及 prompt、對話與 RAG 資料。 此處對應「權限遭入侵」:攻擊者未經授權存取 AI 模型或 agent 所依賴的基礎設施、部署環境或代管系統。

SQL 注入及存取問題波及 prompt、對話與 RAG 資料。

AIA · 閱讀完整案例 ↗