13.19 · 憑證與 token 暴露

閱讀 Databricks DASF 3.0 中 13.19「憑證與 token 暴露」相關的 31 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。例子包括將機密直接寫進程式、token 遭竊,以及日誌記錄了憑證。MCP 整合仰賴這些憑證存取其他服務,因此憑證外洩,也可能讓相應的操作權限落入攻擊者手中。

框架官方來源 ↗ · 開啟互動探索 ↗

Incident ·

Mittwald MCP 事件:遭竊的工作階段 token 讓攻擊者沿用使用者的專案權限

主機代管業者 Mittwald 的 MCP 整合介面讓 AI 助理能連接 mStudio 管理平台。業者確認發生工作階段 token 遭竊與部分專案遭入侵的事件,這再次凸顯一旦連接器出事,攻擊者就能直接沿用當初授權給連線使用者的操作權限。目前公開的資料足以支持精確的憑證撤銷與復原建議,但還不足以還原攻擊者實際送出的漏洞利用手法。

關聯理由: 業者確認與 MCP 伺服器相關的工作階段 token 暴露並遭濫用。

保留已確認的 session token 與專案影響;未公開的擷取機制及後續事件關係仍屬未知。

AIA · 閱讀完整案例 ↗

Validated Research · · 實務關聯

Open WebUI 直接連線漏洞:竊取登入 token 並濫用後端工具

Cato 在可自行架設的 AI 聊天介面 Open WebUI,驗證惡意模型端點可讓瀏覽器執行程式並外洩登入 token。受害者必須使用已啟用的 Direct Connections,端點才可透過 SSE 事件觸發程式執行(例如:惡意端點送出的 execute 事件,會把其中的程式碼交給 new Function 執行),不需要模型產生攻擊內容。只有遭冒用帳號還具備 workspace.tools 權限時,攻擊者才能進一步在後端執行 Python。

關聯理由: 瀏覽器儲存的登入 JWT,因 AI 整合回應處理不安全而暴露。 憑證屬於 Open WebUI,通道是模型 SSE 而非 MCP;重疊在 AI 用戶端邊界的憑證暴露。

模型通訊事件,以及需要帳號權限的後端執行路徑;惡意事件不必由模型產生。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

Claude Code 專案設定攻擊:啟動時執行命令與竊取 API 金鑰

Check Point 研究人員測試 AI 程式開發助理 Claude Code 如何載入不可信儲存庫的專案設定。啟動事件掛鉤(hook)、MCP 啟動設定,以及 API 目的網址,各自形成命令執行或 API 金鑰外洩路徑(例如:研究把專案設定中的 ANTHROPIC_BASE_URL 改成研究者控制的代理網址,觀察到信任提示尚未確認,API 請求就已送到那裡)。hook 路徑需要使用者接受儲存庫信任提示,另外兩條則可能在做出信任決定前生效。後續工作區檔案存取的驗證結果,只適用於測試中的金鑰與工作區。

關聯理由: 重疊風險是 AI 工具用戶端的憑證外洩:端點覆寫把 API 金鑰送到攻擊者。 外洩的是 Anthropic API 憑證,不是 MCP 驗證 token;此 MCP 類別對應的是相同的用戶端憑證傳送邊界。

三條原生專案啟動路徑,以及受測憑證的後果;漏洞利用不依賴模型解讀提示詞。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Zeabur 十月入侵事件:跨越雲端與叢集邊界的 AI 憑證外洩

代管應用程式與資料庫的平台 Zeabur 表示,10 月 14 至 15 日的入侵波及代管服務中的 AI 憑證。攻擊者利用外洩的內部憑證跨越叢集與雲端邊界,新輪替的憑證也被後續備份收錄,之後遭未授權使用。客戶可撤銷上游金鑰並復原自己管理的部署,平台則須處理內部隔離與備份存取。

關聯理由: 代管整合憑證因保管方式與高權限讀取而暴露,與此類別的憑證外洩機制有實務關聯。 DASF 將此類別放在 MCP 伺服器工具範圍。本案未證實部署 MCP 伺服器;共同範圍是憑證保管與外洩,而非 MCP 協定行為。

只涵蓋十月實際事件。依有證據支持的共同機制與 AI 代管元件,保留有範圍限制的實務關聯;不據此推論曾部署 agent、MCP 伺服器或特定 LLM。第二輪仍由同一作者複核,並非獨立驗證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Fireworks 入侵事件:評估作業憑證、開發機器與客戶資料的防禦邊界

Fireworks AI 提供模型推理、評估與訓練的代管服務。該公司公告,部分客戶評估作業中的機敏憑證遭存取,後續又發現開發機器上的未授權活動影響客戶資料。客戶能在發證平台撤銷外洩憑證;開發環境與客戶資產之間的隔離,則由平台業者負責。

關聯理由: 客戶評估作業保管的 API 金鑰與 token 遭暴露,與此分類描述的憑證保管失守及後續服務權限風險有具體交集。 本案是評估平台的 secrets 儲存環境,並未建立 MCP 伺服器、特定 OAuth token 類型或 agent 整合,也不推論部署了 MCP。

對應範圍限於 AI 平台憑證與資料遭未授權存取、受影響的基礎設施與資料作業、供應商相依關係,以及模型資產機密性。實務關聯會明列 agent、MCP、模型查詢及完整複製等證據尚未建立的限制;不代表防禦已實測成功。

AIA · 閱讀完整案例 ↗

Validated Research · · 實務關聯

AIKatz:攻擊 LLM 桌面應用程式

Lumia 的研究人員示範了從 LLM 桌面應用程式的記憶體中,把身分驗證 token 取出來是可行的。攻擊者接著就能拿這些 token 對 LLM 後端冒充受害者,取得受害者所有對話的存取權,也能干擾之後的對話。有了這樣的存取權,攻擊者可以直接注入提示詞改變 LLM 的行為、毒害 LLM 的脈絡以造成持續影響、竄改使用者的對話記錄來湮滅痕跡,最終同時衝擊系統的機密性、完整性與可用性。研究人員在 Anthropic Claude、Microsoft M365 Copilot 與 OpenAI ChatGPT 上都示範了這一點。 各廠商對責任揭露的回應:- Anthropic(HackerOne):因屬本機攻擊,以「僅供參考」結案。- Microsoft Security Response Center:認為這個攻擊沒有跨越安全邊界,不符合開立 CVE 的條件。- OpenAI(BugCrowd):以「僅供參考」結案,並表示這個行為應由微軟負責修補。

關聯理由: 先取得本機記憶體中的token;不宣稱無前提遠端入侵。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。 共同機制是 AI 系統憑證暴露或重放,未建立 MCP 部署或 MCP 專屬憑證邊界。

先取得本機記憶體中的token;不宣稱無前提遠端入侵。

SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

以提示詞注入在 MathGPT 上達成程式碼執行

公開的 Streamlit 應用程式 MathGPT(https://mathgpt.streamlit.app/),會用大型語言模型(LLM)GPT-3 來回答使用者提出的數學問題。 近期的研究與實驗顯示,GPT-3 這類 LLM 直接做精確數學運算時表現並不好;不過只要改成請它產生可以解題的可執行程式碼,答案就會準確得多。在 MathGPT 這個應用程式中,GPT-3 的工作就是把使用者的自然語言問題,轉成 Python 程式碼,接著再實際執行。運算完成後,執行過的程式碼與答案會一起顯示給使用者。 有些 LLM 會受到提示詞注入攻擊影響,也就是惡意的使用者輸入,會讓模型做出非預期的行為。在這起事件中,攻擊者嘗試了好幾種覆寫提示詞的做法,最後產生出來的程式碼,讓他取得了應用程式主機的系統環境變數與該應用程式的 GPT-3 API 金鑰,同時也發動了一次阻斷服務攻擊。結果,攻擊者原本可以耗光這個應用程式的 API 查詢額度,或直接把服務打掛。 在把這些攻擊手法與結果揭露給 MathGPT 與 Streamlit 團隊之後,兩邊都採取了緩解措施,包括過濾特定提示詞,以及輪替 API 金鑰。

關聯理由: MathGPT 直接執行模型產生的 Python,研究取得 API 金鑰並展示 DoS。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。 共同機制是 AI 系統憑證暴露或重放,未建立 MCP 部署或 MCP 專屬憑證邊界。

MathGPT 直接執行模型產生的 Python,研究取得 API 金鑰並展示 DoS。

SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Remus:竊資軟體開始鎖定 AI 用戶端憑證與本機紀錄

Remus 是取得 Windows 裝置執行機會後,竊取應用程式資料的惡意程式。SpyCloud 發現它的可設定蒐集目標已包含 Codex、Cursor 與 OpenCode 等 AI 用戶端目錄。這裡要保護的是可重複使用的憑證與留在本機的操作紀錄;只限制 agent 的工具,無法圍堵已在主機其他位置執行的惡意程式。

關聯理由: 活動鎖定 AI 用戶端憑證檔,形成具體 token 暴露邊界。 暴露範圍是 AI 用戶端,不主張每份目標憑證都屬於 MCP。

主機竊資軟體鎖定 AI 用戶端憑證與保存檔案;不主張提示詞注入或已確認的憑證重播。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

AgentCorruption:遭竊的執行角色將 agent 記憶轉為持續性控制管道(C2)

Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。

關聯理由: 角色可讀取代表外部服務權限的對外工具提供者 secrets。 直接路徑是 AWS Secrets Manager 與提供者設定,不主張特定下游 MCP 部署。

受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

LiteLLM 1.107.0:外洩未撤銷的 Agent 主金鑰,導致官方簽章發布流程遭入侵

10 月 21 日,LiteLLM(用來呼叫各家模型服務的 Python 函式庫與閘道)透過正常建置與簽章流程,發布了夾帶竊密程式的 1.107.0 惡意版本。LiteLLM 官方於 10 月 23 日公布的調查報告確認,攻擊入口是先前公開外洩且未被撤銷的實驗性 Agent Platform 主金鑰(master key);攻擊者利用該金鑰取得 GitHub 組織擁有者的 CLI OAuth token,再透過兩次拋棄式 CI 流程分別竊取兩位專案維護者的 token。本案凸顯出:軟體使用者端必須嚴格鎖定並僅接受預先核准的確切套件雜湊值,且軟體提供端必須在憑證簽發處徹底撤銷各代金鑰,才能守住有效官方簽章無法保證安全的防禦邊界。

關聯理由: 可重用整合 token 被曝露,再以原有權限存取發布系統。 共同機制是整合憑證曝露;來源沒有建立管理 API 或 GitHub 整合使用 MCP。

確認的 10 月 21 日軟體供應鏈事件,入口採 10 月 23 日更正後的 Agent Platform 憑證調查,惡意程式分析另行歸因。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentCore Harness:提示注入竊取 MCP 服務憑證並讀取測試資料

Unit 42 在虛構的 SupportCo 環境中測試 AgentCore Harness:研究人員把惡意指示藏在客服票單,讓 agent 透過預設可用的 shell 執行程式。程式讀取 Harness 主程序的記憶體,取得營運方 MCP 服務帳號的 JWT 與伺服器網址,再以一次 HTTP POST 將兩者傳到模擬攻擊者的接收端。研究人員接著從另一台電腦重用 JWT,透過 MCP 服務讀取測試用客戶個資。這不是終端使用者的憑證,也不是已確認的真實客戶入侵;AWS 將通報列為客戶應處理的組態安全問題,並未宣布修補雲端服務漏洞。

關聯理由: Unit 42 的虛構 SupportCo 測試中,客服票單誘使 agent 執行 shell 程式,讀取 Harness 主程序記憶體中的營運方 MCP 服務帳號 JWT。程式以一次 HTTP POST 傳出 JWT 與 MCP 網址,研究人員再從另一台電腦重用 JWT 存取測試用客戶資料;這不是終端使用者的憑證。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

Unit 42 的虛構 SupportCo 測試中,客服票單誘使 agent 執行 shell 程式,讀取 Harness 主程序記憶體中的營運方 MCP 服務帳號 JWT。程式以一次 HTTP POST 傳出 JWT 與 MCP 網址,研究人員再從另一台電腦重用 JWT 存取測試用客戶資料;這不是終端使用者的憑證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Clinejection:公開 Issue 標題注入讓分類 agent 執行命令,與發布憑證暴露風險

Cline 是一款開源的 AI 寫程式工具。研究者發現,其用來分類 GitHub Issue 的 Claude 工作流程會讀取公開標題,且具備執行 shell 命令的權限;研究者在鏡像儲存庫中成功重現,只要在標題放入惡意提示詞,就能觸發命令執行。該流程與夜間自動發布工作流程共用 GitHub Actions 快取,因而形成一條可能通往發布機密憑證的路徑。另一方面,Cline 官方證實第三方曾利用一把仍有效的 npm token 發布夾帶額外腳本的 cline@2.3.0;但公開鑑識資料並無法證明該 token 是透過前述快取路徑取得。

關聯理由: 公開 Issue 標題讓分類 agent 執行 shell 命令,研究者已在鏡像環境重現;另有第三方用仍有效的 npm token 發布惡意版本,但 token 如何外流尚未經鑑識確認。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。 公開 Issue 標題讓分類 agent 執行 shell 命令,研究者已在鏡像環境重現;另有第三方用仍有效的 npm token 發布惡意版本,但 token 如何外流尚未經鑑識確認。

公開 Issue 標題讓分類 agent 執行 shell 命令,研究者已在鏡像環境重現;另有第三方用仍有效的 npm token 發布惡意版本,但 token 如何外流尚未經鑑識確認。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

暴露在外的 ClawdBot 控制介面,導致憑證外洩與命令執行

一位資安研究人員在公開網際網路上,找到數百個暴露在外的 ClawdBot 控制介面。ClawdBot(現已更名為 OpenClaw)「是一個由你自己在裝置上執行的個人 AI 助理。它會在你原本就在用的通訊管道上回覆你……再加上各種擴充管道。……它可以在 macOS、iOS、Android 上說話與聆聽,還能顯示一個由你控制的即時 Canvas 畫面。」這位研究人員透過 ClawdBot 的設定檔,取得了多個已連接應用程式的憑證;他也能在對話介面中直接下提示詞去呼叫 ClawdBot 的 skill,最後甚至在容器中取得 root 權限。 這位研究人員用 Shodan 搜尋暴露在公開網際網路上的 ClawdBot 執行個體,其中有些甚至完全沒有啟用身分驗證。他也示範了由於代理服務設定不當,ClawdBot 的身分驗證機制是可以被繞過的。 取得 ClawdBot 控制介面的存取權之後,他就能讀到 ClawdBot 的設定檔,而裡面存放著多項其他服務的憑證。在各個暴露出來的 ClawdBot 執行個體中,他找到了 Anthropic API 金鑰、Telegram Bot Token、Slack OAuth 憑證,以及 Signal 的裝置連結 URI。他也透過對話介面直接對 ClawdBot 下提示詞,讓它把自己的系統提示詞吐了出來。此外,他還能讓 ClawdBot 透過 bash skill 執行命令,而且至少在其中一個執行個體上,成功取得了 ClawdBot 容器中的 root 權限。 這位研究人員也指出,以這種存取權限,他原本還能造成一連串其他影響,包括:- 竄改使用者與 ClawdBot AI agent 之間的對話記錄 - 外洩任何已連接通訊服務中的對話記錄 - 透過已連接的通訊服務,以使用者的名義發送訊息、冒充其身分

關聯理由: 暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。

SecureFlow · 閱讀完整案例 ↗

Incident ·

攻擊工具已經摸熟 AI 系統內部:Wiz 九十天蜜罐遙測看到的手法

資安公司 Wiz 的威脅研究團隊架設了一批蜜罐(刻意曝露、用來誘捕並記錄攻擊行為的假系統),模擬 LiteLLM、Flowise、LangChain、Langflow、ChromaDB、Ollama 等服務,連續觀察九十天。除了一般的漏洞利用之外,這批流量還顯示攻擊工具是專門針對 AI 產品內部構造寫的:把提示詞(prompt)注入 agent 框架,誘導它執行作業系統命令,再靠一次 DNS 查詢回呼來確認命令真的跑了,而不是等畫面上出現輸出;直接從執行中的程序記憶體讀出代理服務的憑證,而不是去翻硬碟上的檔案;以及把挖礦程式藏在以 AI 工具命名的目錄裡。

關聯理由: 蜜罐觀察含提示詞到命令執行及產品特有的憑證讀取,不代表所有被模擬產品均遭成功利用。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

蜜罐觀察含提示詞到命令執行及產品特有的憑證讀取,不代表所有被模擬產品均遭成功利用。

AIA · 閱讀完整案例 ↗

Incident ·

仿冒 Agent Skill 先累積人氣,再換成惡意內容竊取憑證

skills.sh 是讓使用者尋找 Agent Skill 的公開登錄平台;Skill 是可供 AI Agent 載入的工作說明與工具設定。Zenity 揭露並協調移除一波正在進行的攻擊資產:攻擊者建立與 Paperclip、Browser Use 兩個 Agent 專案相似的組織、Skill、儲存庫與套件名稱。Paperclip Skill 家族在文件仍正常時先累積顯示安裝次數,7 月 11 日才把安裝說明換成惡意指令,這種先取得信任、之後替換內容的手法稱為供應鏈 Rug Pull。惡意指令會引導 Agent 執行攻擊者控制的程式碼;另一條 Browser Use 路徑則要求 Agent 安裝含木馬的 PyPI 套件。研究人員還原的憑證竊取程式會檢查超過 100 個設定路徑,再把 Base64 編碼的純文字資料送到 api[.]getpaperclipp[.]com/feedback 。報告中的 170 萬是彙總後的顯示安裝次數,不是獨立使用者數,也不是已確認感染數。

關聯理由: 惡意 skill 透過 agent 的元件信任與程式執行路徑生效。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

惡意 skill 透過 agent 的元件信任與程式執行路徑生效。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Miasma 利用 Claude Code、Gemini CLI、Cursor 與 VS Code 對儲存庫內設定的信任

Miasma 是 StepSecurity 對這起儲存庫供應鏈攻擊使用的名稱。2026 年 6 月 5 日,攻擊者使用先前遭入侵的貢獻者帳號,把 Commit 5f456b8 推送到 Azure/durabletask(Microsoft 的開源 Durable Task 儲存庫)。該 Commit 新增四個會在開啟專案時觸發的工具設定,以及一個 4.6 MB、經混淆的 .github/setup.js 憑證竊取程式。Claude Code 或 Gemini CLI 的 SessionStart Hook、Cursor 的 Always-applied 規則,或 VS Code 的 Folder-open Task,都可能啟動這個程式。GitHub 隨後在 105 秒的自動化處置中停用四個 Microsoft 組織下的 73 個儲存庫;這是圍堵範圍,不代表 73 個儲存庫都已證實含有惡意 Commit。

關聯理由: Miasma 透過 SessionStart hook、Cursor rule 或 VS Code task 執行竊密程式;其中非 AI 路徑不算提示詞注入。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

Miasma 透過 SessionStart hook、Cursor rule 或 VS Code task 執行竊密程式;其中非 AI 路徑不算提示詞注入。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Storm-2139 繞過 Azure OpenAI 的安全防護機制

Storm-2139 打造了客製化的越獄工具,用來繞過 Azure OpenAI 服務上的安全防護機制,讓使用者能產生有害的合成內容。 微軟指出,Storm-2139 的成員從公開來源蒐刮外流的客戶憑證,再用這些憑證登入生成式 AI 服務的帳號。這個組織開發並經營了一整套工具與服務,繞過安全防護、改變服務行為,讓終端使用者得以產生有害且違法的內容,包括未經當事人同意的名人私密影像,以及其他色情內容。 這整個行動涵蓋三種角色:開發違法工具的製作者、修改並供應這些工具的提供者,以及實際產生違禁內容的使用者。微軟已對此提起民事訴訟。

關聯理由: 竊取的服務憑證及越獄工具被用來產生有害內容。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

竊取的服務憑證及越獄工具被用來產生有害內容。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

透過 Cursor 使用的 MCP server 外洩資料

Backslash 資安研究團隊示範了一個 Model Context Protocol(MCP)工具,可以成為對 Cursor 發動間接提示詞注入攻擊的管道,最後甚至導致惡意 shell 命令被執行。 Backlash 資安研究團隊做了一個概念驗證用的 MCP server,功能是抓取網頁內容。當使用者請 Cursor 用這個工具去抓一個含有惡意提示詞的網站時,那段提示詞就被注入 Cursor 的脈絡中。這段提示詞會指示 Cursor 執行一道 shell 命令,把受害者含有憑證的 AI agent 設定檔外傳出去。Cursor 在執行這道惡意命令之前確實會先詢問使用者,這一點有機會緩解整個攻擊。

關聯理由: MCP 網頁內容誘導 shell 外傳;仍存在使用者執行確認。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。 MCP 網頁內容誘導 shell 外傳;仍存在使用者執行確認。

MCP 網頁內容誘導 shell 外傳;仍存在使用者執行確認。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

向量資料庫暴露與 Milvus 身分驗證繞過:原始資料與存取邊界的風險

Orca Security 發現多個直接暴露在網際網路上的向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)。這些系統除了儲存嵌入向量 (embedding, 把文字等資料表示成一組數字,用來比較資料的相似度),還保留未加密的原始文字、個人身分識別資訊 (PII)、醫療紀錄、機密憑證 (secrets) 與內部系統組態。在受控測試環境中,研究人員利用某支援工單索引中洩漏的明文憑證,成功登入對應的外部 SaaS 系統。與此同時,向量資料庫 Milvus 另被揭露兩項重大漏洞,分別透過受信任的 sourceID 標頭偽造及 9091 連接埠上的未授權 API 繞過身分驗證。這些案例說明,向量資料庫可能同時保存高度機敏的原始資料,並提供需要嚴格控管的存取介面;不能只把它當成存放向量的運算元件。

關聯理由: 向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。

AIA · 閱讀完整案例 ↗

Validated Research · · 實務關聯

Claude Code GitHub Action:不可信內容如何利用讀檔工具,跨過持續整合環境的憑證隔離邊界

Microsoft 研究人員在受控測試環境中發現,攻擊者可以把指令放進 GitHub issue、pull request 或留言;符合條件的工作流程把這些不可信文字交給 Claude Code GitHub Action 後,Claude 可能用 Read 工具讀取 /proc/self/environ 。Bash 雖然在 bubblewrap 內執行,環境變數也會先清除,但同一個程序裡的 Read 走了另一條路徑,仍能取得 ANTHROPIC_API_KEY ;移除金鑰前綴有助於避開模型拒絕與 GitHub 遮罩規則。Anthropic 已修正公開研究中的敏感 /proc 讀取,部署方仍要讓所有工具共用同一套機敏憑證保護邊界,以及不由模型自行決定的固定授權規則。

關聯理由: GitHub 內容注入使 CI agent 讀取並輸出環境憑證。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。 共同機制是 AI 系統憑證暴露或重放,未建立 MCP 部署或 MCP 專屬憑證邊界。

GitHub 內容注入使 CI agent 讀取並輸出環境憑證。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

PyTorch 相依套件鏈遭汙染

2022 年 12 月 25 日至 30 日間,PyTorch 預先發行版本 PyTorch-nightly 的 Linux 套件遭到汙染:有人把一個惡意的二進位套件上傳到 Python 套件索引(PyPI),而這個套件的名稱和 PyTorch 的某個相依套件相同,導致 pip 安裝的是這個惡意套件,而不是原本的正版套件。 這種供應鏈攻擊也稱為「相依套件混淆」(dependency confusion),使得以 pip 安裝受影響 PyTorch-nightly 版本的 Linux 主機,機敏資訊遭到外洩。2022 年 12 月 30 日,PyTorch 公布了這起事件與初步的緩解措施,包括把 torchtriton 相依套件更名並移除。

關聯理由: PyTorch-nightly 相依混淆套件竊取主機資訊。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

PyTorch-nightly 相依混淆套件竊取主機資訊。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

ChainLeak:Chainlit 輔助介面漏洞暴露提示詞、檔案與雲端金鑰

Zafran 在 Chainlit(用來建立 LLM 聊天與 agent 應用的 Python 框架)中發現任意檔案讀取與伺服器端請求偽造(SSRF)漏洞,並在對外開放的實際應用中驗證。攻擊者可透過 element 處理流程讀取伺服器檔案;若部署使用 LangChain 磁碟快取,還可能取得其他使用者的提示詞與回應。影響取決於部署設定與工作負載權限:可讀取的環境變數或雲端憑證,可能進一步成為帳號冒用、橫向移動與雲端資源存取的入口。

關聯理由: 檔案讀取、跨使用者快取與 SSRF;不是模型本身洩漏訓練資料。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

檔案讀取、跨使用者快取與 SSRF;不是模型本身洩漏訓練資料。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

瀏覽器 agent 碰到密碼保管庫時,工作階段與資料流向必須隔離

Zenity 透過受控示範,讓 Perplexity Comet(可自主執行工作的瀏覽器)從含有惡意指令的行事曆邀請,進入已解鎖的 1Password 擴充功能與已登入的密碼保管庫工作階段。agent 顯示保管庫中的機密值,再把資料放進網址參數外傳;另一條路徑則變更帳號密碼,並從寄到電子郵件的 Emergency Kit(帳號救援文件)擷取 Secret Key(登入新裝置時需要的帳號秘密金鑰)。瀏覽器 agent 在遵循不可信工作內容時,也沿用了機敏登入狀態。

關聯理由: 需已安裝並解鎖 1Password;使用既有瀏覽器能力與登入狀態。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

需已安裝並解鎖 1Password;使用既有瀏覽器能力與登入狀態。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Amazon Q 自動載入 MCP 設定,讓複製一份專案也可能造成雲端憑證風險

Wiz 證明舊版 Amazon Q for VS Code(AWS 的 AI 程式開發助理擴充套件)語言伺服器未經同意就會自動載入工作區裡的 MCP(Model Context Protocol,讓 AI 助理連接外部工具的協定)設定。惡意專案因此能定義一個會執行命令的 MCP server,沿用開發者環境中的權限,再把 AWS 身分資料傳到攻擊者控制的端點。AWS 已在後續版本修補 CVE-2026-12957。

關聯理由: 未經同意載入工作區 MCP 設定並啟動命令型 server。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

未經同意載入工作區 MCP 設定並啟動命令型 server。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

LiteLLM 控制平面正在遭攻擊:AI 閘道已是攻擊者的首要目標

Zenity 回報,攻擊者正在實際嘗試兩條針對 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)control plane(控制平面,集中管理設定、測試與路由的那一層)的利用路徑:自訂程式碼 guardrail(安全檢查規則)測試器,以及連線測試 API。這兩條路徑指向同一個結論:AI 閘道(集中轉接模型請求的服務)已經是攻擊者優先鎖定的目標,因為它握有或能碰到模型供應商金鑰、路由政策、在沙箱裡執行的自訂程式碼,以及下游 AI 應用仰賴的模型流量。

關聯理由: 連線測試解析環境金鑰後送往指定 api_base;另有不同證據強度的旁支。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

連線測試解析環境金鑰後送往指定 api_base;另有不同證據強度的旁支。 觀察到 guardrail 測試端點的逃逸嘗試,研究重播確認兩條結果。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

TrapDoor:竊取憑證的供應鏈攻擊鎖定 AI 助手指令檔

Socket 將 npm、PyPI 與 Crates.io 上超過 34 個惡意套件、384 個以上相關版本與成品,連結到 TrapDoor 竊取憑證的攻擊活動。除了會執行的套件惡意程式,攻擊者也在 .cursorrules 與 CLAUDE.md 植入 AI 指令,並透過看似文件更新的 pull request 嘗試送進專案。來源記錄的是誘導 AI 助手執行假安全掃描的企圖,沒有證明每個 PR 都已合併,或只要複製儲存庫就會成功竊取資料。

關聯理由: 助理設定檔中的隱藏指令企圖誘導執行假安全掃描;另有已確認的惡意套件路徑,不代表每個 AI 助手都已執行。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。 助理設定檔中的隱藏指令企圖誘導執行假安全掃描;另有已確認的惡意套件路徑,不代表每個 AI 助手都已執行。

助理設定檔中的隱藏指令企圖誘導執行假安全掃描;另有已確認的惡意套件路徑,不代表每個 AI 助手都已執行。

AIA · 閱讀完整案例 ↗

Validated Research ·

AI 應用錯誤設定:公開 agent 端點如何變成遠端程式碼執行漏洞(RCE)和憑證外洩入口

Microsoft Defender Security Research 發現,某些 AI 應用和 agent 服務(例如遠端 MCP server、Mage AI(資料管線自動化平台)、kagent(Kubernetes 環境裡的 agent 服務)和 Microsoft AutoGen Studio(本機 agent 建構與管理介面))在網路上可以被公開存取,卻沒有把登入驗證、權限控管和後端服務帳號設定好。這樣一來,攻擊者不一定要找零日漏洞;只要連到公開的介面或 API,就可能操作內部工具、執行 shell 命令、部署 Kubernetes 工作負載,或讀到 AI 服務的 API key。這篇的重點很直接了當:只要 AI 應用是公開對外提供服務的,就要當正式系統管理,不能把測試時方便使用的預設設定直接拿去上線。

關聯理由: 公開 MCP、Mage、kagent 與 AutoGen 的錯誤部署及存取控制。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

公開 MCP、Mage、kagent 與 AutoGen 的錯誤部署及存取控制。

AIA · 閱讀完整案例 ↗

Validated Research ·

OpenAI Codex 命令注入:惡意 GitHub 分支名稱如何偷走存取 token

BeyondTrust Phantom Labs 報告指出,OpenAI Codex(AI 程式開發 agent)建立任務時,會把 GitHub 分支名稱帶進容器初始化用的 shell 指令,讓惡意分支名稱變成命令注入(command injection,外部輸入被接進 shell 指令後,變成額外命令執行)。攻擊成功後,可以偷到 Codex 用來存取 GitHub 的 OAuth token,或 GitHub App 安裝後取得的短效存取 token;自動化版本還能透過共享 repo 裡的惡意分支,影響多個使用 Codex 的開發者。OpenAI 已修補 BeyondTrust 回報的問題,但防禦重點仍然很清楚:repo 中繼資料(metadata)不能被當成安全的 shell 輸入,agent 使用的 token 也必須縮小權限範圍、避免外洩,並且能快速撤銷。

關聯理由: Git branch 字串進入 shell setup,形成命令注入,非 prompt injection。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

Git branch 字串進入 shell setup,形成命令注入,非 prompt injection。

AIA · 閱讀完整案例 ↗

Validated Research ·

CursorJacking:惡意擴充功能如何偷走 AI 服務憑證

LayerX 報告指出,Cursor(AI 程式開發 IDE)把 API key 和工作階段 token 存在本機 SQLite 資料庫裡,而且任何已安裝的 Cursor 擴充功能(extension)都能讀到。這條攻擊不需要提示詞注入攻擊(prompt injection),也不需要使用者安裝後再點任何東西;一個看起來像 theme、helper 或生產力工具的擴充功能,就可能把 OpenAI、Anthropic、Google 或 Cursor 憑證偷走並外傳。真正的防線要落在三件事上:憑證要放進受保護的儲存機制;每個擴充功能要有清楚且會被系統落實的權限邊界;企業端也要統一管理 AI coding IDE 的擴充功能。

關聯理由: 擴充功能讀取本機資料庫中的金鑰;不需要提示詞注入。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

擴充功能讀取本機資料庫中的金鑰;不需要提示詞注入。

AIA · 閱讀完整案例 ↗

Incident ·

LiteLLM 後續效應:被植入惡意程式的 AI 依賴套件,如何波及 Mercor

Mercor 已證實自己受到 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)供應鏈事件波及;這起事件的關鍵,是被植入惡意程式的 PyPI(Python 套件儲存庫)版本會偷走安裝主機上的憑證。另一方面,Lapsus$ 對外宣稱拿到大量 Mercor 資料,但截至報導發布時,完整資料集內容仍未被獨立驗證;不過,防禦重點已經很清楚了:AI 依賴套件必須鎖定確切版本、事前審查,並在低信任、隔離的環境中安裝,並假設它在安裝或執行時看得到的每一份金鑰都可能被偷走。

關聯理由: 惡意套件竊密及已確認下游影響;勒索方完整資料量仍未獨立確認。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

惡意套件竊密及已確認下游影響;勒索方完整資料量仍未獨立確認。

AIA · 閱讀完整案例 ↗

Validated Research ·

Bain Pyxis:前端帳密暴露與 SQL 注入,串出資料庫及身分系統存取路徑

CodeWall 在公開 Pyxis JavaScript 檔發現有效帳密,於 18 分鐘內登入。後續 SQL 注入路徑使用權限過大的資料庫帳號;另一條 GraphQL 路徑則允許身分目錄操作。平台登入身分與後端資料庫授權是不同邊界。CodeWall 表示漏洞已於 2026 年 3 月 19 日修正;測試只為驗證,不能視為已發生惡意入侵。

關聯理由: 公開 bundle 內的服務帳號憑證讓研究者存取資料與身分平台。 此處對應「憑證與 token 暴露」:API 金鑰、OAuth 授權 token 或其他憑證,因處理、儲存或傳輸不當而暴露。

公開 bundle 內的服務帳號憑證讓研究者存取資料與身分平台。

AIA · 閱讀完整案例 ↗