Incident · 2026-11-17
Google 威脅情資團隊(GTIG)與 Mandiant 彙整 2026 年在北美、南美與亞太地區處理的多起第一線事件應變調查,揭露了 LLMJacking(大型語言模型算力劫持)的常見手法,以及下游如何把盜來的推論額度包裝轉售。在部分案件中,受害組織單日遭盜刷的雲端 LLM 費用就超過 10 萬美元。不同案件採用的入侵入口各異,包括外洩的雲端或模型金鑰、對外開放的 Ollama 服務,以及 UNC6993 的工作階段釣魚。進入受影響的雲端環境後,有些案件的攻擊者會清查模型配額、從資料倉儲中繼資料裡翻找資料庫密碼,或冒用服務帳號讀取雲端機密。GTIG 另記錄到後續攻擊群組取得已驗證可用的 LiteLLM 虛擬金鑰後,提升 AI 閘道管理權限的案例。GTIG 引用的 CVE(公開資安漏洞的識別編號)在原廠公告中指向另一項漏洞;v1.83.14-stable 雖已包含該 CVE 的修補,重發金鑰時仍缺少變更所有權的授權檢查,這項修補另納入 v1.84.0。在另一個涉及「LLM 混幣器」Jet Night 的案件中,這套轉送服務在不到八小時內發出超過 50 萬次模型呼叫,讓單一家受害組織承擔近 100 萬美元的帳單;報告另也記錄了把受害帳號切到隨用隨付方案、反覆更換短效服務帳號的案例,以及在受害環境部署反向代理、使用 Manus Agent 框架建立容器化後門的案件。這些都是公開報告中各自記錄的獨立案例,並非同一起攻擊事件。
關聯理由: 不同案件的起點包括憑證外洩、工作階段釣魚以及對外開放的基礎設施。
各種行為須回到有證據的個別案件。金鑰重發的通報與原廠公告中的漏洞編號各有來源,不能視為相同漏洞。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-17 · 實務關聯
2026 年 8 月底,Sekoia 威脅偵測與研究團隊(TDR)在一座模擬 Flowise 2.2.8(低程式碼 AI Agent 建置平台)的對外開放蜜罐中,記錄到一起分為六個階段的真實攻擊。第一階段不到三分鐘的掃描裡,攻擊者先辨識伺服器版本、列出對話工作流程,再從未設身分驗證的管理 API 取走預埋的 OpenAI、Anthropic 與 RAG PostgreSQL 資料庫誘餌憑證。約兩小時後,攻擊者再次掃描 14 個管理 API 路由,嘗試把既有流程改名,並在新增的 System Status 流程裡加入並設定 HTTP Request 節點,打算讓流程一執行就向外部主機回連。接著攻擊者轉向推論介面,送出 overrideConfig.systemMessage 覆寫系統提示詞、試探跨工作階段記憶、要求查詢模擬財務資料庫,最後還改用中文要求協助分析外部的 Nightingale v6 監控系統。這份報告確認了攻擊者送來的請求與設定操作;不過蜜罐只回傳模擬結果,背後沒有接上真正的語言模型、系統命令執行環境或財務資料庫,報告也沒有證實外部回連真的建立成功。
關聯理由: 蜜罐對外開放的 REST 介面是觀察到的接觸入口。 真實攻擊者在模擬環境對相應的 API 或工具邊界送出請求。回應是模擬的,無法據此確認正式環境的憑證外洩、模型行為、命令執行、對外回連或所提到的系統遭入侵。
攻擊者的請求確實發生;由蜜罐模擬的工具與模型回應不能當成正式環境遭入侵的結果。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-16
主機代管業者 Mittwald 的 MCP 整合介面讓 AI 助理能連接 mStudio 管理平台。業者確認發生工作階段 token 遭竊與部分專案遭入侵的事件,這再次凸顯一旦連接器出事,攻擊者就能直接沿用當初授權給連線使用者的操作權限。目前公開的資料足以支持精確的憑證撤銷與復原建議,但還不足以還原攻擊者實際送出的漏洞利用手法。
關聯理由: 攻擊者先利用 MCP 伺服器,再使用遭竊的工作階段權限。
保留已確認的 session token 與專案影響;未公開的擷取機制及後續事件關係仍屬未知。
AIA · 閱讀完整案例 ↗
Incident · 2026-11-16
NEAR AI 通報一台推論伺服器遭到入侵,攻擊者並進一步存取了內部的舊版服務。這起事件說明,即使採用了機密運算保護,仍然不能少了安全的應用程式碼、內部網路隔離與完整的憑證撤銷機制;因為一旦在受保護環境裡面執行的程式本身被攻破,惡意程式碼依然看得到這台伺服器當下正在處理的請求資料。
關聯理由: 已揭露的 SGLang 利用方式,提供進入 AI 推論應用程式的入口。
機密運算硬體不代表應用程式沒有漏洞;未公開的利用方式仍保留未知。
AIA · 閱讀完整案例 ↗
Incident · 2026-11-16 · 實務關聯
Railway 是一個應用程式部署平台。業者通報,攻擊者在 10 月 20 日突破建置環境的部分檔案系統隔離並取得建置憑證,再用它連上用來調度工作流程的 Temporal 服務,同時竊取了內部程式碼儲存庫。第一條路徑封閉後,錯誤的 OIDC 身分聯邦綁定又讓攻擊者換取雲端權限,取得正式環境憑證並解密客戶變數。最多約有 1.85% 工作區的變數可能遭解密;這只是影響上限,不代表每個變數都已被竊走。業者另觀察到外洩的 AI 金鑰已在外部遭到濫用。
關聯理由: 部分建置容器逃逸與另一個身分聯邦錯誤,提供存取 AI 服務憑證所在環境的路徑。 平台屬通用用途;確切檔案系統利用方式及雲端供應商未公開。
AI 關聯來自外洩憑證與後續 AI 服務濫用;原始平台入口不是 LLM 漏洞利用。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-16
Chainstack 是一家區塊鏈基礎設施業者。業者在追查 2026 年 10 月的入侵事件時,發現測試環境的監控平台 Grafana 可以代理連線到內部的 MCP 伺服器(MCP 是讓 AI 呼叫外部工具的協定)。這台 MCP 伺服器沒有驗證呼叫者身分,卻擁有 Kubernetes 容器叢集的 cluster-admin 最高管理權限;攻擊者接著利用竊得的機器憑證,進一步連入正式環境。調查確認攻擊者存取了資料庫、竊取機密憑證(secrets),並留下多種重開機或跨環境維持權限的後門路徑,但無法還原個別 MCP 呼叫內容,也沒有證據顯示客戶節點曾遭修改。業者研判攻擊過程使用了自動化工具 ARTEX,但這並不能直接用來確認攻擊者是誰。
關聯理由: Grafana 預設憑證與曝露的 MCP 整合,提供進入 AI 工具支援基礎設施的初始路徑。
對應依據是鑑識判斷的 MCP 整合角色及已記載的基礎設施影響;分開觀察到的路徑仍分開呈現。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-11-13
Cato 在可自行架設的 AI 聊天介面 Open WebUI,驗證惡意模型端點可讓瀏覽器執行程式並外洩登入 token。受害者必須使用已啟用的 Direct Connections,端點才可透過 SSE 事件觸發程式執行(例如:惡意端點送出的 execute 事件,會把其中的程式碼交給 new Function 執行),不需要模型產生攻擊內容。只有遭冒用帳號還具備 workspace.tools 權限時,攻擊者才能進一步在後端執行 Python。
關聯理由: 攻擊者指定的模型端點,在提供模型存取的系統瀏覽器中建立初始程式執行入口。
模型通訊事件,以及需要帳號權限的後端執行路徑;惡意事件不必由模型產生。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-11-13
Framelink 的第三方 Figma MCP 伺服器,讓 AI 程式開發用戶端讀取設計資料。Imperva 與維護者驗證,特製工具參數可進入不安全的 curl 備援,並以伺服器權限執行命令(例如:維護者在 get_figma_data 的 fileKey 參數放入命令片段,讓伺服器執行 id,並把結果寫入 /tmp/TEST1,作為無害的執行驗證)。網路與本機 STDIO 是不同入口,直接呼叫的證據未建立模型介入的完整攻擊。
關聯理由: 直接呼叫 AI 開發工具元件,提供已受控驗證、進入其主機環境的初始執行入口。
直接驗證的 MCP 工具輸入命令注入,保留網路、本機兩種入口,以及 fetch 失敗的明確前提。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-13
Censys 調查一場針對網際網路公開 ComfyUI 的攻擊。ComfyUI 是用節點建立影像生成工作流程的介面;攻擊者透過可執行程式的自訂節點,或可連入的 Manager 安裝 API,部署挖礦、代理服務與再次感染機制。研究人員取得的掃描程式與紀錄支持這場攻擊活動,但公開伺服器數量不等於已感染主機數。
關聯理由: 公開的可執行節點與安裝 API,提供進入生成式模型工作流程主機的初始執行入口。
影像生成執行環境中的自訂節點與相依套件執行;agent/LLM 類別明訂共同機制,不假設那些部署已存在。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-11-13
Check Point 研究人員測試 AI 程式開發助理 Claude Code 如何載入不可信儲存庫的專案設定。啟動事件掛鉤(hook)、MCP 啟動設定,以及 API 目的網址,各自形成命令執行或 API 金鑰外洩路徑(例如:研究把專案設定中的 ANTHROPIC_BASE_URL 改成研究者控制的代理網址,觀察到信任提示尚未確認,API 請求就已送到那裡)。hook 路徑需要使用者接受儲存庫信任提示,另外兩條則可能在做出信任決定前生效。後續工作區檔案存取的驗證結果,只適用於測試中的金鑰與工作區。
關聯理由: 在攻擊者準備的專案啟動 AI 開發用戶端,提供進入使用 ML 能力系統的初始原生執行入口。
三條原生專案啟動路徑,以及受測憑證的後果;漏洞利用不依賴模型解讀提示詞。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-09 · 實務關聯
代管應用程式與資料庫的平台 Zeabur 表示,10 月 14 至 15 日的入侵波及代管服務中的 AI 憑證。攻擊者利用外洩的內部憑證跨越叢集與雲端邊界,新輪替的憑證也被後續備份收錄,之後遭未授權使用。客戶可撤銷上游金鑰並復原自己管理的部署,平台則須處理內部隔離與備份存取。
關聯理由: 攻擊者使用先前取得的管理憑證,連入實際代管 AI 服務的管理環境。 已觀察到的入口是使用有效憑證;最初如何取得憑證仍未知。
只涵蓋十月實際事件。依有證據支持的共同機制與 AI 代管元件,保留有範圍限制的實務關聯;不據此推論曾部署 agent、MCP 伺服器或特定 LLM。第二輪仍由同一作者複核,並非獨立驗證。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-09 · 實務關聯
Fireworks AI 提供模型推理、評估與訓練的代管服務。該公司公告,部分客戶評估作業中的機敏憑證遭存取,後續又發現開發機器上的未授權活動影響客戶資料。客戶能在發證平台撤銷外洩憑證;開發環境與客戶資產之間的隔離,則由平台業者負責。
關聯理由: 攻擊者利用供應商事件存取支援 AI 平台的開發機器,建立具體基礎設施據點,與初始存取風險有實質關聯。 供應商端最初的漏洞利用或身分驗證方式,以及第一次憑證取得路徑都未知,未指定特定入侵手法。
對應範圍限於 AI 平台憑證與資料遭未授權存取、受影響的基礎設施與資料作業、供應商相依關係,以及模型資產機密性。實務關聯會明列 agent、MCP、模型查詢及完整複製等證據尚未建立的限制;不代表防禦已實測成功。
AIA · 閱讀完整案例 ↗
Incident · 2026-10-30
AI 程式編輯器 Cursor 證實,其市集在 2026 年 10 月 29 日曾提供遭竄改的 Claude Code 程式助理擴充功能,涉及 2.1.312 與 2.1.313 的 Windows/macOS 套件。惡意程式會在 IDE 載入模組時執行,植入 SSH 金鑰、嘗試建立可持續重啟的反向通道,並回傳主機資訊。SSH 是用來遠端登入主機的協定,攻擊者能否登入仍取決於本機服務是否運作及是否接受該金鑰;目前沒有公開資料顯示,Anthropic 自己用來發布這個擴充功能的官方管道遭到入侵。
關聯理由: 遭竄改的市集檔案,在使用 AI 程式助理的主機建立最初執行據點。這個類別涵蓋使用本機或雲端 ML 能力的系統,不以模型遭操控為前提。
審查範圍為已確認的 Cursor 惡意擴充功能散布事件,以及原生惡意程式的分析結果。實務重疊會明列與模型調用、ML 生命週期及 MCP 部署的差異,不推定來源未建立的部署。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-10-30
Ray 是一套開源的 Python 框架,用來把正式環境的 AI 工作流程擴展到大規模執行。Ray 的 Job API 在設計上就允許遠端執行任意程式碼,卻沒有提供身分驗證,而且預設設定可能讓整個叢集直接暴露在網際網路上。Oligo 的研究人員發現,這些 Ray 叢集已經被實際利用至少七個月。攻擊者可以拿受害組織的運算資源來用,也能竊走有價值的資訊。研究人員估計,這些被入侵機器的價值接近 10 億美元。 研究人員向 Ray 的維護者 Anyscale 通報了五個漏洞,Anyscale 很快修正了其中四個。不過第五個漏洞 CVE-2023-48022(https://nvd.nist.gov/vuln/detail/CVE-2023-48022)仍處於爭議狀態。Anyscale 主張 Ray 不做身分驗證是一項設計決定,Ray 本來就應該部署在安全的網路環境中。Oligo 的研究人員則稱它為「影子漏洞」,因為在爭議狀態下,這個 CVE 不會出現在靜態掃描結果中。
關聯理由: 缺乏認證的 Ray Job API 被實際濫用,使用算力並竊取資訊。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
缺乏認證的 Ray Job API 被實際濫用,使用算力並竊取資訊。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-26
PraisonAI 是可把 AI agent 接到郵件與訊息服務的框架。受影響的 AgentMail Webhook 接收器會把未經驗證的網路請求當成新郵件,直接採用請求中的寄件者與內文,再交給 agent 處理。研究人員以真正的接收器搭配測試用 agent,確認偽造訊息確實能到達 agent;測試沒有寄出真實郵件,也沒有展示危險工具執行。這個漏洞的公開識別編號是 CVE-2026-61428,4.6.78 版已修補。
關聯理由: 未驗證 Webhook 是已驗證的 agent 工作階段入口。
未簽署 AgentMail HTTP 投遞到達真正 PraisonAI 處理器與測試工作階段;危險工具與真實郵件投遞尚未證實。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-10-26
奇安信 XLab 發布的 NadMesh 分析,描述一個以 Go 撰寫、鎖定對外暴露 AI 與自動化服務的殭屍網路。它的控制端包含 MCP 工具呼叫,以及蒐集雲端、Kubernetes 與 AI 憑證的功能。來源記錄了實際惡意程式活動與鎖定目標,但沒有證明所有控制端功能都曾在同一受害者身上成功。防禦重點是對外服務入口與工具執行權限。
關聯理由: 惡意程式使用暴露 AI 服務的入口方式取得據點。
實際 AI 服務鎖定活動與惡意程式控制端功能;不推定單一受害者流程或所有漏洞均成功。
AIA · 閱讀完整案例 ↗
Incident · 2026-10-26
Flowise 用來建置 AI 工作流程,並透過 MCP 連接外部工具。CVE-2025-59528 讓可存取 CustomMCP 設定處理器的呼叫者,藉由 Node.js 的 Function 建構函式執行傳入文字。SonicWall 在 2026 年報告了漏洞利用活動。Flowise 3.0.6 已把這條路徑改為資料解析;限制提示詞無法修好伺服器端的設定處理。
關聯理由: 可存取的設定處理器是程式碼執行入口。
Flowise CustomMCP 設定執行與已報告漏洞利用;驗證條件取決於部署,過程不需模型指示。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-23
Straiker STAR Labs 要求 AI 程式設計助理 Claude Desktop Code 依照一般儲存庫的 README 進行操作。父工作階段無法自行繞過切換工作目錄時的使用者確認提示,但其執行的 Bash 命令卻在該儲存庫目錄下啟動了一個全新的無介面(headless)Claude Code CLI 程序。該子程序讀取儲存庫本機設定,並在模型進行安全檢查前自動執行 SessionStart hook,將主機環境變數等資料外洩給研究人員。此漏洞展示的邊界缺陷在於子工作階段啟動時缺乏同等防護機制;即使模型能正確識別並拒絕 README 中的可疑指令,也無法阻止初始化階段的本機 hook 搶先執行。
關聯理由: 子程序初始化,提供未授權執行據點及本機環境存取。
父工作階段至無介面子程序的工作區啟用及環境資料外洩受控測試;將成功的原生初始化,與失敗的模型誘導及切換目錄嘗試分開。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-23
Air Security 團隊示範,AI 輔助程式設計客戶端在安裝外掛時,可能載入與官方市集已審查提交(commit)完全不同的程式碼。若攻擊者取得受信任外掛上游儲存庫的控制權,即可建立與已固定 SHA 同名的預設分支,或在 Gemini CLI 環境中建立名為 FETCH_HEAD 的預設分支以遮蔽預期結果。後續的背景更新將在無須使用者再次點擊確認的情況下載入惡意程式碼。此安全缺陷出在客戶端未檢驗實際 checkout 至工作目錄的 commit 雜湊值,而非市集完全缺乏審查;攻擊者控制上游儲存庫以及符合條件的客戶端與託管平台,皆為本攻擊路徑的必要前提。
關聯理由: 被替換的外掛,提供進入 AI 客戶端主機的初始未授權程式碼執行據點。
客戶端外掛散布的受控研究,具有不同 Git checkout 路徑;不推論模型提示詞遭入侵或已觀察大規模受害活動。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-23
Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。
關聯理由: 具備網路能力的對外 agent,提供取得 AI 雲端環境憑證的初始據點。
受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-10-23
10 月 21 日,LiteLLM(用來呼叫各家模型服務的 Python 函式庫與閘道)透過正常建置與簽章流程,發布了夾帶竊密程式的 1.107.0 惡意版本。LiteLLM 官方於 10 月 23 日公布的調查報告確認,攻擊入口是先前公開外洩且未被撤銷的實驗性 Agent Platform 主金鑰(master key);攻擊者利用該金鑰取得 GitHub 組織擁有者的 CLI OAuth token,再透過兩次拋棄式 CI 流程分別竊取兩位專案維護者的 token。本案凸顯出:軟體使用者端必須嚴格鎖定並僅接受預先核准的確切套件雜湊值,且軟體提供端必須在憑證簽發處徹底撤銷各代金鑰,才能守住有效官方簽章無法保證安全的防禦邊界。
關聯理由: 仍有效的外洩 agent 平台憑證,提供進入 AI 服務的初始未授權據點。
確認的 10 月 21 日軟體供應鏈事件,入口採 10 月 23 日更正後的 Agent Platform 憑證調查,惡意程式分析另行歸因。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-01
Ollama 是一款可於本機與伺服器執行大型語言模型推論的軟體。Cyera 揭露並驗證:在 Ollama 0.17.1 之前的版本中,特製的 GGUF 張量大小宣告可在 /api/create 執行 F16 轉 F32 轉換時觸發堆積記憶體 (heap, 程式執行時用來動態配置資料的記憶體區域)越界讀取 (out-of-bounds read, 讀取超出原先配置給該資料的記憶體範圍;漏洞編號為 CVE-2026-7482)。越界讀取的記憶體位元組會被寫入新產生的模型檔案,隨後可透過 /api/push 推送至攻擊者控制的模型登錄庫 (model registry, 保存與分發模型檔案及版本的服務)。遠端發動攻擊的前提是管理 API 暴露於網路上;Ollama 原生執行檔預設僅綁定 127.0.0.1,官方容器映像檔則將 OLLAMA_HOST 設為 0.0.0.0,管理者亦可能自行調整監聽位址。
關聯理由: 惡意 GGUF 經 /api/create 觸發越界讀取,外洩的記憶體內容可經 /api/push 送出;從網路利用的前提是 API 對外開放。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
惡意 GGUF 經 /api/create 觸發越界讀取,外洩的記憶體內容可經 /api/push 送出;從網路利用的前提是 API 對外開放。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-09-18
一位資安研究人員在公開網際網路上,找到數百個暴露在外的 ClawdBot 控制介面。ClawdBot(現已更名為 OpenClaw)「是一個由你自己在裝置上執行的個人 AI 助理。它會在你原本就在用的通訊管道上回覆你……再加上各種擴充管道。……它可以在 macOS、iOS、Android 上說話與聆聽,還能顯示一個由你控制的即時 Canvas 畫面。」這位研究人員透過 ClawdBot 的設定檔,取得了多個已連接應用程式的憑證;他也能在對話介面中直接下提示詞去呼叫 ClawdBot 的 skill,最後甚至在容器中取得 root 權限。 這位研究人員用 Shodan 搜尋暴露在公開網際網路上的 ClawdBot 執行個體,其中有些甚至完全沒有啟用身分驗證。他也示範了由於代理服務設定不當,ClawdBot 的身分驗證機制是可以被繞過的。 取得 ClawdBot 控制介面的存取權之後,他就能讀到 ClawdBot 的設定檔,而裡面存放著多項其他服務的憑證。在各個暴露出來的 ClawdBot 執行個體中,他找到了 Anthropic API 金鑰、Telegram Bot Token、Slack OAuth 憑證,以及 Signal 的裝置連結 URI。他也透過對話介面直接對 ClawdBot 下提示詞,讓它把自己的系統提示詞吐了出來。此外,他還能讓 ClawdBot 透過 bash skill 執行命令,而且至少在其中一個執行個體上,成功取得了 ClawdBot 容器中的 root 權限。 這位研究人員也指出,以這種存取權限,他原本還能造成一連串其他影響,包括:- 竄改使用者與 ClawdBot AI agent 之間的對話記錄 - 外洩任何已連接通訊服務中的對話記錄 - 透過已連接的通訊服務,以使用者的名義發送訊息、冒充其身分
關聯理由: 暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。
SecureFlow · 閱讀完整案例 ↗
Incident · 2026-09-15
資安公司 Wiz 的威脅研究團隊架設了一批蜜罐(刻意曝露、用來誘捕並記錄攻擊行為的假系統),模擬 LiteLLM、Flowise、LangChain、Langflow、ChromaDB、Ollama 等服務,連續觀察九十天。除了一般的漏洞利用之外,這批流量還顯示攻擊工具是專門針對 AI 產品內部構造寫的:把提示詞(prompt)注入 agent 框架,誘導它執行作業系統命令,再靠一次 DNS 查詢回呼來確認命令真的跑了,而不是等畫面上出現輸出;直接從執行中的程序記憶體讀出代理服務的憑證,而不是去翻硬碟上的檔案;以及把挖礦程式藏在以 AI 工具命名的目錄裡。
關聯理由: 蜜罐觀察含提示詞到命令執行及產品特有的憑證讀取,不代表所有被模擬產品均遭成功利用。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
蜜罐觀察含提示詞到命令執行及產品特有的憑證讀取,不代表所有被模擬產品均遭成功利用。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-09-15
DeepSeek Harness 是 DeepSeek 推出的開源本機工具,用來執行 AI 程式開發 agent,提供瀏覽器操作介面,背後則是一個只跑在 loopback 位址(也就是連回自己這台電腦的本機位址)上的 HTTP 控制 API。資安公司 OX Security 發現,這個 API 根本沒有做身分驗證:程式裡只有一個函式會去讀 HTTP request header (標頭) 中的 Host 欄位,只要值看起來像本機位址就放行,完全沒有比對這條連線真正的來源位址。再加上沙箱只擋檔案寫入、沒有擋網路,agent 自己的 shell 就能呼叫這個 API,把當前工作階段改成 danger-full-access 並關掉核准提示,這個漏洞的識別編號是 CVE-2026-82533(CVE 是公開資安漏洞的識別編號)。
關聯理由: Host 檢查不構成認證;本機 API 可改寫 agent 自身權限。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
Host 檢查不構成認證;本機 API 可改寫 agent 自身權限。
AIA · 閱讀完整案例 ↗
Incident · 2026-09-15
LMDeploy 是上海人工智慧實驗室推出的工具組,用來壓縮、部署並提供語言模型與視覺語言模型的服務,對外提供相容於 OpenAI 格式的 API。問題在於,只要對話請求的 image_url 欄位填入任何 http 開頭的網址,伺服器就會照單抓取,完全不檢查那個網址指向哪裡,這就是 CVE-2026-33626(CVE 是公開資安漏洞的識別編號)。資安公司 Sysdig 在資安公告發布後 12 小時 31 分鐘,就在自家蜜罐上記錄到第一次攻擊嘗試:攻擊者在八分鐘內,用這個圖片載入功能去探測 AWS 的執行個體中繼資料服務、Redis、MySQL 與一個管理介面。
關聯理由: image_url 伺服器端擷取可探測內部服務,非圖片對抗樣本或 prompt injection。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
image_url 伺服器端擷取可探測內部服務,非圖片對抗樣本或 prompt injection。
AIA · 閱讀完整案例 ↗
Incident · 2026-09-15
LiteLLM 是一套開源的 AI 閘道,負責統一轉送超過 100 家模型供應商的 API,並代為保管這些供應商的 API key;它的 MCP(Model Context Protocol,讓 AI agent 連到外部工具與資料來源的協定)閘道功能,則負責把 agent 接到工單系統、通訊軟體、資料庫等已連接的工具上。資安公司 Wiz Research 發現,當 token 驗證失敗時,這段程式不但沒有拒絕,反而退回成一個完全沒有限制的授權物件,因此任何一個 Bearer token 都能開啟一個通過驗證的 MCP 工作階段(CVE-2026-59822,CVE 是公開資安漏洞的識別編號)。另一個問題則是:MCP 的連線測試端點會把呼叫者送來的命令,直接在代理服務主機上執行(CVE-2026-42271)。美國 CISA 已把這兩個漏洞列入已知遭利用漏洞清單(KEV)。
關聯理由: 無效 token 被當成授權,連線測試可啟動指定的 stdio 命令。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
無效 token 被當成授權,連線測試可啟動指定的 stdio 命令。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-08-25
Rebora 揭露兩個不同的瀏覽器擴充功能權限邊界問題。Spyder 影響 Sider(可在瀏覽器側欄使用多種 AI 模型的擴充功能):攻擊者網頁可用程式合成的拖曳事件,跨來源操作已登入的 Gemini 頁面。MaXSS 影響 MaxAI(另一款讓使用者在瀏覽網頁時使用 AI 的側欄擴充功能):攻擊者可偽造由網頁送往擴充功能的訊息,再利用可呼叫高權限背景功能的通用橋接(例如:MaXSS 示範了查詢分頁、開啟帶有登入狀態的隱藏分頁與擷取畫面;原本只是普通網頁,卻借到了擴充功能的權限)。研究發表時,Rebora 統計這兩項產品在 Chrome 與 Edge 的安裝次數合計約 1,100 萬次;不過,兩者的漏洞機制與修正狀態不同,必須分開審查。
關聯理由: 瀏覽器擴充功能的背景 API 橋接失守,不是提示詞注入。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
瀏覽器擴充功能的背景 API 橋接失守,不是提示詞注入。 合成拖曳事件與跨來源控制路徑,不把它改述為提示詞注入。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-08-25
Varonis 在自己的 Google Cloud 環境中證實,只要擁有更新一個 Dialogflow CX(Google Cloud 用來建立對話式 AI Agent 的平台)Agent 的權限,就可能持續控制同一專案其他 Agent 共用、由 Google 管理的 Cloud Run(Google 的容器執行服務)執行環境。惡意的 Playbook Code Block(Playbook 中可執行自訂 Python 程式碼的區塊)覆寫 code_execution_env.py 後,遭修改的執行環境可以攔截對話、竄改即時回覆、把資料傳到外部,並查詢執行個體中繼資料服務(IMDS,雲端執行個體用來取得自身設定與服務帳號 token 的內部服務)。Google 已於 2026 年 6 月完成修正。
關聯理由: 修改一個 agent 的 playbook 影響同專案共用執行環境。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
修改一個 agent 的 playbook 影響同專案共用執行環境。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-08-24
Ray 是用來擴充與執行分散式 Python、機器學習與 AI 工作負載的開源框架;本案攻擊的是它的 Dashboard 管理介面與 Jobs API。公開資安漏洞編號 CVE-2025-62593 影響 2.52.0 以前的 Ray。開發者若在預設連接埠執行 Ray Dashboard,並以 Firefox 或 Safari 瀏覽惡意網站或廣告,攻擊者可透過 DNS 重新綁定(讓自有網域先指向攻擊者網站,稍後再解析到同一台電腦或私有網路),把網頁連線帶到 Ray 端點。瀏覽器端 JavaScript 再把 User-Agent 改成不以 Mozilla 開頭,繞過 Ray 薄弱的瀏覽器判斷,並向沒有驗證呼叫者身分的 Jobs API 提交工作,最後由 Ray 執行攻擊者指定的指令。CISA 在 2026 年 8 月 17 日將此 CVE 納入已知遭利用漏洞目錄(KEV),但沒有指出是哪個攻擊者、活動或受害者遭到利用。
關聯理由: DNS rebinding 與 User-Agent 繞過,使網頁提交未認證的 Ray job;不是提示詞注入。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
DNS rebinding 與 User-Agent 繞過,使網頁提交未認證的 Ray job;不是提示詞注入。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-08-24
MLflow 是用來追蹤機器學習實驗與管理模型生命週期的 MLOps 平台;本案影響接收 Webhook 的 Tracking Server。公開資安漏洞編號 CVE-2026-64849 影響 MLflow 3.10.0(含)至 3.15.0(不含);官方修補版本為 3.15.0。預設 Tracking Server 的 Webhook 管理與同步測試端點不會驗證呼叫者身分。攻擊者可先註冊公開 HTTPS Webhook,再讓自己的伺服器以 302 轉址到本機、私有網路或雲端執行個體中繼資料 URL,形成伺服器端請求偽造(SSRF,讓 MLflow 代替攻擊者連到外部無法直接存取的內部服務)。MLflow 只檢查原始主機名稱,既未重新檢查轉址目標,也未固定真正連線的位址,最後還會把內部服務的回應內容傳回呼叫者。CISA 在 2026 年 8 月 19 日將此 CVE 納入已知遭利用漏洞目錄(KEV),但目錄沒有揭露攻擊者、受害者或被讀取的資料。
關聯理由: MLflow webhook 重新導向未重新檢查,測試 API 回傳內部回應。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
MLflow webhook 重新導向未重新檢查,測試 API 回傳內部回應。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-08-06
Clearview AI 開發了一套人臉辨識工具,能在公開照片中搜尋相符的對象。這套工具曾被執法機關與其他單位用於調查用途。 Clearview AI 的原始碼儲存庫雖然有密碼保護,但設定上出了錯,讓任何人都能自行註冊帳號。這使得一名外部研究人員得以進入這個私有的程式碼儲存庫,裡面存有 Clearview AI 的正式環境憑證、可存取雲端儲存 bucket(內含 7 萬支影片樣本)的金鑰,以及該公司應用程式的副本與 Slack token。一旦拿到訓練資料,惡意行為者就有能力讓已部署的模型產生任意的錯誤分類。這類攻擊說明了一件事:要保護 ML 系統,必須先做好「傳統」的資安基本功,例如以最小權限鎖定系統、多因素驗證(MFA),以及監控與稽核。
關聯理由: 註冊設定失誤使私有程式庫、憑證及資料暴露;資料投毒僅為潛在後果。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
註冊設定失誤使私有程式庫、憑證及資料暴露;資料投毒僅為潛在後果。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-08-05
這個 LangSmith SDK 漏洞的識別編號是 CVE-2026-25528。這條攻擊路徑成立並可能被觸發的前提,是應用程式把外部 HTTP request header (標頭) 交給 LangSmith 的追蹤流程處理;攻擊者可以在其中的 baggage 標頭放入自己控制的伺服器網址。當 AI 工作流程執行完畢時,SDK 便可能把追蹤資料(包括模型輸入、輸出與應用程式中繼資料)送到該網址,讓原本的可觀測性 (observability, 透過日誌、指標與執行追蹤,了解系統內部運作的能力)功能變成資料外洩路徑。
關聯理由: 不受信任 tracing header 帶入目的地,使 SDK 外送 trace。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
攻擊者在 HTTP request header (標頭) 放入不可信的追蹤設定,讓 SDK 把 AI 工作流程執行資料傳到指定端點。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-08-05
CERT/CC 回報了三條與 Python pickle 反序列化 (deserialization, 將儲存或傳輸的資料還原成程式可使用的物件)相關的 SGLang 遠端程式碼執行 (RCE) 的資安攻擊路徑:其中兩條成立的前提,是系統啟用了選配的分散式架構功能、且未驗證身分的 ZeroMQ 連接埠可從外部連線;第三條則需維運人員重新載入未經審核的歷史請求傾印檔 (request dump,把請求內容保存下來,供稍後檢查或重新載入的檔案;例如:CERT/CC 點名 replay_request_dump.py;管理者拿這支工具讀入攻擊者控制的檔案時,就可能在還原 pickle 物件的過程執行程式碼)。由於公開修補紀錄與目前 CNA(CVE Numbering Authority,負責審核與核發 CVE 漏洞編號的授權機構)資料庫版本彼此矛盾,資安團隊切勿僅依賴套件版本字串,必須實地校驗執行期設定與網路可達性 (reachability)。
關聯理由: 兩個網路路徑需啟用選配功能並開放 ZMQ;另一路徑需重播惡意 dump。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
兩個網路路徑需啟用選配功能並開放 ZMQ;另一路徑需重播惡意 dump。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-08-05
CVE-2026-25580 允許攻擊者透過未受信任的 Pydantic AI 訊息歷史 (message history) 與 URL 附件,誘使應用程式伺服器發起連線至攻擊者指定的目標位址(例如:公告示範把原本應是圖片附件的 URL 指向 169.254.169.254 的雲端中繼資料路徑,讓應用程式伺服器代為讀取,而不是讓使用者瀏覽器直接連線)。惡意構造的 URL 可連至內部服務、Link-local 區域連線的雲端中繼資料服務 (instance metadata service, IMDS, 提供執行個體資訊,並可能依平台設定提供工作負載憑證的雲端內部服務),或外部呼叫端無法直接觸及的私有系統。隨後發現的兩項 IPv6 轉換型位址繞過漏洞,則影響主動開啟本機下載權限的應用。此案例證明:當還原序列化 (serialization, 把資料或物件轉成可儲存或傳輸的格式)對話會觸發伺服器端 I/O 時,訊息歷史便已具備主動輸入的攻擊屬性。
關聯理由: 重播外部提供的 history 與 URL 附件會觸發伺服器 I/O。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
重播外部提供的 history 與 URL 附件會觸發伺服器 I/O。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-08-05
Orca Security 發現多個直接暴露在網際網路上的向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)。這些系統除了儲存嵌入向量 (embedding, 把文字等資料表示成一組數字,用來比較資料的相似度),還保留未加密的原始文字、個人身分識別資訊 (PII)、醫療紀錄、機密憑證 (secrets) 與內部系統組態。在受控測試環境中,研究人員利用某支援工單索引中洩漏的明文憑證,成功登入對應的外部 SaaS 系統。與此同時,向量資料庫 Milvus 另被揭露兩項重大漏洞,分別透過受信任的 sourceID 標頭偽造及 9091 連接埠上的未授權 API 繞過身分驗證。這些案例說明,向量資料庫可能同時保存高度機敏的原始資料,並提供需要嚴格控管的存取介面;不能只把它當成存放向量的運算元件。
關聯理由: 向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-07-07
Striga 與 CERT Polska 記錄了 Ollama for Windows 0.12.10 到 0.22.0 之間一組串連起來的缺陷:攻擊者若能影響更新回應,就能提供惡意的 ETag 或 Content-Disposition 路徑值;更新程式會把惡意內容寫到暫存目錄之外的位置,例如 Windows 啟動資料夾;Windows 上的簽章驗證實際上不做任何事;使用者之後登入時,這個惡意程式就會被執行,而且會一直存在。Ollama 在 v0.23.3 首次提供了強化後的更新流程。
關聯理由: Windows 更新流程的路徑與簽章驗證問題,不是模型提示詞注入。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
Windows 更新流程的路徑與簽章驗證問題,不是模型提示詞注入。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-07
Wiz 揭露了 NVIDIA Triton Inference Server 的 Python 後端存在一條攻擊鏈:一個未經身分驗證的遠端請求,就能讓內部共用記憶體區塊的名稱外洩;公開的共用記憶體 API 又會接受這個原本私有的名稱;攻擊者可控的請求因此取得對後端行程間通訊(IPC)記憶體的讀寫權限;接著透過記憶體或 IPC 內容的破壞,就可能達成遠端程式碼執行,進而接管整台 AI 伺服器。
關聯理由: Triton 的內部共享記憶體可被外部 API 存取,導致推論服務 RCE。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
Triton 的內部共享記憶體可被外部 API 存取,導致推論服務 RCE。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-06
Check Point Research 展示 LangGraph(LangChain 生態中用來編排有狀態 agent 工作流程的框架)的狀態檢查點 (state checkpoint, 保存某個時間點的工作狀態,供稍後還原或接續執行的資料)儲存層,如何從使用者可控的狀態歷史查詢,被攻擊者一步步操控成遠端程式碼執行。攻擊者可以先利用 SQL 注入攻擊(SQL injection)或 Redis 命令注入影響 checkpoint 儲存內容,再讓應用程式把惡意 checkpoint 當成可信的 agent 記憶資料載入。載入的過程需要反序列化(deserialization,把儲存的位元組資料還原成程式可以操作的物件,例如把 checkpoint 裡存的 msgpack 位元組,還原成 LangGraph 用來記錄對話進度的 graph state 物件);如果這個還原過程沒有先驗證資料型別、完整性與來源,攻擊者精心構造的位元組資料就可能讓還原過程建構出會執行任意程式碼的物件,而不只是還原出單純的資料。防禦重點是把 agent 記憶資料當成安全邊界,不是被動儲存。
關聯理由: SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。 SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。
SQL 注入與 checkpoint 反序列化;保留研究與維護者對可利用條件的歧見。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-06
Zafran 在 Chainlit(用來建立 LLM 聊天與 agent 應用的 Python 框架)中發現任意檔案讀取與伺服器端請求偽造(SSRF)漏洞,並在對外開放的實際應用中驗證。攻擊者可透過 element 處理流程讀取伺服器檔案;若部署使用 LangChain 磁碟快取,還可能取得其他使用者的提示詞與回應。影響取決於部署設定與工作負載權限:可讀取的環境變數或雲端憑證,可能進一步成為帳號冒用、橫向移動與雲端資源存取的入口。
關聯理由: 檔案讀取、跨使用者快取與 SSRF;不是模型本身洩漏訓練資料。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
檔案讀取、跨使用者快取與 SSRF;不是模型本身洩漏訓練資料。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-06
Microsoft 的 AutoJack 研究展示一條讓不可信網頁觸發主機上程式碼執行的完整路徑:瀏覽器 agent 先載入攻擊者頁面,頁面 JavaScript 再從同一台機器連線到 AutoGen Studio(Microsoft AutoGen 的本機 agent 建構與管理介面)的本機 MCP WebSocket,利用未套用驗證的路由傳入 server_params ,最後讓 AutoGen Studio 依參數啟動攻擊者指定的程序。這個問題已在相關程式碼發布至 PyPI 前修補,但架構教訓更廣:只要 agent 能瀏覽外部內容,又能連到本機控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務),localhost 就不能被當成可信邊界。
關聯理由: 瀏覽內容觸及 localhost MCP WebSocket;問題存在於未發布的開發分支。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
瀏覽內容觸及 localhost MCP WebSocket;問題存在於未發布的開發分支。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-06
Zafran 的 DifyTap 研究串起 Dify(讓多個組織或團隊共用同一套服務的 AI 應用平台)中多條資料外洩路徑,包括未經授權的對話存取、Plugin Daemon(Dify 的外掛服務)的內部 API、跨租戶文件預覽(例如:研究者能在未檢查權限的預覽路徑讀到其他租戶上傳的 PDF 與圖片;同一租戶內也能藉別人的檔案 UUID 取得檔案),以及 PDF 預覽解析器中的安全漏洞。這不是修補單一漏洞就能解決的問題:多租戶 AI 平台必須在每個資料處理環節重新驗證物件層級的權限,隔離不同租戶的執行狀態,對遙測資料中的機敏資訊做適當遮罩(masking,移除或替換記錄中的機敏內容),並把文件解析工作放進隔離的沙箱環境。
關聯理由: Dify 的多條獨立存取與處理漏洞,不合併成單一鏈。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
Dify 的多條獨立存取與處理漏洞,不合併成單一鏈。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-07-06
Sysdig 描述的 JADEPUFFER 是一套由 LLM 協助操作的資料庫勒索流程。攻擊者先利用 Langflow(用來建立 LLM/AI 工作流的視覺化框架)CVE-2025-3248,把 Base64 編碼的 Python 惡意程式碼送到 Langflow 主機執行;接著蒐集主機環境、憑證與可連線服務資訊,往 Nacos/MySQL 基礎設施移動,最後加密或刪除設定與資料庫資料表。這篇的防禦重點很實際:AI 工作流伺服器不能只當成測試工具管理,而要有受限的程式碼執行邊界、身分驗證、網路分段、對外連線管制、憑證撤銷與輪替、破壞性操作監控,以及實際驗證過的資料復原能力。
關聯理由: 攻擊 Langflow 後取用憑證及服務,進行資料庫勒索。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
攻擊 Langflow 後取用憑證及服務,進行資料庫勒索。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-07-02
Zenity 回報,攻擊者正在實際嘗試兩條針對 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)control plane(控制平面,集中管理設定、測試與路由的那一層)的利用路徑:自訂程式碼 guardrail(安全檢查規則)測試器,以及連線測試 API。這兩條路徑指向同一個結論:AI 閘道(集中轉接模型請求的服務)已經是攻擊者優先鎖定的目標,因為它握有或能碰到模型供應商金鑰、路由政策、在沙箱裡執行的自訂程式碼,以及下游 AI 應用仰賴的模型流量。
關聯理由: 連線測試解析環境金鑰後送往指定 api_base;另有不同證據強度的旁支。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
連線測試解析環境金鑰後送往指定 api_base;另有不同證據強度的旁支。 觀察到 guardrail 測試端點的逃逸嘗試,研究重播確認兩條結果。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-06-06
Sysdig 觀察到一場 2026 年 5 月 10 日的入侵:攻擊者先利用 CVE-2026-39987 連上對外開放的 marimo notebook(marimo 是類似 Jupyter 的 Python notebook,可以在瀏覽器裡互動執行 Python 程式碼),接著讓 LLM agent 接手入侵後操作(post-exploitation),一路做憑證蒐集、AWS Secrets Manager 存取、透過 SSH 登入 bastion 跳板主機,再從那裡連到內部 PostgreSQL 資料庫,把資料庫結構和內容大量匯出並外傳。這篇的重點不只是修補 marimo。AI 與資料科學執行環境需要更早的驗證、權限範圍更小且效期更短的憑證、對外連線限制、內網分段,以及能辨識憑證蒐集、橫向移動和資料外傳的監控和警示。
關聯理由: 先利用 notebook 漏洞,再由攻擊者的 LLM agent 進行後續活動。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
先利用 notebook 漏洞,再由攻擊者的 LLM agent 進行後續活動。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-05-26
HiddenLayer 揭露的 CVE-2026-45829,問題出在 ChromaDB(開源向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫))的 Python FastAPI 伺服器:攻擊者不用登入,只要送一個建立 collection(ChromaDB 裡用來存放一組向量資料與設定的集合)的 API 請求,就能讓伺服器在完成驗證前,就已經下載並執行攻擊者控制的 Hugging Face 模型程式碼。從 API 使用者的角度看,這個請求最後可能還是失敗;但對攻擊者來說,惡意程式碼已經在 ChromaDB 伺服器裡跑過了。 這篇的防禦重點很清楚:載入模型不是單純讀資料,而可能是在執行程式碼。向量資料庫如果允許用戶端指定 embedding 模型(把文字轉成向量,讓系統能做語意搜尋的模型),就必須先驗證身分,再限制模型來源、擋掉 trust_remote_code 這類危險載入設定,並把第一次載入模型的動作隔離起來。
關聯理由: collection 設定在認證前載入外部模型程式碼;API 最後回錯誤也無法撤銷已執行程式。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
collection 設定在認證前載入外部模型程式碼;API 最後回錯誤也無法撤銷已執行程式。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-05-15
Microsoft Defender Security Research 發現,某些 AI 應用和 agent 服務(例如遠端 MCP server、Mage AI(資料管線自動化平台)、kagent(Kubernetes 環境裡的 agent 服務)和 Microsoft AutoGen Studio(本機 agent 建構與管理介面))在網路上可以被公開存取,卻沒有把登入驗證、權限控管和後端服務帳號設定好。這樣一來,攻擊者不一定要找零日漏洞;只要連到公開的介面或 API,就可能操作內部工具、執行 shell 命令、部署 Kubernetes 工作負載,或讀到 AI 服務的 API key。這篇的重點很直接了當:只要 AI 應用是公開對外提供服務的,就要當正式系統管理,不能把測試時方便使用的預設設定直接拿去上線。
關聯理由: 公開 MCP、Mage、kagent 與 AutoGen 的錯誤部署及存取控制。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
公開 MCP、Mage、kagent 與 AutoGen 的錯誤部署及存取控制。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-04-22
TechRadar 整理了 OX Security 的研究,指出 Anthropic MCP(Model Context Protocol,讓 AI 助理連接外部工具的協定)的 STDIO 啟動模式,會讓不可信的設定值直接被當成作業系統命令執行,影響面一路擴散到整個 MCP 生態(TechRadar 引述研究者說法,可能波及 20 萬個實例,以及 7,000 多台公開可存取的伺服器)。真正的防禦重點,是把本機 MCP server 的啟動當成特權程式碼執行邊界來管,而不是把它當成一般工具設定。
關聯理由: 不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。 不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。
不受信任 command/args 進入本機程序啟動邊界;不能概括所有 MCP 連線都可利用。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-04-18
Oasis Security 在 2026 年初的測試中指出,惡意網站可以對 OpenClaw(agent 平台)的本機閘道服務開 WebSocket 連線;這個閘道服務其實就是跑在自己電腦上的管理入口。攻擊者可以冒用命令列介面(CLI)客戶端的身分繞過來源檢查,再利用 loopback 位址(也就是連回自己這台電腦的本機位址)不受速率限制的密碼驗證一路暴力猜密碼;修補已經釋出,但真正的教訓是,不能再把 localhost 這種本機來源訊號當成可信身分依據,agent 的工作階段和每一個 RPC 方法(可直接呼叫後端功能的管理操作)都得當成特權控制面 (control plane, 負責管理系統設定、權限與執行方式的介面或服務),分開驗證、分級授權。
關聯理由: WebSocket token竊取及控制 API 操作;不標為提示詞注入。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
WebSocket token竊取及控制 API 操作;不標為提示詞注入。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-04-18
CodeWall 在公開 Pyxis JavaScript 檔發現有效帳密,於 18 分鐘內登入。後續 SQL 注入路徑使用權限過大的資料庫帳號;另一條 GraphQL 路徑則允許身分目錄操作。平台登入身分與後端資料庫授權是不同邊界。CodeWall 表示漏洞已於 2026 年 3 月 19 日修正;測試只為驗證,不能視為已發生惡意入侵。
關聯理由: 公開 bundle 內的服務帳號憑證讓研究者存取資料與身分平台。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
公開 bundle 內的服務帳號憑證讓研究者存取資料與身分平台。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-04-17
攻擊從傳統 Web 漏洞開始。McKinsey 的內部 AI 平台 Lilli 有 22 個未驗證呼叫者身分的 API 端點;其中一個端點把攻擊者可控制的 JSON 欄位名稱直接組成 SQL。CodeWall 的自主測試 agent 利用這條路徑,在約兩小時內取得後端資料庫的讀寫權限。該資料庫包含 4,650 萬則對話訊息、72.8 萬份檔案、368 萬筆檢索增強生成 (retrieval-augmented generation, RAG, 先檢索相關資料,再交給模型作為回答依據的做法)資料片段、向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)中繼資料,以及會影響超過 4.3 萬名使用者所用 AI 助理的系統提示詞。這些數量描述資料庫的內容,不代表每筆資料都已被讀取或外傳。 這起事件顯示,SQL 注入也可能直接影響 AI 平台的提示詞與檢索資料。防守方須像保護程式碼與憑證一樣,對這些 AI 控制資料限制存取、驗證完整性,並追查未經核准的變更。
關聯理由: SQL 注入及存取問題波及 prompt、對話與 RAG 資料。 此處對應「初始存取」:攻擊者尋找進入機器學習相關系統的第一個立足點。
SQL 注入及存取問題波及 prompt、對話與 RAG 資料。
AIA · 閱讀完整案例 ↗