9.11 · 模型推論 API 存取

閱讀 Databricks DASF 3.0 中 9.11「模型推論 API 存取」相關的 19 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

攻擊者透過推論 API 接觸模型,使用的帳號或介面本身可能是合法的。模型回應可被用來辨識模型家族與輸出類別、測試對抗輸入,或把影響模型行為的攻擊內容送入系統。因此,API 存取是一種可支援偵察、準備與攻擊的能力,不代表模型已經遭到入侵。

框架官方來源 ↗ · 開啟互動探索 ↗

Incident ·

GTIG/Mandiant:跨雲端 LLMJacking 算力劫持與「LLM 混幣器」轉售

Google 威脅情資團隊(GTIG)與 Mandiant 彙整 2026 年在北美、南美與亞太地區處理的多起第一線事件應變調查,揭露了 LLMJacking(大型語言模型算力劫持)的常見手法,以及下游如何把盜來的推論額度包裝轉售。在部分案件中,受害組織單日遭盜刷的雲端 LLM 費用就超過 10 萬美元。不同案件採用的入侵入口各異,包括外洩的雲端或模型金鑰、對外開放的 Ollama 服務,以及 UNC6993 的工作階段釣魚。進入受影響的雲端環境後,有些案件的攻擊者會清查模型配額、從資料倉儲中繼資料裡翻找資料庫密碼,或冒用服務帳號讀取雲端機密。GTIG 另記錄到後續攻擊群組取得已驗證可用的 LiteLLM 虛擬金鑰後,提升 AI 閘道管理權限的案例。GTIG 引用的 CVE(公開資安漏洞的識別編號)在原廠公告中指向另一項漏洞;v1.83.14-stable 雖已包含該 CVE 的修補,重發金鑰時仍缺少變更所有權的授權檢查,這項修補另納入 v1.84.0。在另一個涉及「LLM 混幣器」Jet Night 的案件中,這套轉送服務在不到八小時內發出超過 50 萬次模型呼叫,讓單一家受害組織承擔近 100 萬美元的帳單;報告另也記錄了把受害帳號切到隨用隨付方案、反覆更換短效服務帳號的案例,以及在受害環境部署反向代理、使用 Manus Agent 框架建立容器化後門的案件。這些都是公開報告中各自記錄的獨立案例,並非同一起攻擊事件。

關聯理由: 遭竊的憑證讓攻擊者得以呼叫由受害方付費的模型推論 API。

各種行為須回到有證據的個別案件。金鑰重發的通報與原廠公告中的漏洞編號各有來源,不能視為相同漏洞。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Flowise 蜜罐實錄:未驗證的 API、回連工作流程與 Agent 探查

2026 年 8 月底,Sekoia 威脅偵測與研究團隊(TDR)在一座模擬 Flowise 2.2.8(低程式碼 AI Agent 建置平台)的對外開放蜜罐中,記錄到一起分為六個階段的真實攻擊。第一階段不到三分鐘的掃描裡,攻擊者先辨識伺服器版本、列出對話工作流程,再從未設身分驗證的管理 API 取走預埋的 OpenAI、Anthropic 與 RAG PostgreSQL 資料庫誘餌憑證。約兩小時後,攻擊者再次掃描 14 個管理 API 路由,嘗試把既有流程改名,並在新增的 System Status 流程裡加入並設定 HTTP Request 節點,打算讓流程一執行就向外部主機回連。接著攻擊者轉向推論介面,送出 overrideConfig.systemMessage 覆寫系統提示詞、試探跨工作階段記憶、要求查詢模擬財務資料庫,最後還改用中文要求協助分析外部的 Nightingale v6 監控系統。這份報告確認了攻擊者送來的請求與設定操作;不過蜜罐只回傳模擬結果,背後沒有接上真正的語言模型、系統命令執行環境或財務資料庫,報告也沒有證實外部回連真的建立成功。

關聯理由: 外部攻擊者接觸到模擬 Flowise 的推論介面,並向其送出多次請求。 真實攻擊者在模擬環境對相應的 API 或工具邊界送出請求。回應是模擬的,無法據此確認正式環境的憑證外洩、模型行為、命令執行、對外回連或所提到的系統遭入侵。

攻擊者的請求確實發生;由蜜罐模擬的工具與模型回應不能當成正式環境遭入侵的結果。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

ARTEX 攻擊事件:公開在 GitHub 上的憑證直接成了 Entra 與 Azure 存取入口

Microsoft 觀察到攻擊者使用自動化工具 ARTEX 搜尋公開在 GitHub 上的憑證,接著拿有效的 Microsoft Entra 應用程式憑證直接存取受害企業環境。不同受害租戶出現的後續活動包括雲端資源探索、Azure Key Vault(雲端機密保管庫)與儲存空間存取、Microsoft Graph 操作,以及 AI 資源探測。在其中一個被完整觀察到的案例裡,Agent 從搜尋儲存庫到外傳 Key Vault 裡的機密資料(secrets)只花了五分鐘;不過報告也指出,並不是每個受害租戶都經歷了完全相同的攻擊鏈。

關聯理由: 活動特別尋找 AI 服務憑證,並探測受害 Azure AI 資源。 公開證據未列舉成功且產生費用的推論呼叫;驗證/探測與研判的後續重用必須區分。

來源確認攻擊方使用 AI;受害 AI 資源的對應限於已具體記載的雲端活動。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident · · 實務關聯

Railway 入侵事件:建置隔離失守加上另一條 OIDC 路徑,導致 AI 憑證外洩

Railway 是一個應用程式部署平台。業者通報,攻擊者在 10 月 20 日突破建置環境的部分檔案系統隔離並取得建置憑證,再用它連上用來調度工作流程的 Temporal 服務,同時竊取了內部程式碼儲存庫。第一條路徑封閉後,錯誤的 OIDC 身分聯邦綁定又讓攻擊者換取雲端權限,取得正式環境憑證並解密客戶變數。最多約有 1.85% 工作區的變數可能遭解密;這只是影響上限,不代表每個變數都已被竊走。業者另觀察到外洩的 AI 金鑰已在外部遭到濫用。

關聯理由: 外洩 AI 憑證後續被用來存取 AI 服務,執行程式開發及訓練工作。 通報未列舉每個模型端點,也未證實模型擷取、投毒或模型所有權竊取。

AI 關聯來自外洩憑證與後續 AI 服務濫用;原始平台入口不是 LLM 漏洞利用。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Vertex AI 資源遭盜用:一小時產生約 3 萬元費用,預算通知為何擋不住

醫師兼開發者林佑儒在《數位時代》刊出的第一人稱自述中表示,他名下多個 Google Cloud 專案遭人未經授權大量呼叫 Vertex AI(Google 的託管 AI 平台,提供 Gemini 等模型與影片生成 API),一小時內產生約新台幣 3 萬元費用。他追查後發現,請求使用的是約兩週前就被建立在專案裡的陌生服務帳號(service account,供程式或服務使用的雲端身分)。Google 事後減免了大部分費用。攻擊者最初如何取得存取權,以及是否使用 AI agent,目前都還沒有確認。

關聯理由: 來源描述透過 Vertex AI 未授權呼叫 Gemini Flash 與影片生成模型,且當事人將請求連結到陌生服務帳號。這直接對應推理 API 存取,但不代表已發生模型竊取、存在對抗式提示詞,或模型本身遭入侵。

本案是當事人自述的 Google Cloud AI 資源盜用事件,對應範圍限於付費模型用量、未授權雲端管理操作與推理 API 存取。MAESTRO 的實務關聯僅限基礎設施資源盜用,不代表已證實存在 agent 執行環境。

AIA · 閱讀完整案例 ↗

Incident ·

跨供應商大量蒸餾美國前沿 AI 模型能力

NSA、CISA 與 FBI 在 2026 年 9 月聯合公告中,將協同蒸餾活動歸因於六家中國 AI 公司。公告描述假帳號、大量購買訂閱、灰色市場代理、跨供應商路由、移除請求中的組織資訊,以及企圖取得隱藏推理的提示詞,接著把回覆蒐集成資料並檢查品質。蒸餾是用其他模型的輸出訓練自己的模型;歸因與能力影響在此保留為三個機關的調查研判,不能寫成我們已獨立重現量測,也不代表模型權重遭竊取。

關聯理由: NSA、CISA 與 FBI 歸因的活動:假帳號或失竊帳號提供蒐集輸出所需的推論 API 存取。

NSA、CISA 與 FBI 歸因的活動;區分能力蒸餾與竊取原始權重。歸因與能力結果維持為機關研判;隱藏推理提示詞是嘗試,不能證明回傳文字就是內部軌跡,也不推定自主 agent 部署。

SecureFlow · 閱讀完整案例 ↗

Incident ·

大量查詢 Google AI 服務,蒐集輸出以蒸餾模型能力

Google 表示,有行動者使用失竊憑證、假帳號與代理伺服器,大量蒐集模型回覆進行蒸餾,也就是拿一個模型的輸出訓練另一個模型。2026 年 2 月報告中的推理能力蒐集活動超過 10 萬個提示詞,後續部分活動更超過一億個。這些數字代表查詢規模,不能寫成模型權重已遭竊取或能力複製的成功率。Google 表示已封鎖相關帳號,並降低蒐集所得輸出的利用價值。

關聯理由: Google 的失竊及假帳號活動:假帳號或失竊帳號提供蒐集輸出所需的推論 API 存取。

Google 的失竊及假帳號活動;區分能力蒸餾與竊取原始權重。提示詞總量代表蒐集規模,不是複製成功率或取得的模型權重;未建立自主 agent 部署或受保護推理已取回的證據。

SecureFlow · 閱讀完整案例 ↗

Incident ·

針對 Anthropic Claude 的模型蒸餾行動

Anthropic 將約 24,000 個假帳號、超過 1,600 萬次互動的蒸餾活動,歸因於 DeepSeek、Moonshot AI 與 MiniMax。流程分開呈現代理存取、帳號驗證、分散路由、取得推論回覆及後續模型訓練。供應商端的威脅調查與經驗證限制,須在輸出送出前作用;缺少防護的模型可能造成哪些傷害,維持為 Anthropic 的風險研判,不能當成已觀察到的下游受害者統計。

關聯理由: Anthropic 報告的 DeepSeek、Moonshot AI 與 MiniMax 活動:假帳號或失竊帳號提供蒐集輸出所需的推論 API 存取。

Anthropic 報告的 DeepSeek、Moonshot AI 與 MiniMax 活動;區分能力蒸餾與竊取原始權重。約 24,000 個帳號與 1,600 萬次互動,不是取回權重或已觀察下游傷害的數量;潛在傷害維持為 Anthropic 研判,未建立 agent 部署。

SecureFlow · 閱讀完整案例 ↗

Incident ·

LLM Jacking:盜用雲端 LLM 資源

Sysdig 觀察到攻擊者用失竊雲端憑證,探測託管 LLM 的存取權與記錄設定,再以反向代理轉供可能被轉售的模型存取。初始漏洞、持有憑證、準備工具與實際呼叫供應商,是不同步驟;流程保留使用服務前的平行準備。每日費用是可能風險的估算,防禦則落在供應商原生 IAM 與完整呼叫紀錄,涵蓋繞過應用程式代理的直接呼叫。

關聯理由: 失竊雲端憑證被用於 LLM 代理轉售與費用濫用。 此處對應「模型推論 API 存取」:攻擊者透過推論 API 接觸模型,使用的帳號或介面本身可能是合法的。

失竊雲端憑證被用於 LLM 代理轉售與費用濫用。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

ProofPoint 郵件防護遭規避

Proof Pudding(CVE-2019-20634)是一個程式碼儲存庫,記錄了機器學習研究人員如何規避 ProofPoint 的郵件防護系統:他們先做出一個模仿版的郵件防護機器學習模型,再用從中得到的線索去繞過線上的正式系統。更具體地說,這些線索讓研究人員能寫出可以拿到偏高評分的惡意郵件,使系統偵測不到。這套系統會依多個變數為郵件中的每個字給出數值評分,如果整封郵件的總分太低,ProofPoint 就會回傳錯誤,把它標記為垃圾郵件。

關聯理由: 先建立替代偵測模型,再調整郵件規避正式系統。 此處對應「模型推論 API 存取」:攻擊者透過推論 API 接觸模型,使用的帳號或介面本身可能是合法的。

先建立替代偵測模型,再調整郵件規避正式系統。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

針對機器翻譯服務的攻擊

機器翻譯服務(例如 Google 翻譯、Bing Translator 與 Systran Translate)都對外提供網頁介面與 API。加州大學柏克萊分校的一個研究團隊,就利用這些公開端點,複製出一個翻譯品質接近正式環境水準的模型。除了證明智慧財產可以從一個黑箱系統中被實質竊走之外,他們還用這個複製出來的模型,成功把對抗樣本轉移到真正的正式服務上。這些對抗式輸入在 Google 翻譯與 Systran Translate 網站上,成功造成了指定字詞被替換、輸出粗俗內容,以及整句被略過等結果。

關聯理由: 利用翻譯端點建立替代模型,再轉移對抗樣本。 此處對應「模型推論 API 存取」:攻擊者透過推論 API 接觸模型,使用的帳號或介面本身可能是合法的。

利用翻譯端點建立替代模型,再轉移對抗樣本。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

Compaction Smuggling:壓縮對話成為轉移隱藏推理內容的管道

Xint 測試了 OpenAI API 的對話壓縮功能,也就是把先前工作整理成後續模型可接續使用的內容。研究者利用可由用戶端指定的壓縮指示,將 gpt-5.6-sol 受保護的推理內容轉存為加密壓縮項目,再交給 gpt-4.1 或 gpt-4o 回傳可讀文字。這是以研究者自己的題目進行的受控 API 測試,未展示竊取其他使用者的對話。Xint 表示,問題已於 2026 年 10 月 23 日以未公開細節的方式修補。

關聯理由: 研究者透過一般推論 API 帳號與壓縮介面,提交惡意互動。

透過用戶端控制的同模型壓縮與較舊接收模型 API,受控擷取提供者保護的推理內容;沒有展示自主 agent 部署、竊取客戶對話或訓練模型副本。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

vLLM Harmony:工具接續遺失隔離資訊,讓其他租戶探測提示內容

vLLM 是部署語言模型推論服務的引擎,會重用提示詞前綴 (prompt prefix,提示詞開頭的一段內容)的計算結果來加速回應。受影響的 GPT-OSS Harmony Responses 工具流程,第一輪有保留 cache_salt 隔離資訊,工具回傳後的接續請求卻沒有。另一個租戶可提交猜測的接續內容,觀察精確的快取 token 計數,判斷那段內容是否曾被處理。這個漏洞的公開識別編號是 CVE-2026-105752;它暴露的是快取內容是否存在的訊號,不是任意擷取完整對話。公告將 0.30.0 列為修補版本。

關聯理由: 攻擊者使用推論 API 作為真正的快取探測介面。

Harmony 工具後推論快取存在性探測,不是訓練成員推論、對話下載或記憶投毒。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research · · 實務關聯

AgentCorruption:遭竊的執行角色將 agent 記憶轉為持續性控制管道(C2)

Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。

關聯理由: 研究人員利用查得的 runtime 識別碼與遭竊角色,透過 API 向另一個生成式 agent 提問,先探查可用工具,再要求讀取私有檔案。 已驗證的介面是生成式 agent 的 InvokeAgentRuntime,並非另行確認的原始模型推論端點;證據支持互動存取與工具探查,不代表已辨識模型家族或完成黑箱規避。

受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

Storm-2139 繞過 Azure OpenAI 的安全防護機制

Storm-2139 打造了客製化的越獄工具,用來繞過 Azure OpenAI 服務上的安全防護機制,讓使用者能產生有害的合成內容。 微軟指出,Storm-2139 的成員從公開來源蒐刮外流的客戶憑證,再用這些憑證登入生成式 AI 服務的帳號。這個組織開發並經營了一整套工具與服務,繞過安全防護、改變服務行為,讓終端使用者得以產生有害且違法的內容,包括未經當事人同意的名人私密影像,以及其他色情內容。 這整個行動涵蓋三種角色:開發違法工具的製作者、修改並供應這些工具的提供者,以及實際產生違禁內容的使用者。微軟已對此提起民事訴訟。

關聯理由: 竊取的服務憑證及越獄工具被用來產生有害內容。 此處對應「模型推論 API 存取」:攻擊者透過推論 API 接觸模型,使用的帳號或介面本身可能是合法的。

竊取的服務憑證及越獄工具被用來產生有害內容。

SecureFlow · 閱讀完整案例 ↗

Exercise ·

以實體對抗物規避人臉辨識系統

MITRE 的 AI 紅隊對一項商用人臉辨識服務,示範了實體世界中的規避攻擊,目標是誘導出特定的錯誤辨識結果。這次行動同時用上了傳統的 MITRE ATT&CK 手法,例如找出可用的有效帳號、透過 API 執行程式碼,並在其中穿插了對抗式機器學習專屬的攻擊。

關聯理由: 來源明確記錄了透過推論 API 進行偵察、準備對抗樣本或驗證的操作。這裡對應的是攻擊者具備的 API 存取能力,不表示 API 曾暴露模型參數。

實體對抗貼片使人臉識別服務產生指定的錯誤判斷。

SecureFlow · 閱讀完整案例 ↗

Exercise ·

規避 Microsoft 邊緣 AI 模型

Azure 紅隊針對微軟一項新產品執行紅隊演練,該產品是設計來在邊緣端執行 AI 工作負載的。這次演練的做法,是用一套自動化系統持續調整一張目標影像,讓 ML 模型產生錯誤的分類結果。

關聯理由: 紅隊持續調整輸入圖片,誘導 edge 模型誤判。 來源明確記錄了透過推論 API 進行偵察、準備對抗樣本或驗證的操作。這裡對應的是攻擊者具備的 API 存取能力,不表示 API 曾暴露模型參數。

紅隊持續調整輸入圖片,誘導 edge 模型誤判。

SecureFlow · 閱讀完整案例 ↗

Exercise ·

Microsoft Azure 服務中斷演練

微軟的 AI 紅隊針對一項內部 Azure 服務進行紅隊演練,目標是讓該服務中斷。這次行動同時用上了傳統的 ATT&CK 企業環境手法,例如找出可用的有效帳號、把資料外傳,並在其中穿插了對抗式機器學習專屬的步驟,包括離線與線上的規避樣本。

關聯理由: 紅隊案例結合傳統入侵及對抗 ML,不推論其他未述機制。 來源明確記錄了透過推論 API 進行偵察、準備對抗樣本或驗證的操作。這裡對應的是攻擊者具備的 API 存取能力,不表示 API 曾暴露模型參數。

紅隊案例結合傳統入侵及對抗 ML,不推論其他未述機制。

SecureFlow · 閱讀完整案例 ↗

Incident ·

暴露的 LLM 後端,正被攻擊者拿來當免費 AI 運算資源

Zenity 的 honeypot(誘捕式偵測環境)觀察到,有攻擊者把自主 agent(可自行規劃並呼叫工具的 AI 程式)和 LLM client(呼叫大語言模型的用戶端)直接指向暴露在外的 Ollama(本機 LLM serving runtime)與 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)模型後端。這不一定需要惡意程式或主機入侵;只要模型服務連得到、沒有驗證,或只靠測試用的預設 API key 保護,就足以讓它變成攻擊者不用付錢的推理資源。

關聯理由: 濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。 此處對應「模型推論 API 存取」:攻擊者透過推論 API 接觸模型,使用的帳號或介面本身可能是合法的。 濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。

濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗