Incident · 2026-11-17
Google 威脅情資團隊(GTIG)與 Mandiant 彙整 2026 年在北美、南美與亞太地區處理的多起第一線事件應變調查,揭露了 LLMJacking(大型語言模型算力劫持)的常見手法,以及下游如何把盜來的推論額度包裝轉售。在部分案件中,受害組織單日遭盜刷的雲端 LLM 費用就超過 10 萬美元。不同案件採用的入侵入口各異,包括外洩的雲端或模型金鑰、對外開放的 Ollama 服務,以及 UNC6993 的工作階段釣魚。進入受影響的雲端環境後,有些案件的攻擊者會清查模型配額、從資料倉儲中繼資料裡翻找資料庫密碼,或冒用服務帳號讀取雲端機密。GTIG 另記錄到後續攻擊群組取得已驗證可用的 LiteLLM 虛擬金鑰後,提升 AI 閘道管理權限的案例。GTIG 引用的 CVE(公開資安漏洞的識別編號)在原廠公告中指向另一項漏洞;v1.83.14-stable 雖已包含該 CVE 的修補,重發金鑰時仍缺少變更所有權的授權檢查,這項修補另納入 v1.84.0。在另一個涉及「LLM 混幣器」Jet Night 的案件中,這套轉送服務在不到八小時內發出超過 50 萬次模型呼叫,讓單一家受害組織承擔近 100 萬美元的帳單;報告另也記錄了把受害帳號切到隨用隨付方案、反覆更換短效服務帳號的案例,以及在受害環境部署反向代理、使用 Manus Agent 框架建立容器化後門的案件。這些都是公開報告中各自記錄的獨立案例,並非同一起攻擊事件。
關聯理由: 有紀錄的案例顯示,攻擊者使用受害方的模型額度,並把推論費用留給原帳號的持有人。
各種行為須回到有證據的個別案件。金鑰重發的通報與原廠公告中的漏洞編號各有來源,不能視為相同漏洞。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-16
Railway 是一個應用程式部署平台。業者通報,攻擊者在 10 月 20 日突破建置環境的部分檔案系統隔離並取得建置憑證,再用它連上用來調度工作流程的 Temporal 服務,同時竊取了內部程式碼儲存庫。第一條路徑封閉後,錯誤的 OIDC 身分聯邦綁定又讓攻擊者換取雲端權限,取得正式環境憑證並解密客戶變數。最多約有 1.85% 工作區的變數可能遭解密;這只是影響上限,不代表每個變數都已被竊走。業者另觀察到外洩的 AI 金鑰已在外部遭到濫用。
關聯理由: 遭竊 AI 憑證被未授權重用,消耗 AI 服務並讓憑證持有人負擔費用。
AI 關聯來自外洩憑證與後續 AI 服務濫用;原始平台入口不是 LLM 漏洞利用。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-13
Censys 調查一場針對網際網路公開 ComfyUI 的攻擊。ComfyUI 是用節點建立影像生成工作流程的介面;攻擊者透過可執行程式的自訂節點,或可連入的 Manager 安裝 API,部署挖礦、代理服務與再次感染機制。研究人員取得的掃描程式與紀錄支持這場攻擊活動,但公開伺服器數量不等於已感染主機數。
關聯理由: 取得的惡意程式把 AI 主機資源轉作挖礦與代理,符合 Cisco 費用濫用及資源轉用的分支,不必先發生完整停機。
影像生成執行環境中的自訂節點與相依套件執行;agent/LLM 類別明訂共同機制,不假設那些部署已存在。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-04
醫師兼開發者林佑儒在《數位時代》刊出的第一人稱自述中表示,他名下多個 Google Cloud 專案遭人未經授權大量呼叫 Vertex AI(Google 的託管 AI 平台,提供 Gemini 等模型與影片生成 API),一小時內產生約新台幣 3 萬元費用。他追查後發現,請求使用的是約兩週前就被建立在專案裡的陌生服務帳號(service account,供程式或服務使用的雲端身分)。Google 事後減免了大部分費用。攻擊者最初如何取得存取權,以及是否使用 AI agent,目前都還沒有確認。
關聯理由: 未授權的付費模型呼叫,據當事人自述在一小時內產生約新台幣 3 萬元帳單。Cisco OB-013 明確涵蓋成本濫用與未授權資源轉用,因此可直接對應財務濫用,不必推論模型服務已遭阻斷,也不必假定生成內容。
本案是當事人自述的 Google Cloud AI 資源盜用事件,對應範圍限於付費模型用量、未授權雲端管理操作與推理 API 存取。MAESTRO 的實務關聯僅限基礎設施資源盜用,不代表已證實存在 agent 執行環境。
AIA · 閱讀完整案例 ↗
Incident · 2026-10-30
Sysdig 觀察到攻擊者用失竊雲端憑證,探測託管 LLM 的存取權與記錄設定,再以反向代理轉供可能被轉售的模型存取。初始漏洞、持有憑證、準備工具與實際呼叫供應商,是不同步驟;流程保留使用服務前的平行準備。每日費用是可能風險的估算,防禦則落在供應商原生 IAM 與完整呼叫紀錄,涵蓋繞過應用程式代理的直接呼叫。
關聯理由: 失竊雲端憑證被用於 LLM 代理轉售與費用濫用。 此處對應「可用性濫用」:攻擊者透過資源耗盡、效能下降或服務中斷,妨礙合法使用者使用 AI 模型、agent 或服務。
失竊雲端憑證被用於 LLM 代理轉售與費用濫用。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-30
公開的 Streamlit 應用程式 MathGPT(https://mathgpt.streamlit.app/),會用大型語言模型(LLM)GPT-3 來回答使用者提出的數學問題。 近期的研究與實驗顯示,GPT-3 這類 LLM 直接做精確數學運算時表現並不好;不過只要改成請它產生可以解題的可執行程式碼,答案就會準確得多。在 MathGPT 這個應用程式中,GPT-3 的工作就是把使用者的自然語言問題,轉成 Python 程式碼,接著再實際執行。運算完成後,執行過的程式碼與答案會一起顯示給使用者。 有些 LLM 會受到提示詞注入攻擊影響,也就是惡意的使用者輸入,會讓模型做出非預期的行為。在這起事件中,攻擊者嘗試了好幾種覆寫提示詞的做法,最後產生出來的程式碼,讓他取得了應用程式主機的系統環境變數與該應用程式的 GPT-3 API 金鑰,同時也發動了一次阻斷服務攻擊。結果,攻擊者原本可以耗光這個應用程式的 API 查詢額度,或直接把服務打掛。 在把這些攻擊手法與結果揭露給 MathGPT 與 Streamlit 團隊之後,兩邊都採取了緩解措施,包括過濾特定提示詞,以及輪替 API 金鑰。
關聯理由: MathGPT 直接執行模型產生的 Python,研究取得 API 金鑰並展示 DoS。 此處對應「可用性濫用」:攻擊者透過資源耗盡、效能下降或服務中斷,妨礙合法使用者使用 AI 模型、agent 或服務。
MathGPT 直接執行模型產生的 Python,研究取得 API 金鑰並展示 DoS。
SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-26 · 實務關聯
MCP Python SDK 用來連接 AI 應用與工具,也提供實驗性的長時間任務功能。當多個用戶端共用的伺服器啟用受影響的預設任務處理器時,另一個用戶端可以列出任務、讀取結果,甚至取消別人的工作,因為處理器沒有檢查任務屬於哪個工作階段。這個漏洞的公開識別編號是 CVE-2026-52870。1.27.2 版修補預設產生的任務 ID;自行指定 ID 或直接寫入 TaskStore 的路徑,仍須另外確認擁有權檢查。
關聯理由: 未授權取消可停止另一用戶端的工作。 已展示的可用性邊界是個別任務取消,不是整個平台資源耗盡或中斷。
實驗性 MCP 任務處理器越過用戶端工作階段擁有權;預設 ID 修補不代表自訂儲存區也已隔離。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Exercise · 2026-08-02
微軟的 AI 紅隊針對一項內部 Azure 服務進行紅隊演練,目標是讓該服務中斷。這次行動同時用上了傳統的 ATT&CK 企業環境手法,例如找出可用的有效帳號、把資料外傳,並在其中穿插了對抗式機器學習專屬的步驟,包括離線與線上的規避樣本。
關聯理由: 紅隊案例結合傳統入侵及對抗 ML,不推論其他未述機制。 此處對應「可用性濫用」:攻擊者透過資源耗盡、效能下降或服務中斷,妨礙合法使用者使用 AI 模型、agent 或服務。
紅隊案例結合傳統入侵及對抗 ML,不推論其他未述機制。
SecureFlow · 閱讀完整案例 ↗
Incident · 2026-07-02
Zenity 的 honeypot(誘捕式偵測環境)觀察到,有攻擊者把自主 agent(可自行規劃並呼叫工具的 AI 程式)和 LLM client(呼叫大語言模型的用戶端)直接指向暴露在外的 Ollama(本機 LLM serving runtime)與 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)模型後端。這不一定需要惡意程式或主機入侵;只要模型服務連得到、沒有驗證,或只靠測試用的預設 API key 保護,就足以讓它變成攻擊者不用付錢的推理資源。
關聯理由: 濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。 此處對應「可用性濫用」:攻擊者透過資源耗盡、效能下降或服務中斷,妨礙合法使用者使用 AI 模型、agent 或服務。 濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。
濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗