Incident ·
Google 威脅情資團隊(GTIG)與 Mandiant 彙整 2026 年在北美、南美與亞太地區處理的多起第一線事件應變調查,揭露了 LLMJacking(大型語言模型算力劫持)的常見手法,以及下游如何把盜來的推論額度包裝轉售。在部分案件中,受害組織單日遭盜刷的雲端 LLM 費用就超過 10 萬美元。不同案件採用的入侵入口各異,包括外洩的雲端或模型金鑰、對外開放的 Ollama 服務,以及 UNC6993 的工作階段釣魚。進入受影響的雲端環境後,有些案件的攻擊者會清查模型配額、從資料倉儲中繼資料裡翻找資料庫密碼,或冒用服務帳號讀取雲端機密。GTIG 另記錄到後續攻擊群組取得已驗證可用的 LiteLLM 虛擬金鑰後,提升 AI 閘道管理權限的案例。GTIG 引用的 CVE(公開資安漏洞的識別編號)在原廠公告中指向另一項漏洞;v1.83.14-stable 雖已包含該 CVE 的修補,重發金鑰時仍缺少變更所有權的授權檢查,這項修補另納入 v1.84.0。在另一個涉及「LLM 混幣器」Jet Night 的案件中,這套轉送服務在不到八小時內發出超過 50 萬次模型呼叫,讓單一家受害組織承擔近 100 萬美元的帳單;報告另也記錄了把受害帳號切到隨用隨付方案、反覆更換短效服務帳號的案例,以及在受害環境部署反向代理、使用 Manus Agent 框架建立容器化後門的案件。這些都是公開報告中各自記錄的獨立案例,並非同一起攻擊事件。
關聯理由: GTIG 記錄了未經授權的大規模用量。僅 Jet Night 案,不到八小時超過 50 萬次請求,就產生約 100 萬美元的費用。
各種行為須回到有證據的個別案件。金鑰重發的通報與原廠公告中的漏洞編號各有來源,不能視為相同漏洞。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · · 實務關聯
Railway 是一個應用程式部署平台。業者通報,攻擊者在 10 月 20 日突破建置環境的部分檔案系統隔離並取得建置憑證,再用它連上用來調度工作流程的 Temporal 服務,同時竊取了內部程式碼儲存庫。第一條路徑封閉後,錯誤的 OIDC 身分聯邦綁定又讓攻擊者換取雲端權限,取得正式環境憑證並解密客戶變數。最多約有 1.85% 工作區的變數可能遭解密;這只是影響上限,不代表每個變數都已被竊走。業者另觀察到外洩的 AI 金鑰已在外部遭到濫用。
關聯理由: 遭竊 AI 憑證在 Railway 外遭使用,產生大量未授權 AI 服務費用。 入口是一般代管平台入侵,不是 LLM 提示詞利用;通報費用屬估計,後續金鑰使用者也不全是原始入侵者。
AI 關聯來自外洩憑證與後續 AI 服務濫用;原始平台入口不是 LLM 漏洞利用。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident ·
醫師兼開發者林佑儒在《數位時代》刊出的第一人稱自述中表示,他名下多個 Google Cloud 專案遭人未經授權大量呼叫 Vertex AI(Google 的託管 AI 平台,提供 Gemini 等模型與影片生成 API),一小時內產生約新台幣 3 萬元費用。他追查後發現,請求使用的是約兩週前就被建立在專案裡的陌生服務帳號(service account,供程式或服務使用的雲端身分)。Google 事後減免了大部分費用。攻擊者最初如何取得存取權,以及是否使用 AI agent,目前都還沒有確認。
關聯理由: 當事人表示,未授權的 Gemini Flash 與影片生成呼叫在一小時內產生約新台幣 3 萬元費用。僅通知型預算未阻止付費模型用量持續增加,直接對應資源消耗造成的財務影響;沒有據此推論服務已中斷、存在經最佳化的耗能輸入,或發生 agent 迴圈。
本案是當事人自述的 Google Cloud AI 資源盜用事件,對應範圍限於付費模型用量、未授權雲端管理操作與推理 API 存取。MAESTRO 的實務關聯僅限基礎設施資源盜用,不代表已證實存在 agent 執行環境。
AIA · 閱讀完整案例 ↗
Incident ·
NSA、CISA 與 FBI 在 2026 年 9 月聯合公告中,將協同蒸餾活動歸因於六家中國 AI 公司。公告描述假帳號、大量購買訂閱、灰色市場代理、跨供應商路由、移除請求中的組織資訊,以及企圖取得隱藏推理的提示詞,接著把回覆蒐集成資料並檢查品質。蒸餾是用其他模型的輸出訓練自己的模型;歸因與能力影響在此保留為三個機關的調查研判,不能寫成我們已獨立重現量測,也不代表模型權重遭竊取。
關聯理由: 在NSA、CISA 與 FBI 歸因的活動中,行動者把反覆推論分散到不同帳號路徑,取得可用於複製能力的輸出。
NSA、CISA 與 FBI 歸因的活動;區分能力蒸餾與竊取原始權重。歸因與能力結果維持為機關研判;隱藏推理提示詞是嘗試,不能證明回傳文字就是內部軌跡,也不推定自主 agent 部署。
SecureFlow · 閱讀完整案例 ↗
Incident ·
Google 表示,有行動者使用失竊憑證、假帳號與代理伺服器,大量蒐集模型回覆進行蒸餾,也就是拿一個模型的輸出訓練另一個模型。2026 年 2 月報告中的推理能力蒐集活動超過 10 萬個提示詞,後續部分活動更超過一億個。這些數字代表查詢規模,不能寫成模型權重已遭竊取或能力複製的成功率。Google 表示已封鎖相關帳號,並降低蒐集所得輸出的利用價值。
關聯理由: 在Google 的失竊及假帳號活動中,行動者把反覆推論分散到不同帳號路徑,取得可用於複製能力的輸出。
Google 的失竊及假帳號活動;區分能力蒸餾與竊取原始權重。提示詞總量代表蒐集規模,不是複製成功率或取得的模型權重;未建立自主 agent 部署或受保護推理已取回的證據。
SecureFlow · 閱讀完整案例 ↗
Incident ·
Anthropic 將約 24,000 個假帳號、超過 1,600 萬次互動的蒸餾活動,歸因於 DeepSeek、Moonshot AI 與 MiniMax。流程分開呈現代理存取、帳號驗證、分散路由、取得推論回覆及後續模型訓練。供應商端的威脅調查與經驗證限制,須在輸出送出前作用;缺少防護的模型可能造成哪些傷害,維持為 Anthropic 的風險研判,不能當成已觀察到的下游受害者統計。
關聯理由: 在Anthropic 報告的 DeepSeek、Moonshot AI 與 MiniMax 活動中,行動者把反覆推論分散到不同帳號路徑,取得可用於複製能力的輸出。
Anthropic 報告的 DeepSeek、Moonshot AI 與 MiniMax 活動;區分能力蒸餾與竊取原始權重。約 24,000 個帳號與 1,600 萬次互動,不是取回權重或已觀察下游傷害的數量;潛在傷害維持為 Anthropic 研判,未建立 agent 部署。
SecureFlow · 閱讀完整案例 ↗
Incident ·
Sysdig 觀察到攻擊者用失竊雲端憑證,探測託管 LLM 的存取權與記錄設定,再以反向代理轉供可能被轉售的模型存取。初始漏洞、持有憑證、準備工具與實際呼叫供應商,是不同步驟;流程保留使用服務前的平行準備。每日費用是可能風險的估算,防禦則落在供應商原生 IAM 與完整呼叫紀錄,涵蓋繞過應用程式代理的直接呼叫。
關聯理由: 失竊雲端憑證被用於 LLM 代理轉售與費用濫用。 此處對應「無限制的資源耗用」:LLM 應用若沒有適當限制資源使用,攻擊者就可能透過大量或高消耗的推論,造成費用暴增、服務中斷,甚至利用大量查詢來複製模型功能。
失竊雲端憑證被用於 LLM 代理轉售與費用濫用。
SecureFlow · 閱讀完整案例 ↗
Validated Research ·
公開的 Streamlit 應用程式 MathGPT(https://mathgpt.streamlit.app/),會用大型語言模型(LLM)GPT-3 來回答使用者提出的數學問題。 近期的研究與實驗顯示,GPT-3 這類 LLM 直接做精確數學運算時表現並不好;不過只要改成請它產生可以解題的可執行程式碼,答案就會準確得多。在 MathGPT 這個應用程式中,GPT-3 的工作就是把使用者的自然語言問題,轉成 Python 程式碼,接著再實際執行。運算完成後,執行過的程式碼與答案會一起顯示給使用者。 有些 LLM 會受到提示詞注入攻擊影響,也就是惡意的使用者輸入,會讓模型做出非預期的行為。在這起事件中,攻擊者嘗試了好幾種覆寫提示詞的做法,最後產生出來的程式碼,讓他取得了應用程式主機的系統環境變數與該應用程式的 GPT-3 API 金鑰,同時也發動了一次阻斷服務攻擊。結果,攻擊者原本可以耗光這個應用程式的 API 查詢額度,或直接把服務打掛。 在把這些攻擊手法與結果揭露給 MathGPT 與 Streamlit 團隊之後,兩邊都採取了緩解措施,包括過濾特定提示詞,以及輪替 API 金鑰。
關聯理由: MathGPT 直接執行模型產生的 Python,研究取得 API 金鑰並展示 DoS。 此處對應「無限制的資源耗用」:LLM 應用若沒有適當限制資源使用,攻擊者就可能透過大量或高消耗的推論,造成費用暴增、服務中斷,甚至利用大量查詢來複製模型功能。
MathGPT 直接執行模型產生的 Python,研究取得 API 金鑰並展示 DoS。
SecureFlow · 閱讀完整案例 ↗
Incident ·
Zenity 的 honeypot(誘捕式偵測環境)觀察到,有攻擊者把自主 agent(可自行規劃並呼叫工具的 AI 程式)和 LLM client(呼叫大語言模型的用戶端)直接指向暴露在外的 Ollama(本機 LLM serving runtime)與 LiteLLM(用來集中轉接 LLM 請求的 AI 閘道)模型後端。這不一定需要惡意程式或主機入侵;只要模型服務連得到、沒有驗證,或只靠測試用的預設 API key 保護,就足以讓它變成攻擊者不用付錢的推理資源。
關聯理由: 濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。 此處對應「無限制的資源耗用」:LLM 應用若沒有適當限制資源使用,攻擊者就可能透過大量或高消耗的推論,造成費用暴增、服務中斷,甚至利用大量查詢來複製模型功能。 濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。
濫用對外暴露的 LLM 服務;三個操作者的目的及結果不同。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗