AIDEFEND in Action AIA-0118 實際事件

Vertex AI 資源遭盜用:一小時產生約 3 萬元費用,預算通知為何擋不住

醫師兼開發者林佑儒在《數位時代》刊出的第一人稱自述中表示,他名下多個 Google Cloud 專案遭人未經授權大量呼叫 Vertex AI(Google 的託管 AI 平台,提供 Gemini 等模型與影片生成 API),一小時內產生約新台幣 3 萬元費用。他追查後發現,請求使用的是約兩週前就被建立在專案裡的陌生服務帳號(service account,供程式或服務使用的雲端身分)。Google 事後減免了大部分費用。攻擊者最初如何取得存取權,以及是否使用 AI agent,目前都還沒有確認。

Resource HijackingIdentity & AccessCredential GovernanceVertex AICloud IAM
8 項對應的 AIDEFEND 防禦手法

威脅分析

  • 被盜用的是付費模型服務。林佑儒表示,未授權請求主要呼叫 Gemini Flash 與影片生成 API,來源 IP 顯示在巴拿馬,他推測是跳板。約 3 萬元是異常帳單金額,並非減免後的最終損失。
  • 陌生服務帳號在費用暴增前兩週就已建立。依他對紀錄的描述,對方先查詢他有哪些專案,每次查詢相隔十幾分鐘;接著在主要專案裡,於 4 秒內啟用 17 個 AI 相關 API,幾分鐘後建立服務帳號,再過兩分鐘建立並下載私密金鑰。其他較少使用的專案則直接建立服務帳號。這是當事人對紀錄的解讀,原始稽核匯出檔尚未經獨立查核。
  • 服務帳號金鑰可讓攻擊者持續取得模型存取權。持有私密金鑰的人,可以用它取得存取 token(呼叫服務時用來證明身分的短期憑證),再依該帳號的權限呼叫 Vertex AI。原文沒有公開完整的 IAM(身分與存取權限管理)角色授權與 token 簽發紀錄,因此還無法確認每一條存取路徑。
  • 預算通知不會自動停止用量。他表示,費用異常警示約在大量呼叫開始一小時後寄到;原先設定的每月 50 美元預算通知,則接近中午才收到,原文估計約延遲五小時。Google 官方文件也說明,僅通知型預算不會自動停止服務或計費。他最後關閉所有帳單帳戶並撤下全部專案,請求才停下來。
  • 最初的入侵方式仍是推測。他在 Mac 上找到約八個月前建立的可疑檔案,其中一個 LaunchDaemon 設定檔(macOS 用來設定背景程式自動執行的檔案)指向一支調查時已被刪除的隱藏腳本。設定檔建立前約兩分鐘,他曾造訪疑似假冒 Claude Code 程式開發助理官網的網站。他據此懷疑電腦感染 AMOS(Atomic macOS Stealer,會竊取密碼與瀏覽器 Cookie 的 macOS 惡意程式),導致登入工作階段遭竊。不過,檔名與時間上的關聯不足以證實這條感染及入侵路徑;Huntress 的另一起 AMOS 調查也不能證明本案。攻擊者是否使用 AI agent,同樣沒有確切證據。

適用的 8 項 AIDEFEND 防禦手法

AID-H-004.002
Service & API Authentication
高
身分驗證與模型存取限制要設在 Google Cloud 本身,才能涵蓋繞過自家應用程式、直接呼叫 Vertex AI 的請求。工作負載應改採短期憑證,避免建立可下載的服務帳號金鑰,並只授予各工作負載需要的模型呼叫權限。若專案隸屬組織,還可用組織政策禁止建立新金鑰,並透過 VPC Service Controls(限制 Google Cloud 服務存取來源與路徑的安全邊界)管控支援的請求。這些限制必須由另一個受保護的管理身分維護,並實測核准的工作負載能呼叫、未授權身分或邊界外請求會被拒絕;不能讓新建的帳號自動取得模型存取權。原文未說明是否具備組織與服務邊界,採用前須先確認適用條件。
AID-H-004.001
User & Privileged Access Management
高
把日常瀏覽、寫程式的帳號與雲端管理身分分開。日常帳號不應保留不必要的 Owner/Editor 或身分管理權限;管理作業改由另行保護的帳號執行,權限只在需要時暫時授予,並留下稽核紀錄。若環境支援權限申請,也應由另一個身分核准。如此一來,只取得日常工作階段的攻擊者,就較難啟用 AI 服務、建立服務帳號與金鑰,或修改 IAM。原文未公開完整角色授權,不能據此認定當事人當時持有哪個角色。
AID-D-011.004
Non-Human Identity & Delegated Token Abuse Detection
高
把服務帳號與金鑰建立、IAM 變更、API 啟用,和供應商端的模型呼叫紀錄關聯起來,依核准的工作負載清冊核對呼叫身分、來源、模型與專案。即使請求沒經過自家程式,也要納入偵測。設定變更可查 Admin Activity(管理活動)紀錄;模型呼叫則要依實際 API 啟用所需的 Data Access(資料存取)稽核紀錄,並測試紀錄是否完整、警示是否確實送達。發現未核准的身分與用量後,再交由應變流程圍堵。
AID-E-001.003
AI Agent & Workload Principal and Issuance Disablement
高
先保存已確認未經授權建立的服務帳號的不可變識別碼、IAM 授權與稽核紀錄,再逐一停用。Google 的停用操作會拒絕該帳號現有的存取 token 與新的 token 請求,仍須實測模型呼叫與新憑證請求確實失敗。調查期間要維持停用;Google 文件指出,重新啟用帳號後,原有且尚未到期的存取 token 可能再次被接受。同時也要保護先前用來建立帳號的管理管道,移除未授權的憑證簽發權限,避免攻擊者另建替代帳號。這項處置適用於本案的雲端工作負載身分 (workload identity, 供應用程式或服務證明自己身分、取得授權的機器身分),不需要先證明有 AI agent 參與。
AID-E-001.001
Root & Long-Lived Credential Object Eviction
高
透過 Google IAM 找出攻擊者建立的服務帳號金鑰,保存金鑰識別碼與處理前後的清冊,先停用,完成必要的證據保存後再移除,阻止攻擊者繼續使用長效金鑰取得存取權。刪除金鑰不會撤銷先前取得的存取 token,因此相關服務帳號仍須維持停用,並另行驗證供應商端的阻擋結果。管理專案的人員帳號也應從乾淨裝置重設密碼;已登入的工作階段則另外檢查與終止。
AID-I-003.003
Resource, Token & Spend Budget Throttling
中
對支援的服務,在供應商端按「單一專案、單一服務」設定支出上限型預算,並確認產生費用的 API 確實在涵蓋範圍內。Google 依估算用量費用執行上限,但用量回報有延遲,已在處理中的請求也會繼續計費,因此仍可能超過設定金額;進入下個月份還會自動解除限制,不能拿它取代事件圍堵。配額則只調整該模型與 API 實際支援的項目,不要假設每個 Gemini 模型都能把專案請求配額調到零。不需要的模型存取權應直接透過 IAM 移除。這些限制都要在供應商端生效,自家程式的預算檢查管不到繞過它的呼叫。
AID-D-005.007
Token, Tool-Use, Request-Parameter & Cost Spike Detection & Alerting
中
依專案與呼叫身分監控模型請求、用量和估算費用,除了月累計門檻,也要比較短時間內的變化與平常基準。帳單及異常通知應透過測試過的管道送給能處理的人,並追蹤後續處置。Pub/Sub 是 Google Cloud 的訊息傳遞服務,不是即時的費用阻擋機制;預算訊息每天傳送數次,也可能延遲、重複或順序顛倒。若另外串接自動停用專案計費,須先評估服務中斷與資料受影響的風險;收到警示和成功停止濫用,是兩個不同的結果。
AID-E-001.002
Issued Token, Authentication Session & Lease Revocation
中
即使 Cookie 竊取尚未證實,帳號復原仍應處理可能遭冒用的登入工作階段。從乾淨裝置變更 Google 帳號密碼,檢查已登入的裝置與工作階段,並登出受影響的工作階段。Google 說明,改密碼會登出大部分工作階段,但有例外,所以改密碼有幫助,卻不能單憑這個動作判定已完全排除攻擊者。應用程式密碼與第三方授權也要另外檢查,撤銷不明存取,並確認受影響的工作階段已無法使用。可疑 Mac 處理完成前,不要再用它登入,以免憑證再次遭竊。

身為資安防禦者,我們應該這麼做

  • 先從乾淨裝置變更管理專案的 Google 帳號密碼,檢查安全性事件、裝置、登入工作階段、帳號救援設定與第三方授權,登出受影響的工作階段並撤銷不明存取。可疑 Mac 應維持斷網,完成處理前不要再用它登入。
  • 保存各專案的稽核與帳單證據,包括身分與金鑰識別碼、建立紀錄、IAM 變更、API 啟用與模型呼叫。來源提到的 Mac 可疑檔案也應保留,不要執行;有沒有這些檔案,都不能單獨判定感染情況。
  • 先確認陌生服務帳號的來源,再停用已確認未獲授權的身分與憑證簽發管道,並停用、移除攻擊者建立的金鑰。保存證據後,驗證既有憑證與新的 token 請求都無法存取模型,也要處理能重新建立存取權的管理管道。
  • 移除不必要的常駐 Owner/Editor 與憑證管理權限,將日常工作和另行保護的暫時管理權限分開;工作負載改用短期憑證。隸屬組織的專案可再評估禁止建立新服務帳號金鑰,並以 VPC Service Controls 管控支援的存取路徑。
  • 依實際 API 啟用並測試模型呼叫稽核,與身分變更關聯,也要測試警示能否送達。支出上限只套用到支援的服務,確認涵蓋範圍與阻擋效果;配額則依各模型實際提供的項目調整。若要自動停用計費,先評估服務與資料影響,也不要把它當成不會超額的保證。

1 個額外的防禦考量

個人電腦的鑑識與可信復原

除了處理雲端憑證,還要獨立檢查用來登入帳號的個人電腦,並依可信的端點復原程序完成清理。單次防毒掃描不足以證明電腦已安全到可以重新登入帳號。
建議做法: 保留稽核匯出檔與可疑檔案,交由具備鑑識能力的人員分析。可疑 Mac 應先斷網,不要執行檔案;完成端點清除,必要時以可信來源重灌後,再用它登入帳號。

結論

這起自述事件顯示,即使設了預算通知,雲端存取權遭盜用後,攻擊者仍可能持續呼叫模型、累積費用。團隊可參考 AIDEFEND  對應的防禦手法,在供應商端落實工作負載身分驗證與存取限制,將管理權限與日常帳號分開,並關聯身分變更和模型用量。事發後則分別處理服務帳號、金鑰與登入工作階段。支出上限能協助限制支援的服務,但仍須確認涵蓋範圍與延遲;從 AMOS 感染到雲端入侵的完整過程,以及攻擊者是否使用 agent,目前都尚未證實。

最後更新: