AIDEFEND in Action AIA-0131 實證研究

LiteLLM 漏洞:Azure 憑證覆寫讓錯誤訊息吐出伺服器 secrets

LiteLLM Proxy 的一項漏洞讓已登入的呼叫者,能在一般推論請求裡直接覆寫 Azure Entra 憑證參數。伺服器端的環境變數參照會先被解析成無效的 Entra 應用程式識別碼,再隨著上游驗證錯誤原封不動回傳給呼叫者(例如:公告以 client_id 參照 LITELLM_MASTER_KEY 為例;Entra 把解析出來的機密字串當成不存在的應用程式識別碼拒絕,錯誤訊息卻直接把該值帶回給前端)。這條路徑成立的前提是呼叫者可以使用 azure/ 或 azure_ai/ 模型,而且伺服器沒有設定公告點名的兩個 Azure API 金鑰環境變數。一旦外洩的是 Proxy 主金鑰,攻擊者就可能取得完整 Proxy 管理權;不過公開來源並未通報有客戶實際遭到接管。

Credential TheftPrivacy LeakageCredential GovernanceAI Infrastructure
4 項對應的 AIDEFEND 防禦手法

威脅分析

  • 一般推論呼叫者越界改寫憑證設定:漏洞發生在聊天與圖片請求都能送入原本應該由伺服器掌控的 Azure Entra 憑證欄位。請求本文的封鎖清單漏掉了這幾個欄位,導致呼叫者可以覆寫伺服器端設定。
  • 錯誤診斷訊息變成機密回傳通道:在認證真正失敗前,伺服器已經先把環境變數參照解析成實際內容;Entra 發現這不是合法的應用程式識別碼而拒絕請求,Proxy 卻把夾帶該解析值的上游錯誤直接轉送出去。這純粹是機密解析與錯誤處理問題,跟語言模型遭越獄沒有關係。
  • 是否暴露取決於部署設定:呼叫者必須能存取 azure/ 或 azure_ai/ 模型,且環境裡沒有設定 AZURE_API_KEY 與 AZURE_OPENAI_API_KEY。可被解析的環境變數或參照檔案裡可能包含 Proxy 主金鑰;只有拿到這類高權限憑證,才可能進一步造成管理權接管。

適用的 4 項 AIDEFEND 防禦手法

AID-H-003.010
Deployed AI Software Vulnerability Remediation Lifecycle
極高
把所有 Proxy 副本更新到對應的修補分支:1.106.9、1.108.6、1.109.1 或 1.110.0-rc.2,或已包含修正的受支援版本。檢查時要核對真正執行中的套件版本,不能只看容器映像標籤;更新後到可拋棄的測試環境放入合成標記環境變數,確認未授權的憑證欄位無法進到 Azure 驗證路徑。
AID-H-002.002
Inference-Time Prompt & Input Validation
極高
在無法繞過的流量入口,採用符合供應商介面的嚴格欄位白名單結構來解析請求,在資料進到 LiteLLM 前就先拒絕那六個憑證欄位,確保憑證只來自可信的伺服器設定。檢查範圍必須同時覆蓋聊天與圖片路由、重複 JSON 鍵值的解析歧義,以及能繞過入口的後端連線路徑。注意業者提供的六欄位黑名單只是暫時止血措施,完整防線還是要收斂成只允許明確核准的推論欄位,避免任意轉送額外參數。
AID-E-001.001
Root & Long-Lived Credential Object Eviction
高
只要確認機密曾經暴露或無法排除暴露風險,就應盤點所有實際可被解析到的憑證,分別到對應的簽發端或驗證端使其失效。若是 Proxy 主金鑰外洩,必須更新所有接收該金鑰的副本並實測舊值遭拒;若是供應商或資料庫憑證,則在各自權限系統撤銷後,確認所有使用端都已改用新憑證。只改掉某一個環境變數,並不等於完成撤銷。
AID-H-032.003
Inference Telemetry & Debug Surface Restriction
中
Proxy 維護者可以把對外回傳的錯誤訊息限縮成核准的錯誤代碼與關聯識別碼,不讓上游的原始驗證錯誤進到用戶端回應或未受保護的日誌裡,並把這項規則寫進正式環境規範直接實測錯誤路徑。如果產品沒有等效設定,就必須修改錯誤處理或介接程式並驗證生效;光把 debug 旗標關掉並不能證明不會洩漏。

身為資安防禦者,我們應該這麼做

  • 升級到對應版本的已修補分支,並逐一核對每個執行中的 Proxy 副本;還沒升級前,先在呼叫者無法繞過的閘道層,照業者建議把請求本文中的六個憑證欄位全部擋掉。
  • 把驗證資料嚴格留在伺服器端控管:在供應商憑證解析流程啟動前就先驗證完整請求結構,並對外以核准的診斷代碼取代原始驗證錯誤。修補後要用無害的合成測試值分別驗證聊天與圖片端點。
  • 如果確認機密已經外洩,或無法合理排除暴露可能,應立刻到實際負責驗證憑證的端點撤銷受影響金鑰,並確認所有節點都已經拒絕舊金鑰;同時檢視可得的存取紀錄,但不能把這份漏洞公告當成客戶已被入侵的證明。

結論

AIDEFEND  把這起風險拆解到四個控制點:已部署軟體修補、嚴格的推論輸入白名單驗證、對外診斷內容管制,以及依證據範圍徹底撤銷憑證,各自處理機密解析與錯誤回傳鏈上的不同環節。

最後更新: