AIDEFEND in Action AIA-0148 實證研究

LiteLLM CVE-2026-89032:語意快取隔離失效導致跨使用者個資外洩與工具呼叫投毒

NVISO Labs 研究員 Tanguy Snoeck 揭露了一項影響 LiteLLM(用來統一串接與轉送多個語言模型 API 的代理閘道)的語意快取漏洞,公開資安漏洞識別編號為 CVE-2026-89032;這個問題在 v1.99.0 的受控環境獲得驗證,並已在 v1.101.0-rc.1 修補。相較於一般精確快取需要提示詞完全一模一樣才會命中,「語意快取(semantic cache)」會把提問轉成代表語意的向量嵌入(embeddings),只要後續提問的語意夠相近,就直接重用先前的模型輸出。照設計,LiteLLM 應該按 API 金鑰把快取空間分開,但在受影響版本開啟 redis-semantic 且透過 /v1/responses 呼叫時,不同 API 金鑰的請求卻會讀寫到同一區。研究團隊把相似度門檻設為 0.2 以便觀察命中,成功驗證了四種跨使用者後果:讓其他使用者讀到含測試個資的客服摘要、收到虛構的 449.99 美元促銷價、在設定成免人工核准的模擬 MCP 銀行執行非預期的轉帳(原本要求轉 50 美元,實際送給模擬工具的卻變成先前快取的 1,000 美元且收款對象也不同),以及在 pi 程式開發 Agent(v0.45.3)觸發本機 Shell 執行等狀況。

Privacy LeakageTool Argument TamperingSession IsolationAPI RoutersMCP Security
4 項對應的 AIDEFEND 防禦手法
來源: Breaking the Semantic Cache: A LiteLLM Case Study (CVE-2026-89032) 
作者: Tanguy Snoeck (NVISO Labs)
原文發布: 2026年11月12日

威脅分析

  • 語意快取與精確快取的差異,以及漏洞破壞的隔離邊界。為了壓低大型語言模型的延遲與 API 費用,像 LiteLLM 這類推論閘道支援 Redis 語意快取(redis-semantic),做法是把提示詞轉成表達語意特徵的向量嵌入(embeddings),只要新提問跟歷史提問的餘弦相似度跨過設定的門檻(similarity_threshold),就能直接從 Redis 拿出先前算好的模型輸出。因為快取內容可能包含特定使用者的機敏資料,正常的隔離設計會把 API 金鑰的雜湊值放進快取分區鍵。不過 NVISO 發現,在 LiteLLM v1.99.0 啟用 redis-semantic 並呼叫 /v1/responses 時,這條端點漏掉了按 API 金鑰區隔的邏輯,讓拿著不同金鑰的呼叫者讀寫進同一個快取池。官方已在 v1.101.0-rc.1 修補這項隔離缺陷。
  • 跨使用者個資外洩與虛假回應投毒。在受控實驗室環境裡,研究人員把 similarity_threshold 設成 0.2,方便觀察快取命中。第一個情境中,測試使用者 A 先請模型整理一份含姓名、聯絡資訊、帳號與地址等合成個資(事先產製的測試用假個資)的客服工單;結果使用另一把金鑰的使用者 B 只要提出語意相近的查詢,閘道就把前面那份個資摘要回傳過來。第二個情境則是把一筆虛構的 449.99 美元促銷價先存進共用快取,後續其他使用者詢問該商品時,只要相似度過關就會拿到這份假價格資訊。要注意的是,調高相似度門檻只會改變命中的頻率,無法取代 API 金鑰邊界的身分隔離。
  • 快取裡的工具呼叫如何引發異常轉帳與 Shell 執行。/v1/responses 存下來的快取內容不只包含純文字,也涵蓋結構化的工具呼叫(tool call)。第一個工具測試搭配了共用的模擬銀行 MCP 伺服器 mock-bank,其轉帳工具 send_transaction 被設為免人工核准;當第二位測試使用者要求轉帳 50 美元給朋友時,快取卻回傳另一位使用者先前產生的 1,000 美元、收款對象也完全不同的轉帳指令,模擬銀行便照單執行了非預期的轉帳。另一個實驗測試支援 /v1/responses 的 pi 程式開發 Agent(v0.45.3):pi 接到快取傳回的 bash 工具呼叫後,研究人員在測試工作站上也觀察到了對應的 Shell 執行。這兩種後果各自取決於下游元件有多信任快取交回來的工具指令。

適用的 4 項 AIDEFEND 防禦手法

AID-H-003.010
Deployed AI Software Vulnerability Remediation Lifecycle
極高
將所有 LiteLLM Proxy 部署升級至 v1.101.0-rc.1 或包含 CVE-2026-89032 修補的後續正式版本,確保 /v1/responses(openai-responses)與 /v1/chat/completions 一樣強制執行依 API 金鑰隔離的快取分區。部署後須核對所有執行副本的實際套件版本,並以兩組不同的 API 金鑰實測,確認金鑰 A 寫入的語意快取絕不會回傳給金鑰 B。
AID-H-027
Inference Cache Integrity, Partitioning & Safe Reuse
極高
在推論閘道層級,把每一筆精確快取與語意快取的查詢和寫入索引鍵,強制綁定到已驗證的租戶、呼叫者/API 金鑰身分、工作階段範圍、模型版本、系統提示詞雜湊值與工具定義;只要請求帶有個人機敏資料,或可能觸發狀態變更工具(如 mcp、bash、function_call),就直接關閉語意快取。就算後端讓多名終端使用者共用同一把服務 API 金鑰,語意快取也絕不能把別人的私人客服工單或先前快取的工具呼叫指令丟回給另一位使用者。 把快取裡的推論回應裝進帶驗證保護的封套(authenticated envelope)中,把內容和確切的租戶、呼叫者身分及工具政策雜湊值綁定起來;讀出時一旦發現缺少隔離中繼資料或跟這次呼叫者對不上,就一律當成快取未命中並拒絕回傳。 封住不安全的查詢路徑後,在重新放進流量前,讓受影響的快取讀寫端一起切換到新的授權與分區世代。逐一確認所有閘道都已切換生效,舊版項目再也無法被命中;如果現有架構不支援這種切換,就要先把快取保持關閉,直到確認舊分區已經無法存取為止。
AID-H-017.002
Least-Privilege Tool Architecture
極高
Pi 只用來審查程式碼時,讓受管的啟動程序只提供必要的讀取與搜尋工具。移除 Bash,也別載入能執行命令的擴充功能或 MCP 工具。派送器找不到 Shell 工具時,即使快取回傳了原研究裡的那類工具呼叫,也無法執行。
AID-H-018.003
High-Impact Independent Validation & Approval Gate
高
對 MCP 轉帳或 pi 執行 shell 命令等高影響操作,要在真正執行動作前做獨立驗證並要求核准。讓有權核准的人看到確切的收款帳號、金額與幣別,或即將執行的完整 shell 命令,並將核准綁定到這次動作。高影響的 MCP 工具須啟用核准,交易服務或程式開發 Agent 的執行端也要驗證簽署的決定及獨立複核憑證,通過後才執行。

身為資安防禦者,我們應該這麼做

  • 升級 LiteLLM,並確保修補前的語意快取再也讀不到。把所有提供服務的 LiteLLM 執行個體升級到 v1.101.0-rc.1 或包含修補的後續版本,逐一核對每個線上執行個體確實已經換成新版本,再用兩組不同的測試金鑰實測,確認兩邊絕不會拿到同一份快取資料。若原先已有舊索引或共用命名空間,務必停用舊的讀取路徑,或在支援時切換到全新的快取命名空間世代。
  • 將快取綁定到終端使用者,對機敏資料與工具呼叫停用語意快取。如果企業後端讓多個終端使用者共用同一把 LiteLLM 服務金鑰,光靠「按 API 金鑰隔離」還不夠,必須在推論閘道端把真正的租戶、終端使用者與工作階段身分都綁進快取索引鍵,同時驗證快取結果的隔離資訊、完整性與適用的工具政策。語意快取應限縮在可以安全重用的公開回覆,只要請求帶有私密資料或會觸發狀態變更的工具呼叫,就一律停用語意快取。
  • 在真正執行轉帳或系統命令前,核對使用者、目標與核准內容。涉及匯款、改寫檔案或跑命令的下游工具,必須在執行點重新驗證這次呼叫者的權限與操作參數,不能拿快取裡的指令當授權。如果要經人工核准,畫面上一定要把實際的收款對象、金額或完整命令秀清楚;收到閘道傳回的工具呼叫後,也要比對是否符合使用者這一次提出的請求。

結論

NVISO 的研究點出一項常被忽略的事實:推論快取本身就是一道關鍵的資安邊界。一旦語意快取的分區隔離失效,原本用來省錢提速的相似度比對,反而會把甲的個資或工具指令送給乙。AIDEFEND  將防禦分別對應到修補版本與舊快取失效處理、快取的身分及政策綁定,以及下游工具執行前的權限查驗。

最後更新: