AI SECURITY CASES × FRAMEWORKS
ML09:2023 · 輸出完整性攻擊
閱讀 OWASP ML Top 10 (2023) 中 ML09:2023「輸出完整性攻擊」相關的 2 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。
風險分類說明
攻擊者竄改或替換模型的輸出,使使用者或下游系統收到的結果失去完整性。竄改可能發生在模型產生結果之後,到介面顯示或應用程式使用結果之前的傳遞過程中。例如,醫療模型的診斷結果遭修改後,醫院可能據此採取錯誤處置,即使模型原本產生的是另一個結果。
框架官方來源 ↗ · 開啟互動探索 ↗
Validated Research ·
NVISO Labs 研究員 Tanguy Snoeck 揭露了一項影響 LiteLLM(用來統一串接與轉送多個語言模型 API 的代理閘道)的語意快取漏洞,公開資安漏洞識別編號為 CVE-2026-89032;這個問題在 v1.99.0 的受控環境獲得驗證,並已在 v1.101.0-rc.1 修補。相較於一般精確快取需要提示詞完全一模一樣才會命中,「語意快取(semantic cache)」會把提問轉成代表語意的向量嵌入(embeddings),只要後續提問的語意夠相近,就直接重用先前的模型輸出。照設計,LiteLLM 應該按 API 金鑰把快取空間分開,但在受影響版本開啟 redis-semantic 且透過 /v1/responses 呼叫時,不同 API 金鑰的請求卻會讀寫到同一區。研究團隊把相似度門檻設為 0.2 以便觀察命中,成功驗證了四種跨使用者後果:讓其他使用者讀到含測試個資的客服摘要、收到虛構的 449.99 美元促銷價、在設定成免人工核准的模擬 MCP 銀行執行非預期的轉帳(原本要求轉 50 美元,實際送給模擬工具的卻變成先前快取的 1,000 美元且收款對象也不同),以及在 pi 程式開發 Agent(v0.45.3)觸發本機 Shell 執行等狀況。
關聯理由: 前一次互動留下的快取項目替換了這次請求應收到的答案或工具呼叫。
下游影響分別來自四個各自設有前提的受控情境,共通起點是有問題的快取區隔。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident ·
第三方 LLM API 路由器表面上只是幫 agent 轉接不同模型,但它其實站在 agent 和上游模型中間。提示詞、工具定義、API key 和工具呼叫的 JSON 內容,都會先經過這一層。 所以如果路由器本身是惡意的,或後來遭到入侵,攻擊者不一定要破解模型;他可以直接在中途改掉工具參數,讓 agent 執行不同指令(例如:論文示範把 Bash 工具原本要下載的正常安裝腳本網址,換成攻擊者腳本的網址;工具名稱和 JSON 格式都不用改),也可以偷走傳輸中的 secrets。因此,路由器選擇、路由政策、工具執行前檢查和請求記錄,都應該一起納入 agent 供應鏈治理。
關聯理由: 不受信任 router 在推論後竄改工具 JSON 或讀取流經資料。 此處對應「輸出完整性攻擊」:攻擊者竄改或替換模型的輸出,使使用者或下游系統收到的結果失去完整性。
不受信任 router 在推論後竄改工具 JSON 或讀取流經資料。
AIA · 閱讀完整案例 ↗