AID-H-032.002
極高
Cross-Tenant Serving-State Isolation
推論平台業者必須把佇列、工作程序、KV 記憶體頁面與交接流程全部綁定到經驗證的租戶與請求身分。只要拒絕、取消與狀態重用這三條路徑還沒通過隔離測試,就應先停用跨租戶狀態重用,或把流量移往獨立隔離的服務池;只在閘道層區分租戶,救不了共用工作程序內部的記憶體混用。
Cloudflare 確認,Workers AI 平台上的 GLM-5.3 模型曾有 155 次回應混入其他客戶的請求資料。當時模型設定允許長達 1,048,576 個 token 的上下文,但負責提示詞前置處理(prefill)的記憶體池其實只容納得下 681,280 個 token;過長的提示詞雖然被標記為拒絕,卻還是被送進另一個負責產生回應(decode)的工作程序,結果讀到了記憶體裡尚未覆寫完的殘留 KV cache。這是一起推論服務的記憶體隔離事件,調查並未發現遭到刻意利用的證據。
最後更新: