AIDEFEND in Action AIA-0125 實證研究

Open WebUI 直接連線漏洞:竊取登入 token 並濫用後端工具

Cato 在可自行架設的 AI 聊天介面 Open WebUI,驗證惡意模型端點可讓瀏覽器執行程式並外洩登入 token。受害者必須使用已啟用的 Direct Connections,端點才可透過 SSE 事件觸發程式執行(例如:惡意端點送出的 execute 事件,會把其中的程式碼交給 new Function 執行),不需要模型產生攻擊內容。只有遭冒用帳號還具備 workspace.tools 權限時,攻擊者才能進一步在後端執行 Python。

Credential ExposureRemote Code ExecutionRuntime IsolationAI Infrastructure
6 項對應的 AIDEFEND 防禦手法

威脅分析

  • 通訊事件被當成程式執行:啟用 Direct Connections 後,受害者連接攻擊者提供、相容 OpenAI API 的伺服器,再送出一般提示詞(prompt)。伺服器傳送事件(SSE,讓伺服器持續傳送訊息給瀏覽器的機制)中的 execute 訊息,會進入有漏洞前端的 new Function。這是應用程式的程式碼注入,不是已證實的提示詞注入攻擊(prompt injection,利用不可信內容讓模型改變行為)。
  • 竊取 token 與後端 RCE 是兩件事:在相同網站來源執行的 JavaScript,會讀取 localStorage.token 並送出登入 JWT;JWT 是應用程式驗證請求身分使用的已簽署 token。重送它可取得受害者原有帳號權限。Cato 示範的後端 Tools 路徑,還需要 workspace.tools;竊得一般使用者 token,不會自動取得該權限或管理者身分。
  • 研究性質與版本:業者與 Cato 將漏洞標為 CVE-2025-64496;CVE 是公開資安漏洞的識別編號。0.6.34(含)以前版本受影響,0.6.35 已修正。Direct Connections 預設關閉。目前來源建立的是受控驗證結果,尚未建立惡意實際利用的證據。

適用的 6 項 AIDEFEND 防禦手法

AID-H-003.010
Deployed AI Software Vulnerability Remediation Lifecycle
極高
應用程式管理者須把仍受支援的修補版部署到所有副本與前端資源散布位置。歷史修正版是 0.6.35,會阻擋 Direct Connections 傳來的 execute 事件。以受控模擬端點回傳無害的執行標記,確認標記沒有被執行,而一般文字串流仍正常。核對實際提供的前端資源與執行版本;只換一個後端容器,可能仍留下舊前端程式。
AID-H-004.001
User & Privileged Access Management
高
Open WebUI 管理者可移除一般使用者的 workspace.tools 權限,再以非管理者測試帳號,確認伺服器會拒絕建立 Tool。群組覆寫與高權限、管理者路徑要另外檢查。這能阻擋受限身分利用遭竊 token 進入 Tools 的示範路徑,無法阻止瀏覽器 JavaScript、token 竊取或原本獲准的聊天資料存取。應使用原生權限檢查;框架中的 OPA 範例不會自動整合進 Open WebUI。
AID-I-001.001
Container-Based Isolation
高
自行架設時,平台管理者可讓後端以非 root 身分執行、只保留必要掛載、移除 Docker socket 與多餘能力。以一次性環境中的無害 Tool 測試,確認設定實際生效且主機寫入遭拒絕。這能限制 Tools 執行後可接觸的主機範圍;容器無法保護後端正常作業需要掛載的資料庫或憑證,也不會隔離受害者的瀏覽器。
AID-E-001.002
Issued Token, Authentication Session & Lease Revocation
高
token 暴露後,具有權限的管理者可在支援官方資料庫撤銷機制的版本,對受影響帳號執行 Sign out all devices。以安全保留的測試 token 對每個副本驗證請求遭拒絕,再確認正常重新登入與即時連線關閉。目前文件說明,整個帳號登出不需要 Redis;單一工作階段登出則有不同的 Redis 前提及失敗時仍放行的限制。API 金鑰須另外刪除或重新產生。應確認實際版本有此能力,不能推定受影響的舊版已支援。
AID-E-002
AI Runtime Process, Lease & Pod Eviction
高
保存證據並隔離受影響環境後,具權限的受管 Linux 主機管理者可終止執行 Tool 的 Open WebUI 後端與子程序,且只適用於已發生有條件後端執行的情況。核准清單須綁定主機、PID 命名空間、啟動時間、執行檔身分與 cgroup 成員,透過 pidfd 終止程序、禁止自動重啟,再由使用獨立憑證的驗證者完整確認程序已不存在。終止命令成功,或找不到原本的程序名稱,都不足以證明清除。若主機已遭取得 root 權限,須從可信任的外部或復原環境驗證,否則保留為未確認。這是入侵後應變,仍須另外修補、移除惡意檔案,並撤銷已暴露的憑證。
AID-E-005
Compromised Durable Application Session & Agent State Teardown
高
若攻擊者已建立後端 Tool,先暫停 Tool 建立、修改與使用,保存確切 ID、內容及版本,再透過會核對版本的維護流程移除登錄。Open WebUI 提供具權限檢查的依 ID 刪除與本機快取清除,但不代表原生具備版本條件式刪除或跨主機快取失效。須獨立核對作為工具註冊資料準據的資料庫、每個工作程序與副本快取,確認無害的呼叫已無法找到該 Tool,並在外部保留刪除標記與稽核紀錄,防止舊資料還原。檢查時避免使用會載入不可信任 Tool 模組的一般列表功能。刪除登錄不會自動停止已執行的 Python,也不會使失竊工作階段失效。

身為資安防禦者,我們應該這麼做

  • 部署包含修正、且仍受支援的版本,並核對使用者實際取得的前端資源。關閉不需要的 Direct Connections,移除不可信端點。用無害的 execute 事件測試,確認 JavaScript 標記不會執行,同時保留正常串流功能。
  • 對不需要後端程式執行能力的身分移除 workspace.tools,並檢查群組覆寫。以非管理者身分測試真正的後端 API 確實拒絕操作,管理者另行審查。後端應採非 root 與最小掛載;這些控制無法防止瀏覽器 token 外洩。
  • token 暴露後,若部署版本支援官方記載的 Sign out all devices,對該帳號執行此操作,再確認舊 token 在每個副本都遭拒絕,且可正常重新登入。目前文件說明,整個帳號的撤銷狀態存於資料庫,不需 Redis。單一工作階段登出則不同:它需要 Redis,而 Redis 無法連線時,該撤銷檢查可能仍放行 token。
  • 整個帳號登出後,API 金鑰仍有效,須另外移除或重新產生。不要隨意把輪替 WEBUI_SECRET_KEY 當成替代處置:它也用來衍生其他功能的加密金鑰,目前多因素驗證設定可能使服務在輪替後無法啟動。保存證據,另外調查惡意 Tools 與後端變更。

結論

應先修補把模型伺服器事件轉成瀏覽器程式的邊界,再限制後端 Tools 權限,並透過實際部署的驗證機制使遭竊工作階段失效。MCP 過濾器或只作用於後端的網路規則,都無法涵蓋這條瀏覽器 SSE 路徑。若已發生原生程式執行,須在支援的受管 Linux 主機上另外終止確切程序;修補或撤銷憑證不會自動停止那些程序。若攻擊者已登錄 Tool,還須另外移除持久保存的登錄與所有派送快取。

最後更新: