Cato 在可自行架設的 AI 聊天介面 Open WebUI,驗證惡意模型端點可讓瀏覽器執行程式並外洩登入 token。受害者必須使用已啟用的 Direct Connections,端點才可透過 SSE 事件觸發程式執行(例如:惡意端點送出的 execute 事件,會把其中的程式碼交給 new Function 執行),不需要模型產生攻擊內容。只有遭冒用帳號還具備 workspace.tools 權限時,攻擊者才能進一步在後端執行 Python。
通訊事件被當成程式執行:啟用 Direct Connections 後,受害者連接攻擊者提供、相容 OpenAI API 的伺服器,再送出一般提示詞(prompt)。伺服器傳送事件(SSE,讓伺服器持續傳送訊息給瀏覽器的機制)中的 execute 訊息,會進入有漏洞前端的 new Function。這是應用程式的程式碼注入,不是已證實的提示詞注入攻擊(prompt injection,利用不可信內容讓模型改變行為)。