AIDEFEND in Action AIA-0136 實證研究

ChatGPT Lockdown 繞過:HTML 預覽裡的彈出視窗越過對外連線邊界

資安團隊 Check Point 示範了 ChatGPT HTML 預覽功能中的彈出視窗逃逸手法,成功繞過 Lockdown 模式的對外限制。攻擊者在預覽裡新建立的內層 iframe 會自帶一個沒有被覆寫的新開窗函式(如 window.open),配合當時外層過寬的沙盒(sandbox)權限,就能讓開出來的新視窗脫離原本的隔離限制。研究指出,以 Electron 框架打包的桌面版 ChatGPT Classic 甚至存在不需使用者點擊的路徑,一般瀏覽器則通常仍需要點擊一次;至於進一步的網路釣魚或惡意檔案下載,還得看使用者有沒有進行後續操作。OpenAI 表示已於 9 月 18 日修補這個問題,研究人員也複測確認原本的手法已經失效。

Guardrail BypassData ExfiltrationSocial EngineeringClient SecurityWeb Security
3 項對應的 AIDEFEND 防禦手法

威脅分析

  • 真正失守的防線在提示詞之下:HTML 預覽腳本雖然覆寫了原本頁面的開窗函式,但只要再建立一個新的內層 iframe,裡頭就會暴露出一份未被覆寫的原生函式;加上外層沙盒權限設定得太寬鬆,彈出來的新視窗便能直接脫離沙盒限制。
  • 不同用戶端的操作門檻影響危害程度:受測的 Electron 版 ChatGPT Classic 可以不需任何點擊就直接開窗;一般瀏覽器大多需要使用者先點一下,Classic 裡的假更新下載也仍須使用者再次點擊確認。就算跳出釣魚視窗,也還要受害者自己輸入帳密才算失竊,檔案下載成功也不等於已經執行。
  • 這起揭露已包含廠商修補與複測確認:研究人員指出 OpenAI 已於 9 月 18 日拿掉外層框架的寬鬆彈窗權限,實際複測確認原本手法再也打不通;此外,整份研究並未示範竊取父層來源的 cookie 或 localStorage。

適用的 3 項 AIDEFEND 防禦手法

AID-H-003.010
Deployed AI Software Vulnerability Remediation Lifecycle
極高
供應商必須把修正後的外層框架沙盒政策部署到每一個預覽功能與用戶端版本,並從執行時期實際讀回確認權限已生效。研究人員已證實那兩項過寬的彈窗權限被移除、修補後也無法重現;驗證時除了確認內層框架再也開不出脫逃視窗,也要確認正常的預覽功能依然可用。由於公開來源未提供明確的用戶端建置編號,使用者能做的是維持在受支援的最新版本。
AID-H-006.002
Text, Markup & Structured Output Sanitization and Release Gate
極高
針對根本不需要執行腳本的輸出管道,供應商或自建 AI 助理可在最後的 HTML 輸出點直接把生成程式碼編碼成純文字顯示,讓所有這類管道強制經過編碼器、碰到未知輸出點就直接拒絕;這樣就能避免腳本變成可執行標記,代價則是主動預覽會改為靜態純文字呈現。若確實需要受限的互動輸出管道,顯示前就必須移除主動框架與遠端抓取介面、關閉自動預覽並強制隔離來源,再從真實瀏覽器獨立觀察是否有對外連線,覆蓋巢狀框架、彈窗、導覽嘗試與兩種用戶端操作條件。注意範例清理器只提供不執行腳本的渲染模式,如果要保留任意 JavaScript 執行,仍必須仰賴修補過的供應商沙盒,不能只測清理器就宣稱安全。
AID-R-004
Fleet Remediation Propagation & Technical Recurrence Prevention
中
供應商應保留一套無害的自動化回歸測試集,涵蓋內層框架取回原生開窗函式、Electron 免操作彈窗、一般瀏覽器點擊路徑、偽裝網址導覽與檔案下載處理。每次用戶端或渲染器改版後,都要用不含真實憑證的合成標記資料同時測試安全邊界與正常預覽功能,並把用戶端版本、執行環境資訊與獨立觀察到的網路和視窗行為一起留存紀錄。

身為資安防禦者,我們應該這麼做

  • AI 服務供應商團隊應全面檢查所有預覽介面上的 iframe 與用戶端政策是否都已換上修補版;對於原本就不需要執行腳本的互動式 HTML 管道,在送進真正渲染位置前就該先把文字安全編碼,並剝除遠端與可執行標記。
  • 回歸測試必須覆蓋動態新增的子框架與每一個跳出來的新視窗,不能只檢查最初主頁面的 JavaScript 攔截函式;發布驗證也要包含獨立的瀏覽器對外連線觀察,並分別測試一般瀏覽器與 Electron 桌面版的不同操作條件。
  • 一般使用者應維持受支援的最新版用戶端,對預覽畫面裡跳出來的「系統更新」或「重新登入」視窗一律保持警覺;若真實事件中已經發生輸入憑證或執行了下載檔,就得另外針對該台主機或帳號做事件調查,不過這份研究本身並沒有證實出現真實受害者。

結論

AIDEFEND  把這類預覽沙盒問題對應到軟體修補、生成輸出交付控管與跨用戶端回歸驗證。真正的防線不在模型本身,而在用戶端實際的網頁渲染與開窗權限邊界,這些必須由供應商從架構層強制落實並保留各用戶端的適用限制。

最後更新: