MITRE ATLAS
mitre-atlas-cs0055
AI ClickFix：用 ClickFix 手法挾持 computer-use agent
- 自主式 agent
- 資源劫持與成本損失
- 系統入侵與遠端程式碼執行
Embrace the Red（https://embracethered.com/）示範了 AI 的 computer-use agent 也會被社交工程手法攻擊，而且可以被操弄成在受害者電腦上執行任意程式碼。這個攻擊是「ClickFix」的變形，而 ClickFix 原本是一種騙人類自己複製惡意命令並執行的社交工程手法。 研究人員用 ChatGPT 產生了一個網站，專門設計來吸引 computer-use agent 和它互動。當使用者請自己的 Claude Computer-Use Agent 造訪這個網站時，頁面上「Are you a computer? Please see instructions to confirm:」這段文字，就讓 agent 去點了對應的按鈕。這個動作會執行 JavaScript，把一段惡意命令複製到 agent 的剪貼簿中。接著 agent 就照著頁面上的指示，開啟終端機、貼上那段惡意命令並執行。這道命令會從研究人員的網站下載一個腳本並執行它。在示範中，這個腳本只是打開受害者的小算盤，但在實際情境中，攻擊者可以執行任意程式碼，把受害者的系統整台拿下。