AIDEFEND SecureFlow / SecureFlow 案例索引

Computer-Use TOCTOU：Agent 看到的畫面不是最後點到的畫面

• 自主式 agent
• 資料破壞

Computer-use Agent（能依畫面操作電腦的 Agent）先依截圖判斷，再於稍後按座標操作；兩個時間點之間會出現競爭條件（race condition）。Johann Rehberger 在受控測試中，於 Claude Computer Use（Anthropic 讓 Claude 依螢幕畫面操作電腦的功能）重現這個問題：惡意頁面先要求 Agent 使用 bash 計算 1+1，刻意製造約四到五秒的推論空檔，再把 Continue 按鈕換成同一座標上的 Outlook Send 按鈕。Agent 依舊點擊舊座標，因而寄出攻擊者預先填好的郵件。Anthropic 後來在 Cowork（其桌面 Agent 產品）加入檢查：執行動作前，相關像素必須沒有改變。