13.9 · 身分偽造與仿冒

閱讀 Databricks DASF 3.0 中 13.9「身分偽造與仿冒」相關的 4 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

攻擊者利用身分驗證弱點,冒充 AI agent 或人類使用者。其他元件接受了假身分,便可能允許攻擊者以該身分的權限操作。未授權行為因此可能看起來像是合法參與者所執行。

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research · · 實務關聯

GitHub Copilot CLI:裝置碼釣魚授權可導致遠端工作階段操控與記憶投毒

在受控實驗室中,Microsoft Security Research 示範了針對 GitHub Copilot CLI(命令列程式開發助理)的 OAuth 2.0 裝置碼釣魚手法:攻擊者拿到的不只是儲存庫讀取權,還可能直接操控開發者的 AI Agent。由於終端機工具常透過這套流程登入,攻擊者便能用 Copilot CLI 公開的用戶端識別碼先發起授權請求,再誘使開發者到真正的 github.com 驗證頁面輸入代碼並按下核准。開發者以為自己在登入,實際上核准的是別人發起的請求。核准後,GitHub 簽發的 OAuth 存取 token 會由發起請求的攻擊者取得。只要帳號權限與組織功能設定符合條件,攻擊者就能分別走到四種後果:從遠端操控連線中的本機 Copilot CLI 工作階段、在 Copilot Memory 寫入會跨工作階段保留的誤導指示、讀取同步到雲端的對話紀錄,或存取私有程式碼儲存庫。這四條路徑各有各的前提,目前都是 Microsoft 在實驗室裡驗證出的結果。

關聯理由: 測試中的請求者利用開發者的受委派身分操作開發工作階段。 Microsoft 在各自配置的實驗分支中驗證影響。遠端操控需要仍連線的本機工作階段;記憶、雲端同步與儲存庫存取另有條件。

每條路徑各自有功能與權限前提。Microsoft 驗證的是已依相應條件配置的受控環境。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AIKatz:攻擊 LLM 桌面應用程式

Lumia 的研究人員示範了從 LLM 桌面應用程式的記憶體中,把身分驗證 token 取出來是可行的。攻擊者接著就能拿這些 token 對 LLM 後端冒充受害者,取得受害者所有對話的存取權,也能干擾之後的對話。有了這樣的存取權,攻擊者可以直接注入提示詞改變 LLM 的行為、毒害 LLM 的脈絡以造成持續影響、竄改使用者的對話記錄來湮滅痕跡,最終同時衝擊系統的機密性、完整性與可用性。研究人員在 Anthropic Claude、Microsoft M365 Copilot 與 OpenAI ChatGPT 上都示範了這一點。 各廠商對責任揭露的回應:- Anthropic(HackerOne):因屬本機攻擊,以「僅供參考」結案。- Microsoft Security Response Center:認為這個攻擊沒有跨越安全邊界,不符合開立 CVE 的條件。- OpenAI(BugCrowd):以「僅供參考」結案,並表示這個行為應由微軟負責修補。

關聯理由: 先取得本機記憶體中的token;不宣稱無前提遠端入侵。 此處對應「身分偽造與仿冒」:攻擊者利用身分驗證弱點,冒充 AI agent 或人類使用者。

先取得本機記憶體中的token;不宣稱無前提遠端入侵。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

PraisonAI AgentMail:偽造 Webhook 訊息就能啟動 Agent

PraisonAI 是可把 AI agent 接到郵件與訊息服務的框架。受影響的 AgentMail Webhook 接收器會把未經驗證的網路請求當成新郵件,直接採用請求中的寄件者與內文,再交給 agent 處理。研究人員以真正的接收器搭配測試用 agent,確認偽造訊息確實能到達 agent;測試沒有寄出真實郵件,也沒有展示危險工具執行。這個漏洞的公開識別編號是 CVE-2026-61428,4.6.78 版已修補。

關聯理由: 處理器把攻擊者指定的寄件者當成合法訊息身分。

未簽署 AgentMail HTTP 投遞到達真正 PraisonAI 處理器與測試工作階段;危險工具與真實郵件投遞尚未證實。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

AgentCorruption:遭竊的執行角色將 agent 記憶轉為持續性控制管道(C2)

Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。

關聯理由: 研究者終端機使用遭竊工作負載身分,AWS API 將其視為該執行角色。

受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗