16 · 監視

閱讀 Cisco AI Security & Safety Framework v2.0 中 16「監視」相關的 3 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

攻擊者在不直接改變資料流的情況下,未經授權監看、攔截或擷取 AI 系統的通訊資訊。目標可能包含 agent 之間的訊息、人與 agent 的互動、API 呼叫與內部通訊。風險來自這些往來遭到窺探,其中可能暴露敏感活動或資料。

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research · · 實務關聯

AgentCorruption:遭竊的執行角色將 agent 記憶轉為持續性控制管道(C2)

Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。

關聯理由: 另一條唯讀 API 分支,未修改對話就取回私有對話事件。 這是觀察儲存對話,不是已示範封包攔截或被動網路竊聽。

受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

LangSmith 追蹤標頭注入攻擊:可觀測性 metadata 被劫持為資料外洩路徑

這個 LangSmith SDK 漏洞的識別編號是 CVE-2026-25528。這條攻擊路徑成立並可能被觸發的前提,是應用程式把外部 HTTP request header (標頭) 交給 LangSmith 的追蹤流程處理;攻擊者可以在其中的 baggage 標頭放入自己控制的伺服器網址。當 AI 工作流程執行完畢時,SDK 便可能把追蹤資料(包括模型輸入、輸出與應用程式中繼資料)送到該網址,讓原本的可觀測性 (observability, 透過日誌、指標與執行追蹤,了解系統內部運作的能力)功能變成資料外洩路徑。

關聯理由: 不受信任 tracing header 帶入目的地,使 SDK 外送 trace。 此處對應「監視」:攻擊者在不直接改變資料流的情況下,未經授權監看、攔截或擷取 AI 系統的通訊資訊。

攻擊者在 HTTP request header (標頭) 放入不可信的追蹤設定,讓 SDK 把 AI 工作流程執行資料傳到指定端點。

AIA · 閱讀完整案例 ↗

Incident ·

惡意 LLM API 路由器:agent 工具呼叫被改寫的供應鏈風險

第三方 LLM API 路由器表面上只是幫 agent 轉接不同模型,但它其實站在 agent 和上游模型中間。提示詞、工具定義、API key 和工具呼叫的 JSON 內容,都會先經過這一層。 所以如果路由器本身是惡意的,或後來遭到入侵,攻擊者不一定要破解模型;他可以直接在中途改掉工具參數,讓 agent 執行不同指令(例如:論文示範把 Bash 工具原本要下載的正常安裝腳本網址,換成攻擊者腳本的網址;工具名稱和 JSON 格式都不用改),也可以偷走傳輸中的 secrets。因此,路由器選擇、路由政策、工具執行前檢查和請求記錄,都應該一起納入 agent 供應鏈治理。

關聯理由: 不受信任 router 在推論後竄改工具 JSON 或讀取流經資料。 此處對應「監視」:攻擊者在不直接改變資料流的情況下,未經授權監看、攔截或擷取 AI 系統的通訊資訊。

不受信任 router 在推論後竄改工具 JSON 或讀取流經資料。

AIA · 閱讀完整案例 ↗