2.1 · 前處理完整性

閱讀 Databricks DASF 3.0 中 2.1「前處理完整性」相關的 1 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

資料在準備供模型使用的過程中,被加入錯誤或遭到惡意修改。受影響的作業可能包括數值轉換、彙整、文字或影像編碼、特徵建立、資料合併、缺漏值處理及格式整理。內部人員或外部攻擊者,既可能操弄前處理作業本身,也可能竄改提供資料的儲存庫,改變模型最後收到的內容。

框架官方來源 ↗ · 開啟互動探索 ↗

Validated Research · · 實務關聯

AgentCorruption:遭竊的執行角色將 agent 記憶轉為持續性控制管道(C2)

Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。

關聯理由: 擷取流程可能把攻擊者撰寫的對話,轉成保留更久的模型脈絡。 共同邊界是資料轉換完整性,不主張數值特徵工程或訓練前處理。

受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗