EDH · 過度處理資料

閱讀 Google SAIF 2.0 中 EDH「過度處理資料」相關的 1 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

AI 系統收集、保留、處理或分享使用者資料的方式,超出適用政策允許的範圍。這些資料可能包含查詢、對話內容、互動紀錄、個人化設定與偏好,以及由這些資訊衍生的模型。即使沒有外部攻擊者竊取資料,不適當的使用與保留方式仍可能違反政策或法規,構成風險。

框架官方來源 ↗ · 開啟互動探索 ↗

Research ·

Shadow AI 與企業資料治理:2,240 萬則企業提示詞暴露出的資料外流問題

Harmonic 分析 22,458,240 則企業 GenAI 提示詞(prompt)和檔案上傳後,發現 Shadow AI(員工未受管或未經核准使用的 AI 工具)的敏感資料暴露,主要集中在少數應用程式:所有機敏資料暴露事件中,有 92.6% 來自 6 個 app,光是 ChatGPT 就佔其中的 71.2%。Cyberhaven、Verizon DBIR 2026 和 IBM 2025 資料外洩成本研究也強化了同一個防禦重點:企業要在原始碼、法律文件、財務預測或受管制資料離開受管環境之前,要先建立可觀測、可執行的資料流治理。

關聯理由: 員工將敏感資訊交給未納管服務;不標為 prompt injection 或模型竊密。 此處對應「過度處理資料」:AI 系統收集、保留、處理或分享使用者資料的方式,超出適用政策允許的範圍。

員工將敏感資訊交給未納管服務;不標為 prompt injection 或模型竊密。

AIA · 閱讀完整案例 ↗