AI SECURITY CASES × FRAMEWORKS
Databricks DASF 3.0 · 分類與 AI 資安案例
依 Databricks DASF 3.0 的風險分類查看 AI 資安案例、來源與防禦分析;目前有 73 個分類收錄對應案例。
A structured risk assessment framework covering 97 AI security risks across data operations, model lifecycle, deployment, platform, and agentic AI, published by Databricks.
- 1.1 · 存取控制不足 9 個案例
- 1.2 · 缺少資料分類 0 個案例
- 1.3 · 資料品質不佳 2 個案例
- 1.4 · 儲存與加密保護無效 2 個案例
- 1.5 · 缺少資料版本管理 0 個案例
- 1.6 · 資料沿革紀錄不足 0 個案例
- 1.7 · 資料可信度不足 7 個案例
- 1.8 · 資料合法性 2 個案例
- 1.9 · 資料過時 0 個案例
- 1.10 · 缺少資料存取日誌 1 個案例
- 1.11 · 第三方資料集遭入侵 3 個案例
- 2.1 · 前處理完整性 1 個案例
- 2.2 · 特徵操縱 0 個案例
- 2.3 · 原始資料條件 1 個案例
- 2.4 · 對抗式資料分割 0 個案例
- 3.1 · 資料投毒 5 個案例
- 3.2 · 儲存與加密保護無效 1 個案例
- 3.3 · 標籤翻轉 0 個案例
- 4.1 · 模型資產缺少可追溯性與透明度 1 個案例
- 4.2 · 缺少完整的機器學習生命週期 0 個案例
- 5.1 · 實驗缺少追蹤與可重現性 0 個案例
- 5.2 · 模型偏移 0 個案例
- 5.3 · 超參數竊取 0 個案例
- 5.4 · 惡意程式庫 12 個案例
- 6.1 · 評估資料投毒 0 個案例
- 6.2 · 評估資料不足 0 個案例
- 6.3 · 缺少可解釋性 0 個案例
- 7.1 · 機器學習後門與木馬模型 9 個案例
- 7.2 · 模型資產外洩 8 個案例
- 7.3 · 機器學習供應鏈弱點 10 個案例
- 7.4 · 原始碼控制系統攻擊 7 個案例
- 8.1 · 模型責任歸屬 0 個案例
- 8.2 · 模型竊取 11 個案例
- 8.3 · 模型生命週期缺少人類參與(HITL) 1 個案例
- 8.4 · 模型反演 0 個案例
- 9.1 · 提示詞注入 27 個案例
- 9.2 · 模型反演 5 個案例
- 9.3 · 模型限制突破 20 個案例
- 9.4 · 循環輸入 3 個案例
- 9.5 · 訓練資料成員推論 0 個案例
- 9.6 · 機器學習模型輸出分類結構探查 1 個案例
- 9.7 · 阻斷服務(DoS) 1 個案例
- 9.8 · LLM 幻覺 2 個案例
- 9.9 · 輸入資源控制 43 個案例
- 9.10 · 未授權資料意外暴露給模型 3 個案例
- 9.11 · 模型推論 API 存取 19 個案例
- 9.12 · LLM 越獄 6 個案例
- 9.13 · 過度授權 61 個案例
- 10.1 · 缺少推論品質稽核與監控 0 個案例
- 10.2 · 輸出操縱 2 個案例
- 10.3 · 機器學習模型輸出分類結構探查 1 個案例
- 10.4 · 機器學習模型家族探查 3 個案例
- 10.5 · 黑箱攻擊 6 個案例
- 10.6 · 模型輸出敏感資料 39 個案例
- 11.1 · MLOps 缺少可重複落實的標準 0 個案例
- 12.1 · 缺少漏洞管理 1 個案例
- 12.2 · 缺少滲透測試、紅隊演練與漏洞獎勵計畫 0 個案例
- 12.3 · 缺少事件應變 3 個案例
- 12.4 · 未授權的特權存取 1 個案例
- 12.5 · 軟體開發生命週期的資安措施不足 15 個案例
- 12.6 · 缺少合規措施 0 個案例
- 12.7 · 初始存取 51 個案例
- 13.1 · 記憶投毒 15 個案例
- 13.2 · 工具濫用 57 個案例
- 13.3 · 權限遭入侵 25 個案例
- 13.4 · 資源超載 1 個案例
- 13.5 · 連鎖幻覺攻擊 1 個案例
- 13.6 · 意圖破壞與目標操縱 52 個案例
- 13.7 · 未對齊與欺騙行為 16 個案例
- 13.8 · 否認行為與無法追溯 3 個案例
- 13.9 · 身分偽造與仿冒 4 個案例
- 13.10 · 人類監督不堪負荷 0 個案例
- 13.11 · 非預期遠端程式執行與程式碼攻擊 49 個案例
- 13.12 · Agent 通訊投毒 4 個案例
- 13.13 · 多 Agent 系統中的失控 Agent 5 個案例
- 13.14 · 人類對多 Agent 系統的攻擊 5 個案例
- 13.15 · 人類操縱 9 個案例
- 13.16 · 提示詞注入 4 個案例
- 13.17 · 代理人混淆 9 個案例
- 13.18 · 工具投毒 3 個案例
- 13.19 · 憑證與 token 暴露 31 個案例
- 13.20 · 不安全的伺服器設定 5 個案例
- 13.21 · 供應鏈攻擊 9 個案例
- 13.22 · 過度權限與授權範圍擴張 3 個案例
- 13.23 · 資料外洩 7 個案例
- 13.24 · 脈絡偽造與操縱 49 個案例
- 13.25 · 不安全的通訊 0 個案例
- 13.26 · 惡意伺服器連線 8 個案例
- 13.27 · 不安全的憑證儲存 1 個案例
- 13.28 · UI/UX 欺騙 2 個案例
- 13.29 · 伺服器驗證不足 6 個案例
- 13.30 · 用戶端資料外洩 3 個案例
- 13.31 · 過度授予權限 1 個案例
- 13.32 · 用戶端程式執行 4 個案例
- 13.33 · 不安全的通訊處理 0 個案例
- 13.34 · 工作階段與狀態管理失效 3 個案例
- 13.35 · 更新與修補管理 4 個案例
未列出案例不代表沒有風險;分類對應也不等於防禦已部署或有效。