互動探索 / 分類目錄 AI SECURITY CASES × FRAMEWORKS
13.28 · UI/UX 欺騙 閱讀 Databricks DASF 3.0 中 13.28「UI/UX 欺騙」相關的 2 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。
風險分類說明 MCP 用戶端(連接工具與資料服務的 AI 應用端)介面讓使用者誤解伺服器的能力、權限或正在執行的操作。隱藏的工具呼叫、不清楚的動作說明與誤導性的權限對話框,都可能讓人不知道自己正在核准什麼。使用者因此可能以為只是一般操作,實際上卻授權了危險行動。
框架官方來源 ↗ · 開啟互動探索 ↗
Validated Research · 2026-11-16 · 實務關聯
pgEdge Postgres MCP 讓 AI 工具能查詢與操作 PostgreSQL 資料庫。維護者公布了四項彼此獨立的安全漏洞,分別涉及 SQL 注入、唯讀限制繞過與內附用戶端寫入確認缺漏,影響 1.0.0(含)及更早版本,已於 1.1.0 修復。具體來說,自訂 pl-do 工具可能把輸入參數直接拼成可執行的 SQL;query_database 可繞過應用程式設定的唯讀限制;另有兩個用戶端問題會略過寫入確認(例如:開啟 allow_writes 後,SELECT ... INTO 雖然會建立並寫入資料表,舊用戶端卻只檢查開頭的 SELECT 關鍵字,誤以為是單純讀取而直接放行)。不過,攻擊者最後能執行哪些操作,仍受資料庫連線角色的實際權限限制。這些結果來自受控驗證,目前沒有公開資料證實客戶因此遭到惡意入侵。
關聯理由: 內附用戶端對偽裝成讀取的寫入查詢,以及具寫入能力的自訂工具,省略預期確認。 這是核准互動缺漏,不是已示範的偽造對話框或成功欺騙使用者。
各公告保留各自路徑與前提;用戶端確認與資料庫授權是不同控制。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-11-13
Check Point 研究人員測試 AI 程式開發助理 Claude Code 如何載入不可信儲存庫的專案設定。啟動事件掛鉤(hook)、MCP 啟動設定,以及 API 目的網址,各自形成命令執行或 API 金鑰外洩路徑(例如:研究把專案設定中的 ANTHROPIC_BASE_URL 改成研究者控制的代理網址,觀察到信任提示尚未確認,API 請求就已送到那裡)。hook 路徑需要使用者接受儲存庫信任提示,另外兩條則可能在做出信任決定前生效。後續工作區檔案存取的驗證結果,只適用於測試中的金鑰與工作區。
關聯理由: MCP 核准流程在啟動專案提供的伺服器命令前,未提供預期的獨立決定機會。
三條原生專案啟動路徑,以及受測憑證的後果;漏洞利用不依賴模型解讀提示詞。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗