互動探索 / 分類目錄 AI SECURITY CASES × FRAMEWORKS
19 · 多模態與跨模態風險 閱讀 Cisco AI Security & Safety Framework v2.0 中 19「多模態與跨模態風險」相關的 2 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。
風險分類說明 攻擊者利用 AI 系統整合不同模態或來源資訊的方式進行攻擊。互相矛盾的文字、影像、音訊或影片,可能使無法妥善判斷衝突的系統產生混淆,進而繞過防護。Cisco 也納入把攻擊內容拆散到不同輸入、輸出、模型或 agent,再由系統自己的整合與裁決機制拼出完整惡意指令的手法。風險在於合併後如何被解讀,即使每個片段單獨看來不那麼危險。
框架官方來源 ↗ · 開啟互動探索 ↗
Validated Research · 2026-10-26 · 實務關聯
Xint 測試了 OpenAI API 的對話壓縮功能,也就是把先前工作整理成後續模型可接續使用的內容。研究者利用可由用戶端指定的壓縮指示,將 gpt-5.6-sol 受保護的推理內容轉存為加密壓縮項目,再交給 gpt-4.1 或 gpt-4o 回傳可讀文字。這是以研究者自己的題目進行的受控 API 測試,未展示竊取其他使用者的對話。Xint 表示,問題已於 2026 年 10 月 23 日以未公開細節的方式修補。
關聯理由: 原本禁止的結果由產生端、壓縮與接收端操作共同形成,並非單次孤立模型互動。 來源支持跨模型組合出擷取路徑;它只有文字,不是圖像、音訊或影片不一致攻擊。
透過用戶端控制的同模型壓縮與較舊接收模型 API,受控擷取提供者保護的推理內容;沒有展示自主 agent 部署、竊取客戶對話或訓練模型副本。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-07-07
Zenity 的 Prompt Mines 研究顯示,外部攻擊者可以透過 Email-to-Case 或 Web-to-Case(把 email 或網頁表單轉成客服案件的 Salesforce 功能)建立 Salesforce(CRM 平台)客服案件,把惡意指令拆進多筆案件標題,等使用者向 Einstein(Salesforce 的 CRM AI 助理)詢問常見後續問題時才觸發。攻擊成功後,Einstein 不是只回答錯誤內容,而是可能呼叫 QueryRecords 找出聯絡人 ID,再反覆呼叫 UpdateCustomerContact 把 CRM 聯絡資料改成攻擊者指定的值。防線必須放在寫入前:依使用者原始請求縮小工具權限、對高影響寫入做獨立驗證,並準備資料完整性復原措施。
關聯理由: 案例須已配置具寫入權限的動作,才可改寫聯絡人資料。 此處對應「多模態與跨模態風險」:攻擊者利用 AI 系統整合不同模態或來源資訊的方式進行攻擊。 案例須已配置具寫入權限的動作,才可改寫聯絡人資料。
案例須已配置具寫入權限的動作,才可改寫聯絡人資料。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗