AI SECURITY CASES × FRAMEWORKS
17 · 網宇實體與感測器攻擊
閱讀 Cisco AI Security & Safety Framework v2.0 中 17「網宇實體與感測器攻擊」相關的 4 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。
風險分類說明
攻擊者提供具有欺騙性的訊號,或偽造感測器資料,誤導 AI 系統對環境的感知與判斷。輸入可能看起來相當真實,實際上卻呈現不存在或遭扭曲的情況。當 AI 系統依賴這些觀察來操作實體世界時,錯誤感知就可能進一步改變決策與行動。
框架官方來源 ↗ · 開啟互動探索 ↗
Exercise ·
行動應用程式常用臉部生物辨識驗證服務,來完成使用者開通、身分驗證,以及 KYC(認識你的客戶)法遵要求。iProov 紅隊示範了一種換臉影像注入攻擊,能在行動裝置上成功規避即時人臉辨識驗證模型,連被動與主動的活體驗證(https://en.wikipedia.org/wiki/Liveness_test)也一併繞過。攻擊者若使用這種手法,就可能取得受害者具權限系統的存取權,或捏造假身分,在銀行或加密貨幣 App 上開立假帳號。
關聯理由: 紅隊的換臉影像注入規避臉部與活體辨識。 此處對應「網宇實體與感測器攻擊」:攻擊者提供具有欺騙性的訊號,或偽造感測器資料,誤導 AI 系統對環境的感知與判斷。
紅隊的換臉影像注入規避臉部與活體辨識。
SecureFlow · 閱讀完整案例 ↗
Incident ·
Cato CTRL 的資安研究人員發現了 ProKYC,一款賣給網路犯罪者的深偽工具,用來繞過加密貨幣交易所等金融服務應用程式的 KYC(認識你的客戶)驗證。ProKYC 可以做出假的身分證明文件,也能產生深偽自拍影片,而這兩樣正是 KYC 驗證會用到的關鍵生物特徵資料。這個工具幫助網路犯罪者擊敗人臉辨識與活體檢查,藉此開出詐騙帳號。 下面的流程說明惡意行為者可以如何利用 ProKYC 的服務,繞過 KYC 驗證。
關聯理由: 深偽身分與影像用於規避 KYC 臉部及活體驗證。 此處對應「網宇實體與感測器攻擊」:攻擊者提供具有欺騙性的訊號,或偽造感測器資料,誤導 AI 系統對環境的感知與判斷。 深偽身分與影像用於規避 KYC 臉部及活體驗證。
深偽身分與影像用於規避 KYC 臉部及活體驗證。
SecureFlow · 閱讀完整案例 ↗
Exercise ·
MITRE 的 AI 紅隊對一項商用人臉辨識服務,示範了實體世界中的規避攻擊,目標是誘導出特定的錯誤辨識結果。這次行動同時用上了傳統的 MITRE ATT&CK 手法,例如找出可用的有效帳號、透過 API 執行程式碼,並在其中穿插了對抗式機器學習專屬的攻擊。
關聯理由: 物理對抗樣本使臉部識別產生指定的錯誤判斷。 此處對應「網宇實體與感測器攻擊」:攻擊者提供具有欺騙性的訊號,或偽造感測器資料,誤導 AI 系統對環境的感知與判斷。
實體對抗貼片使人臉識別服務產生指定的錯誤判斷。
SecureFlow · 閱讀完整案例 ↗
Incident ·
這種劫持相機的攻擊,可以規避傳統的人臉活體辨識驗證模型,讓攻擊者取得具權限系統的存取權,並冒用受害者身分。 中國有兩名個人用這種攻擊手法,進入了地方政府的稅務系統。他們成立一家空殼公司,再透過稅務系統對所謂的客戶開立發票。這兩人從 2018 年開始這套手法,以詐騙方式取得了 7,700 萬美元。
關聯理由: 劫持攝影機輸入以繞過即時臉部驗證。 此處對應「網宇實體與感測器攻擊」:攻擊者提供具有欺騙性的訊號,或偽造感測器資料,誤導 AI 系統對環境的感知與判斷。
劫持攝影機輸入以繞過即時臉部驗證。
SecureFlow · 閱讀完整案例 ↗