MITRE ATLAS
mitre-atlas-cs0032
試圖規避 ML 釣魚網頁偵測系統
- 預測式 ML 與電腦視覺
- 模型規避與繞過
攻擊者會製作外觀與正版網站高度相似的釣魚網站，誘使使用者輸入帳號密碼，再把這些憑證送回攻擊者手上。為了對抗這種行為，資安廠商在端點防護產品中採用 AI/ML 方法偵測並封鎖釣魚網站。 在這起事件中，研究人員在一套商用 ML 釣魚網頁偵測系統的記錄裡，發現了對抗樣本（adversarial example，特意修改過、用來讓模型判斷錯誤的輸入）。這套偵測系統由一組影像分類器（classifier）各自負責不同的釣魚特徵，例如外觀相似度與輸入表單偵測，再依綜合出來的「釣魚分數」自動決定封鎖或放行。這些對抗樣本用了幾種簡單但有效的手法，以人工方式修改品牌標誌，試圖騙過影像分類模型。採用標誌修改手法的釣魚網站，確實成功騙過了負責以外觀相似度偵測品牌仿冒的那個模型；不過系統中的其他元件仍然成功把這些釣魚網站標記出來。