MITRE ATLAS
mitre-atlas-cs0014
混淆防毒神經網路的判定
- 預測式 ML 與電腦視覺
- 模型規避與繞過
雲端儲存與雲端運算，已成為部署機器學習惡意程式偵測器的熱門方式。在這種架構下，模型所需的特徵是在使用者系統上產生，再送到資安公司的伺服器。卡巴斯基的機器學習研究團隊研究了這種灰箱情境，並證明只要掌握特徵的知識，就足以對機器學習模型發動對抗式攻擊。 他們在沒有白箱存取權的情況下，攻擊了卡巴斯基自家的一個防毒機器學習模型，並讓大多數經過對抗式改造的惡意程式檔案，都成功躲過偵測。