MITRE ATLAS
mitre-atlas-cs0005
針對機器翻譯服務的攻擊
- 預測式 ML 與電腦視覺
- 模型規避與繞過
機器翻譯服務（例如 Google 翻譯、Bing Translator 與 Systran Translate）都對外提供網頁介面與 API。加州大學柏克萊分校的一個研究團隊，就利用這些公開端點，複製出一個翻譯品質接近正式環境水準的模型。除了證明智慧財產可以從一個黑箱系統中被實質竊走之外，他們還用這個複製出來的模型，成功把對抗樣本轉移到真正的正式服務上。這些對抗式輸入在 Google 翻譯與 Systran Translate 網站上，成功造成了指定字詞被替換、輸出粗俗內容，以及整句被略過等結果。