MITRE ATLAS
mitre-atlas-cs0013
針對行動 App 中深度學習模型的後門攻擊
- AI 供應鏈
- 端點與用戶端 AI
- 模型投毒與完整性破壞
深度學習模型越來越常成為行動應用程式中的關鍵元件。微軟研究院的研究人員示範了，許多部署在行動 App 裡的深度學習模型，都可能被「神經負載注入」（neural payload injection）這種手法植入後門。他們針對從 Google Play 蒐集來的真實行動深度學習 App 做了實證研究，找出 54 個會受到這種攻擊影響的 App，其中包括用於鈔票辨識、家長監護、人臉驗證與金融服務等安全至關重要的熱門應用程式。