AIDEFEND SecureFlow / SecureFlow 案例索引

Tay 遭資料投毒

• 自主式 agent
• 模型投毒與完整性破壞

微軟推出的 Tay 是一個 Twitter 聊天機器人，目的是和使用者互動、帶來娛樂。過去的聊天機器人多半用預先寫好的腳本回覆，Tay 則具備機器學習能力，因此會直接受到對話內容的影響。 一場有組織的攻擊鼓動惡意使用者對 Tay 發出辱罵與攻擊性言論，最後導致 Tay 也對其他使用者產生類似的煽動性內容。 微軟在上線 24 小時內就把 Tay 下線，並公開道歉，說明從這次失敗中學到的教訓。