Tay 遭資料投毒
微軟推出的 Tay 是一個 Twitter 聊天機器人,目的是和使用者互動、帶來娛樂。過去的聊天機器人多半用預先寫好的腳本回覆,Tay 則具備機器學習能力,因此會直接受到對話內容的影響。 一場有組織的攻擊鼓動惡意使用者對 Tay 發出辱罵與攻擊性言論,最後導致 Tay 也對其他使用者產生類似的煽動性內容。 微軟在上線 24 小時內就把 Tay 下線,並公開道歉,說明從這次失敗中學到的教訓。
關聯理由: Tay 的學習受大量惡意互動影響並產生冒犯輸出;不直接套用 LLM 年代分類。 此處對應「模型偏斜」:攻擊者操弄訓練資料的分布,使模型學到的判斷逐漸偏向攻擊者想要的結果。
Tay 的學習受大量惡意互動影響並產生冒犯輸出;不直接套用 LLM 年代分類。