MITRE ATLAS
mitre-atlas-cs0024
Morris II 蠕蟲：以 RAG 為途徑的攻擊
- RAG 與知識系統
- 自主式 agent
- 模型規避與繞過
研究人員做出了 Morris II，一種零點擊蠕蟲，專門攻擊生成式 AI（GenAI）生態系，並在彼此相連的 GenAI 系統之間擴散。這個蠕蟲使用一段會自我複製的對抗式提示詞：透過提示詞注入，讓這段提示詞被複製到輸出中，同時執行惡意動作。研究人員示範了它如何在一個搭配 RAG 助理的郵件系統中擴散。他們用的目標系統會自動匯入收到的郵件、擷取過去的往來信件，再為使用者產生回覆。攻擊做法是：寄出一封含有自我複製對抗式提示詞的惡意郵件，這封信最後會進到 RAG 資料庫中。提示詞裡的惡意指令會要求助理把使用者的機敏資料放進回覆內容。之後只要有請求送到這個郵件助理，就可能擷取到這封惡意郵件，於是提示詞的自我複製部分讓蠕蟲繼續擴散，惡意指令也讓私人資訊外洩。