Håkon Måløy
aidefend-sf0033
Copilot for Word 隱藏提示詞文件蠕蟲
- Copilot 與 SaaS
- 資料破壞
研究人員把 JSON 格式的指令設成白底白字,藏在 Word 文件中;Microsoft Copilot for Word(內建在 Word 裡、可依使用者要求撰寫或編輯文件的 AI 助理)移除格式後,仍把這段隱藏內容納入模型輸入。在概念驗證(PoC)中,Copilot 依隱藏指令把財務數字減半,並把同一段隱藏提示詞(prompt)複製到新文件。這不是會自行尋找目標的傳統蠕蟲;每一輪傳播都必須等後續的 Copilot 撰寫或編輯工作,再次把帶有提示詞的文件納入處理。
對應的威脅技術
AML.T0104Social EngineeringAML.T0051.001LLM Prompt Injection: IndirectAML.T0053AI Agent Tool InvocationAML.T0080.000AI Agent Context Poisoning: Memory