AIDEFEND SecureFlow
aidefend-sf0000
從提示詞注入攻擊到 agent 工具濫用
- 自主式 agent
- 工具整合與 MCP
- 資源劫持與成本損失
- 模型規避與繞過
攻擊者把指令藏在 AI 助理會摘要的內容裡。助理把這段被注入的指令當成任務指示,選了一個工具,並嘗試執行使用者原本沒有要求的高風險動作。
攻擊者把指令藏在 AI 助理會摘要的內容裡。助理把這段被注入的指令當成任務指示,選了一個工具,並嘗試執行使用者原本沒有要求的高風險動作。