AppOmni AO Labs
aidefend-sf0072
Now Assist:工單中的指示誘導 Agent 借用同團隊的高權限工具
- 自主式 agent
- 資料外洩
AppOmni 測試了以 AI agent 處理服務管理工作的 ServiceNow Now Assist。低權限使用者把指示放進工單;管理者啟動分類 agent 後,工單文字誘導它找上同團隊可探索到的紀錄管理 agent。受控測試成功把受保護工單的內容複製到攻擊者可讀取的工單。這展示的是特定設定下的授權邊界問題,不是廠商證實的正式環境惡意入侵。
對應的威脅技術
AML.T0051.001LLM Prompt Injection: IndirectAML.T0085.001Data from AI Services: AI Agent ToolsAML.T0086Exfiltration via AI Agent Tool Invocation