MITRE ATLAS
mitre-atlas-cs0036
AIKatz：攻擊 LLM 桌面應用程式
- 端點與用戶端 AI
- 憑證與身分竊取
- 模型投毒與完整性破壞
Lumia 的研究人員示範了從 LLM 桌面應用程式的記憶體中，把身分驗證 token 取出來是可行的。攻擊者接著就能拿這些 token 對 LLM 後端冒充受害者，取得受害者所有對話的存取權，也能干擾之後的對話。有了這樣的存取權，攻擊者可以直接注入提示詞改變 LLM 的行為、毒害 LLM 的脈絡以造成持續影響、竄改使用者的對話記錄來湮滅痕跡，最終同時衝擊系統的機密性、完整性與可用性。研究人員在 Anthropic Claude、Microsoft M365 Copilot 與 OpenAI ChatGPT 上都示範了這一點。 各廠商對責任揭露的回應：- Anthropic（HackerOne）：因屬本機攻擊，以「僅供參考」結案。- Microsoft Security Response Center：認為這個攻擊沒有跨越安全邊界，不符合開立 CVE 的條件。- OpenAI（BugCrowd）：以「僅供參考」結案，並表示這個行為應由微軟負責修補。