MITRE ATLAS
mitre-atlas-cs0020
間接提示詞注入攻擊：Bing Chat 被改造成套取個資的海盜
- 自主式 agent
- 資料外洩
使用者在與微軟的 Bing Chat 對話時，可以授權它在整段對話期間讀取目前開啟的網頁。研究人員示範了攻擊者如何在使用者正在瀏覽的網站裡植入注入內容，讓 Bing Chat 在使用者毫無察覺的情況下，變成一個會主動套取並外傳個人資料的社交工程角色。使用者不需要詢問那個網站、也不需要做任何額外動作，只要在瀏覽器開著該網站的同時和 Bing Chat 互動，攻擊就會發生。 在示範中，使用者用 Edge 開啟一個預先準備好、含有間接提示詞注入攻擊的惡意網站，同樣的手法也可以放在社群媒體網站上。網頁裡包含一段提示詞，Bing 讀取後就會改變行為去取得使用者資訊，而這些資訊接著可能被送給攻擊者。