MITRE ATLAS
mitre-atlas-cs0029
Google Bard 對話內容遭外洩
- AI 基礎設施
- 資料外洩
Embrace the Red（https://embracethered.com/blog/）示範了 Bard 使用者的對話內容，可以透過間接提示詞注入攻擊被外洩出去。攻擊做法是：攻擊者把一份夾帶提示詞的 Google 文件分享給目標使用者，使用者再透過 Bard 存取這份文件時，就在不知情的情況下執行了那段提示詞。這段提示詞會讓 Bard 在回覆中放進一段圖片的 Markdown 語法，而圖片網址裡偷偷夾帶了使用者的對話內容。Bard 為使用者載入這張圖片時，就會自動送出一個請求到攻擊者控制的腳本，把使用者的對話外傳出去。這個請求不會被 Google 的內容安全政策（CSP）擋下來，因為該腳本是以 Google Apps Script 形式託管，位於 Google 自有的網域上。 註：Google 已修正這個漏洞。CSP 設定維持不變，Bard 也仍然可以為使用者顯示圖片，因此推測是對網址中夾帶的資料做了某種過濾。