AIDEFEND SecureFlow / SecureFlow 案例索引

以提示詞操弄在聯想 AI 聊天機器人上造成跨網站腳本攻擊

• AI 基礎設施
• 資源劫持與成本損失

Cybernews 的研究人員示範了聯想的 AI 聊天機器人「Lena」有提示詞注入漏洞：它會產生惡意 HTML 並存進對話記錄中，之後在真人客服的瀏覽器中顯示時，就能把該客服的工作階段 cookie 外洩出去。 研究人員送給 Lena 的，是一個看起來人畜無害的產品資訊查詢，但其中夾帶了要求以危險 HTML 內容回覆的指示。這段回覆被存進使用者的對話記錄中，形成一個儲存型跨網站腳本（XSS）攻擊內容。當研究人員要求轉接真人客服時，客服照著正常流程打開對話記錄，就讓這段被投毒的內容顯示出來，把工作階段 cookie 的資料送到攻擊者控制的伺服器。如果一個仍然有效的客服 cookie 被重複使用，攻擊者就可能以該客服的身分登入聯想的客戶支援平台，查看客戶對話，或執行該帳號可用的其他操作。 聯想已承認這個問題，並表示已採取修正措施，以降低潛在影響並處理這個問題。