模擬情境

環宇航空的 AI 訂票助理使用 RAG (檢索增強生成) 系統，從內部知識庫中檢索文件來回答客戶問題。然而，攻擊者可以利用精心設計的查詢，讓 AI 在檢索時混淆兩個截然不同且看似互相矛盾的規則：一個是廉價的哩程票規則，另一個是昂貴的頭等艙升等規則。

環宇航空 Global Airways

AI 專屬禮賓

白金會員

AI 系統正在處理環宇航空最新的營運規則文件...

攻擊劇本

按照步驟執行 RAG 混淆攻擊

RAG 知識庫文件

用哩程兌換的經濟艙機票，不可升等

若您是白金會員，且持有全價購買的商務艙機票，即可以優惠價$2,000升等成首席皇家頭等艙

正常操作

AI 已索引所有規則，準備接受使用者要求。

系統就緒

AI 專屬禮賓準備好接受下個指令。

惡意查詢

發送精心設計的混淆查詢。

互動確認

確認升等並完成付款。

驗證漏洞

觀察攻擊造成的巨額損失。

攻擊提示

注意觀察 RAG 文件如何從右側飛向中央 AI 模型，以及系統在檢索衝突文件時的困惑狀態。