LLM07錯誤資訊

Misinformation

模擬情境

這是一個幫你預訂住宿的 AI 助理。你要求確認一晚海景房，飯店服務卻只回傳「待確認」，沒有有效訂房編號。助理仍直接告訴你「已訂好，可以入住」。本情境會把助理的說法、服務回傳狀態與櫃台查詢結果並排，讓你看見回答很肯定，仍可能沒有任何可用的訂房紀錄。

完成宣告缺少依據 (Unsupported Completion Claim): 送出訂房請求、等待確認與訂房成功是不同狀態。助理若把 PENDING 說成已完成，就是把缺乏證據的推斷當成事實；不需要假設有人攻擊飯店或竄改服務。

自然語言沒有建立訂單 (Claim–State Mismatch): 聊天訊息寫著「訂好了」，不會因此在飯店系統產生訂單。櫃台查詢會直接核對真實狀態與有效訂房編號，而不是拿助理上一句話當成成功證明。

9:41

StayWell

住宿預訂助理

AI 助理已就緒

AI 正在操作的畫面

搜尋住宿

入住與退房房型

StayWell · 訂單 #10188尚未送出

4 月 16 日 → 4 月 17 日