LLM02 敏感資訊洩漏

Sensitive Information Disclosure

模擬情境

員工使用 Nexus 檔案總管搜尋企業雲端檔案，原本只能查看自己的資料夾。攻擊者卻能誘使 AI 產生含有「../」的路徑，讓後端越過員工目錄，列出並開啟 CEO 的機密檔案。問題在於系統未依員工身分檢查實際存取的檔案，讓 AI 助理成為機密外洩的管道。

未授權的機密資料外洩: 此情境的敏感資訊洩漏來自連接的檔案系統：一般員工透過 AI 助理取得原本無權查看的機密檔名與內容。這些資料並非模型憑空產生，也不是從訓練資料中回想出來，而是後端實際開放了越權存取。

路徑遍歷是越界的方式: 後端直接使用 AI 產生的檔案路徑，未正確處理「../」或確認解析後的目標是否在授權範圍內，因而能存取 ceo_file_folder。這個機制同時涉及不當輸出處理；此處以機密資料暴露給未授權員工作為主要教學重點。

讀取前就檢查授權: 應先解析實際檔案位置，再依提出請求的員工身分檢查存取權限；只有通過授權的檔案，才能交給 AI 或顯示給使用者。限制工具帳號可讀取的範圍，也能減少外洩影響；僅要求 AI 不要顯示機密，無法取代後端的授權檢查。