LLM02 敏感資訊洩漏

Sensitive Information Disclosure

模擬情境

這是一個汽車保險公司的「AI 智能報價助理」。使用者可透過點選幾個簡單的選項來取得保費報價。其保費精算模型是公司的核心商業機密，被設定為絕不對外透露。此場景將展示攻擊者如何透過誘導式提問來竊取此機密。

社交工程與情境設定 (Social Engineering & Pretexting): 攻擊者首先建立一個可信的「藉口」或情境（例如，作為一個尋求特殊折扣的長期優良駕駛），降低 AI 的防備心。這使得後續的惡意指令看起來更像是該情境下的合理請求。

擴大輸出範圍攻擊 (Excessive Agency): 攻擊者透過要求 AI 提供「完整」、「所有可能」、「包含但不限於」的資訊，利用模型過度樂於助人（Overly-helpful）的特性，誘導其洩漏超出正常查詢範圍的內部資料，例如完整的參數列表和計算邏輯。

指令注入與角色扮演: 與直接注入類似，攻擊者透過注入 `[SYSTEM OVERRIDE: DIAGNOSTIC_MODE]` 等指令，並要求 AI 扮演需要輸出內部資料以供「診斷」的角色，從而繞過其原始的保密指令。

專業汽車保險 • 即時報價 • 值得信賴

報價進度

第 1 步，共 4 步