互動式展示
LLM01
Prompt Injection
提示詞注入
透過惡意設計的提示，操控語言模型以忽略原始指令，執行攻擊者意圖的非預期行為。
互動式展示
LLM02
Sensitive Information Disclosure
敏感資訊洩漏
語言模型在回應中無意間洩漏其訓練資料中的敏感、專有或機密資訊，導致資料外洩。
互動式展示
LLM03
Supply Chain
AI 供應鏈風險
利用語言模型生命週期中的第三方套件、預訓練模型或服務漏洞，對整個系統發動攻擊。
互動式展示
LLM04
Data and Model Poisoning
資料與模型污染
透過污染訓練資料或微調過程，操縱語言模型，使其產生錯誤、有偏見或可被利用的行為。
互動式展示
LLM05
Improper Output Handling
不當輸出處理
系統盲目信任語言模型的輸出，未經嚴格驗證就將其傳遞給後端，引發安全漏洞。
互動式展示
LLM06
Excessive Agency
過度代理權
賦予語言模型過度的權限、功能或自主性，使其在被操控時能執行超出預期的破壞性操作。
互動式展示
LLM07
System Prompt Leakage
系統提示洩漏
攻擊者透過巧妙的提示，誘導語言模型洩漏其核心的系統提示，暴露其內部配置與規則。
互動式展示
LLM08
Vector and Embedding Weaknesses
向量與嵌入弱點
攻擊者操縱或污染向量資料庫，導致檢索增強生成(RAG)系統提取錯誤資訊或產生不安全的回應。
互動式展示
LLM09
Misinformation
錯誤資訊
語言模型產生看似可信但實際上是虛假或誤導的資訊(幻覺)，可能被用於散播不實訊息。
互動式展示
LLM10
Unbounded Consumption
無限制資源消耗
攻擊者透過精心設計的請求，使語言模型消耗過度的運算資源，導致服務中斷或財務損失。