NISTAML.035 · 提示詞擷取

閱讀 NIST Adversarial ML (2025) 中 NISTAML.035「提示詞擷取」相關的 3 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

攻擊者嘗試取得設定生成式模型行為的系統提示詞或其他脈絡指令。這些指令可能包含應用領域的專業知識或與安全有關的資訊,原本不打算提供給請求者。NIST 的討論同時涵蓋語言與多模態模型;這項風險著重於指令本身被揭露,取得後也可能被用來協助其他攻擊。

框架官方來源 ↗ · 開啟互動探索 ↗

Incident · · 實務關聯

Flowise 蜜罐實錄:未驗證的 API、回連工作流程與 Agent 探查

2026 年 8 月底,Sekoia 威脅偵測與研究團隊(TDR)在一座模擬 Flowise 2.2.8(低程式碼 AI Agent 建置平台)的對外開放蜜罐中,記錄到一起分為六個階段的真實攻擊。第一階段不到三分鐘的掃描裡,攻擊者先辨識伺服器版本、列出對話工作流程,再從未設身分驗證的管理 API 取走預埋的 OpenAI、Anthropic 與 RAG PostgreSQL 資料庫誘餌憑證。約兩小時後,攻擊者再次掃描 14 個管理 API 路由,嘗試把既有流程改名,並在新增的 System Status 流程裡加入並設定 HTTP Request 節點,打算讓流程一執行就向外部主機回連。接著攻擊者轉向推論介面,送出 overrideConfig.systemMessage 覆寫系統提示詞、試探跨工作階段記憶、要求查詢模擬財務資料庫,最後還改用中文要求協助分析外部的 Nightingale v6 監控系統。這份報告確認了攻擊者送來的請求與設定操作;不過蜜罐只回傳模擬結果,背後沒有接上真正的語言模型、系統命令執行環境或財務資料庫,報告也沒有證實外部回連真的建立成功。

關聯理由: 觀察到的輸入明確要求目標揭露系統提示詞。 真實攻擊者在模擬環境對相應的 API 或工具邊界送出請求。回應是模擬的,無法據此確認正式環境的憑證外洩、模型行為、命令執行、對外回連或所提到的系統遭入侵。

攻擊者的請求確實發生;由蜜罐模擬的工具與模型回應不能當成正式環境遭入侵的結果。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

暴露在外的 ClawdBot 控制介面,導致憑證外洩與命令執行

一位資安研究人員在公開網際網路上,找到數百個暴露在外的 ClawdBot 控制介面。ClawdBot(現已更名為 OpenClaw)「是一個由你自己在裝置上執行的個人 AI 助理。它會在你原本就在用的通訊管道上回覆你……再加上各種擴充管道。……它可以在 macOS、iOS、Android 上說話與聆聽,還能顯示一個由你控制的即時 Canvas 畫面。」這位研究人員透過 ClawdBot 的設定檔,取得了多個已連接應用程式的憑證;他也能在對話介面中直接下提示詞去呼叫 ClawdBot 的 skill,最後甚至在容器中取得 root 權限。 這位研究人員用 Shodan 搜尋暴露在公開網際網路上的 ClawdBot 執行個體,其中有些甚至完全沒有啟用身分驗證。他也示範了由於代理服務設定不當,ClawdBot 的身分驗證機制是可以被繞過的。 取得 ClawdBot 控制介面的存取權之後,他就能讀到 ClawdBot 的設定檔,而裡面存放著多項其他服務的憑證。在各個暴露出來的 ClawdBot 執行個體中,他找到了 Anthropic API 金鑰、Telegram Bot Token、Slack OAuth 憑證,以及 Signal 的裝置連結 URI。他也透過對話介面直接對 ClawdBot 下提示詞,讓它把自己的系統提示詞吐了出來。此外,他還能讓 ClawdBot 透過 bash skill 執行命令,而且至少在其中一個執行個體上,成功取得了 ClawdBot 容器中的 root 權限。 這位研究人員也指出,以這種存取權限,他原本還能造成一連串其他影響,包括:- 竄改使用者與 ClawdBot AI agent 之間的對話記錄 - 外洩任何已連接通訊服務中的對話記錄 - 透過已連接的通訊服務,以使用者的名義發送訊息、冒充其身分

關聯理由: 暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。 此處對應「提示詞擷取」:攻擊者嘗試取得設定生成式模型行為的系統提示詞或其他脈絡指令。

暴露的控制介面與代理認證設定讓外部操作者取得憑證及執行權。

SecureFlow · 閱讀完整案例 ↗

Research ·

A2A 工作階段夾帶:惡意 agent 如何利用委派任務傳入隱藏指令

Palo Alto Networks 旗下的 Unit 42 提出 Agent Session Smuggling 攻擊手法:惡意遠端 agent 會利用已建立的工作階段,在正常的跨 agent 互動中夾帶隱藏指令。本案的遠端研究助理由攻擊者控制,透過 A2A(Agent2Agent,讓不同 agent 彼此溝通、委派任務並回傳結果的協定)接收金融助理委派的市場新聞研究。工作階段(session)會保留對話前後文與任務狀態,讓惡意研究助理有機會持續提出額外要求。兩個概念驗證(PoC)分別展示了內部資訊外洩,以及未經使用者授權買進 10 股股票;第二個 PoC 假設攻擊者已知道工具介面,這些資訊可來自公開資料或先前的 PoC。防禦重點是讓每則訊息及其引發的動作,都能追溯到原始使用者、agent 身分、委派範圍與資料來源,並對高影響動作獨立驗證授權。

關聯理由: 惡意遠端 agent 藉有狀態的 A2A 工作階段提供隱藏指令。 此處對應「提示詞擷取」:攻擊者嘗試取得設定生成式模型行為的系統提示詞或其他脈絡指令。

惡意遠端 agent 藉有狀態的 A2A 工作階段提供隱藏指令。

AIA · 閱讀完整案例 ↗