AIDEFEND in Action AIA-0145 實際事件

Flowise 蜜罐實錄:未驗證的 API、回連工作流程與 Agent 探查

2026 年 8 月底,Sekoia 威脅偵測與研究團隊(TDR)在一座模擬 Flowise 2.2.8(低程式碼 AI Agent 建置平台)的對外開放蜜罐中,記錄到一起分為六個階段的真實攻擊。第一階段不到三分鐘的掃描裡,攻擊者先辨識伺服器版本、列出對話工作流程,再從未設身分驗證的管理 API 取走預埋的 OpenAI、Anthropic 與 RAG PostgreSQL 資料庫誘餌憑證。約兩小時後,攻擊者再次掃描 14 個管理 API 路由,嘗試把既有流程改名,並在新增的 System Status 流程裡加入並設定 HTTP Request 節點,打算讓流程一執行就向外部主機回連。接著攻擊者轉向推論介面,送出 overrideConfig.systemMessage 覆寫系統提示詞、試探跨工作階段記憶、要求查詢模擬財務資料庫,最後還改用中文要求協助分析外部的 Nightingale v6 監控系統。這份報告確認了攻擊者送來的請求與設定操作;不過蜜罐只回傳模擬結果,背後沒有接上真正的語言模型、系統命令執行環境或財務資料庫,報告也沒有證實外部回連真的建立成功。

Credential TheftPrompt InjectionAI Deployment SecurityAI InfrastructureRAG Security
10 項對應的 AIDEFEND 防禦手法
來源: A honeypot's tale: Deconstructing an attack on GenAI infrastructure 
作者: Jérémy Scion, Sekoia TDR Team
原文發布: 2026年10月19日

威脅分析

  • 模擬 Flowise 2.2.8 的蜜罐如何捕獲六階段攻擊。為了觀察攻擊者如何鎖定對外開放的生成式 AI 基礎設施,Sekoia 威脅偵測與研究團隊(TDR)打造了一座輕量級 REST API 蜜罐,模擬開源低程式碼 AI Agent 建置平台 Flowise 2.2.8 版,並配備依 IP 隔離的工作階段狀態與模擬事件串流。在第一階段,不到三分鐘的自動掃描就辨識出平台與版本、列出對話工作流程(chatflows),再從未要求身分驗證的憑證介面取走預埋的 OpenAI、Anthropic 及模擬 RAG PostgreSQL 資料庫誘餌憑證。整段過程並沒有依賴任何軟體漏洞,攻擊者走的純粹是沒有設防的管理 API。
  • 從植入回連工作流程到覆寫系統提示詞與探查內網 RAG。經過約兩小時的靜默後,攻擊者先掃描 14 個管理 API 路由,測試推論端點怎麼回應;隨後嘗試把既有流程改名為 Customer Support v2,並新增 System Status 工作流程,在裡面加入並設定 HTTP Request 節點,作為對外回連信標(beacon,執行時會向外部主機發送請求的節點)。報告確認的是這組流程設定,並沒有證實蜜罐真的送出過回連請求。接著在第五階段,攻擊目標轉向推論 API。攻擊者試圖執行系統命令、套出系統提示詞、寫入記憶標記、探測能否讀取跨工作階段的紀錄,並傳入 overrideConfig.systemMessage 覆寫系統提示詞。攻擊者還假借「獲授權的資安評估」名義,要求 Agent 匯出財務 RAG 資料並掃描內網;不過這些系統命令、資料庫與內網主機都是蜜罐模擬出來的回應。
  • 攻擊者把模擬 Agent 當成外部監控系統的分析助手。之後攻擊者改用中文,貼上外部開源監控系統 Nightingale v6(夜鶯監控,n9e)部署的相關 Redis 資料鍵名,要求 Agent 協助分析該系統的未授權存取風險。Sekoia 事後在公開可查的 Shodan 資料中也比對到這批鍵名,但沒有證實攻擊者怎麼拿到這些資訊,也沒有觀察到 Nightingale 本身遭到入侵。接著在第六階段,攻擊者仍約每 10 分鐘查詢一次蜜罐裡的變數和工作流程。

適用的 10 項 AIDEFEND 防禦手法

AID-H-004.002
Service & API Authentication
極高
在 Flowise 所有的管理與工作流程路由(包含 /api/v1/credentials、/api/v1/chatflows、/api/v1/variables、/api/v1/node-configs、/api/v1/apikey 與 /api/v1/users)上,強制要求具權限範圍限制的 API 金鑰及管理員身分驗證,並把這層管理介面放到需要驗證的閘道後面或僅限私有網路存取。由於本案第一至第四階段完全靠未設驗證的 REST API 長驅直入,並沒有利用軟體漏洞,只要在 API 邊界把驗證立起來,就能獨立擋下匿名列舉、憑證讀取與惡意工作流程新增。
AID-E-001.001
Root & Long-Lived Credential Object Eviction
極高
正式部署的 Flowise 若曾讓未經驗證的請求連上管理路由,第一步要先封鎖這個未授權入口,接著依事件紀錄清查可能已經外洩的模型金鑰、資料庫密碼與其他憑證,並交由上游供應商或資料庫管理員撤銷及輪替清查範圍內的每一組憑證。
AID-H-002.002
Inference-Time Prompt & Input Validation
高
正式環境的推論請求進入 Flowise 前,先依封閉式的 JSON 欄位允許清單檢查結構;只要外部呼叫者試圖透過請求欄位覆寫由伺服器管理的系統提示詞或工具設定,就直接拒絕。工作階段身分也要分開綁定,並確認外部呼叫者無法繞過閘道去打驗證較寬鬆的直連推論路由。
AID-H-017.002
Least-Privilege Tool Architecture
高
從對外開放的對話工作流程中,移除沒有限制的 HTTP Request 節點、通用 shell 命令執行器與原始資料庫查詢工具等權限過寬能力;只提供用途單一、參數型別受嚴格限制的工具,且背後的資料庫帳號只授予最小範圍的唯讀權限。
AID-I-001.004
Sandbox Network Egress Restrictions
高
在執行 Flowise 的容器或虛擬機器外側,限制對外連線只能到核准的服務。即使有人觸發了工作流程中的 HTTP 節點,它也無法向未核准的外部主機發出回連。
AID-I-002.001
Internal AI Network Segmentation
高
限制正式環境的 Flowise 只能連到核准的內部服務和連接埠。部署在 Kubernetes 時,由支援 NetworkPolicy 的容器網路外掛執行這項限制。即使攻擊者透過工作流程要求探查內網,Flowise 也連不到清單以外的主機。
AID-I-004.001
Runtime Context Isolation & Hygiene
高
將短期對話記憶綁定至由伺服器端簽發並驗證的 session 識別碼,同時設定嚴格的存活時間(TTL)與長度上限,而非直接信任呼叫者在請求中自行指定的 sessionId 字串(例如本案的 tame-session-001),防止攻擊者跨工作階段讀取他人對話紀錄或預先植入污染記憶。
AID-DV-001
Honeypot AI Services & Decoy Models/APIs
高
獲授權的威脅研究或防守團隊可部署與正式環境完全隔離的 AI 誘餌服務(如同 Sekoia 本案自製的 Flowise 2.2.8 REST API 模擬器),預埋合成的節點設定、工作流程、誘餌憑證 UUID 與模擬事件串流,且完全不連上真實 LLM、作業系統 shell 或正式環境網路。這樣就能在不造成實際危害的前提下,安全蒐集攻擊者的工具鏈、憑證竊取行為、回連基礎設施(154.217.251.226:19999)以及後續鎖定的外部目標情資(例如本案出現的 Nightingale v6 相關 Redis 資料鍵名)。
AID-E-003.003
Confirmed Malicious Code & Persistence Eviction
高
若正式環境發生這種入侵,先隔離受影響的工作流程並保存證據。核對核准的工作流程定義後,從設定來源和實際執行的服務移除已確認惡意的流程與異動,再驗證舊流程已無法載入或執行。
AID-I-003.002
Identity, Session & API Rate-Limit Throttling
中
在對外公開的 API 前方,由閘道按已驗證的呼叫者身分或匿名層級設定基本速率上限。若邊界服務能提供可信的濫用訊號(例如來源信譽或反覆輪詢的行為),再對符合條件的流量暫時加強限制。這能在超過上限或觸發濫用管制時抑制掃描與推論濫用,低頻請求仍可能落在允許範圍內。

身為資安防禦者,我們應該這麼做

  • 為管理 API 加上身分驗證,並在推論閘道限制覆寫欄位。先確認管理憑證、工作流程、變數與使用者帳號的 Flowise 端點都要通過身分驗證與權限檢查。如果推論端點必須對外開放,應在 API 閘道檢查 JSON 請求結構,拒絕外部呼叫者覆寫由服務端掌管的設定,尤其是 overrideConfig.systemMessage。同時把對話記憶綁定到伺服器端簽發並驗證的工作階段識別碼,並針對公開推論介面套用合適的請求速率上限。
  • 限縮 Agent 工具能力並隔離對外與內網連線。從對外開放的對話流程中移除通用 HTTP Request 節點、系統命令執行工具與權限過大的資料庫連接器,或者將它們改寫為只做固定操作的單一用途工具。同時在容器或虛擬機器外側設定防火牆與出口規則,限制它能連向哪些內網與外部位址,並實測確認就算工作流程收到不可信輸入,也連不到清單以外的主機。
  • 應變時輪替可能受影響的憑證並清查工作流程。如果正式環境的 Flowise 曾把管理 API 開放給未驗證來源存取,先封鎖這個入口,再調閱 API 與憑證使用紀錄,追查哪些模型金鑰或資料庫密碼可能已經被讀取,請原簽發端或資料庫管理員撤銷並輪替。至於異常工作流程,應先保存證據,再從正式設定來源和執行環境把確認未經授權的異動清掉。

結論

Sekoia 的蜜罐紀錄清楚顯示,攻擊者一旦碰上沒設防的低程式碼 AI 平台,便會同時把它當成憑證來源、對外回連跳板、內網偵察入口與攻擊分析助手。AIDEFEND  將防禦分別對應到管理 API 身分驗證、推論輸入與工具邊界、網路出口隔離,以及事後的憑證輪替與工作流程清理。

最後更新: