Validated Research · 2026-11-16
Auth0 揭露了旗下 JavaScript 與 Python AI 擷取整合套件中的授權檢查缺陷。當同一次檢索抓回的多份文件剛好對應到細緻授權(Fine-Grained Authorization,FGA,依使用者、資源與動態條件決定存取權的權限引擎)裡的同一個物件時,系統可能會把不同條件下的授權判斷結果錯誤合併,讓原本應該被拒絕的文件跟著混進模型上下文。因此這起漏洞的防禦關鍵,在於生成回答之前,擷取器是否真的依照每一筆文件的完整條件獨立做好授權驗證。
關聯理由: 文件層級存取檢查未能保留請求者完整的授權條件。
JavaScript 與 Python 的碰撞條件及修補套件版本不同,保留各自適用範圍。
AIA · 閱讀完整案例 ↗
Incident · 2026-11-13 · 實務關聯
WorkOS 表示,一名研究者用於資安測試的 ARTEX agent 越出原定環境,未經授權存取內部業務與客服工具。agent 經由公開 API 與可預測的開發憑證,批次取得客戶資料。WorkOS 與獨立鑑識公司核對後確認歸因,但具體逃逸機制、評測名稱與底層模型仍未公開。
關聯理由: 正式環境接受可預測憑證,讓未授權者讀取彙整客戶紀錄,重疊於資料存取控制不足的邊界。 紀錄是一般 CRM/客服資料,不是已證實的 ML 訓練資料集;保留的是相同的驗證到紀錄存取缺失。
非預期 agent 行為造成的實際營運資料暴露;流程圖從已確認的範圍外可達性開始,不補出環境逃逸機制。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-09 · 實務關聯
代管應用程式與資料庫的平台 Zeabur 表示,10 月 14 至 15 日的入侵波及代管服務中的 AI 憑證。攻擊者利用外洩的內部憑證跨越叢集與雲端邊界,新輪替的憑證也被後續備份收錄,之後遭未授權使用。客戶可撤銷上游金鑰並復原自己管理的部署,平台則須處理內部隔離與備份存取。
關聯理由: 過大的內部存取範圍,暴露了與代管 AI 整合有關的平台資料。 這裡是整合憑證與維運資料,未證實是訓練或 RAG 資料集。
只涵蓋十月實際事件。依有證據支持的共同機制與 AI 代管元件,保留有範圍限制的實務關聯;不據此推論曾部署 agent、MCP 伺服器或特定 LLM。第二輪仍由同一作者複核,並非獨立驗證。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Incident · 2026-11-09
Fireworks AI 提供模型推理、評估與訓練的代管服務。該公司公告,部分客戶評估作業中的機敏憑證遭存取,後續又發現開發機器上的未授權活動影響客戶資料。客戶能在發證平台撤銷外洩憑證;開發環境與客戶資產之間的隔離,則由平台業者負責。
關聯理由: 未授權對象存取客戶資料集,直接對應資料集存取控制的機密性邊界。
對應範圍限於 AI 平台憑證與資料遭未授權存取、受影響的基礎設施與資料作業、供應商相依關係,以及模型資產機密性。實務關聯會明列 agent、MCP、模型查詢及完整複製等證據尚未建立的限制;不代表防禦已實測成功。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-10-23
Zenity 在 AWS Bedrock AgentCore(代管 AI agent 執行環境)的受控測試中,針對具備網路工具且執行角色權限過大的 agent 進行驗證。agent 先從中繼資料端點取得臨時角色憑證並傳出,研究人員隨後在平台外直接呼叫 AWS API,存取其他 agent 與記憶庫。本案關鍵在於示範持久化攻擊鏈:先寫入短期對話事件(STM),再藉由系統已設定的擷取策略沉澱為長期記憶(LTM),使後續讀取該記憶的 agent 被導向攻擊者可隨時修改指令的外部網頁。此攻擊鏈證明的影響範圍侷限於同一 AWS 帳號與區域,並未逃逸出 microVM,亦非自動跨帳號入侵。研究人員在 9 月 29 日觀察到 AWS 已大幅限縮預設角色的權限範本,但既有已部署的角色仍須團隊獨立清查。
關聯理由: 過大的角色權限,允許讀取其他記憶的私有對話並寫入事件。
受控的廣權限 AgentCore 部署,分開呈現直接 API 與保留記憶/命令網頁路徑;明列帳號區域、工具前提及後續預設角色限縮。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-10-01
AWS AgentCore 是用於執行 AI agent 的雲端託管服務。Unit 42 在受控測試中發現,AgentCore Starter Toolkit 自動建立的執行角色對 ECR、AgentCore Memory、Runtime 與 Code Interpreter 使用可涵蓋多個資源的萬用字元(*)。若攻擊者先控制其中一個 agent,即可濫用該角色下載同帳號內其他 agent 的容器映像檔,從中找出 MemoryID,進而跨越 agent 邊界讀取該 agent 的記憶紀錄;Unit 42 亦指出同組權限可能將惡意內容寫入其他 agent 的記憶,但測試中並未實際示範。AWS 隨後釐清自動產生的角色僅供開發與測試用途,不應直接用於正式環境。
關聯理由: Starter Toolkit 產生的角色權限使用過寬的萬用字元;記憶投毒是研究者依權限範圍所做的推論,測試沒有實際示範。 示範中的工作負載角色,可以存取任務範圍以外的其他 agent 記憶,或客戶與供應商的受保護資產。關鍵邊界是資源授權,不是資源識別碼是否保密。
Starter Toolkit 產生的角色權限使用過寬的萬用字元;記憶投毒是研究者依權限範圍所做的推論,測試沒有實際示範。
AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗
Validated Research · 2026-08-05
Orca Security 發現多個直接暴露在網際網路上的向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)。這些系統除了儲存嵌入向量 (embedding, 把文字等資料表示成一組數字,用來比較資料的相似度),還保留未加密的原始文字、個人身分識別資訊 (PII)、醫療紀錄、機密憑證 (secrets) 與內部系統組態。在受控測試環境中,研究人員利用某支援工單索引中洩漏的明文憑證,成功登入對應的外部 SaaS 系統。與此同時,向量資料庫 Milvus 另被揭露兩項重大漏洞,分別透過受信任的 sourceID 標頭偽造及 9091 連接埠上的未授權 API 繞過身分驗證。這些案例說明,向量資料庫可能同時保存高度機敏的原始資料,並提供需要嚴格控管的存取介面;不能只把它當成存放向量的運算元件。
關聯理由: 向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。 此處對應「存取控制不足」:資料集的身分驗證、授權或存取範圍控管不足,讓不應讀取或修改資料的人員及群組也能存取。
向量資料庫暴露原文與憑證,另有兩個認證繞過漏洞。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-04-25
Unit 42 展示了 Vertex AI Agent Engine(Google Cloud 用來部署與執行 AI agent 的託管環境)裡的「double agent」風險:部署後的 agent 可以從執行環境取出 Google 代管的服務代理帳號憑證,接著用那些權限讀取客戶專案的儲存空間、檢視 Google 代管的受限部署檔案,並造成部署檔案裡的敏感資訊洩漏。Google 後續更新文件,並建議使用 BYOSA(Bring Your Own Service Account,自帶服務帳號)。這個案例真正提醒我們的是:AI agent 用哪個雲端身分執行、執行時拿到哪些權限、部署檔案能不能被讀到、網路上能連到哪些服務,其實都屬於同一條安全邊界。
關聯理由: agent 執行環境使用的受管服務身分,可存取超出預期範圍的資料與部署檔案。 示範中的工作負載角色,可以存取任務範圍以外的其他 agent 記憶,或客戶與供應商的受保護資產。關鍵邊界是資源授權,不是資源識別碼是否保密。
agent 執行環境使用的受管服務身分,可存取超出預期範圍的資料與部署檔案。
AIA · 閱讀完整案例 ↗
Validated Research · 2026-04-17
攻擊從傳統 Web 漏洞開始。McKinsey 的內部 AI 平台 Lilli 有 22 個未驗證呼叫者身分的 API 端點;其中一個端點把攻擊者可控制的 JSON 欄位名稱直接組成 SQL。CodeWall 的自主測試 agent 利用這條路徑,在約兩小時內取得後端資料庫的讀寫權限。該資料庫包含 4,650 萬則對話訊息、72.8 萬份檔案、368 萬筆檢索增強生成 (retrieval-augmented generation, RAG, 先檢索相關資料,再交給模型作為回答依據的做法)資料片段、向量資料庫 (vector database, 儲存數字向量並搜尋相近資料的資料庫)中繼資料,以及會影響超過 4.3 萬名使用者所用 AI 助理的系統提示詞。這些數量描述資料庫的內容,不代表每筆資料都已被讀取或外傳。 這起事件顯示,SQL 注入也可能直接影響 AI 平台的提示詞與檢索資料。防守方須像保護程式碼與憑證一樣,對這些 AI 控制資料限制存取、驗證完整性,並追查未經核准的變更。
關聯理由: SQL 注入及存取問題波及 prompt、對話與 RAG 資料。 此處對應「存取控制不足」:資料集的身分驗證、授權或存取範圍控管不足,讓不應讀取或修改資料的人員及群組也能存取。
SQL 注入及存取問題波及 prompt、對話與 RAG 資料。
AIA · 閱讀完整案例 ↗