閱讀 MITRE ATLAS 中 AML.T0095「Search Open Websites/Domains」相關的 3 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。
風險分類說明
Adversaries may search public websites and/or domains for information about victims and AI targets that can be used during targeting and to discover opportunities for successful attacks. Information about a victim's attack surface may be available in various online sites, such as social media, news sites, or domains owned by the victim. Adversaries may find the information they seek to gather via search engines. They can use precise search queries to identify software platforms or services used by the victim to use in targeting. This may be followed by [Exploit Public-Facing Application](/techniques/AML.T0049) or [Prompt Infiltration via Public-Facing Application](/techniques/AML.T0093). Adversaries may utilize OSINT-based discovery to map different AI assets by using search engine result pages, as well as backlink analysis, to locate agentic interfaces (which are frequently embedded via iFrames and follow predictable naming conventions). By analyzing the indexed URL structures of these sources from different search engines, attackers can often reverse-engineer internal environment IDs and organization-specific naming conventions. This intelligence gathering significantly narrows the search space for any later targeted fuzzing or enumeration performed by [Active Scanning: Enumerate Hosted AI Resources](/techniques/AML.T0006.000).
Check Point Research 示範了一種名為「AI in the Middle」的攻擊:惡意程式可以濫用那些提供匿名或免驗證瀏覽、以及網址抓取功能的網頁版 AI 助理,把它們當成隱蔽的指揮控制(C2)通道。這個概念驗證使用了包含 Grok 與 Microsoft Copilot 在內的公開 AI 網頁介面,讓 AI 服務去抓取攻擊者控制的網址、在往外的請求中把受害者資料一併帶走,再透過 AI 助理正常的回覆內容,把攻擊者的命令送回來。 由於這個植入程式是以一般的 HTTPS 網頁流量,和可信的 AI 服務網域溝通,這些活動可以混進企業預期中的 AI 使用行為,避開那些聚焦於可疑基礎設施、異常通訊協定、API key、服務帳號或可撤銷憑證的控制。此外,部分網址抓取流程並不要求身分驗證,也讓防守方很難用輪替 API key、停用帳號或撤銷 token 的方式關掉這條通道。研究人員建議,應該為 AI 的網址抓取功能加上更強的身分驗證與存取控制,並提升對 AI 主動發出的網路請求,以及 AI 助理互動內容的可見度。
Unit 42 的研究顯示,只要 Hugging Face 作者命名空間 (namespace, 模型平台上用來區分作者或組織所屬模型的名稱範圍)被刪除,或模型移轉後舊作者命名空間又變成可被他人註冊,下游程式碼、設定與文件裡未更新的模型參照就可能改指向攻擊者重新註冊的命名空間。研究人員在受控測試環境中註冊已被放棄的名稱、重建原本的模型路徑,讓 Vertex AI 與 Azure AI Foundry 部署流程載入含有反向 shell(由受影響環境主動連回外部、讓對方取得命令列)的模型;原作者帳號並未遭入侵。防禦方不能再把熟悉的名稱當成模型身分,而要以不可變的成品雜湊值與簽章者身分固定模型版本、監看命名空間生命週期、使用內部鏡像站,並隔離模型載入流程。
Cato Networks 的研究人員示範了攻擊者如何利用嵌在企業工作流程中的 AI 系統,以較高的權限執行惡意動作。做法是由外部使用者送出精心設計的內容,例如客服工單,之後這些內容會被內部人員或自動化系統透過 AI agent 處理。這些 AI agent 帶著內部脈絡與信任在運作,因此可能解讀並執行其中的惡意指令,造成資料外洩、權限提升或系統被操弄等未授權行為。