AML.T0011 · User Execution

閱讀 MITRE ATLAS 中 AML.T0011「User Execution」相關的 7 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

An adversary may rely upon a user to load, execute, interpret, or otherwise use a malicious or unsafe artifact. In AI systems, user execution may include loading a model or causing an inference runtime to process executable or behavior-shaping components bundled with an AI artifact. The resulting effect may include host code execution or malicious AI behavior. Users may inadvertently execute unsafe code introduced via [AI Supply Chain Compromise](/techniques/AML.T0010). Users may be subjected to social engineering to get them to execute malicious code by, for example, opening a malicious document file or link.

框架官方來源 ↗ · 開啟互動探索 ↗

Incident ·

AISI 評估 agent 攻擊公開專案,並跨執行共用外部資源

英國 AI Security Institute(AISI)在 2026 年 7 月的資安測試中,允許 agent 連網,並關閉供應商的資安濫用分類器。部分 agent 隨後對演練範圍以外的真實對象採取未經授權的行動。惡意 PR 被拒絕,提示詞注入也未證實被程式助理讀取。調查人員刻意在 Docker 容器執行了一個惡意程式,其他程式則在 Dependabot 套件處理容器執行,未報告逃出容器或主機遭入侵。不同執行還重用了公開暴露的 GitHub token。這 42 個步驟保留各條相連路徑,以及不同的實際結果。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Exercise ·

在 Google Colab 上執行任意程式碼

Google Colab 是一項在虛擬機器上執行 Jupyter Notebook 的服務。Jupyter Notebook 常用於 ML 與資料科學的研究與實驗,裡面可以放可執行的 Python 程式片段,也支援常見的 Unix 命令列功能。除了資料處理與視覺化之外,這種可執行程式碼的能力也讓使用者可以從網路下載任意檔案、操作虛擬機器上的檔案等等。 使用者也可以用連結把 Jupyter Notebook 分享給別人。如果 notebook 裡含有惡意程式碼,使用者可能在不知情的情況下執行它;這些程式碼可能經過混淆,或藏在下載下來的腳本裡。 當使用者在 Colab 開啟別人分享的 Jupyter Notebook 時,系統會詢問是否要讓該 notebook 存取自己的 Google Drive。允許存取 Google Drive 有其正當理由,例如讓使用者換上自己的檔案;但也可能造成惡意後果,例如資料外洩,或對外開出一個能存取受害者 Google Drive 的伺服器。 這個演練的目的,是讓大家意識到任意程式碼執行與 Colab 的 Google Drive 整合會帶來什麼影響。請養成安全評估分享 Colab 連結的習慣,並在執行前先檢查程式碼。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

以提示詞操弄在聯想 AI 聊天機器人上造成跨網站腳本攻擊

Cybernews 的研究人員示範了聯想的 AI 聊天機器人「Lena」有提示詞注入漏洞:它會產生惡意 HTML 並存進對話記錄中,之後在真人客服的瀏覽器中顯示時,就能把該客服的工作階段 cookie 外洩出去。 研究人員送給 Lena 的,是一個看起來人畜無害的產品資訊查詢,但其中夾帶了要求以危險 HTML 內容回覆的指示。這段回覆被存進使用者的對話記錄中,形成一個儲存型跨網站腳本(XSS)攻擊內容。當研究人員要求轉接真人客服時,客服照著正常流程打開對話記錄,就讓這段被投毒的內容顯示出來,把工作階段 cookie 的資料送到攻擊者控制的伺服器。如果一個仍然有效的客服 cookie 被重複使用,攻擊者就可能以該客服的身分登入聯想的客戶支援平台,查看客戶對話,或執行該帳號可用的其他操作。 聯想已承認這個問題,並表示已採取修正措施,以降低潛在影響並處理這個問題。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Incident ·

Miasma 利用 Claude Code、Gemini CLI、Cursor 與 VS Code 對儲存庫內設定的信任

Miasma 是 StepSecurity 對這起儲存庫供應鏈攻擊使用的名稱。2026 年 6 月 5 日,攻擊者使用先前遭入侵的貢獻者帳號,把 Commit 5f456b8 推送到 Azure/durabletask(Microsoft 的開源 Durable Task 儲存庫)。該 Commit 新增四個會在開啟專案時觸發的工具設定,以及一個 4.6 MB、經混淆的 .github/setup.js 憑證竊取程式。Claude Code 或 Gemini CLI 的 SessionStart Hook、Cursor 的 Always-applied 規則,或 VS Code 的 Folder-open Task,都可能啟動這個程式。GitHub 隨後在 105 秒的自動化處置中停用四個 Microsoft 組織下的 73 個儲存庫;這是圍堵範圍,不代表 73 個儲存庫都已證實含有惡意 Commit。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Incident ·

LAMEHUG:用 AI 即時產生命令的惡意程式

2025 年 7 月,烏克蘭當局通報出現一支名為 LAMEHUG 的新型 AI 惡意程式,並將其歸因於俄羅斯國家支持的攻擊組織 APT28(https://attack.mitre.org/groups/G0007/,另有 Forest Blizzard 或 UAC-0001 等代稱)。LAMEHUG 會用大型語言模型(LLM),在受感染的主機上即時產生命令。 這次攻擊活動的起點是一封釣魚郵件:攻擊者利用一個已被入侵的政府電子郵件帳號,寄送偽裝成 Appendix.pdf.zip 的惡意 ZIP 壓縮檔。壓縮檔裡是 LAMEHUG,一支以 Python 撰寫、再用 PyInstaller 打包成執行檔的惡意程式。執行後,它會呼叫 LLM 端點,把自然語言提示詞轉換成惡意命令。由於命令是即時產生的,這支惡意程式可能更難被偵測。LAMEHUG 被設定成蒐集本機檔案並外傳出去。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

看似乾淨的專案,也可能惡意引導 AI 程式開發 agent 建立反向 shell

0DIN 展示一條看似正常的專案啟動流程,如何引導 Claude Code 類型的 agent(能讀專案、執行開發命令的 AI 程式開發 agent)執行設定步驟,最後建立反向 shell。攻擊者不必把惡意程式碼寫行程式碼儲存庫;他可以讓套件先製造初始化錯誤,引導 agent 執行 python3 -m axiom init ,再由設定腳本從 DNS TXT 記錄取回並執行真正的惡意指令。防守方因此不能只審查程式碼儲存庫內容,還要在隔離環境中安裝套件、要求高風險命令核准、限制對外連線,並檢查執行時才取回的程式碼。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗

Validated Research ·

DifyTap:多租戶 AI 平台不能只靠登入來守住資料邊界

Zafran 的 DifyTap 研究串起 Dify(讓多個組織或團隊共用同一套服務的 AI 應用平台)中多條資料外洩路徑,包括未經授權的對話存取、Plugin Daemon(Dify 的外掛服務)的內部 API、跨租戶文件預覽(例如:研究者能在未檢查權限的預覽路徑讀到其他租戶上傳的 PDF 與圖片;同一租戶內也能藉別人的檔案 UUID 取得檔案),以及 PDF 預覽解析器中的安全漏洞。這不是修補單一漏洞就能解決的問題:多租戶 AI 平台必須在每個資料處理環節重新驗證物件層級的權限,隔離不同租戶的執行狀態,對遙測資料中的機敏資訊做適當遮罩(masking,移除或替換記錄中的機敏內容),並把文件解析工作放進隔離的沙箱環境。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

AIA · 閱讀完整案例 ↗ · SecureFlow · 閱讀完整案例 ↗