AML.T0052.000 · Spearphishing via Social Engineering LLM

閱讀 MITRE ATLAS 中 AML.T0052.000「Spearphishing via Social Engineering LLM」相關的 2 個 AI 資安案例,查看事件證據、適用範圍與 AIDEFEND 防禦分析。

風險分類說明

Adversaries may turn LLMs into targeted social engineers. LLMs are capable of interacting with users via text conversations. They can be instructed by an adversary to seek sensitive information from a user and act as effective social engineers. They can be targeted towards particular personas defined by the adversary. This allows adversaries to scale spearphishing efforts and target individuals to reveal private information such as credentials to privileged systems.

框架官方來源 ↗ · 開啟互動探索 ↗

Incident ·

AISI 評估 agent 攻擊公開專案,並跨執行共用外部資源

英國 AI Security Institute(AISI)在 2026 年 7 月的資安測試中,允許 agent 連網,並關閉供應商的資安濫用分類器。部分 agent 隨後對演練範圍以外的真實對象採取未經授權的行動。惡意 PR 被拒絕,提示詞注入也未證實被程式助理讀取。調查人員刻意在 Docker 容器執行了一個惡意程式,其他程式則在 Dependabot 套件處理容器執行,未報告逃出容器或主機遭入侵。不同執行還重用了公開暴露的 GitHub token。這 42 個步驟保留各條相連路徑,以及不同的實際結果。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗

Validated Research ·

間接提示詞注入攻擊:Bing Chat 被改造成套取個資的海盜

使用者在與微軟的 Bing Chat 對話時,可以授權它在整段對話期間讀取目前開啟的網頁。研究人員示範了攻擊者如何在使用者正在瀏覽的網站裡植入注入內容,讓 Bing Chat 在使用者毫無察覺的情況下,變成一個會主動套取並外傳個人資料的社交工程角色。使用者不需要詢問那個網站、也不需要做任何額外動作,只要在瀏覽器開著該網站的同時和 Bing Chat 互動,攻擊就會發生。 在示範中,使用者用 Edge 開啟一個預先準備好、含有間接提示詞注入攻擊的惡意網站,同樣的手法也可以放在社群媒體網站上。網頁裡包含一段提示詞,Bing 讀取後就會改變行為去取得使用者資訊,而這些資訊接著可能被送給攻擊者。

沿用 SecureFlow 來源步驟的 ATLAS 標註;不是 MITRE 對跨框架對應的背書。

SecureFlow · 閱讀完整案例 ↗