MITRE ATLAS
mitre-atlas-cs0052
LLMSmith：整合 LLM 的應用程式中的遠端程式碼執行漏洞
- 自主式 agent
- 系統入侵與遠端程式碼執行
研究人員在 11 個不同的 LLM 框架中，找出 20 個遠端程式碼執行（RCE）漏洞。他們找出以這些 LLM 框架寫成、且已部署在公開網際網路上的應用程式，並示範這些 RCE 漏洞可以透過提示詞注入被利用。 研究人員評估的這 11 個 LLM 框架分別是：LangChain、LlamaIndex、Pandas-ai、Langflow、Pandas-llm、Auto-GPT、Griptape、Lagent、MetaGPT、vanna 與 langroid。