跳到正文
AI安全·· 14 小时前推荐指数56

Damn Vulnerable LLM Agent:面向 ReAct 推理步骤注入的实验靶场

Damn Vulnerable LLM Agent

AI 导读

ReversecLabs 开源 Damn Vulnerable LLM Agent,一个基于 LangChain 构建的故意脆弱 ReAct agent,用于实验 Thought/Action/Observation 注入,攻击目标是 agent 的推理步骤而非最终答案。

来源:AI安全 · github.com