AI安全·· 14 小时前推荐指数56
Damn Vulnerable LLM Agent:面向 ReAct 推理步骤注入的实验靶场
Damn Vulnerable LLM Agent
AI 导读
ReversecLabs 开源 Damn Vulnerable LLM Agent,一个基于 LangChain 构建的故意脆弱 ReAct agent,用于实验 Thought/Action/Observation 注入,攻击目标是 agent 的推理步骤而非最终答案。
来源:AI安全 · github.com