ETH Zurich SPY Lab 开源 AgentDojo：评测 LLM Agent 提示词注入攻防的动态环境

ETH Zurich 的 SPY Lab 与 Invariant Labs 开源 AgentDojo，一个用于评测针对 LLM Agent 的提示词注入攻击与防御的动态环境。它同时提供用户任务与注入任务，使攻击和防御能在同一基准上被测量，并配有 NeurIPS 2024 datasets and benchmarks track 的论文。