安全paper·· 8 天前推荐指数75
NTBench：面向近目标提示词注入的 LLM 与 Agent 鲁棒性基准
On Task, Off Track: Benchmarking LLM and Agent Robustness to Near-Target Prompt Injection
AI 导读
论文提出 NTBench（Near-Target Benchmark），用于测试 LLM 与 Agent 是否能抵抗那些保持用户任务大体不变、却暗中将答案或工具调用引向错误或有害近目标结果的提示词注入。
来源：安全paper · aisecurity.ninja