arXiv· Yuyang Gong·· 7 天前推荐指数69
NTBench：面向近目标提示词注入的 LLM 与智能体鲁棒性基准
On Task, Off Track: Benchmarking LLM and Agent Robustness to Near-Target Prompt Injection
AI 导读
论文提出近目标提示词注入（near-target prompt injection）这一攻击类别，指注入指令诱导的响应在保留合法答案主体的同时引入错误或有害改动，并发布评测集 NTBench。
来源：arXiv · arxiv.org