安全paper·· 6 天前推荐指数66
SentryBench：面向公共安全部署的工具调用 LLM Agent 对抗鲁棒性成本敏感基准
SentryBench: A Cost-Sensitive Benchmark for Adversarial Robustness of Tool-Using LLM Agents in Public-Safety Deployments
AI 导读
arXiv 论文提出 SentryBench，一个面向公共安全场景中工具调用 LLM Agent 的成本敏感基准与成本模型，场景基于真实报警通话记录、灾害消息和真实注入/越狱 payload。
来源：安全paper · aisecurity.ninja