arXiv· Zhicheng Fang·· 11 天前推荐指数39
面向 LLM 红队演练的预算化攻击调度：静态先验、语义引导与在线反馈的作用
Budgeted Attack Scheduling for LLM Red-Teaming: The Roles of Static Priors, Semantic Guidance, and Online Feedback
AI 导读
研究将有限尝试预算下的越狱攻击优先级问题形式化为固定攻击库上的预算化攻击调度，并在 GPT-5.2 上跨三个受害模型与三种防御设置评估四种调度策略。实验显示历史 ASR 先验能提供强初始化，但在防御引起的分布偏移下可靠性下降；语义引导在冷启动阶段稳定优于或持平静态先验调度，在线反馈则在迁移先验失效时价值凸显。语义引导与在线反馈还能部分弥补历史先验缺失，三者呈互补关系。
来源：arXiv · arxiv.org