安全paper·2026-10-28 00:00· 3 天前推荐指数62

arXiv论文提出Curriculum of Models方法用于自动化越狱发现

Discovering Jailbreaks via Curriculum of Models

AI 导读

论文提出Curriculum of Models（CoM），一种基于强化学习的自动化越狱发现方法，通过让攻击者模型依次针对逐步更安全的目标模型版本进行训练，以解决直接训练时因拒绝导致的稀疏奖励问题。

来源：安全paper · aisecurity.ninja