安全paper·· 6 天前推荐指数76
arXiv论文:相同训练配置的语言模型在不同越狱提示上表现分化
Identically Trained Language Models Break on Different Jailbreaks
AI 导读
arXiv:2610.34074论文指出,即使架构、数据配方和安全后训练完全相同,语言模型在不同越狱提示上的失败表现也会因预训练随机种子不同而显著分化。研究对25种预训练数据配方、每种取3个预训练种子的1B base模型,各施加相同安全后训练(含2个后训练种子),共150个模型,收集每个模型对共享越狱提示集的20条回复并计算逐提示非拒答率相关性。
来源:安全paper · aisecurity.ninja