ShortSpan·· 24 天前推荐指数58
论文提出 PEV 攻击:随机嵌入扰动可越狱六个开源权重模型
Random noise in embeddings jailbreaks open-weight models
AI 导读
论文《Jailbreaking Open-Weight LLMs via Random Embedding Perturbations》提出 Perturbed Embedding Vector(PEV)攻击,在六个开源权重指令微调模型上对 JailbreakBench 全部 100 条提示均取得 100% 越狱率。
来源:ShortSpan · shortspan.ai