跳到正文
ShortSpan·· 24 天前推荐指数58

论文提出 PEV 攻击:随机嵌入扰动可越狱六个开源权重模型

Random noise in embeddings jailbreaks open-weight models

AI 导读

论文《Jailbreaking Open-Weight LLMs via Random Embedding Perturbations》提出 Perturbed Embedding Vector(PEV)攻击,在六个开源权重指令微调模型上对 JailbreakBench 全部 100 条提示均取得 100% 越狱率。

来源:ShortSpan · shortspan.ai