arXiv· Md. Robiul Islam Niloy·· 1 天前推荐指数62
arXiv 论文系统评测七个大语言模型的越狱攻击与防御效果
Systematic Evaluation of Adversarial Jailbreaking Attacks and Defenses Across Seven Large Language Models
AI 导读
论文对五类越狱攻击（直接请求、角色扮演、假设性框架、指令覆盖、混淆）在 Llama-3-8B、Llama-3.1-8B、Llama-3.2-3B、Mistral-7B、Qwen2.5-7B、Gemma2-9B、Phi-4-14B 七个模型上做系统评测，并对关键词黑名单、自我提醒提示、改写净化、困惑度过滤四种防御机制进行对比。
来源：arXiv · arxiv.org