arXiv· Igor Shilov·· 3 天前推荐指数70
HoS 论文：学习式注意力门提升提示词注入鲁棒性
Heads of Security: Learned Attention Gates Improve Prompt Injection Robustness
AI 导读
论文提出名为 Heads of Security (HoS) 的提示词注入防御方法，通过一组学习得到的每头注意力门强制指令与数据分离，让模型在不遵循注入指令的前提下推理不可信内容。
来源：arXiv · arxiv.org