arXiv· Yinxiang Wang·· 11 天前推荐指数52
SpanGuard 将指令定位与授权判断解耦，实现轻量 IPI 防御
SpanGuard: Decoupling Instruction Localization from Authorization for Lightweight IPI Defense
AI 导读
SpanGuard 提出把间接提示词注入（IPI）防御拆成两步：先用轻量无监督分割在异构工具输出中定位可疑指令，再由小语言模型做块级授权判断。作者指出小模型难以同时完成定位与授权判断，解耦后护栏对模型能力的要求明显降低。实验显示其攻击成功率为 0.32%，良性效用损失可忽略，且在更小的模型上仍然有效。
来源：arXiv · arxiv.org