arXiv· Doohyun Kim·· 1 天前推荐指数67
SEAL:用密封查询对工具输出做本地净化以防御间接提示词注入
SEAL: Sealed Queries for Local Sanitization against Indirect Prompt Injection
AI 导读
arXiv 论文提出 SEAL,通过离线学习软提示与打分读出头,用冻结的任务模型对不可信工具输出做本地净化,防御间接提示词注入。其打分查询仅由可信初始上下文与学习到的软提示构成,与被检查的工具文本无关,并引入保留正则化以在局部删除时保留有用证据,无需防御生成 token 或独立验证模型。
来源:arXiv · arxiv.org