arXiv 论文提出 LLMON 后训练方法，将间接提示词注入成功率从 53-100% 降至 0.02-5.6%
arXiv:2610.38120 论文提出 LLMON（LLM Object Notation）后训练方法，通过结构化对象标记让模型区分可执行指令与被动上下文数据，并要求基于显式标识符执行，以降低 RAG 与工具调用场景下的提示词注入风险。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选3展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 2 条 · 更新于 15:38
安全paper推荐指数6161
arXiv推荐指数6262 论文发现 LLM Agent 文本拒答难以迁移到工具调用
论文构建了覆盖四个领域、2,304 条提示词的基准，用文本、标准工具调用和对抗性工具调用三种配对设置测试五个模型，发现聊天中被拒答的有害请求在标准工具调用下仍有 10-52% 变成不安全的工具调用。