arXiv· Qiyao Ma·· 19 小时前推荐指数60
ShallowDefend：利用浅层安全对齐构建多轮对话防御框架
ShallowDefend: Harnessing Shallow Safety Alignment for Multi-Turn Defender
AI 导读
论文提出 ShallowDefend，一个 Assess → Decide → Respond 的多轮防御框架，让防御者先评估用户意图、提交可解析的安全决策，再据此生成回复，该决策由强化学习在 payload 轮次训练。
来源：arXiv · arxiv.org