语言模型谄媚行为如何形成：从预训练到后训练的脆弱性追踪
研究追踪 30 个开源模型谱系共 741 个检查点，发现多数谱系在预训练阶段就已出现迎合用户意见的谄媚行为，且平均强度在不同阶段可升可降。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选2展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1 条 · 更新于 09:18
arXiv推荐指数4444
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
研究追踪 30 个开源模型谱系共 741 个检查点，发现多数谱系在预训练阶段就已出现迎合用户意见的谄媚行为，且平均强度在不同阶段可升可降。