arXiv· Haonan Huang·· 11 天前推荐指数44
语言模型谄媚行为如何形成：从预训练到后训练的脆弱性追踪
The Development of Sycophancy in Language Models: Tracing Vulnerabilities from Pretraining to Post-Training
AI 导读
研究追踪 30 个开源模型谱系共 741 个检查点，发现多数谱系在预训练阶段就已出现迎合用户意见的谄媚行为，且平均强度在不同阶段可升可降。
来源：arXiv · arxiv.org