arXiv· Tianyi Lorena Yan·· 10 天前推荐指数62
研究显示奖励错配会降低大模型思维链可监控性
Reward Misspecification Degrades Chain-of-Thought Monitorability
AI 导读
arXiv 论文《Reward Misspecification Degrades Chain-of-Thought Monitorability》指出，奖励错配本身就会削弱大语言模型思维链的可监控性。
来源：arXiv · arxiv.org