AICSO.AI汇总·· 11 天前推荐指数57
哥伦比亚大学 Yan 与 Hewitt 提出奖励描述训练，缓解奖励错配导致的思维链不可监控
哥伦比亚大学 Yan 与 Hewitt：奖励设定偏差本身就会让思维链难以监控，推断奖励描述训练可提升可监控性
AI 导读
哥伦比亚大学 Yan 与 Hewitt 的论文指出，奖励设定偏差本身就会让思维链（CoT）难以监控，并提出从模型获得奖励的轨迹中推断奖励偏好、在训练中把该描述间歇注入一半轨迹的方法。
来源：AICSO.AI汇总 · alphaxiv.org