arXiv· Peize Ding·· 3 天前推荐指数59
arXiv 论文:交叉任务耦合如何驱动无监督 RLVR 中的策略坍缩
Collective Dynamics of Self-Reinforcement: How Cross-Task Coupling Drives Policy Collapse in Unsupervised RLVR
AI 导读
论文研究无标签、可验证奖励强化学习(RLVR)中模型以自身多数投票作为奖励时出现的策略坍缩现象:自评奖励趋近 1 但准确率下降,模型最终对所有问题给出相同答案,且坍缩仅在训练问题数量较多时出现。
来源:arXiv · arxiv.org