跳到正文
arXiv· Peize Ding·· 3 天前推荐指数59

arXiv 论文:交叉任务耦合如何驱动无监督 RLVR 中的策略坍缩

Collective Dynamics of Self-Reinforcement: How Cross-Task Coupling Drives Policy Collapse in Unsupervised RLVR

AI 导读

论文研究无标签、可验证奖励强化学习(RLVR)中模型以自身多数投票作为奖励时出现的策略坍缩现象:自评奖励趋近 1 但准确率下降,模型最终对所有问题给出相同答案,且坍缩仅在训练问题数量较多时出现。

来源:arXiv · arxiv.org