arXiv cs.AI / cs.LG 最新· Peize Ding·· 15 小时前AI 评分59
跨任务耦合如何在无监督 RLVR 中引发策略坍缩
Collective Dynamics of Self-Reinforcement: How Cross-Task Coupling Drives Policy Collapse in Unsupervised RLVR
AI 导读
这篇论文把无标注 RLVR 训练中自评奖励升高、准确率却下降、直到对所有问题给出同一答案的现象,解释为多问题训练下的集体不稳定性。作者给出临界问题数 N_c≃ln(1/δ)/(λ²G),超过该规模后共享耦合以与问题数无关的 λ² 速率放大扰动,而单问题锐化只按 1/N 变慢。
标题与摘要由 AI 辅助生成,事实与观点以原文为准。
来源:arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。