跳到正文
原文
arXiv cs.AI / cs.LG 最新· Jiaru Qian·· 18 小时前AI 评分56

DPT 用前缀相似度惩罚提升 LLM 并行思考的路径多样性

Parallel Thinking for Large Language Model with Path Diversity

AI 导读

作者提出 Diverse Parallel Thinking(DPT)强化学习方法,通过惩罚并行思考路径的前缀相似度来鼓励模型发展不同的推理策略。论文指出,用 RL 做并行思考时容易出现推理路径的模式崩溃,多条轨迹退化成彼此相似,削弱了同时保留多个假设的初衷。在多个推理基准上的实验显示,DPT 优于此前的并行思考方法,在基线上取得 SOTA,作者同时开源了代码。

标题与摘要由 AI 辅助生成,事实与观点以原文为准。

来源:arXiv cs.AI / cs.LG 最新 · arxiv.org

本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。