arXiv cs.AI / cs.LG 最新· Hannan Mahadik·· 20 小时前AI 评分47
DPO 超参数景观：该测什么、如何随规模变化、何时不可迁移
The Shape of the DPO Hyperparameter Landscape: What to Measure, How It Moves with Scale, and When Not to Transfer It
AI 导读
一项针对 DPO 后训练的密集网格实验发现，最优学习率随模型规模变化，超参数也无法跨训练数据集迁移。验证 loss 是超参数优化的糟糕代理指标，最小化验证 loss 与下游 benchmark 上的最优超参数仅弱相关。因此 DPO 超参数需针对目标模型、数据集和评测目标单独调优，短程候选训练可显著降低选择成本，全部训练配置与评测结果已公开。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。