arXiv cs.AI / cs.LG 最新· Emile Anand·· 14 小时前AI 评分64
arXiv 论文提出 AMTP 自适应控制器，按上下文选择多 token 预测的草稿长度
Adaptive Multi-Token Prediction: How far should we go?
AI 导读
arXiv 论文提出自适应多 token 预测 AMTP，用轻量控制器在每轮推理前按上下文选择草稿的推测长度。它以验收存活率预测草稿能走多远，挑选每秒期望 token 数最高的窗口，无需重新训练，也不改动原有的验证器。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。