ProVe反转投机解码角色提升吞吐

2026年10月20日，arXiv cs.AI/cs.LG 报道提出 ProVe 解码方法，其核心是反转投机解码中的提议者—验证者角色：由大模型充当 proposer，用一次前向预测整块未来 token，再用一次前向完成验证。报道称，验证器可替换为更小的 3B 自回归（AR）模型，此时在六个基准上平均吞吐为 2.7x，但平均准确率比 AR 低 2.6 个百分点；若由 proposer 自己验证，则性能无损，32B proposer 平均吞吐达 2.5x。目前进展为该方法在报道所述基准上给出吞吐与准确率结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。