热点事件持续更新
Lafa 8B流式模型吞吐达2.54倍
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年10月21日,arXiv 论文提出 8B 参数块式连续流语言模型 Lafa,称其在指令跟随、推理和编码任务上的质量匹配或超过自回归模型。该模型前缀使用因果注意力、块内使用双向异步流,可直接改造预训练 AR 模型,训练 token 用量少于 30B,并支持前缀缓存与块式并行解码。论文用自推测解码在单个模型内校验流式草稿,报告同等质量下吞吐为 AR 模型的 2.54 倍,代码已公开。
AI 根据报道生成 · 2 小时前更新
最新进展10月21日 01:20
arXiv 论文发布 Lafa,报告同等质量下吞吐为 AR 模型的 2.54 倍,代码已公开。报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- arXiv cs.AI / cs.LG 最新精选arXiv 论文提出 8B 流式语言模型 Lafa,吞吐为同级 AR 模型的 2.54 倍
arXiv 论文提出 Lafa,一个数据高效扩展到 8B 参数的块式连续流语言模型,在指令跟随、推理和编码任务上质量匹配或超过自回归模型。它在前缀用因果注意力、块内用双向异步流,可直接改造预训练 AR 模型,训练 token 用量少于 30B,并支持前缀缓存与块式并行解码。论文用自推测解码在单个模型内校验流式草稿,报告同等质量下吞吐为 AR 模型的 2.54 倍。代码已公开。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。