跳到正文
热点事件持续更新

Lafa 8B流式模型吞吐达2.54倍

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

2026年10月21日,arXiv 论文提出 8B 参数块式连续流语言模型 Lafa,称其在指令跟随、推理和编码任务上的质量匹配或超过自回归模型。该模型前缀使用因果注意力、块内使用双向异步流,可直接改造预训练 AR 模型,训练 token 用量少于 30B,并支持前缀缓存与块式并行解码。论文用自推测解码在单个模型内校验流式草稿,报告同等质量下吞吐为 AR 模型的 2.54 倍,代码已公开。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. arXiv cs.AI / cs.LG 最新精选
    arXiv 论文提出 8B 流式语言模型 Lafa,吞吐为同级 AR 模型的 2.54 倍

    arXiv 论文提出 Lafa,一个数据高效扩展到 8B 参数的块式连续流语言模型,在指令跟随、推理和编码任务上质量匹配或超过自回归模型。它在前缀用因果注意力、块内用双向异步流,可直接改造预训练 AR 模型,训练 token 用量少于 30B,并支持前缀缓存与块式并行解码。论文用自推测解码在单个模型内校验流式草稿,报告同等质量下吞吐为 AR 模型的 2.54 倍。代码已公开。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。