跳到正文
热点事件观察中

DWISE:扩散LLM调度引擎降延迟5.4倍

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

2026年10月29日,arXiv cs.AI/cs.LG 刊出论文提出 DWISE——面向扩散 LLM 的去噪工作量感知调度引擎。该引擎以 prefill 与去噪共享的块级单位衡量剩余工作量,在请求入场时用轻量提示词预测器估计去噪开销,并利用首轮去噪的隐藏状态进行一次修正。作者在 SGLang 中实现,并在三个 dLLM 家族的五个模型上测试;在突发负载下,平均端到端延迟较 SGLang 降低 5.4 倍、最高降低 14.9 倍,同时保持任务准确率。论文称代码将公开。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. arXiv cs.AI / cs.LG 最新
    DWISE 提出面向扩散 LLM 的去噪工作量感知调度引擎,SGLang 上平均延迟降低 5.4 倍

    论文提出 DWISE,一个面向扩散 LLM 的去噪工作量感知调度引擎。它按 prefill 与去噪共享的块级单位衡量剩余工作量,入场时用轻量提示词预测器估计去噪开销,再用首轮去噪的隐藏状态做一次修正。作者在 SGLang 中实现,并在三个 dLLM 家族的五个模型上测试,突发负载下平均端到端延迟较 SGLang 降低 5.4 倍、最高 14.9 倍,同时保持任务准确率,代码将公开。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。