热点事件观察中
DWISE:扩散LLM调度引擎降延迟5.4倍
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年10月29日,arXiv cs.AI/cs.LG 刊出论文提出 DWISE——面向扩散 LLM 的去噪工作量感知调度引擎。该引擎以 prefill 与去噪共享的块级单位衡量剩余工作量,在请求入场时用轻量提示词预测器估计去噪开销,并利用首轮去噪的隐藏状态进行一次修正。作者在 SGLang 中实现,并在三个 dLLM 家族的五个模型上测试;在突发负载下,平均端到端延迟较 SGLang 降低 5.4 倍、最高降低 14.9 倍,同时保持任务准确率。论文称代码将公开。
AI 根据报道生成 · 2 小时前更新
最新进展10月29日 19:31
DWISE 论文发布:SGLang 上平均端到端延迟降低 5.4 倍,最高 14.9 倍。报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- arXiv cs.AI / cs.LG 最新DWISE 提出面向扩散 LLM 的去噪工作量感知调度引擎,SGLang 上平均延迟降低 5.4 倍
论文提出 DWISE,一个面向扩散 LLM 的去噪工作量感知调度引擎。它按 prefill 与去噪共享的块级单位衡量剩余工作量,入场时用轻量提示词预测器估计去噪开销,再用首轮去噪的隐藏状态做一次修正。作者在 SGLang 中实现,并在三个 dLLM 家族的五个模型上测试,突发负载下平均端到端延迟较 SGLang 降低 5.4 倍、最高 14.9 倍,同时保持任务准确率,代码将公开。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。