跳到正文
热点事件观察中

TokenGate:可学习 token 剪枝加速长上下文预填充

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

2026年10月20日,arXiv cs.AI / cs.LG 发布 TokenGate。该工作是一个可即插即用的小组件,让已有大模型在长上下文 prefill 阶段做端到端可学习的 token 剪枝。报道称,在多项任务上首 token 延迟快 1.4 至 11.3 倍、峰值内存低 1.5 至 3.4 倍,且精度不降;相比此前最好的 token 剪枝方法,prefill 最多快 6.4 倍、峰值内存低 2 倍。目前该成果以预印本形式公布,尚未见后续复现或同行评议报道。

AI 根据报道生成 · 14 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. arXiv cs.AI / cs.LG 最新
    TokenGate 用学习式 token 剪枝让 LLM prefill 更快更省内存

    TokenGate 是一个可即插即用的小组件,让已有大模型在长上下文 prefill 阶段做端到端可学习的 token 剪枝。在多项任务上首 token 延迟快 1.4 到 11.3 倍、峰值内存低 1.5 到 3.4 倍且精度不降,相比此前最好的 token 剪枝方法 prefill 最多快 6.4 倍、峰值内存低 2 倍。

本事件热度走势

当前热度 5·可比范围峰值 7(10月20日 14:00)·近 24 小时可比范围变化 –

0246810月20日14:0010月20日18:0010月20日23:0010月21日03:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。