跳到正文
热点事件持续更新

DCKV:端到端训练的 KV cache 可微编解码器

1 篇报道1 个报道来源18 小时前更新

先了解这件事

AI 综述

2026年10月27日,arXiv 上出现 Egor Maximov 的 DCKV 工作,针对混合语言模型的提示词 KV cache 提出一种可微编解码器:其变换、量化器与熵模型与冻结的语言模型联合端到端训练,而非作为后处理压缩步骤。作者在 Qwen3.5-2B 上评测,称每个被压缩存储的 token 所占字节比 bf16 少 55 倍以上,在三个长上下文基准上精度最多损失 1.8 分;当字节减少超过 100 倍时,损失最多 3.6 分。目前该工作以预印本形式公布,尚未见同行评审或其他团队的复现报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI / cs.LG 最新
    DCKV 用可微编解码器压缩混合语言模型的提示词 KV cache

    Egor Maximov 提出 DCKV,一种面向混合语言模型提示词 KV cache 的可微编解码器,其变换、量化器和熵模型与冻结的语言模型联合端到端训练。在 Qwen3.5-2B 上,它存储压缩 token 所占字节比 bf16 少 55 倍以上,在三个长上下文基准上损失最多 1.8 分,字节减少 100 倍以上时损失最多 3.6 分。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。