热点事件观察中
GAAC：无损KV缓存压缩加速端侧LLM推理
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
2026年10月28日，arXiv cs.AI/cs.LG 论文提出 GAAC 无损 KV 缓存压缩与推理服务方案。该方案利用指数冗余，对 BF16 逐通道做基加偏移编码，保持 KV 数值逐比特不变；并用融合注意力内核在计算时就地重建 KV 分块，配合块级压缩与固定容量槽位支持增量更新和分页服务。报道称其在个人设备 64K 上下文下使解码注意力提速 1.19—1.27 倍。
AI 根据报道生成 · 52 分钟前更新
最新进展10月28日 11:03
最新报道：GAAC 在个人设备 64K 上下文下解码注意力提速 1.19—1.27 倍。报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv cs.AI / cs.LG 最新GAAC 提出无损 KV 压缩方案，个人设备 64K 上下文解码注意力提速 1.19-1.27 倍
论文提出 GAAC，一种无损 KV 压缩与推理服务方案，利用指数冗余对 BF16 逐通道做基加偏移编码，保持 KV 数值逐比特不变。它用融合注意力内核在计算时就地重建 KV 分块，配合块级压缩与固定容量槽位支持增量更新和分页服务。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。