arXiv cs.AI / cs.LG 最新· Rhea Sanjay Sukthanker·· 16 小时前AI 评分60
arXiv 论文:超越 4 bits 的以数据为中心后训练量化与恢复
Beyond 4 bits: Data-Centric Post-training Quantization and Recovery
AI 导读
这篇 arXiv 论文提出一套针对 2 bits 的后训练量化方案,在 6 个 3.8B 到 32B 参数的 dense 与 MoE 模型上,替换掉会掉到随机水平的标量 PTQ。
标题与摘要由 AI 辅助生成,事实与观点以原文为准。
来源:arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。