AI at Meta· @AIatMeta · X·· 2024-10-24AI 评分55
AI 导读
Meta 发布 Llama 3.2 1B 和 3B 的量化版本，官方给出的数据是推理速度提升 2-4 倍，模型体积平均减少 56%，内存占用减少 41%。官方称目的是让更多人能基于 Llama 构建应用。具体量化方式与使用方法写在发布详情页中。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
正文
We want to make it easier for more people to build with Llama — so today we’re releasing new quantized versions of Llama 3.2 1B & 3B that deliver up to 2-4x increases in inference speed and, on average, 56% reduction in model size, and 41% reduction in memory footprint.
Details
来源：AI at Meta · x.com
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。