Transformers 支持直接运行 llama.cpp 的 GGUF 量化模型
Hugging Face 的 transformers 现在可以直接加载并运行 llama.cpp 的 GGUF 量化模型,在 from_pretrained 里传入 gguf_file 指定 Hub 仓库和文件名即可本地生成。
Hugging Face 的 transformers 现在可以直接加载并运行 llama.cpp 的 GGUF 量化模型,在 from_pretrained 里传入 gguf_file 指定 Hub 仓库和文件名即可本地生成。
Hugging Face 发布覆盖 2026 年 1 至 8 月的开源模型生态观察报告,期间 Hub 上公开模型仓库从 243 万增至 296 万,数据集从 71.1 万增至 100 万,Spaces 从 100 万增至 144 万。
推荐理由:做开源模型选型与微调的团队可以借报告中的下载量和衍生模型分布,判断该把工程押在哪个模型家族上。