unslothai/unsloth
在自己电脑上运行和训练大模型、图像生成模型的工具：既能直接对话、出图，也能用自己的数据微调模型，重点是降低显存占用，让消费级显卡跑得动。适合需要把数据留在本地、或想定制一个小模型，并且愿意折腾 Python 环境的人。
这个项目是什么
一套本地运行、微调大语言模型与扩散模型的 Python 工具
能用来做什么
- 用自有客服问答数据微调小模型
- 内网本地跑模型，数据不外传
- 在消费级显卡上跑 GGUF 量化模型
- 批量生成商品图或插画素材
- 做微调与强化学习实验对比
上手条件
普通人
有条件可用
图形界面
有图形界面
部署
需要自己部署
API Key
不需要
成本：软件本身开源免费，主要成本是本地显卡（显存决定能跑多大模型）和电费；模型权重自行下载，无强制订阅费。
能接入：以 Python 库和本地界面为主，可用脚本/CLI 串进训练与推理流程；材料未提及 MCP、n8n 等现成集成。
电商：用自家商品描述和客服记录微调专属问答模型电商：本地批量生成商品主图与场景图软件开发：离线跑开源模型做代码补全或内部问答内容创作：本地生成配图、配音，素材不出本机办公：把内部文档喂给小模型做私有知识库
商业方向与限制
可以怎么变现：面向中小团队做本地化微调与部署交付：帮客户整理数据、训练专属小模型、搭好本地推理环境，或做面向垂直行业的出图流水线；也可做教程与陪跑服务。
限制：许可证 Apache-2.0，商用友好；但本次未取到 README，具体支持哪些模型、UI 完成度、安装步骤均无法核实，描述中的模型版本需自行验证。仍需 Python 环境与足够的本地显存。
本地大模型模型微调文生图自托管开源
Star 历史
2 个快照2026-10-182026-10-19
页面上的中文判断由模型基于仓库信息与 README 生成，会标注不确定性；Star 与许可证等事实来自 GitHub 官方 API。发现分析有误可以在后台重新分析该仓库。