Unsloth 是一个开源的大模型微调框架，最早在社区传开，是因为它把 DeepSeek-R1 压到 1.58 位动态量化，原本需要 720GB 显存的模型，被塞进了普通机器能碰的范围。它真正想做的事不是做“全能训练平台”，而是让个人开发者和小团队用一块消费级显卡，把模型调到能用。
传统微调卡在两个地方：显存和速度。24GB 显卡跑 7B 全量微调很吃力，更大模型基本没戏。Unsloth 从 GPU 内核层重写关键计算，训练速度大约提升 2 倍，显存占用减少 70%，精度不掉。和 FA2 比，千问3.8 微调大概快 1.5 倍，显存省一半。接上 vLLM 后，吞吐量能到 20 倍，单张 48GB 卡可以微调 Llama 3.3 70B。
功能上，LoRA、QLoRA、全量微调、持续预训练都支持，RL、GRPO、DPO 这些强化学习路径也在。模型覆盖 Llama、Mistral、Qwen、Gemma、DeepSeek 等主流系列，千问3.5 从 0.8B 到 122B 都有适配，文本、视觉和强化学习微调都能做。
比较实用的两个更新：一是 GRPO 优化，上下文长度能拉到原来的 10 倍，显存只要其他实现的 1/10，长推理链训练更现实。二是和 PyTorch 团队合作的量化感知训练，让模型在训练时提前适应低精度。Gemma3-4B 在 GPQA 上恢复 66.9% 丢失精度，原始准确率还涨了 1.0%；Gemma3-12B 在 BBH 上恢复 45.5%，原始准确率提升 2.1%。
不想写代码的人可以用 Unsloth Studio。2026 年推出的桌面应用，支持 500+ 模型，Windows、Mac、Linux 都能装。PDF、CSV 直接构建数据集，也能从网页搜索、API 端点导入数据。
安装就一句 `pip install unsloth`，或者官网下桌面版。NVIDIA、AMD、Intel GPU 和纯 CPU 都能跑，多卡和 Vulkan 后端也支持。官方有中文微调指南，Colab 免费 GPU 就能跑通。
适合给垂直场景定制小模型的个人开发者、预算有限的小团队、刚接触微调的学生。它不适合训练千亿参数基础模型，但“用一块消费级显卡调出一个够用的专用模型”这件事，Unsloth 是目前最省事的路径之一。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
