Unsloth · AI Nav City

核心信息

以下信息由程序从官方接口读取，不经模型改写。

仓库地址: https://github.com/unslothai/unsloth
许可证: Apache-2.0 (core package) / AGPL-3.0 (Studio UI and optional components)
语言: Python
维护方: unslothai
主页: https://unsloth.ai/docs
核验日期: 2026-11-03

它是什么

Unsloth 有三种使用方式:桌面应用 Unsloth Desktop、网页界面 Unsloth Studio,以及基于代码的 Unsloth Core。Unsloth 可在 Windows、Linux、WSL 和 macOS 上运行。项目支持多 GPU 配置、NVIDIA、AMD、Intel GPU、CPU 以及 Vulkan 后端。Unsloth 可以运行和训练 LLM、MLX、GGUF、扩散、决策、嵌入和音频模型。

主要能力

Unsloth 可让用户将本地模型与 Claude Code、Codex 和 MCP 配合使用,包括工具调用和代码执行。
Unsloth 提供私有网页搜索、深度研究、自动压缩(滚动上下文窗口)和 RAG。
Unsloth 通过兼容 OpenAI 的 API 提供模型服务。
Unsloth 支持强化学习、LoRA、QLoRA、完整微调、预训练、RL、GRPO、DPO 和 FP8。
Unsloth 可通过 Data Recipes 从 PDF、CSV、DOCX 文件等构建数据集。

怎么上手

可以下载适用于自己操作系统的原生 Unsloth Desktop 应用。
下载来源包括 Unsloth 官网或 GitHub Releases。
Unsloth 的 Docker 镜像可在 Docker 上获取。
命令块共四个，按顺序依次是：Unsloth Studio（网页界面）的 macOS、Linux、WSL 安装命令，Studio 的 Windows 安装命令，Unsloth Core（代码版）的 Linux、WSL 安装命令，Core 的 Windows 安装命令；先选组件，再选平台，只运行其中一个。
仅用于 Notebook（Jupyter 或 Colab 等计算笔记本）时，使用该 Docker 镜像的 core 标签。
项目提供的 Notebook 可用于免费训练。
Notebook 流程是添加数据集、运行，然后部署训练好的模型。
Unsloth Start 用一条命令将 Claude Code、Codex 和其他智能体连接到本地模型。

摘自 README · bash

curl -fsSL https://unsloth.ai/install.sh | sh

摘自 README · powershell

irm https://unsloth.ai/install.ps1 | iex

摘自 README · bash

curl -LsSf https://astral.sh/uv/install.sh | sh
uv venv unsloth_env --python 3.13
source unsloth_env/bin/activate
uv pip install unsloth --torch-backend=auto

摘自 README · powershell

winget install -e --id Python.Python.3.13
winget install --id=astral-sh.uv  -e
uv venv unsloth_env --python 3.13
.\unsloth_env\Scripts\activate
uv pip install torchao
uv pip install unsloth --torch-backend=auto

适合谁

项目提示:对外暴露 Unsloth 时,应保管好密码,或禁用工具。对外暴露 Unsloth 时,终端会一次性要求设置新的管理员密码。全球 HTTPS 访问方式会创建一个免费的 Cloudflare 链接来提供 Unsloth 服务。

Unsloth 采用 Apache 2.0 与 AGPL-3.0 的双重许可模式。Unsloth 核心包采用 Apache 2.0 许可,而 Unsloth Studio UI 等部分可选组件采用开源许可 AGPL-3.0。项目提供 AMD 指南和 Intel 指南,用于在 AMD 和 Intel GPU 上安装 Unsloth。

AMD 另有单独的 Docker 镜像。旧的模型文件可通过模型搜索中的垃圾桶图标删除,或从默认的 Hugging Face 缓存目录中移除相应的缓存模型文件夹。llama.cpp 库让用户可以用 Unsloth 运行和保存模型。

本站已收录的相关工具。