EN

LLM Finetuning Toolkit

基于配置文件的命令行工具,用于在你的数据上启动一系列大模型微调实验并收集结果。

核验日期

核心信息

以下信息由程序从官方接口读取，不经模型改写。

许可证
Apache-2.0
语言
Python
维护方
georgian-io
核验日期

它是什么

LLM Finetuning toolkit 是一个基于配置的命令行工具,用于在你的数据上启动一系列 LLM 微调实验并收集其结果。配置文件定义该工具包的行为。配置文件以 YAML 格式编写,由多个部分组成,分别控制数据导入、模型定义、训练、推理和质量保证等方面。

主要能力

  1. 配置文件可以被修改,以支持运行消融实验。

  2. 配置文件可以指定不同的提示模板,在微调时进行实验。

  3. 配置文件可以指定多种想要实验的 LLM。

  4. 配置文件可以指定不同的 LoRA 配置用于消融。

  5. 每个不同的配置会生成一个唯一的哈希值,使该工具可以自动从中断处继续。

  6. 例如,若需要在训练中途退出,重新启动脚本后,程序会自动加载已生成的现有数据集,而不必全部重做。

  7. 用户可以添加测试,检查是否达到了期望的行为。

  8. 以针对摘要任务微调的 LLM 为例,可以检查生成的摘要在长度上是否确实小于输入文本。

怎么上手

  1. pipx 会把软件包及其依赖安装在单独的虚拟环境中。

  2. Basic 阶段是运行第一个 LLM 微调实验。

  3. Intermediate 阶段是通过修改 YAML 配置文件的组成部分来运行自定义实验。

  4. Advanced 阶段是通过一个 YAML 配置文件,在不同的提示模板、LLM 和优化技术之间启动一系列微调实验。

  5. 配置文件也可以导入你自己的数据。

摘自 README · shell
pipx install llm-toolkit
摘自 README · shell
pip install llm-toolkit
摘自 README · shell
llmtune generate config
llmtune run ./config.yml
摘自 README · shell
python toolkit.py --config-path <path to custom YAML file>

适合谁

微调工作流通常涉及在多种 LLM、提示设计和优化技术之间运行消融实验。提示字段有助于创建用于微调 LLM 的指令。提示字段在微调时同时使用 prompt 和 prompt_stub。

在测试时,只有 prompt 部分被用作微调后 LLM 的输入。LoRA 的参数,例如秩 r 和 dropout,可以被修改。项目方称,该工具包提供模块化、可扩展的架构,允许开发者定制并增强其功能。

项目方称,工具包的每个组件,如数据导入、微调、推理和质量保证测试,都被设计为易于扩展。

来源

本页内容整理自以下官方来源，点击可核对原文。

核验日期 ·

本页由 AI 依据上述官方来源整理，并经自动核对，未经本站实测。 发现错误？告诉我们。