跳转至

训练

训练配置

所有训练都由一个 JSON 训练配置文件和一个 JSON 数据配置文件控制。

查看 examples/config/ 获取可直接使用的配置。

Emilia 的训练配置文件为:examples/config/train_config_emilia.json

Emilia 的数据配置文件为:examples/config/data_config_emilia.json

训练配置文件中的关键字段:

字段 描述 默认值
llm_name_or_path 本地 LLM 路径或 Hugging Face ID Qwen/Qwen3-0.6B
steps 总训练步数 300,000
learning_rate 峰值学习率 1e-4
batch_tokens 每个 GPU 每批次的 Token 数 8192

output_dir 和 data_config 通过命令行传递(见下文)。

启动训练

accelerate launch \
    --gpu_ids "0,1,2,3,4,5,6,7" \
    --num_processes 8 \
    -m omnivoice.cli.train \
    --train_config config/train_config_emilia.json \
    --data_config config/data_config_emilia.json \
    --output_dir exp/omnivoice_emilia

恢复训练

在训练配置中设置 resume_from_checkpoint,即可从现有 checkpoint 恢复训练:

{
    "resume_from_checkpoint": "exp/omnivoice/checkpoint-100000"
}

从预训练模型初始化

要从预训练的 VoiceStudio checkpoint 开始训练(用于微调):

{
    "init_from_checkpoint": "exp/omnivoice/checkpoint-100000"
}

监控

训练日志会写入 TensorBoard:

tensorboard --logdir exp/omnivoice_emilia/tensorboard

本页原文 Markdown:在 AtomGit 查看·内容源自开源项目 om/VoiceStudio