基于 V-Prediction (V预测)的 LoRA 微调训练教程


更新

关于V预测

本篇不对V预测的原理与机制进行详细介绍,默认您已具备一定了解。我们将聚焦于如何准备训练所需的各项资源,并使用秋葉训练器进行LoRA微调。


所需准备

在开始训练之前,需要准备以下三项核心内容:

  1. 处理好的训练集

  2. 秋葉训练器(基于本地部署的秋葉训练器)

  3. 预训练的V预测大模型(V-Prediction Model)作为训练的底模,


启动秋葉训练器

  1. 启动秋葉训练器,进入主界面。

  2. 在顶部导航栏中选择 LoRA 训练

  3. 选择 专家,按照下图所示勾选关键选项:

    不同版本的训练器可能在界面和选项上略有差异。如未找到对应选项,可在 自定义参数(ui_custom_params) 中手动添加,以确保设置生效。

    训练参数说明

    关于 epochs(训练轮数)、batch_size(批量大小)以及优化器(optimizer)的配置,此处不再赘述。
    这些设置与之前训练 Stable Diffusion XL 的 LoRA 完全一致,您可沿用既有经验与参数配置。

    最后,在自定义参数(ui_custom_params)中添加:v2 = false,即可顺利开始训练。

    如果训练器界面中未提供与 V-Parameterization 学习相关的选项,请手动在自定义参数(ui_custom_params)中补全以下设置:

    v2 = false

    v_parameterization = true

    scale_v_pred_loss_like_noise_pred = true

    这样可以确保模型按预期启用 V 预测机制并正确进行训练。

    请注意,自定义参数的格式取决于训练器的实现方式:

    • 如果参数采用 TOML 格式,则使用如上所示的 key = value 形式;

    • 如果使用的是 JSON 格式,请改写为:

    {

    "v2": false,

    "v_parameterization": true,

    "scale_v_pred_loss_like_noise_pred": true

    }

    务必根据所使用训练器版本的要求选择正确的格式,以确保参数生效。

7
0