Kohya 对 FLUX LoRA (B GPU) 和 DreamBooth / Fine-Tuning (B GPU) 训练带来了巨大改进

Patricia Arquette
发布: 2024-11-21 08:57:09
原创
509 人浏览过

您可以下载所有配置和完整说明

https://www.patreon.com/posts/112099700 - 微调帖子

https://www.patreon.com/posts/110879657 - LoRA 帖子

Kohya 对 FLUX LoRA 和 DreamBooth / Fine-Tuning(最低 6GB GPU)训练带来了巨大的改进。

现在低至 4GB GPU 就可以以良好的质量训练 FLUX LoRA,24GB 及以下 GPU 在进行 Full DreamBooth / Fine-Tuning 训练时获得了巨大的速度提升

您至少需要 4GB GPU 才能进行 FLUX LoRA 训练,至少需要 6GB GPU 才能进行 FLUX DreamBooth / Full Fine-Tuning 训练。真是令人兴奋。

您可以下载所有配置和完整说明> https://www.patreon.com/posts/112099700

上面的帖子还提供了适用于 Windows、RunPod 和 Massed Compute 的一键安装程序和下载程序

模型下载器脚本也已更新,在 Massed Compute 上下载 30 GB 模型总共需要 1 分钟

您可以在这里阅读最近的更新:https://github.com/kohya-ss/sd-scripts/tree/sd3?tab=readme-ov-file#recent-updates

这是 Kohya GUI 分支:https://github.com/bmaltais/kohya_ss/tree/sd3-flux.1

减少 VRAM 使用的关键是使用块交换

Kohya 实现了 OneTrainer 的逻辑,显着提高了块交换速度,现在也支持 LoRA

现在您可以在 24 GB 及以下 GPU 上使用 LoRA 进行 FP16 训练

现在您可以在 4 GB GPU 上训练 FLUX LoRA - 关键是 FP8、块交换和使用某些层训练(记住单层 LoRA 训练)

我花了 1 天多的时间来测试所有较新的配置、它们的 VRAM 需求、它们的相对步进速度并准备配置:)

Kohya brought massive improvements to FLUX LoRA (B GPUs) and DreamBooth / Fine-Tuning (B GPUs) training

Kohya brought massive improvements to FLUX LoRA (B GPUs) and DreamBooth / Fine-Tuning (B GPUs) training

以上是Kohya 对 FLUX LoRA (B GPU) 和 DreamBooth / Fine-Tuning (B GPU) 训练带来了巨大改进的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:dev.to
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
作者最新文章
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板