折腾了两周微调扩散模型,记点踩坑给后来人

手头有个项目想生成一批统一画风的素材,就试着自己微调扩散模型。前提是你得会点Python和PyTorch,概念上对diffusion有基本认识,剩下就是要有卡,没有本地卡就上Colab。

流程其实没那么玄乎:先把环境和依赖装好,加载一个预训练的checkpoint当底子,然后把自己的数据集清洗好、格式对齐,这步偷懒后面全是坑。真正微调的时候学习率和epoch要根据数据量慢慢调,别一上来就整个大数据集。我第一次直接塞了几千张进去,训练崩了都不知道哪出的问题。

后来老老实实先拿几十张小样本跑通整条链路,再逐步加量,训练过程盯着loss看,不对劲随时改参数。不同底模效果差挺多的,多换几个试。最后拿微调完的模型出图,风格确实能贴合自己想要的方向。

小样本先跑通这条太真实了,一上来大数据集纯浪费时间

数据清洗是真的累,占了我一半工作量

学习率没调好训着训着就崩了,深有体会

Colab免费用额度不太够用啊,跑两轮就没了

底模选择确实关键,同样数据换个base出来天差地别

想问下几十张能微调出稳定风格吗,感觉样本太少

收藏,正准备搞这个

几十张想稳风格挺悬,我三四十张飘得厉害,凑到一两百才稳