做了个把LoRA合并进底模的小工具,配比总打架

多个 LoRA 各挂各的又慢又占资源,索性写了个小工具,按比例把权重融进底模,合一次,之后直接用合并好的那个。还早,配比纯手调,两三个一起合就互相打架、风格串味。比例你们都怎么定的,有没有经验值或者合崩了的信号,东西糙,尽管拍。

1 个赞

多个LoRA合并最怕语义冲突,同类风格的合还行,跨风格的基本互相拖垮。