蒸馏模型最烦的就是蒸完就不敢动了。多步模型蒸成几步,速度上去了,可一旦想针对新数据、新风格再调一调,很容易把好不容易蒸出来的少步能力搞崩。
D-OPSD 盯的正是这个:步数蒸馏之后的扩散模型怎么持续微调。做法是 on-policy 自蒸馏,模型拿自己当前采样出来的结果做在线蒸馏,边调边守住少步生成的质量。我们线上要快模型、风格又隔三差五得换,挺对口。不过它是在什么基座、蒸到几步上验证的,光看标题看不出量化效果,回头找论文细读。
蒸馏模型最烦的就是蒸完就不敢动了。多步模型蒸成几步,速度上去了,可一旦想针对新数据、新风格再调一调,很容易把好不容易蒸出来的少步能力搞崩。
D-OPSD 盯的正是这个:步数蒸馏之后的扩散模型怎么持续微调。做法是 on-policy 自蒸馏,模型拿自己当前采样出来的结果做在线蒸馏,边调边守住少步生成的质量。我们线上要快模型、风格又隔三差五得换,挺对口。不过它是在什么基座、蒸到几步上验证的,光看标题看不出量化效果,回头找论文细读。
我们之前蒸完再微调,风格是换上了,少步出图直接糊
mark
就怕它只在小基座上验证过,放大不一定还成立