有个叫 Moebius 的模型专门做 inpainting,也就是把图里缺失或者抠掉的部分自然补回来。有意思的是它体积大概只有 FLUX 那类主流修补模型的五十分之一,跑起来快很多,效果却说能打平。这事儿反直觉的地方在于,一直以来大家默认质量得靠堆参数量,要追上大模型你就得再造个大模型。
而 inpainting 又特别不容错,补错一点点人眼立刻就看出来那个糊边、扭曲的纹理。它的做法据说是用压缩技术把活儿塞进很少的参数里,同时直接拿大模型的输出来训练,有点像徒弟照着师傅的成品临摹,练到能用零头的力气复现结果。
作为写过代码的人,这种蒸馏思路我是信的,小模型抄大模型的作业本来就是条正路。就是不知道在极端复杂纹理下会不会露馅。