四十亿参数把 GenEval 干到 0.90,Mage Flow 这个思路挺有意思

微软放出来的 Mage Flow,4B 规模,图像生成加编辑,MIT 协议。我觉得值得拆开看的是它对分辨率的处理:

  1. 结构:一个轻量的 latent tokenizer,配原生分辨率的多模态 DiT。
  2. 原生到什么程度:512 到 2048 之间任意分辨率、任意宽高比直接出,不分桶也不补边,4:1 这种极端比例照样直生。
  3. 靠什么做到:逐样本的二维旋转位置编码加联合自注意力,变长的图文序列一起进注意力,比先分桶再对齐干净不少。
  4. 指标:官方给的 GenEval 是 0.90,开源里排最前面,被它压住的那些模型体量是它的五到八倍。

参数压到这个程度还顶得住指标,我的理解是,以前在分辨率处理上浪费掉的空间,比大家想象的要多。

mark

1 个赞

原生分辨率是真省事,以前分桶裁掉的构图不知道白丢了多少

这么卷吗

0.90 得看测的是哪一版,GenEval 本身也代表不了出图好不好看

跑分我基本只看有没有翻车项,好不好看还得自己出几张才知道。

GenEval 本来就偏物体计数和位置,好不好看它压根不测