四十亿参数把 GenEval 干到 0.90,Mage Flow 这个思路挺有意思

微软放出来的 Mage Flow,4B 规模的图像生成加编辑,MIT 协议。结构上是一个轻量的 latent tokenizer 配原生分辨率的多模态 DiT,重点全在原生这两个字:512 到 2048 之间任意分辨率、任意宽高比直接出,不分桶也不补边,4:1 这种极端比例照样直生。

官方给的 GenEval 是 0.90,开源里排最前面,而被它压住的那些体量是它的五到八倍。

做法是逐样本的二维旋转位置编码加联合自注意力,变长的图文序列一起进注意力,比先分桶再对齐干净不少。参数量压到这个程度还能顶住指标,说明以前在分辨率处理上浪费掉的空间比大家想象的多。

mark

1 个赞

原生分辨率是真省事,以前分桶裁掉的构图不知道白丢了多少

这么卷吗

0.90 得看测的是哪一版,GenEval 本身也代表不了出图好不好看

跑分我基本只看有没有翻车项,好不好看还得自己出几张才知道。

GenEval 本来就偏物体计数和位置,好不好看它压根不测