MiniMax H3 最实在的改进不是 2K,是把显存砍掉六成

H3 这版我最看重的不是 2K 和 15 秒,是显存那套裁剪。对只有一张消费级卡的人来说,这比多堆参数管用多了。

它具体砍在哪几刀:

  1. modulation 换查找表:模型里大概四成参数是 modulation 权重,这次换成了一张功能等价的查找表,这部分相当于从“算”变成了“查”。
  2. int8 量化 + 自定义 kernel:量化负责把体积压下来,kernel 专门压运行时的峰值显存,两件事分开解决。
  3. 动态 offload:显存放不下的部分挪出去,用到的时候再调回来。

几刀叠在一起,全精度 123.6G,到最小变体只剩 42.5G,3060 这种卡也能跑起来。

本地上手按这个顺序来:

  1. ComfyUI 先升到 0.30.0,版本不对后面都白折腾;
  2. 官方给了 I2V、R2V、T2V 三套模板,按自己要做的挑;
  3. 照着工作流里的说明,把权重放进对应目录。

另外有个点容易被略过:音频是跟画面同一次前向出来的立体声,不是后期再贴上去的。平时刷片看不太出来,一做对口型差别就很明显。

1 个赞

42.5G 还是得看卡,3060 靠 offload 跑一条 15 秒到底要多久,有人实测过吗

3 个赞

蹲个教程

把 modulation 换成查找表这思路挺狠,等于一部分计算直接变查表,还敢说无损

5 个赞

顶 :+1:

R2V 那个动作迁移我最想试,把镜头运动从参考片里抠出来复用