记录一下低显存跑 MiniMax-H3 摸到的情况。
权重用的社区那批实验版,走 w4a8,四比特权重配八比特激活,光权重就比 FP16 砍到四分之一,中端卡塞得进去了。接着换 VAE 为 int8_convrot,解码快了大概一半。高分辨率下 VAE 一直是我这条流程最拖后腿的一段,这个提升反倒比省显存实在,有点意外。
然后是坑:后端必须是 ComfyUI 0.31.0,版本不够它不报错,直接吐一张黑图,很容易误判成权重下坏了。包里那个 ref lora 维护者自己都说没想清楚用在哪,纯实验件,别指望稳定。八比特激活对校准敏感,画质掉没掉,锁死 seed 跑几组对比再下结论。量化方案还在动,想拿去接活的先缓缓。