W4A4 这套终于在 ComfyUI 里能原生跑了。核心是权重和激活都压到 4bit、走 Tensor Core,显存吃得很省。我在 3060 6G 上拿 Krea2 Turbo 的预量化版跑 1024,8 步 Euler 加 simple scheduler,大概 1.
78 秒一次迭代,整张 17 秒出头。有意思的是它对混合精度做了处理,主干走 INT4,那几层敏感的 patch projection 单独扔到 INT8 路径跑,不然维度对不上直接报错。
第一次生成要编译算子会慢一点,后面就顺了。6G 卡能这么玩已经很知足。