6G 的 3060 也能原生跑 INT4,Krea2 Turbo 实测 17 秒一张

W4A4 这套终于在 ComfyUI 里能原生跑了。核心是权重和激活都压到 4bit、走 Tensor Core,显存吃得很省。我在 3060 6G 上拿 Krea2 Turbo 的预量化版跑 1024,8 步 Euler 加 simple scheduler,大概 1.

78 秒一次迭代,整张 17 秒出头。有意思的是它对混合精度做了处理,主干走 INT4,那几层敏感的 patch projection 单独扔到 INT8 路径跑,不然维度对不上直接报错。

第一次生成要编译算子会慢一点,后面就顺了。6G 卡能这么玩已经很知足。

牛啊 :fire:

6G 卡有救了

混合精度那段是关键,纯 INT4 质量掉太多

求 workflow,想复现一下

1.78 s/it 在 3060 上算很能打了

1 个赞