int8 终于进官方了,ComfyUI v0.27.0 开始支持 convrot int8

int8 这条路径终于进官方了。ComfyUI v0.27.0 开始正式支持 convrot int8,这是社区先做出来的格式,质量比 fp8 好,在 20/30/40/50 系 N 卡上大多数场景比 fp16 和 gguf 快两倍多。

int8 相比 fp8 能多保住一些质量这点我是信的,量化位宽和数值分布的取舍在这类扩散模型上确实不是位数越低越好。Krea 2、Ideogram 4 这些都能找到对应的 int8 版本试。

作者说默认模板后面会切成 int8,还预告一两周内出带 benchmark 的博客。等实测数字出来再看跨模型的稳定性,光’快两倍’这一句还得看具体分辨率和采样步数。

int8 比 fp8 质量好这点存疑,等 benchmark

确实

1 个赞

50 系上快两倍的话香啊

社区先做官方后收编,老剧情了

等博客,光快没用还得看糊不糊