int8 终于进官方了,ComfyUI v0.27.0 开始支持 convrot int8

想问问有没有已经在 ComfyUI v0.27.0 上跑过 convrot int8 的。

这版正式支持 convrot int8,格式是社区先做出来的,说法是质量比 fp8 好,在 20/30/40/50 系 N 卡上大多数场景比 fp16 和 gguf 快两倍多。Krea 2、Ideogram 4 都有对应 int8 版本。

质量比 fp8 好我倾向于信,扩散模型上量化位宽和数值分布本来就要取舍,不是位数越低越好。拿不准的是那句「快两倍」,具体什么分辨率、多少采样步数下测的。作者说默认模板后面会切成 int8,一两周内还会出带 benchmark 的博客。想先听听大家实测,尤其换模型稳不稳。

int8 比 fp8 质量好这点存疑,等 benchmark

确实

1 个赞

50 系上快两倍的话香啊

社区先做官方后收编,老剧情了

gguf 那边 lora 兼容踩过不少坑,int8 别也这样