有人把 wan2.2 量化成 int8 或 int4 跑过吗,想看看掉多少

求一份 wan2.2 量化的实测,int8、int4 都行,有数据有对比图最好,省得我盲试烧一晚上。

我之前把某个模型压到 int8,画质和速度平衡得意外地好,几乎看不出掉档,显存却省了一大截,从那以后就惦记上量化这条路了。wan2.2 这体量本地跑是真吃硬件,int8 要是能把显存压下来又不太伤画质,对显卡一般的人就是救命。我怕的是视频模型对量化误差更敏感,静态图能扛,动起来帧间一致性、细节抖动这些地方说不定就露馅。

趟过的朋友说说:int8 掉不掉?int4 是不是已经糊到不能用?你们用的什么方案压的?

1 个赞

视频模型 int4 我不太看好,时序上一点误差累积起来就飘,int8 倒是可以赌一把

坐等实测对比图

我 int8 压过一版,单帧看着还行,快速运动的镜头细节会发肉,静态没问题

关键看你压的是哪部分权重,把注意力那块留高精度、只压前馈,掉得会少很多

慕了,有显存的人才配纠结这个