有人把 wan2.2 量化成 int8 或 int4 跑过吗,想看看掉多少

问个实在的:有没有人已经把 wan2.2 量化到 int8 或者 int4,能说说实测感受的。我之前试过把某个模型压到 int8,画质和速度的平衡意外地好,几乎看不出明显掉档,显存却省了一大截,那次体验直接让我对量化路子上了心。

wan2.2 这体量本地跑起来是真吃硬件,如果 int8 能把显存压下来又不太伤画质,对显卡一般的人是救命的。我担心的是视频模型对量化误差敏感,帧间一致性、细节抖动这些地方一压说不定就露馅,静态图能扛不代表动起来也扛得住。

所以想先听听趟过的人怎么说:int8 掉不掉、int4 是不是已经糊到不能用,还有你们用的什么方案压的。有数据有对比图最好,省得我盲试烧一晚上。

1 个赞

视频模型 int4 我不太看好,时序上一点误差累积起来就飘,int8 倒是可以赌一把

坐等实测对比图

我 int8 压过一版,单帧看着还行,快速运动的镜头细节会发肉,静态没问题

关键看你压的是哪部分权重,把注意力那块留高精度、只压前馈,掉得会少很多

慕了,有显存的人才配纠结这个