LTX 2.3这版Int8 Row ConvRot量化,实测比FP8快不少

拿LTX 2.3 Dev这版HQ Int8 Row ConvRot量化跑了一轮,先提醒不是Distilled/Turbo那种加速版,是从官方BF16量化下来的。

作者说配他家ComfyUI后端能比FP8 Scaled快一倍,3000、4000、5000系上都成立,我这边单卡体感确实拉开了差距,质量也没塌,他还标了能压过GGUF Q8。

量化本身挺重,用的是Musubi Trainer那套prodigy式量化,5090上要三四个钟头,想自己转的做好排队的心理准备。

比FP8快一倍这说法我半信半疑,等更多人实测再下结论

从BF16量化下来的和distilled不是一回事,别搞混了

坐等实测

1 个赞

5090一次量化三四个钟头,这成本对散户是真劝退

要真能压过GGUF Q8,那确实值得转一版

3000系上也能提速?那我这老卡还有救 :eyes: