拿LTX 2.3 Dev这版HQ Int8 Row ConvRot量化跑了一轮,先提醒不是Distilled/Turbo那种加速版,是从官方BF16量化下来的。
作者说配他家ComfyUI后端能比FP8 Scaled快一倍,3000、4000、5000系上都成立,我这边单卡体感确实拉开了差距,质量也没塌,他还标了能压过GGUF Q8。
量化本身挺重,用的是Musubi Trainer那套prodigy式量化,5090上要三四个钟头,想自己转的做好排队的心理准备。
拿LTX 2.3 Dev这版HQ Int8 Row ConvRot量化跑了一轮,先提醒不是Distilled/Turbo那种加速版,是从官方BF16量化下来的。
作者说配他家ComfyUI后端能比FP8 Scaled快一倍,3000、4000、5000系上都成立,我这边单卡体感确实拉开了差距,质量也没塌,他还标了能压过GGUF Q8。
量化本身挺重,用的是Musubi Trainer那套prodigy式量化,5090上要三四个钟头,想自己转的做好排队的心理准备。
比FP8快一倍这说法我半信半疑,等更多人实测再下结论
从BF16量化下来的和distilled不是一回事,别搞混了
坐等实测
5090一次量化三四个钟头,这成本对散户是真劝退
要真能压过GGUF Q8,那确实值得转一版
3000系上也能提速?那我这老卡还有救 ![]()