Krea 2 的 w4a8 版本文件反而更大,这事说得通

量化版怎么会比别家的还大?第一反应是打包出错,其实是故意的。

Krea 2 这个 w4a8 走的是混合精度,没有一刀切把整个模型压到目标格式,重要的层留在高精度。跟 GGUF 里带 M、XL 后缀那套是一个思路:多花点体积,换回质量。

对叠 LoRA 的人最有用的是这条:txtfusion 层全部保高精度。专门动 txtfusion 的那类 LoRA 最怕叠在低精度层上,效果对不上,你还查不出原因。这层不动,排查时就少了一个怀疑对象。

另外两件顺带的事。作者宣布 scaled fp8 和 nvfp4 弃用,建议换 int8convrot 或 w4a8,说是更快精度也更好;配套的 qwen3vl 文本编码器也有量化版,用的时候两边版本对齐。

1 个赞

混合精度这个解释合理,我之前真以为是打包时忘了清东西

txtfusion 保高精度是重点,前阵子叠 LoRA 出来的图一直偏,现在有点怀疑就是栽在这儿

6 个赞

前排

int8convrot 和 w4a8 哪个更稳,有横着跑过的吗

nvfp4 我刚配好就弃用了,绷不住