折腾了挺久终于把自己第一个模型传上去了，基于Krea2 turbo。放了int8_convrot和nvfp4两套文件。左边是我调的Akrapovic版走int8_convrot，右边是原版krea2 turbo的int8_convrot。
说实话量化格式这块坑不少，int8走的是conv rotation那套，兼容性好一些，老一点的卡也能吃；nvfp4得看你显卡支不支持，吃到硬件加速才划算，不然反而更慢。
两个都放出来就是想让大家按自己机器挑。第一次发，哪里不对欢迎拍。
nvfp4得40系才吃得动吧，我30系只能走int8
第一次发就搞双格式，有心了
收了
对比图看着差别不大啊，主要是速度区别？
1 个赞
拿Krea2 turbo做底子，量化完速度还剩多少，有测过吗
对比图肉眼差别不大，主要是速度和显存的区别，画质基本追平