Klein 9B 现在摆着两个 int8 convrot 的包，一个只动权重，另一个连 KV 也压了，量化都是 ComfyUI 那边出的。我这种小显存用户就有点纠结先下哪个。
按理说压得更狠的那版更适合我，问题是不确定画质让出去的部分会不会正好落在我常画的东西上，线条和小字这类地方一般是最先出问题的。宿舍网速也不快，两个都拉下来挨个试要耗掉半天。
所以想问下已经跑过的：只压权重那版在显存不宽裕的机器上能不能正常跑完，还是说这种配置基本只能上带 KV 量化的？另外这类包对采样器有没有挑食的情况。
同问
1 个赞
先下只压权重那版，跑不动再换，这样画质基线也好判断
小字和细线在任何int8下都会松一点，跟你选哪版关系不大
我这边采样器倒没挑，就是首次加载慢一截