Kreamania v4 转了 GGUF,低显存能跑了

Kreamania v4 的 GGUF 版出来了,原模型是 Adel_AI 做的,功劳归人家,转的这版只为方便量化加载。先装 GGUF loader 节点,不然认不出。显存紧的直接上,精度会掉点,掉多少看你选哪档量化,总比为个底模换卡强。

GGUF 救低配狗的命

loader 节点别忘了装,我一开始就卡这

1 个赞

量化掉多少精度有人对比过没

mark