MiniMax H3 Turbo 的 GGUF 放出来了,节点得配两个

MiniMax H3 Turbo 的量化转换版能下了,想在本地跑,按这个顺序办:

  1. 装 GGUF 的加载节点
  2. 装这套模型专用的 turbo 采样器节点
  3. 两个都到位了再去连工作流

少装任何一个,工作流都连不起来,报的错还挺误导人,很容易以为是文件下坏了又去重下一遍。

步数单独提一句:turbo 类的采样器对步数一般很敏感,别把别的模型那套直接搬过来,先按作者给的跑通,再一点点往上加。

作者自己标了还在推进中,更多量化档位和现成的工作流后面才补,所以现在这版拿来摸一摸行,别急着挂到出活的流程里。

1 个赞

推进中的阶段我一般等两天,第一版量化经常有精度坑

蹲后续

又是两个自定义节点,管理器更新完还得重启,版本冲突躲不掉

有人跑起来了吗,显存大概吃多少

同问

我这边节点装上了一直报缺依赖,晚点把日志贴出来

上次拿别的模型的步数直接怼上去,出来一片糊,降下来才对

能有人做转换就不错了,别要求太多