想在本地跑 MiniMax H3 Turbo 的可以留意一下,量化转换版已经能下了。装之前先把两件事办了:一个是 GGUF 的加载节点,一个是这套模型专用的 turbo 采样器节点,缺任何一个工作流都连不起来,报的错还挺误导人,容易以为是文件下坏了。
作者自己标了还在推进中,更多量化档位和现成工作流后面才补,所以现在这版更适合先摸一摸,别急着挂到出活的流程里。
另外 turbo 类的采样器对步数一般很敏感,别把别的模型那套步数直接搬过来,先按作者给的跑通再往上调。
想在本地跑 MiniMax H3 Turbo 的可以留意一下,量化转换版已经能下了。装之前先把两件事办了:一个是 GGUF 的加载节点,一个是这套模型专用的 turbo 采样器节点,缺任何一个工作流都连不起来,报的错还挺误导人,容易以为是文件下坏了。
作者自己标了还在推进中,更多量化档位和现成工作流后面才补,所以现在这版更适合先摸一摸,别急着挂到出活的流程里。
另外 turbo 类的采样器对步数一般很敏感,别把别的模型那套步数直接搬过来,先按作者给的跑通再往上调。
推进中的阶段我一般等两天,第一版量化经常有精度坑
蹲后续
又是两个自定义节点,管理器更新完还得重启,版本冲突躲不掉
有人跑起来了吗,显存大概吃多少
同问
我这边节点装上了一直报缺依赖,晚点把日志贴出来
步数敏感这条很关键,我上次照搬别的模型参数出来一片糊
能有人做转换就不错了,别要求太多