本来想在 M1 Max 64GB 上跑 FLUX.2 dev,结果停在了计算器那一步,记一笔。
第一步,算权重。32B 参数,BF16 每个参数两字节,光权重就是 64GB,跟这台机器的统一内存一个数。系统、ComfyUI、文本编码器、VAE、推理时的激活值全没地方放,到这儿就可以收工了。
第二步,不死心,量了下统一内存:68719476736 字节,正好 64.0GB,没虚标。GPU 可用上限我一直是默认值没动过,就算照常见建议拉到 57344MB,权重本身都放不下,差的不止那一点。
第三步,翻了下盘里的 FLUX 权重,全是 FLUX.1 的 Q6_K,九点八个 G。12B 按 0.75 字节每参数算是九个 G,对得上。其实 BF16 的二十四个 G 这台机器也塞得下,当时还是选了量化版,图的是给别的常驻进程留点余量。
别被名字带偏,FLUX.1 和 FLUX.2 只差一个数字,参数量却差了两倍多。ComfyUI 里带了节点和模板,也不等于你机器上真有那个模型。