M1 Max 64GB 想跑 FLUX.2 dev,一个乘法就能死心

本来想在 M1 Max 64GB 上跑 FLUX.2 dev,结果停在了计算器那一步,记一笔。

第一步,算权重。32B 参数,BF16 每个参数两字节,光权重就是 64GB,跟这台机器的统一内存一个数。系统、ComfyUI、文本编码器、VAE、推理时的激活值全没地方放,到这儿就可以收工了。

第二步,不死心,量了下统一内存:68719476736 字节,正好 64.0GB,没虚标。GPU 可用上限我一直是默认值没动过,就算照常见建议拉到 57344MB,权重本身都放不下,差的不止那一点。

第三步,翻了下盘里的 FLUX 权重,全是 FLUX.1 的 Q6_K,九点八个 G。12B 按 0.75 字节每参数算是九个 G,对得上。其实 BF16 的二十四个 G 这台机器也塞得下,当时还是选了量化版,图的是给别的常驻进程留点余量。

别被名字带偏,FLUX.1 和 FLUX.2 只差一个数字,参数量却差了两倍多。ComfyUI 里带了节点和模板,也不等于你机器上真有那个模型。

参数量乘精度先算一遍这习惯太重要,能省一晚上下载

统一内存能真用上的从来没有标称那么多