聊聊FLUX.1 Kontext dev这个开源图片编辑模型,12B参数。它不是文生图,是给你一张现成图加一句指令去改,比如"把夹克改成红色""背景换成森林"这种局部编辑。显存这块我实测过,FP8的checkpoint大概12G能跑,速度比原始BF16快差不多一倍;再狠一点用NF4量化能压到7G,但画质掉得肉眼可见,除非卡实在太小否则不推荐。
T5那个文本编码器还要额外吃6到9G内存,这个别忘了算进去。
官方API是一张四美分,算下来本地要编辑上万张才回本。所以结论很实在:手里有12G以上的卡就本地FP8,配置二十分钟搞定;卡不够又不是天天批量改图的,老老实实用API更省心。