ComfyUI这个动态显存优化,小显存党要笑了

ComfyUI推了个动态显存优化,对我这种卡不够大的算是及时雨。显存一直是本地跑图跑视频的硬瓶颈,模型稍微大点、分辨率一拉就OOM爆红,只能砍批次砍尺寸。

所谓动态优化,我理解是按需调度、该释放的及时释放,让同样的卡能扛更大的活。当然优化不是变魔术,物理上限还在那,能不能真让8G、12G的卡多喘口气,得看实际占用曲线。

等这两天更新到手,拿同一套工作流开优化前后各跑一遍看峰值占用,数据出来再下结论。有升级过的先说说体感。

8G卡表示天天跟OOM搏斗,太需要了

1 个赞

动态调度好是好,就怕换来速度变慢

蹲占用对比数据

ComfyUI这生态更新是真勤快

优化再猛也架不住有人非要上4K :sweat_smile:

mark 回头更新试试

峰值降下来哪怕慢一点我也认,起码不爆了

开了下确实慢一档,但爆红归零这买卖我认,起码能出图