ComfyUI推了个动态显存优化,对我这种卡不够大的算是及时雨。显存一直是本地跑图跑视频的硬瓶颈,模型稍微大点、分辨率一拉就OOM爆红,只能砍批次砍尺寸。
所谓动态优化,我理解是按需调度、该释放的及时释放,让同样的卡能扛更大的活。当然优化不是变魔术,物理上限还在那,能不能真让8G、12G的卡多喘口气,得看实际占用曲线。
等这两天更新到手,拿同一套工作流开优化前后各跑一遍看峰值占用,数据出来再下结论。有升级过的先说说体感。
ComfyUI推了个动态显存优化,对我这种卡不够大的算是及时雨。显存一直是本地跑图跑视频的硬瓶颈,模型稍微大点、分辨率一拉就OOM爆红,只能砍批次砍尺寸。
所谓动态优化,我理解是按需调度、该释放的及时释放,让同样的卡能扛更大的活。当然优化不是变魔术,物理上限还在那,能不能真让8G、12G的卡多喘口气,得看实际占用曲线。
等这两天更新到手,拿同一套工作流开优化前后各跑一遍看峰值占用,数据出来再下结论。有升级过的先说说体感。
8G卡表示天天跟OOM搏斗,太需要了
动态调度好是好,就怕换来速度变慢
蹲占用对比数据
ComfyUI这生态更新是真勤快
优化再猛也架不住有人非要上4K ![]()
mark 回头更新试试
峰值降下来哪怕慢一点我也认,起码不爆了
开了下确实慢一档,但爆红归零这买卖我认,起码能出图