A卡跑AI,玄学程度能写进教材。
rx6750xt 12g,批量图生图,同样参数同样的图:有时候连跑五十张稳如老狗,有时候三张就爆显存直接崩。查了一圈,A卡显存管理跟N卡没得比,驱动层面就吃亏,跑AI的优化基本靠社区大神魔改。
眼下我的办法是把批量拆小,跑几张手动清一次缓存,续着命用。同为A卡的兄弟要是摸到了显存不炸的设置,求分享一下。
A卡跑AI,玄学程度能写进教材。
rx6750xt 12g,批量图生图,同样参数同样的图:有时候连跑五十张稳如老狗,有时候三张就爆显存直接崩。查了一圈,A卡显存管理跟N卡没得比,驱动层面就吃亏,跑AI的优化基本靠社区大神魔改。
眼下我的办法是把批量拆小,跑几张手动清一次缓存,续着命用。同为A卡的兄弟要是摸到了显存不炸的设置,求分享一下。
我把实时预览关了,崩得少了点,也可能是巧合
N 卡那边就没这么多破事,唉。
12g 硬扛批量本来就悬 ![]()
两极分化多半是上一批显存没释放干净,我现在每跑完一轮重启一次后端,笨但不崩 ![]()
A卡这坑我也栽过,后来老实降batch,慢是慢点起码不炸
笨但管用,我写了个跑完自动清缓存的小脚本挂着,崩的次数少一半