结论放前面:要频繁训练LoRA、还想碰更大的底模,显存优先,能上24G别犹豫;只是玩玩、跑现成模型,二手12G够用。
我是从拿游戏卡硬扛开始的,后来咬牙上了张24G显存的卡,两边的训练体验差得不是一星半点。
为什么说显存是硬门槛
跑SDXL的LoRA,12G经常得降batch、开各种优化才勉强塞得下,每次开训前都要先琢磨怎么省显存,来回折腾很磨人。24G就从容多了,batch能往上调,出图分辨率也敢拉高,不用老盯着爆显存的报错。
速度看什么
显存决定能不能跑,跑得快不快主要看核心和架构。同样的显存,新架构要快不少,训练这种一挂就是很久的活,这点差距会被一直放大。
不想买卡的话
云卡按小时租也是条路,短期用比自己买划算。偶尔练一两个、或者想先试试水再决定要不要上硬件,租卡更合适。
我这边的账大概就这些。大家现在都用啥配置,有没有性价比更狠的选择,欢迎来聊。