速度掉了十倍,第一反应就去改工作流?我玩硬件的老习惯是先找瓶颈在哪。
用条件设置属性给多个lora分区做mask再合并,这套确实吃资源,但从四分钟到四十分钟,多半不是节点本身慢,而是显存不够了,开始往内存甚至硬盘倒腾。共享显存一爆,速度就是断崖。
排查顺序:
- 开着任务管理器,看专用显存是不是顶满、有没有溢到共享;
- 真爆了就两条路:先把分辨率降下来跑通,或者上 cache-dit 这类缓存加速,把重复计算省掉;
- 显存还有富余,才轮到查mask合并是不是连得绕了远路。
先定位,别一上来就换方案。
速度掉了十倍,第一反应就去改工作流?我玩硬件的老习惯是先找瓶颈在哪。
用条件设置属性给多个lora分区做mask再合并,这套确实吃资源,但从四分钟到四十分钟,多半不是节点本身慢,而是显存不够了,开始往内存甚至硬盘倒腾。共享显存一爆,速度就是断崖。
排查顺序:
先定位,别一上来就换方案。
靠谱
我上次显存没满也慢,最后是mask节点重复连了两遍