练LoRA时盯着loss看到底有没有用

[uwu_mochi]

loss降得那么漂亮,图怎么还是只会摆训练集那几个姿势?

练角色LoRA这段时间,那条曲线让我又依赖又困惑。我的理解是loss大致反映模型预测和目标之间的差距,训练里整体往下走、慢慢收敛算正常。可实际出图跟它对不上:有时候曲线好看,出来的东西过拟合;有时候loss看着一般,泛化反而更讨喜。

所以现在我改成定期拿中间权重直接出图去比,曲线只瞄一眼。不知道这么理解有没有偏差,大家是拿loss当个参考,还是真会照它来停训,求纠正。

[ckpt10]

我每隔一段存一次权重,固定几条提示词横着比,比看曲线直观。

[a_bei]

同问,一直纠结到底该不该拿loss当停训标准。