练LoRA时loss降到某个值就横着走，折腾两天总结几条自查顺序。先看学习率，太小几乎不动，我往下试反而更死，后来发现是数据的问题。
样本里混了几张标注和画面对不上的，模型学不到东西自然平。清洗完标签、把重复的删掉，曲线立刻有反应。还有个容易忽略的：loss本身抖是正常的，别盯着单步看，拉长看趋势。
优化器换一下也有影响。想问下大家，loss平但出图其实在变好，这种还要不要继续练。
练LoRA时loss降到某个值就横着走，折腾两天总结几条自查顺序。先看学习率，太小几乎不动，我往下试反而更死，后来发现是数据的问题。
样本里混了几张标注和画面对不上的，模型学不到东西自然平。清洗完标签、把重复的删掉，曲线立刻有反应。还有个容易忽略的：loss本身抖是正常的，别盯着单步看，拉长看趋势。
优化器换一下也有影响。想问下大家，loss平但出图其实在变好，这种还要不要继续练。