loss拉成一条直线躺平不动，炼丹最崩溃的就是这一刻。我自己摸出来的排查顺序：
- 学习率，头号嫌疑犯。太小根本挪不动，太大直接震荡不收敛。
- 数据是不是真喂进去了。加载写错的话，每轮其实都是同一批，loss不动很正常。
- 梯度。梯度消失，或者被clip到接近零，跑多久都是白搭。
- 优化器和损失函数跟任务对不对得上，最后核一遍。
我这边九成情况都栽在前两条，所以顺序也这么排，先查最常见的，省得一上来就去怀疑网络结构。
标签整列错位那种我也中过一次招。大家还遇到过哪些阴间原因？
我习惯先拿几十张图故意过拟合，loss都不降就肯定是管线问题
感谢佬
1 个赞
补一个，数据没shuffle也可能假装收敛，坑过我一回
标签错位那个太阴间了，查半天以为是模型的锅
码下这个顺序，下次不用再无头苍蝇乱撞了
还有一个，caption里触发词前后不一致也会让loss看着很怪