前后练了两回模型。素材一模一样，配置一模一样，中间啥也没改。
两回都跑完拿出来一对比，手感不一样：一个偏，一个不偏。输入一点没动，结果飘成这样，我有点懵。
自己琢磨了下，训练里大概本来就带随机，种子、初始化，甚至数据喂进去的顺序都可能有影响。可差这么多，又让我怀疑是不是哪儿没锁死。
想请懂训练的兄弟讲讲这波动具体从哪来，有没有办法把同一个结果彻底复现出来。
种子锁死也未必完全一样，显卡底层有些运算本身就不确定
想复现就把随机种子固定死，数据顺序也尽量别变
1 个赞
差太多的话，除了随机，检查下是不是中途手抖改了啥
感谢佬