"10B 碾压百亿级文生图"这标题先打个问号

又是"碾压"。

“10B 小参数碾压百亿级文生图”,这种标题我一律先打个问号。参数小、效果反而好,无非两种可能:数据和训练策略确实有突破,或者对比维度挑得对自己有利。

文生图早就不是单纯堆参数的比赛了,蒸馏、架构改进、数据清洗,哪一环做扎实都能换来实打实的提升。所以从架构角度我更想知道,省下来的算力是从哪来的、推理成本到底降没降——这比一句碾压有信息量得多。

权重和实测没出来之前,不下结论。

"碾压"这词一出现我就默认自动打个五折

权重真放出来我先测显存占用,跑分放后面看

1 个赞

楼上说的测显存我赞成,跑分谁都能挑着报。

蹲实测

又一个纸面碾压? :thinking: