今早看到Sand.ai把一个千亿级的MoE视频生成模型开源了，说是全球头一个做到这个量级的。做视频生成这两年最难受的就是规模上不去，dense结构往上堆，训练和推理成本都是几何级往上翻，不少团队卡在这一步只能回头改数据配方。
MoE在语言模型那边已经被验证过一轮，但搬到视频这种时序长、分辨率又高的场景里，路由怎么设计、专家之间怎么分工，不是照抄一套配置就能work的。所以这次真正有意思的地方不在参数量本身，而是它给出的这条扩规模路径别人能不能跟着走通。
权重放出来之后，社区很快就会有人去扒结构和训练细节，实际生成质量到底站不站得住，还得看第一批跑过的人怎么说。