蚂蚁百灵这边更新了 Ling-3.0-Flash,定位是新一代原生混合推理模型。混合推理这个思路现在几家都在做,核心是让模型自己判断啥时候该多想几步、啥时候直接给答案,省得简单问题也走一大套推理流程白烧算力。
带 Flash 后缀一般就是主打速度和成本,这类模型对实际业务落地比那些追极限跑分的更有意义,大部分场景要的是又快又便宜还够用。原生这个词说明混合推理是设计层面就带进去的,不是外面套一层调度。
具体是啥架构、上下文多长、跟自家上一代比提升在哪,这些暂时还没细看到。蚂蚁做这个多半也是往自己金融和支付那套业务里塞,场景是现成的。