Thinking Machines 的第二款模型 Inkling Small 放出来了,开源,推理方向。Artificial Analysis 的智能指数上它拿到 40 分,旗舰 Inkling 是 41 分,只差一分。
更有意思的是参数这边的落差:276B 对 975B,活跃参数 12B 对 41B。总量不到旗舰的三分之一,活跃部分同样不到三分之一,分数却只掉一分。要么旗舰那版训练里留了不少冗余,要么这个评测在高分段已经压得很平,两种解释都成立,光看一个指数分不出来。
对自己扛部署成本的人来说,活跃 12B 这个数字比那 40 分实在多了。
牛啊