下午翻Thinking Machines Lab放出的Inkling，边看边记。
规格：这是他们第一个从零训的模型，权重开放。MoE，总参975B、激活41B，上下文最长1M。输入吃文本、图像、音频，输出只有文本。另预告了Inkling-Small，276B总参、12B激活，权重得等测试完才给。
架构有两处多停了会儿。位置编码没用RoPE，换成相对位置嵌入，官方说外推更好。多模态走无编码器路线：音频进来是dMel谱，图像切成40×40的patch过一个四层hMLP，再跟文本token一起直接进decoder。MoE部分基本照着DeepSeek-V3的路子，256个路由专家加2个共享专家，每token激活6个。
thinking effort这段最来劲。训练时靠改系统提示加调每token代价，让模型学会按需分配token预算，推理时能直接拨。成本和延迟从模型级固定值变成每次调用能拧的旋钮，对工程侧比多几分跑分实在。
部署那段看完默默关了页面：BF16要2TB显存起步，NVFP4能压到600GB左右。
