Murati离开OpenAI之后的Thinking Machines把第一个大货放出来了:Inkling,975B参数的多模态开源权重模型。几个看点:一是定位很清醒,官方直接说这是给你做微调的底座,不跟闭源旗舰拼上限;二是在Artificial Analysis的指数上压过了美国其他开源模型,但部分任务仍被国产顶级开源压着,这个格局挺微妙;三是API定价输入每百万token收1.
87美元。
975B这个体量,自己部署基本告别消费级显卡了,量化完能塞进什么规格的机器我还挺好奇。
Murati离开OpenAI之后的Thinking Machines把第一个大货放出来了:Inkling,975B参数的多模态开源权重模型。几个看点:一是定位很清醒,官方直接说这是给你做微调的底座,不跟闭源旗舰拼上限;二是在Artificial Analysis的指数上压过了美国其他开源模型,但部分任务仍被国产顶级开源压着,这个格局挺微妙;三是API定价输入每百万token收1.
87美元。
975B这个体量,自己部署基本告别消费级显卡了,量化完能塞进什么规格的机器我还挺好奇。
975B,H100得堆一柜子