公司给我配的是 Mac,以前碰上新模型第一反应就是等云端排队,或者等哪天官方想起来做适配。MiniMax H3 权重是开放的,社区很快就出了跑在苹果这套统一内存架构上的推理实现,本地就能起。
对我这种做电商图和短视频的,本地跑不只是省钱:客户还没上架的产品图不用往外传,改十版不用心疼额度,网卡了也不耽误交稿。这是闭源模型给不了的——你只能等它支持哪个平台。
开放权重把这一步交给了社区,谁手上有什么设备,谁就自己写适配。速度当然比不过专业卡,我一般晚上排着跑,第二天早上挑。设备越杂,开放权重的价值越明显。