下午客户把产品图丢过来,说上架前想先看几个方向。这种活以前挺难受:公司给我配的是 Mac,碰上新模型要么等云端排队,要么等官方哪天想起来做适配。
MiniMax H3 的权重是开放的,社区很快就出了跑在苹果这套统一内存架构上的推理实现,本地就能起。对我这种做电商图和短视频的,本地跑不只是省钱——客户还没上架的产品图不用往外传,改十版不用心疼额度,网卡了也不耽误交稿。闭源模型这点给不了你,它支持哪个平台就是哪个平台,你只能等。
开放权重把适配这一步交给了社区,谁手上有什么设备,谁就自己写。速度当然比不过专业卡,我一般晚上排着跑,第二天早上挑。设备越杂,这件事的价值越明显。