按秒买还是按小时包卡,跑视频模型这笔账我算了两周

第一个月的接口账单出来,我盯着那个数字看了半天。手上是个要长期出视频的活,量只会往上走,于是把两种模式摆一起算了两周。

按秒计费赢在弹性,不跑就不花钱,量还不稳的阶段没什么比这更省心;按小时租独享算力是把卡握在手里,跑不跑都在计时,但机器只要不空转,单位成本就压的下来。两条线的交点在日均利用率上——我这边测下来,一天真正在跑的时间过半,包卡就已经划算,低于这个数还是老老实实按用量走。

这条路能选的前提是开源权重跟得上,本地部署跟闭源接口的差距确实在收窄。代价是驱动、显存、队列、掉卡重启全得自己扛,没人给你兜底。我后来加了个看门狗,任务失败自动重排队,不然半夜挂一次没人管,第二天整批白跑。

利用率过半就包卡这个阈值挺实在,我以前纯拍脑袋租

1 个赞

自维护那部分很多人不算进去,人力也是成本

重排队最好限次数,我那回同一条任务撞了一整晚

码住

过半就包卡这条我算的时候还加了自己盯机器的工时,不然包卡显得太香了