日均百万亿Tokens背后,是大模型调用被摊成水电了

日均百万亿Tokens这个数,做过API生意的应该都懂它意味着什么——不是模型多强,是真有海量业务在底下跑,而且已经跑成了像水电一样的基础设施。

对创业者来说信号很清楚:大模型调用成本被规模摊薄的拐点到了,谁家规模上去谁的单价就能压下来,中小玩家自己养算力越来越不划算。

往后拼的不是谁模型好那么一点点,是谁的调用又便宜又稳。这种规模效应一旦转起来,格局基本就往头部几家集中,留给中间层的空间在收窄。

水电这比喻到位

规模摊成本这块确实是这么回事

中小玩家自养算力约等于送钱

+1

1 个赞

所以现在都往几家API上叠,护城河就是规模

百万亿这量级已经不是技术问题,是生意问题了