现在什么都跟AI扯上关系,可算力到底够不够用?
前阵子跟一个做AI创业的朋友吃饭。他说现在最头疼的不是模型做不好,是买不起卡。一张GPU服务器一个月租金好几万,他们公司十几个人,光算力成本就占了三分之一。
我当时挺震惊的。以前觉得AI是个轻资产的东西,不就是写代码嘛。没想到现在AI公司最大的开销居然是电费和显卡。
后来我查了一下才知道,训练一个大模型需要多少算力。举个例子,GPT级别模型训练一次,用的电相当于一个普通家庭几百年的用电量。你说这是科技还是烧钱?
但你又不能不用。
现在大厂之间的竞争已经变成算力竞争了。谁的卡多、谁的集群大、谁训练出来的模型就更强。模型越强,用户越多,收入越高,又能买更多卡。这是个正循环。
小公司根本玩不起。你想做个垂直领域的AI应用,模型微调一次几万块就出去了。做出来还没用户呢,钱先烧完了。
所以现在市场上出现了一种新角色:算力租赁平台。你不用买卡,按使用量付费。跑一次训练付一次钱,用多少算多少。这个模式确实帮小公司降低了门槛,但成本还是高。
有次我问那个朋友,你们为什么不直接用大厂的模型API,非要自己训练?他说,大厂的API你调用多了贵不说,数据还得传到人家服务器上。他做的是医疗AI,患者数据不能外传,必须自己建私有算力。
这就是矛盾。想做AI应用的公司很多,但算力成本和数据安全这两座大山压着,小公司很难受。
那这个行业接下来会怎么发展?
我觉得有两个方向。一个是芯片降本。现在AI芯片太贵了,如果能出现更便宜的方案,不管是国产芯片还是专用推理芯片,小公司的门槛会低很多。另一个是模型变小。你不需要每次都用GPT级别模型,小模型在垂直领域也够用。这就是现在很多公司做"小模型"和"端侧AI"的原因——把模型跑在手机上,不用云端算力。
这两个方向如果跑通了,AI的成本会大幅下降。到时候小公司做AI就不会像现在这么吃力了。
但说句实在话,算力这事儿短期内不会变便宜。大厂还在疯狂买卡建数据中心,需求太旺盛了。你想做AI创业,先做好烧钱的准备。
这不是一个适合轻资产入场的赛道。你要么有技术壁垒,要么有资金壁垒,两样都没有的话,别趟这趟浑水。
还有个事你可能没注意到。现在不管什么公司都在说自己是AI公司,做奶茶的说自己是AI奶茶,做美甲的说自己是AI美甲。但你仔细看,他们用的AI无非就是调了个大厂API,跟你自己用ChatGPT没什么区别。
真正有技术壁垒的AI公司,全国也就那么几十家。剩下的都是套壳。你说这泡沫大不大?
但泡沫归泡沫,AI这个方向是真的。就像当年互联网一样,一开始也是一堆套壳公司,但最后真跑出了几个巨头。问题是你能不能活到那天。
我的建议是:如果你想做AI相关的生意,别一上来就自己训练模型。先从应用层做起,用现成的API解决一个具体问题。等你有用户有收入了,再考虑要不要自建算力。
活下来比什么都重要。

