AI芯片越来越火,但跟你我到底有什么关系
最近不管看什么科技新闻,都在说AI芯片。什么GPU缺货、什么新出了推理芯片、什么国产芯片追上来了。我一开始觉得这跟我没关系——我又不造芯片。后来用多了AI产品才发现,芯片这东西,真的影响我每天用的东西。
先说为什么AI需要专门的芯片。
你手机里原来的CPU,什么都能干——刷视频、玩游戏、聊天。但它不擅长做AI计算。AI计算是大量并行的矩阵运算,CPU一个一个算,慢死。GPU呢,本来是打游戏用的,但它刚好擅长这种并行计算,于是拿来跑AI了。
所以你看,现在AI火了,GPU就成了抢手货。一张顶级显卡几万块,还买不到。为什么?因为所有做AI的公司都在抢。
但GPU不是做AI最高效的。
GPU做训练还行——就是你从零开始训练一个大模型,需要大量计算。但推理不一样——模型训练好了,你拿来用,这个计算量小很多。这时候用GPU就有点大材小用了,成本高。
于是现在出了推理芯片。专门用来做推理的,比GPU便宜、比GPU省电。你用AI聊天的时候,背后跑的就是推理芯片。
这个变化跟我们有什么关系?关系大了。因为推理芯片便宜了,API调用费才能降下来。以前你调一次AI接口几分钱,以后可能几厘钱。那做AI产品的成本就低了,更多好用的AI应用才能出来。
还有个事。
以前AI芯片基本被一家垄断,大家都买同一家的卡。现在国产芯片在追,虽然性能还有差距,但至少有选择了。有竞争就有降价,这对我们用户是好事。
我不是技术专家,但我能感觉到:芯片这个东西,离我们普通人比想象中近。你用AI助手、用AI画图、用AI剪辑,背后都是芯片在跑。芯片便宜了、性能好了,你用的AI产品才能更好用、更便宜。
所以下次看到AI芯片的新闻,别觉得跟你没关系。那玩意儿决定了你下个月用的AI会员多少钱。
说个更实际的。我之前用AI画图,一张图等十秒钟。后来换了个推理更快的模型,两秒就出来了。快了五倍,价格还便宜了。为什么?因为推理芯片效率提高了。
你可能感觉不到芯片的进步,但你能感觉到产品变快了、变便宜了。这背后就是芯片在起作用。
还有个趋势:以后AI不只是在云端跑,会跑到你手机上。端侧AI——就是模型直接装在你手机里,不用联网。这个更需要专用芯片。手机芯片厂商现在都在抢这个方向。
以后你用AI可能不需要等云端响应了,手机本地直接跑。速度快、隐私好、不花钱。这个变化可能比你想的来得快。
所以别觉得芯片离你远。你以后用的每个AI功能,背后都是芯片在撑着。芯片行业的每一步,最终都会变成你手机上更好用的功能。

