出品 | 搜狐科技
作者 | 梁昌均
在AI芯片成为硬通货、行业供需失衡的情况下,越来越多的大模型企业开始踏入这一赛道。
前有国外的OpenAI、Anthropic、SpaceX(xAI)等大模型企业,国内的DeepSeek、智谱也被爆出打上了芯片的主意。
毫无意外地,它们都选择了相同的方向——AI推理芯片,而非训练芯片。业内多位人士对搜狐科技表示,这是基于成本、供应链、估值等多重考虑。
随着AI算力需求从训练加速转向推理,在大厂之外,越来越多的大模型公司开始自研芯片,英伟达牢牢统治的AI算力江湖可能要变天了。
头部大模型公司造芯,OpenAI领跑
从目前进展来看,OpenAI造芯暂时跑在了前面。半个月前,OpenAI宣布推出首款AI芯片Jalapeño。
这款采用台积电3nm工艺的芯片计划在今年年底开始部署,先服务OpenAI内部需求,随后将逐步扩展到微软等合作伙伴的数据中心。
随后,OpenAI的对头Anthropic也被爆出与多家芯片设计公司接洽,并计划采用三星2nm工艺,还挖来了OpenAI初代自研芯片团队核心成员。
马斯克旗下的xAI去年就被爆出计划在今年量产自研芯片,但随着xAI并入SpaceX,团队解散,这款芯片能否最终面世,存在变数。
最新传出入局造芯的则是国内大模型公司DeepSeek和智谱。
媒体报道称,DeepSeek自研芯片项目一年前就已启动,正与芯片设计、晶圆代工和存储公司讨论,目标芯片主要用于AI推理,并开启芯片人才的非公开招聘。
随后智谱也被爆出正与国内芯片设计厂商接洽,评估定制化AI芯片方案。这两家公司均未对此有所回应,但显然还处于早期阶段。
快思慢想研究院院长田丰认为,多家大模型公司造芯,主要是因为大规模推理成本逼出来的生存选择。
从OpenAI来看,去年净亏损高达385亿美元,总成本340亿美元中,仅研发就花了192亿美元,比全年收入还高出60多亿美元。更关键的是,营收成本(即推理计算成本)同样涨了近三倍,意味着用户规模与亏损在同步扩张。
Anthropic探索自研芯片的时间点,同样是在收入加速爆发之际,其最新年化ARR已超过600亿美元,半年内增长近六倍。
媒体报道称,智谱自研芯片的考虑则出于GLM-5.2 需求的暴增,其年底ARR指引达10亿美元,相比年初增长15倍。DeepSeek在发布V4模型后,调用量同样迎来暴增。
同时,田丰认为,这也是为了降低供应商依赖风险,但中美公司情况有所差异。
美国大模型公司面对的是供应商定价权与算力资源分配权。“算力供货权由英伟达掌握,OpenAI、Anthropic再有钱,也无法绕过英伟达排队。”
中国大模型公司是另一种约束——高端芯片受限,英伟达自去年逐渐退出中国市场。DeepSeek此前则发布针对华为昇腾硬件优化的V4模型,其和智谱等也纷纷适配国产芯片。
“DeepSeek自研芯片的目标,是同时减少对华为和英伟达的双重供给依赖。”田丰认为,国内大模型公司造芯,是把供应链风险降到最低的唯一路径,而非纯粹的商业选择。
华芯资本合伙人梁东健也对搜狐科技表示,国内外大模型公司自研芯片的共同需求是降本,推理成本太吃利润。
“但国外是‘锦上添花’——英伟达芯片管够,自研是为了效率壁垒和差异化;国内是‘雪中送炭’——高端GPU受限,自研是必选项,有着自主可控的现实诉求。”
他还认为,这一定程度也有估值考虑。“芯片很热,自研能讲故事。但芯片是十年长跑,不是PPT概念,估值支撑还是靠技术和产品竞争力,而不是自研标签。”
这也意味着,新一轮的AI竞争已从模型层下沉到基础设施层。“掌握芯片定义权就等于掌握了下一代产品迭代的主动权。”田丰说。
瞄准专用推理芯片,这事划算吗?
值得注意的是,这些大模型企业造芯都瞄向了同一个目标——AI推理芯片。
OpenAI发布的Jalapeño明确定位于大模型推理芯片,更准确地说,这是一款面向推理的ASIC(专用集成电路),非通用GPU,也非训练加速器。
ASIC是面向特定任务的定制化芯片,相比通用芯片在特定任务中具备更强性能、更低功耗。从其他大模型目前爆出的信息看,它们的芯片计划同样聚焦推理,而非训练。
这背后则是大模型算力成本正从训练向推理转移的趋势。今年,AI算力市场格局迎来翻转,随着模型部署应用加速,推理需求首次超过训练需求,成为增长主引擎。
“训练是一次性投入,属于资本支出,而推理是天天烧钱,属于运营成本,调用量高的模型的推理成本将会是训练的数倍。”梁东健称。
业内预测,未来AI推理算力需求将提升到70%甚至更多。换句话说,相比训练,推理将是大模型公司更重、更持续的成本负担。
这种趋势,使得大模型选择推理芯片成为自然的战略选择,而选择ASIC专用架构而非通用GPU,选择和设计企业合作而非从零自建研发团队,则是更为合理的战术。
梁东健表示,训练芯片要高精度浮点、大带宽、强并行,GPU最适配,而推理硬件要求低延迟、高吞吐、高能效,精度可以降(INT8/INT4),更适合专用架构。
田丰也解释称,训练和推理的计算物理特性完全不同,前者是算力越快越好,后者是数据搬运越省越好,这决定了两者的硬件设计必然分化。
同时,推理面对的是训练完成、长期运行的模型,工作负载更稳定,ASIC定制更容易围绕固定算子、内存访问和Token生成过程做定向优化,由此实现推理的能耗与成本优化。
更关键的是,借助模型和芯片的软硬件协同设计,可以降低通用GPU的冗余控制单元,减少非必要的数据搬运,并实现精度优化,有效实现推理成本降低。
不过,虽然专用推理芯片的优势突出,劣势同样明显。梁东健就提到,ASIC灵活性差,模型迭代快,架构易过时,且基本没有生态护城河,同时规模门槛高,如果量不够反而更贵。
那么,大模型公司做这件事到底值吗?ROI算得过来吗?
田丰提到,在成本层面,专用推理芯片可比GPU集群便宜40%到60%。梁东健分享到,ASIC能效比要比GPU高30%-50%,研发成本可以低到GPU的1/5-1/10,ROI更清晰。
测试显示,OpenAI的Jalapeño的推理成本比当前主流AI图形处理器低约50%,而性能与英伟达Blackwell芯片相当。
不过,芯片设计也需要前期巨额的固定成本,包括设计团队、EDA授权、流片费用,以及3-5年的市场迭代周期。
“这些固定成本只有在推理请求量足够大时才能被边际效益覆盖。”田丰的判断是,只有模型Token日产量达到百亿级别,芯片定制化才从可选项变为必选项。
他认为,对OpenAI、Anthropic这类日均数以百亿计Token的公司,自研芯片ROI计算合理。但对规模还在数十亿Token级别的公司,自研的固定成本可能摊薄不足,ROI存疑。
梁东健从成本角度分析称,自研芯片全周期需1-3亿美金,年推理成本超10亿美金、模型架构稳定的头部公司,降本50%基本半年可回本,自研划算,中小公司还是适合用云服务。
此外,这些大模型公司造芯还选择了相同模式——和芯片设计企业合作。Jalapeño就是由OpenAI与博通合作开发,从设计到流片用时9个月,若自建团队从零做起则需要两三年。
“OpenAI定义架构和需求,博通做物理设计和流片。好处是快、风险低、不用养大团队,代价是核心IP不在自己手里。算自研,但不算全栈自研。”
梁东健认为,这种模式会成为大模型公司造芯的主流,因为人才稀缺、供应链复杂、流片风险高,联合设计是务实选择。
他还进一步判断,未来AI企业造芯布局会形成三层格局:头部科技巨头走向全栈自研(如谷歌)、腰部公司联合设计(OpenAI+博通)、尾部企业直接采购云厂商服务。
摆脱英伟达依赖,AI算力江湖变天?
实际上,在OpenAI、Anthropic等大模型造芯前,多家科技巨头,包括本身就在做大模型的大厂,都在通过自建团队或合作模式入局,如谷歌、亚马逊、华为、百度、阿里等。
最近,与博通合作的Meta自研芯片也迎来新进展,计划秋季量产一款AI芯片,这将帮助其部署的算力规模翻倍。扎克伯格也明确否认算力过剩论,表示将加速算力部署。
随着越来越多的玩家进场,全球AI算力江湖格局也有望迎来新变化。
目前,无论是训练侧,还是推理侧,英伟达都处于统治地位。而这些入场造芯的企业,除了降本需求,还想降低对供应商尤其是英伟达的高度依赖。
至少,目前多家大模型公司想在推理侧撕开一道口子。这些公司还在通过一级市场或上市疯狂融资,造芯的弹药也不缺。
田丰认为,大模型公司自研芯片的隐性价值在于,可以让模型和芯片之间实现协同进化,这是英伟达无法给予的价值。
“英伟达需要服务所有客户,设计要兼顾通用性。自研芯片让模型公司把自身独特的推理模式(长上下文、多步推理等)适配到芯片逻辑中,这是差异化护城河,而不只是降本。”
他认为,自研芯片给了大模型公司供应链议价的底牌,本质上是在购买未来竞争力的期权,而不是立即参与芯片市场竞争。“目前看更多是补充,而非要全面替代英伟达。”
但正如梁东健所言,对英伟达而言,风险不是某家对手,而是去英伟达化的集体趋势。“英伟达的防线是让替代成本始终高于依赖成本,目前做得还行,但窗口也在不断缩小。”
从训练侧看,业内普遍认为,英伟达的护城河壁垒短期无人可以撼动,GPU架构所组成的超算集群仍然是无可替代的算力基础设施。
“但由于模型架构优化、预训练趋于收敛,后训练/微调需求结构会变,英伟达在训练端的中长期增速将会放缓。”梁东健判断。
田丰认为,英伟达未来真正的风险在于训练范式出现根本性变革,但当前尚未发生。
在推理侧,随着调用量指数增长,场景碎片化,算力格局将呈现多极化。“未来3-5年,谷歌TPU、亚马逊Trainium,以及模型公司自研芯片会吃掉部分推理份额。”梁东健表示。
田丰也认为,每一家自研推理ASIC的公司未来都将减少对英伟达的采购。“英伟达在推理端正在从唯一选择变成默认选择之一,议价权将逐步下降。”
目前,ASIC市场正迎来快速增长。据TrendForce预计,今年定制ASIC市场规模将增长45%,首次超过通用GPU的16%,而ASIC制造的AI服务器份额预计将达到27.8%。
科技机构Byteiota甚至大胆预测,2028年英伟达在推理市场的份额可能会被ASIC蚕食,从当前的80%左右下降至20%-30%区间。
不过,英伟达也在加速布局,此前斥资200亿美元收购了推理芯片研发公司Groq,新一代芯片架构也在推理层面进行了优化设计,以此希望抓住智能体浪潮。
“对英伟达来说,短期无忧,中期承压,长期看转型。”梁东健总结称。