智能体带动词元调用量快速增长业界探索算力普惠_资讯

创始人

2026-09-02 12:31:53

当前，随着AI智能体在各行业的应用深入，词元的调用量一直保持着高速增长态势。在2026世界人工智能大会，未来如何能让算力成本进一步下降成为各方发力的重点。

算力平台协同降本，国产芯片成关键

在世界人工智能大会的展馆内，从办公场景中写文件、做PPT，到工业场景中的质检、审图，AI智能体赋能的行业应用已快速铺开。而智能体每一次任务的执行，都要消耗不少词元。

业内人士介绍，他们正通过算力平台来协调多个主流大模型的使用，综合降低词元成本。同时，还在全国范围加快大规模算力集群的建设。而国产算力芯片支撑的超大规模算力集群，被业内视作是下一步降本的关键。

中诚华隆计算机技术有限公司董事长王嘉诚表示，把AI算力从“奢侈品”做成“水电费”，让大家都用得起、用得好。现在国产AI算力正处于突围的关键当口，谁能把推理成本真正降下来谁就有未来十年的话语权。

光芯片探索落地，业界探索算力普惠

此外，未来三五年内，光芯片等更前沿的新技术落地也有望成为降低算力成本的另一探索方向。

光子芯力创始人杨其晟表示，光电融合的芯片相比电芯片，核心在于它的计算延迟更低、功耗也会更低，体现出来就是大模型的推理速度会变得更快。每单位词元成本会相应下降50%，甚至更多。

新闻多看点

编辑：张晓璇

⚠️

本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。