无问芯穹联合创始人兼CEO夏立雪:打破异构芯片“生态竖井”,让异构芯片转化为大算力
创始人
2024-07-05 15:20:24

每经记者 张韵 每经编辑 梁枭

大模型时代,如何构建更好的基础设施?

7月4日下午,在2024世界人工智能大会期间,无问芯穹联合创始人兼CEO夏立雪在“智启新章・算引未来”AI基础设施论坛上表示,算力是AI发展的前哨和基石,GPT-4之后,支撑算法所需要的算力遇到了瓶颈,“Scaling Law”一词被频繁讨论。在此背景下,国内外巨头都在加大对算力资源的投入。

活动现场 图片来源:每经记者 张韵 摄

所谓Scaling Law是指模型的性能与计算量、模型参数量和数据大小三者之间存在的关系。当前,谷歌、OpenAI以及国内的大厂和三大云商都在构建万卡规模的大集群。夏立雪认为,如今Scaling Law思潮的底层逻辑和能力法思想不谋而合,因此万卡集群是大模型的兵家必争之地。

“未来人工智能推演和训练的算力需求仍然是高速发展的状态,不仅推理场景会随着大模型的落地快速爆发,训练场景也会支撑模型迭代与模型与应用的结合。”夏立雪进一步表示,与国际上模型层与芯片层“相对集中”的格局相比,中国的模型层与芯片层更加“百花齐放”。

然而,大量的异构芯片也形成了“生态竖井”,不同硬件生态系统封闭且互不兼容,给算力的使用方带来一系列技术挑战。

对此,夏立雪认为,为适配中国独特的多模型、多芯片的生态格局,要找到一个好的合力方式,打破异构生态竖井,让异构芯片真正转化为大算力,帮助大模型进一步发展。

在夏立雪看来,当前人工智能的发展状态,不仅需要有将多元异构的芯片统一纳入的底层系统能力,又要在异构算力和多种算法之间做轻易使用的中间层,让用户通过统一的编程框架,把不同算力调度起来,整合算力推高了大模型生态的完整度,其核心任务是持续降低大模型应用落地成本。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

南京世保管理咨询合伙企业中赢学... 本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。随着生活水平的提高...
萝卜订购app骗钱套路 远离虚... 萝卜订购app骗钱套路 远离虚假投资坑!亏的钱能够安全退回,3天退款流程!目前,从事现货交易不像证券...
爱赢开福投顾正规吗能退!90%... 爱赢开福投顾正规吗能退!90%的人不知道这个退费流程!爱赢投顾正规吗?爱赢投顾靠谱吗?爱赢投顾荐股频...
上海阮芷咨询管理合伙企业合作商... 本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。随着生活水平的提高...
上海邵布咨询管理合伙企业(有限... 本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。随着生活水平的提高...
天相股多多退款步骤怎样拿回投顾...  天相股多多退款步骤怎样拿回投顾服务费?内部退费流程曝光,这些证据是关键!北京天相财富收取股民服务费...
程旅国盛(北京)文化发展旅游线... 本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。某国企背书的旅游项...
韵贵商城真相 亏钱后怎么追回损...  韵贵商城真相 亏钱后怎么追回损失?亏的钱能够安全退回,不错的退款流程!喃瓜订购app、飞鸽订购ap...
厦门幻映星河文化传媒旅游线路收... 本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。某国企背书的旅游项...
全力机械申请反倾转式浇注设备及... 国家知识产权局信息显示,宁波全力机械模具有限公司申请一项名为“一种反倾转式浇注设备及浇注工艺”的专利...