腾讯Angel获世界互联网大会领先科技奖:让通信成本降低70%
创始人
2024-11-20 19:01:15

快科技11月20日消息,2024年世界互联网大会今日在浙江乌镇开幕,腾讯获得全新设立的世界互联网大会杰出贡献奖—创新突破类。

据“腾讯”公众号介绍,腾讯Angel机器学习平台也获得了本年度世界互联网大会领先科技奖。

腾讯称,该奖项被视为科技行业的最高荣誉之一,在270个申报项目中,共有20个项目获奖。

评选委员会点评腾讯Angel机器学习平台:突破万亿级模型分布式训练和推理以及大规模应用部署等难题。

据了解,突破主要在通信、效率、规模三方面实现。

通信:

从网卡到交换机,再到路由协议,腾讯自研的RDMA网络实现了集群高速互联,单节点带宽达到3.2T,相比于同类领先产品,性能提升30%,成本降低70%。

效率:

自研了训练/推理框架,提出显存加主存的一体化机制,实现多维并行和算子优化,相比开源框架,训练性能提升2.6倍,推理速度提升2.3倍。

规模:

实现了单任务万卡的线性扩展,GPU集群加速比从50%提升到99%。

腾讯Angel机器学习平台是干嘛的,如果你手握一堆数据,想从零开始训练一个大模型,整个过程可以分成三层,Angel会在中间层发挥作用。

其中,底层GPU、云服务器等计算硬件提供算力支持,中层是机器学习平台,负责处理数据、开发算法和执行训练任务,上层是训练好的大模型。

简单来说,Angel机器学习平台可以把一堆杂乱的数据经过清洗、训练、加工等工序,变成一个强大的大模型。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

基地启用 机器人有了国家级职业... 5月16日,国家人工智能应用中试基地(具身智能)在浙江杭州挂牌启用,机器人有了国家级职业技能训练场。...
CERN的奠基之路和日本团队的... 缪子作为第二代轻子,是1936年美国物理学家卡尔·安德森(Carl D. Anderson,因发现正...
“爱达·花城号”开启试航 为何... 5月16日,第二艘国产大型邮轮“爱达·花城号”从中船集团上海外高桥造船5号码头启航,开始为期12天的...
大疆、影石的“师父”,撑不下去... 一则出售消息,让沉寂已久的 GoPro 股价突然暴涨。 北京时间5月12日一早,这家美国运动相机厂商...
全面升级!广州天河率先落地全国... 加快构建万兆光网区域样板! 全国首个万兆AI商圈 落地广州天河 5月16日,“万兆AI惠商,联通美好...
新华社记者探访机器人国家级“职... 16日,国家人工智能应用中试基地(具身智能)在浙江杭州挂牌启用,机器人有了国家级“职业技能训练场”。...
第十二届知乎新知青年大会:见证... 在AI重塑内容生态、人人皆为创作者的时代,怎样获取更具价值的新知?5月16日,围绕这一议题,第十二届...
众多电池新科技亮相深圳国际电池... 深圳5月16日电 (记者 王坚)以“链动全球·赋能绿色·驱动未来”为主题的第十八届深圳国际电池技术交...
面对称可回收液体火箭完成低空飞... 5月14日下午,由中山大学航空航天学院吴志刚教授团队研制的“逸仙-3号”面对称可重复使用火箭,在广东...
宁波银行业绩说明会,管理层最新... 【导读】宁波银行业绩说明会来了!管理层回应净息差、中收表现及董事会换届等问题 中国基金报记者 马嘉昕...