浪潮信息第八代元脑服务器发布,AI算力支持再升级
创始人
2024-11-17 21:20:33

来源:can爱小生

浪潮信息于近日隆重推出了其元脑®服务器第八代算力平台,这一创新力作采用了开放的架构设计,并率先在业界实现了“一机多芯”的突破。它不仅能够同时支持英特尔®至强®6处理器及AMD EPYC™ 9005系列处理器,还具备更为出色的智能能力和能效表现,为AI大模型的开发与应用创新提供了强有力的支撑。据实际测试数据,在LLaMA2大模型AI推理场景中,该新品整机的性能相较于上一代有了高达3倍的提升。

元脑服务器第八代算力平台拥有23款新品,基于先进的计算、存储架构创新,在CPU总线互联带宽、内存带宽及容量上全面优化,单机核心数最多到576C,主频高达5.0GHz,内存带宽提升高达136%。元脑服务器第八代算力平台一经发布,就打破多项SPEC国际性能测试纪录。

一机多芯,开放标准促进多元算力生态进化随着大模型能力的持续提升,生成式人工智能在企业侧、行业侧的落地正在提速,智能应用不断涌现。日趋丰富的AI应用场景也衍生出新的算力挑战,不同AI应用的典型特征及系统需求存在差异,需要多元的算力生态予以满足。伴随着通用处理器在芯片架构、指令集等方面对AI的优化增强,在AI推理端的巨大应用潜力使得CPU在AI时代变得更加重要,需要系统创新释放通用算力在AI领域的应用价值。

元脑服务器第八代算力平台成为全面且强大算力生态的载体,源于浪潮信息的诸多创新系统架构设计,将通过共建开放标准的方式聚集更多生态力量,使能通用算力与AI算力共同支撑日益多样的AI工作负载,加速多元算力生态进化,推动开放多元算力标准落地。

在通用算力领域,浪潮信息积极参与的开放计算模组规范(OCM),正在推动建立基于处理器的标准化算力模组单元,构建CPU的统一算力底座,解决多元CPU生态挑战问题,推动算力产业快速发展。会上发布首款基于服务器计算模组设计规范OCM的NF3290G8,整机全面解耦,以CPU、内存为核心构建最小算力单元,标准化高速/低速互联接口,实现处理器算力模组部件化,灵活支持多类型CPU,让不同算力共享统一平台,降低算力产业创新试错成本和推广适配成本,也让多元化的应用场景能够快速找到贴合的方案。

在AI算力领域,浪潮信息推动开放加速规范OAM的生态繁荣,大幅缩减国内外加速卡和服务器的适配周期,加速先进算力上线部署,支撑大模型及AI应用迭代成熟。目前,90%高端加速卡基于OAM规范设计。会上发布基于UBB2.0规范开发的元脑服务器NF5898G8,可以兼容符合OCP开放加速规范的多款OAM 2.0模组,通过全模块化的设计及极致的系统能效,满足算力的快速迭代需求,进一步加速算力融合创新。

智能增强,全面加速大模型开发与AI应用创新元脑服务器第八代算力平台实现了全面的智能增强,通过搭载自研服务器操作系统KOS、AIOps智能运维管理平台以及AI软件堆栈,从服务器智能,到快速构建AI开发环境,到作业调度和资源统一纳管,乃至智算中心智能运维,提供全面的平台软件与工具软件支持。

新平台在预警、散热、管理等方面进行了全新的智能化升级。其中,在智能预警方面,全新升级内存故障智能预警修复技术MUPR,基于对上万台服务器故障数据的建模分析和AI模型算法的训练,实现内存故障提前预警、内存错误实时隔离、内存故障智能修复,降低内存导致宕机故障率80%。在智能管理方面,通过RTOS实时操作系统,实现开机3秒内智能管理调控风扇转速,降低30%的噪音,确保散热安全。

面向大模型部署难题,新平台与服务器操作系统KOS实现软硬协同优化,自研KOS AI定制版简单2步即可实现大模型训练环境搭建,200节点训练集群开发环境,采用AI定制版20分钟即可完成部署上线可用,极大提升了大模型开发部署效率。

创新液冷设计,让AI更绿色更节能随着AI算力需求的持续攀升,AI算力的高密度部署与功耗之间的矛盾日趋突出,AI+液冷的组合已是大势所趋。浪潮信息“All in 液冷”战略已实现全线元脑服务器产品支持冷板式液冷, 面向数据中心实现从核心部件到整体方案的全方位覆盖。

最新发布的两相液冷130kW液冷整机柜,基于两相冷板和负压液冷的创新,实现液冷整机柜安全、解耦、高密和标准化,提供更高效的解热能力、更灵活的节点支持、更安全的漏液防护以及标准化液冷部件,解热能力高达每平方厘米200w以上,以先进原生液冷技术支撑超大规模智算中心建设。

浪潮信息提供液冷数据中心全生命周期整体解决方案,具有从室外一次侧冷源到室内二次侧CDU、液冷连接系统、液冷服务器等全线布局,为用户全方位打造绿色节能数据中心交钥匙工程。

展望未来,AI技术将在各个领域发挥越来越重要的作用,所有计算设备都将需要具备AI的能力,以更好地支撑各种AI应用。浪潮信息凭借其元脑服务器第八代算力平台,全面拥抱AI,通过创新的“一机多芯”架构设计,为客户提供了多元化的算力选择。这一平台将能够满足互联网、金融、通信、能源、交通等多个行业用户复杂多变的AI应用创新需求,推动智能技术的不断涌现,助力各行各业实现数字化转型和智能化升级。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

AI微短剧会替代真人剧垄断市场... 原标题:AI赋能,微短剧更应向“心”生长(文化中国行·人文观察·文化强国建设系列调研①) 制作中...
中兴通讯申请数据传输方法专利,... 国家知识产权局信息显示,中兴通讯股份有限公司申请一项名为“数据传输方法、存储介质、电子装置及计算机程...
LLC磁集成变压器厂家梳理 适... 导语:在新能源光伏储能、工业控制等高增长领域,LLC磁集成变压器作为电源系统的核心部件,其性能直接影...
兰州银行招标结果:兰州银行新一... 证券之星消息,根据天眼查APP-财产线索数据整理,兰州银行股份有限公司5月13日发布《兰州银行新一代...
2026年5月新发布:深圳小班... 引言:市场趋势与选择挑战 步入2026年,深圳的K12课外培训市场在持续规范中展现出新的结构性变化。...
36氪首发 | 宠物健康大模型... 作者 | 乔钰杰 编辑 | 袁斯来 硬氪获悉,宠物大模型健康公司重庆绮算法科技有限公司(以下简称“绮...
原创 金... 今天早上起来看行情,黄金价格又跌了,而且这已经是连着第二天往下走。 不光是国际市场上的数字在变,咱们...
#spaceweather天文... #spaceweather天文酷图#
华林证券CEO秦湘辞职,上市7... 来源:证券时报 红星资本局5月16日消息,5月15日晚间,华林证券(002945.SZ)公告称,公司...
芯片股集体暴动背后:当华尔街把... 昨天芯片股的盘面非常有趣,单凭一条H200的消息,根本解释不了英伟达、台积电和博通三巨头的同步暴涨。...