浪潮信息第八代元脑服务器发布,AI算力支持再升级
创始人
2024-11-17 21:20:33
0

来源:can爱小生

浪潮信息于近日隆重推出了其元脑®服务器第八代算力平台,这一创新力作采用了开放的架构设计,并率先在业界实现了“一机多芯”的突破。它不仅能够同时支持英特尔®至强®6处理器及AMD EPYC™ 9005系列处理器,还具备更为出色的智能能力和能效表现,为AI大模型的开发与应用创新提供了强有力的支撑。据实际测试数据,在LLaMA2大模型AI推理场景中,该新品整机的性能相较于上一代有了高达3倍的提升。

元脑服务器第八代算力平台拥有23款新品,基于先进的计算、存储架构创新,在CPU总线互联带宽、内存带宽及容量上全面优化,单机核心数最多到576C,主频高达5.0GHz,内存带宽提升高达136%。元脑服务器第八代算力平台一经发布,就打破多项SPEC国际性能测试纪录。

一机多芯,开放标准促进多元算力生态进化随着大模型能力的持续提升,生成式人工智能在企业侧、行业侧的落地正在提速,智能应用不断涌现。日趋丰富的AI应用场景也衍生出新的算力挑战,不同AI应用的典型特征及系统需求存在差异,需要多元的算力生态予以满足。伴随着通用处理器在芯片架构、指令集等方面对AI的优化增强,在AI推理端的巨大应用潜力使得CPU在AI时代变得更加重要,需要系统创新释放通用算力在AI领域的应用价值。

元脑服务器第八代算力平台成为全面且强大算力生态的载体,源于浪潮信息的诸多创新系统架构设计,将通过共建开放标准的方式聚集更多生态力量,使能通用算力与AI算力共同支撑日益多样的AI工作负载,加速多元算力生态进化,推动开放多元算力标准落地。

在通用算力领域,浪潮信息积极参与的开放计算模组规范(OCM),正在推动建立基于处理器的标准化算力模组单元,构建CPU的统一算力底座,解决多元CPU生态挑战问题,推动算力产业快速发展。会上发布首款基于服务器计算模组设计规范OCM的NF3290G8,整机全面解耦,以CPU、内存为核心构建最小算力单元,标准化高速/低速互联接口,实现处理器算力模组部件化,灵活支持多类型CPU,让不同算力共享统一平台,降低算力产业创新试错成本和推广适配成本,也让多元化的应用场景能够快速找到贴合的方案。

在AI算力领域,浪潮信息推动开放加速规范OAM的生态繁荣,大幅缩减国内外加速卡和服务器的适配周期,加速先进算力上线部署,支撑大模型及AI应用迭代成熟。目前,90%高端加速卡基于OAM规范设计。会上发布基于UBB2.0规范开发的元脑服务器NF5898G8,可以兼容符合OCP开放加速规范的多款OAM 2.0模组,通过全模块化的设计及极致的系统能效,满足算力的快速迭代需求,进一步加速算力融合创新。

智能增强,全面加速大模型开发与AI应用创新元脑服务器第八代算力平台实现了全面的智能增强,通过搭载自研服务器操作系统KOS、AIOps智能运维管理平台以及AI软件堆栈,从服务器智能,到快速构建AI开发环境,到作业调度和资源统一纳管,乃至智算中心智能运维,提供全面的平台软件与工具软件支持。

新平台在预警、散热、管理等方面进行了全新的智能化升级。其中,在智能预警方面,全新升级内存故障智能预警修复技术MUPR,基于对上万台服务器故障数据的建模分析和AI模型算法的训练,实现内存故障提前预警、内存错误实时隔离、内存故障智能修复,降低内存导致宕机故障率80%。在智能管理方面,通过RTOS实时操作系统,实现开机3秒内智能管理调控风扇转速,降低30%的噪音,确保散热安全。

面向大模型部署难题,新平台与服务器操作系统KOS实现软硬协同优化,自研KOS AI定制版简单2步即可实现大模型训练环境搭建,200节点训练集群开发环境,采用AI定制版20分钟即可完成部署上线可用,极大提升了大模型开发部署效率。

创新液冷设计,让AI更绿色更节能随着AI算力需求的持续攀升,AI算力的高密度部署与功耗之间的矛盾日趋突出,AI+液冷的组合已是大势所趋。浪潮信息“All in 液冷”战略已实现全线元脑服务器产品支持冷板式液冷, 面向数据中心实现从核心部件到整体方案的全方位覆盖。

最新发布的两相液冷130kW液冷整机柜,基于两相冷板和负压液冷的创新,实现液冷整机柜安全、解耦、高密和标准化,提供更高效的解热能力、更灵活的节点支持、更安全的漏液防护以及标准化液冷部件,解热能力高达每平方厘米200w以上,以先进原生液冷技术支撑超大规模智算中心建设。

浪潮信息提供液冷数据中心全生命周期整体解决方案,具有从室外一次侧冷源到室内二次侧CDU、液冷连接系统、液冷服务器等全线布局,为用户全方位打造绿色节能数据中心交钥匙工程。

展望未来,AI技术将在各个领域发挥越来越重要的作用,所有计算设备都将需要具备AI的能力,以更好地支撑各种AI应用。浪潮信息凭借其元脑服务器第八代算力平台,全面拥抱AI,通过创新的“一机多芯”架构设计,为客户提供了多元化的算力选择。这一平台将能够满足互联网、金融、通信、能源、交通等多个行业用户复杂多变的AI应用创新需求,推动智能技术的不断涌现,助力各行各业实现数字化转型和智能化升级。

相关内容

热门资讯

原创 叫... 记者调查发现,如今情绪消费服务项目销量惊人,但是 个人隐私泄露, 价格、服务不明确、不透明等风险和问...
长沙缓过来了 出品|虎嗅商业消费组 作者|柳柳 编辑|苗正卿 题图|虎嗅拍摄 虎嗅注:长沙的存在,一直都离不开“消...
原创 千... 如果手机界开一场选美大赛,那真我GT Neo6绝对可以凭借它的综合实力和价格优势,勇夺“千元机皇”的...
鑫信腾IPO终止:客户集中度较... 11月14日,深圳证券交易所披露的信息显示,深圳市鑫信腾科技股份有限公司(下称“鑫信腾”)及其保荐人...
“东莞军团”亮相航展,“黑科技... 【东莞一周】 精选原创新闻合集 11.11—11.17 1 “东莞军团”出战航展,这些莞产黑科技让...
想注销拼多多账号?这份简单步骤... 如果你决定注销拼多多账号,可能是因为种种原因,比如担心个人隐私、安全问题,或是已经不再使用这个平台。...
天舟月夜逐天宫——天舟八号货运... 11月15日23时13分,长征七号遥九运载火箭搭载天舟八号货运飞船,从中国文昌航天发射场点火发射。 ...
深圳获亚太领军智慧城市奖 【深圳商报讯】(首席记者 王海荣)11月15日,以“数智赋能城市新质生产力”为主题的2024智慧城市...
【风口解读】恒达新材大股东拟减... 来源:市场资讯 泡财经获悉,11月15日晚间,恒达新材(301469.SZ)公告,公司股东龙游联龙股...
新加坡一翎资本新股基金平台进军... 在国际金融市场多元化发展的背景下,新股基金作为一种新兴的投资方式,正吸引着全球投资者的目光。新股基金...
浪潮信息第八代元脑服务器发布,... 来源:can爱小生 浪潮信息于近日隆重推出了其元脑®服务器第八代算力平台,这一创新力作采用了开放的架...
只为RTX 5090!索泰/映... 快科技11月17日消息,RTX 4090遭遇的禁令,将会在RTX 5090上持续,在中国内地、香港、...
原创 A... 从宇宙的角度来看的话,在月球上引爆一颗原子弹,就像在地球上放了一颗鞭炮,其威力是可以忽略不计的。但是...
商务部召开外资24条落实情况专... 据商务部消息,11月15日,商务部召开外资企业圆桌会议,介绍《国务院关于进一步优化外商投资环境 加大...
五大上市险企前10月合揽保费2... 保费收入是险企的基本盘,截至11月17日,A股五大上市险企前10月保费收入情况皆已公布。北京商报记者...
可怕!98万部手机被远程控制,... 一部老人机 没有开通任何手机增值业务 秘密扣取手机用户资费 更让人想不到的是 全国竟有98万部手机 ...
多家民营银行宣布:下调存款利率... 11月15日,江西裕民银行、微众银行、新网银行、以及温州民商银行四家民营银行宣布,即日起将执行新的人...
陕西已拥有18个国家林业科技创... 近年来,陕西林业部门以科技创新为引擎,推动林业新质生产力加快发展。目前,陕西已拥有18个国家林业科技...
出海一周速递 | 叮咚买菜启动... 最新一周(11月11日-17日),出海领域发生哪些大小事? 图片来源:图虫创意 海外资讯 1.Ti...
第二十六届高交会闭幕 成交金额... 羊城晚报讯 记者沈婷婷报道:16日,为期3天的“中国科技第一展”——第二十六届高交会落下帷幕。来自全...