AI服务器功耗大幅提升,液冷的放量元年?
华尔街见闻
2024-03-05 06:58:37

原标题:AI服务器功耗大幅提升,液冷的放量元年?

近期,戴尔公司的首席运营官Jeff Clarke在新闻稿中透露,英伟达将于2025年推出载有“Blackwell”架构的B200产品,功耗或将达到1000W,较H100增加40%以上,需要戴尔利用其工程独创性来冷却GPU。

Clarke指出,作为硬件制造商,重要的是如何冷却产生产生这些FLOPS(floating-point operations per second)的处理器,而这正是戴尔的优势所在:

我们将有机会展示我们作为行业领导者所做的工作,将我们的专业技术用于实现液冷的规模化性能,无论是流体化学和性能方面的工作,还是我们的互连工作、我们正在做的遥测工作、我们正在做的电源管理工作。我们做好了准备,将其大规模推向市场,以利用市场上将存在的这种令人难以置信的计算能力或强度或能力。

3月3日,国胜证券分析师宋嘉吉、黄瀚和石瑜捷在题为《液冷的放量元年》的报告中指出,算力时代来临,GPU服务器起量,液冷落地的驱动力发生根本性变革,2024年将是液冷散热的放量元年。

国胜证券分析道,AI服务器功耗较传统服务器大幅提升成了驱动液冷落地的直接导火索,从几百瓦的CPU服务器到几千瓦的GPU异构服务器,热功耗提升超数十倍,但风冷上限无法满足AI散热需求,推动液冷散热加速成为了“必选”

大模型兴起后的AI时代,并行计算网络下异构架构成为主流,AI服务器不仅使用传统CPU芯片,还增加大量高功率的GPU芯片,整机功率随之大幅走高,如NVIDIA A100 SXM芯片单卡功耗400W,8卡AI服务器单论GPU的热功耗就有3.2kW,H100 PCIe 5.0芯片单卡功耗更是高达700W;传统通用服务器以H3C为例,R4900 G6服务器处理器最大功率为385W。

风冷制冷单机柜的上限通常是15kW左右,液冷数据中心单机柜可支持30kW以上的散热能力。以H100为例,假设满配8卡,单台H100服务器仅内部GPU所需的功耗就达到5.6kW(且不论CPU、存储和额外的整机散热),风冷制冷阈值有限,成为实操痛点,无法对AI服务器机柜进行散热,液冷散热加速成为“必选”。

国胜证券认为,产业在落地液冷散热中,面临较大的问题在于初期投资较传统风冷更多,但伴随AIDC建设加速,高功率机柜渗透率大幅提高,用电量远超传统机柜,液冷较风冷更省电的优势逐渐凸显,节约的电费有望逐步“摊薄”前期投资额,预计冷板式液冷的整体投资+运维性价比拐点有望加速到来。

开源证券也指出,双碳背景下,IDC绿色化是大势所趋,液冷或是散热技术演变的必经之路,随着PUE要求不断严格,液冷散热优势逐渐凸显无论是IDC新建需求还是存量改造需求,液冷均有望成为首选。

财信证券研报中认为数据中心发展的大型化、集约化的趋势下,液冷方案仍存在每年降本5-10%的空间,再考虑到液冷方案能够有效延长服务器使用寿命,未来液冷数据中心总成本的优势将更加明显。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

秦峰老师直播间摇号中签打新股股... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"股权投资如今逐...
成都华太电熊猫科技有限责任公司... 投资市场中,骗局的花样总在不断翻新,却始终瞄准大众对“低风险、高回报”机会的渴求,悄悄编织陷阱。近期...
江苏中毅投资管理有限公司中微智... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"随着生活水平提...
海能投顾怎么退还服务费能退吗?... 海能投顾怎么退还服务费能退吗?引诱暗示交费!误导性宣传坑惨股友真相曝光!申请退款流程公布!上海海能投...
汇正财经交了服务费能退吗? 答... 汇正财经确实是一家正规的财经公司。但这并不能说明他们公司的宣传就符合实际,从案例中不难看出,业务员完...
嘉创学堂线下摇号抽签浙江微点供... 本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。“原始股”因常被贴...
博学智投小陈助理联合竞标申请股... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"作为扎根股市上...
南京世保管理咨询合伙企业货运服... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"在投资领域,若...
顶点财经荐股可靠吗?被投顾忽悠...   杭州顶 点财经八分公司怎么样?只讲赚不说亏?误导性宣传!别再浪费时间!退费路径曝光  投资有风险...
西安瑞启新程商贸有限公司签署产... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"滑动社交平台时...