英伟达GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心
砍柴网
2024-03-14 13:02:55

原标题:英伟达GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心

3月14日消息,Cerebras Systems发布了他们的第三代晶圆级AI加速芯片“WSE-3”(Wafer Scale Engine 3),规格参数更加疯狂,而且在功耗、价格不变的前提下性能翻了一番。

2019年的第一代WSE-1基于台积电16nm工艺,面积46225平方毫米,晶体管1.2万亿个,拥有40万个AI核心、18GB SRAM缓存,支持9PB/s内存带宽、100Pb/s互连带宽,功耗高达15千瓦。

2021年的第二代WSE-2升级台积电7nm工艺,面积不变还是46225平方毫米,晶体管增至2.6万亿个,核心数增至85万个,缓存扩至40GB,内存带宽20PB/s,互连带宽220Pb/s。

如今的第三代WSE-3再次升级为台积电5nm工艺,面积没说但应该差不多,毕竟需要一块晶圆才能造出一颗芯片,不可能再大太多了。

晶体管数量继续增加达到惊人的4万亿个,AI核心数量进一步增加到90万个,缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。

乍一看,核心数量、缓存容量增加的不多,但性能实现了飞跃,峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。

它可以训练相当于GPT-4、Gemini十几倍的下一代AI大模型,能在单一逻辑内存空间内存储24万亿参数,无需分区或者重构。

用它来训练1万亿参数大模型的速度,相当于用GPU训练10亿参数。

四颗并联,它能在一天之内完成700亿参数的调教,而且支持最多2048路互连,一天就可以完成Llama 700亿参数的训练。

WSE-3的具体功耗、价格没公布,根据上代的情况看应该在200多万美元。

【来源:快科技】

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

深圳市居.易文化传播有限公司买... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"近年来,各类投...
广东酱王国际控股有限公司买酒送... 近年来,一些骗子利用“买酒送股权”等手段行骗,让不少投资者损失惨重。这些骗.局往往以高回报、低风险为...
成都常阳工会旭东老师打新股摇号... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"“买酒、买原液...
智核投研商学院周聪老师推荐琦白... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"在股市投资中,...
山东谊友电子商贸买野山参赠送股... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"后疫情时期,不...
慧研智投浪总靠谱吗?从焦虑处理... 慧研智投浪总靠谱吗?从焦虑处理到成功退费,背后真相让人后背发凉!您是否在慧研智投遭遇虚假宣传诱导交费...
刺梨工坊(贵州)科技有限公司上... 注意:一种新型骗局正在悄然兴起,它利用人们对于高额回报的渴望,通过宣传购买指定品牌的酒、茶叶、药材就...
深圳市琦白久商业管理有限公司什... 本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。 “买酒成为经销商...
海能证券投资顾问怎么样?投顾公...   海能证券投资顾问怎么样?虚假宣传欺诈消费者荐高位股!股民交费炒股真的很后悔!服务费可以退!  投...
富润商学院私董会直播课周聪抽签... “本文旨在进行投资风险教育,不针对任何特定企业。以下案例为拟情景,如有雷同纯属巧合。"股市屏幕上跳动...