作者:孙妍 来源:IT时报
横空出世的ChatGPT,在全球掀起生成式人工智能热潮,“大模型+大算力”让AI实现范式突破,也让算力成为抢手资源。而在算力的背后,是数据中心和“电老虎”的竞赛。
(相关资料图)
5月29日,在COMPUTEX2023(中国台北国际计算机展)上,IT解决方案提供商Supermicro提出了两个关键词:加速和降耗。Supermicro采用Server Building Block Solutions服务器构建方法,整合Intel、AMD和NVIDIA的最新CPU及GPU技术,设计和制造服务器和存储系统,以应对AI、云计算、5G以及从数据中心到边缘计算的大量需求。
“我们的机架级液冷方案可以将数据中心的电力支出降低40%,并能加快上市时间,每月向全球发运4000机架,预计到年底将提高到5000以上。” Supermicro总裁兼首席执行官梁见后(Charles Liang)表示。
Supermicro已有产品组合可为人工智能工作负载和其他垂直领域提供支持。基于第四代Intel Xeon可扩展处理器和第四代AMD EPYC 处理器的单插槽和双插槽机架安装系统,提供1U、2U、4U、5U和8U规格,并支持1到10 GPU。此外还包括在8U机箱中支持20个NVIDIA H100 GPU的密度优化型SuperBlade系统,以及专门针对物联网和边缘环境设计的SuperEdge系统。最新发布的E3.S Petascale存储系统在利用超大规模的人工智能数据集进行训练时,其性能、容量、吞吐量、耐用性以及能效表现都较好。
在英伟达发布超大规模生成式AI加速平台这一算力“杀器”的同一时间,Supermicro宣布,基于NVIDIA Grace CPU超级芯片的新产品系列将很快上市。这些新服务器均包含144个核心,双CPU及900 GB/s 一致性接口,可运行高响应度的人工智能应用程序和需要极低延迟响应的应用程序。此外,CPU以500W TDP的速度运行,该系统将为云原生工作负载和下一代人工智能应用降低能耗。
NVIDIA超大规模和高性能计算副总裁Ian Buck表示:“面对严苛的客户需求,NVIDIA与Supermicro快速为新的服务器设计带来创新。随着Supermicro采用Grace CPU 超级芯片的服务器上市在即,以及H100 GPU在全球范围的使用普及,我们正在共同努力,将人工智能带到广泛的市场和应用中。”
生成式AI给算力带来了巨大的挑战,Supermicro的应对方案是GPU服务器集成双CPU和多达8个NVIDIA HGX H100 GPU,并用液体冷却降低运营成本。此外,Supermicro正在支持新的NVIDIA MGX参考架构,该架构将为一系列人工智能、高性能计算和Omniverse应用提供超过100种服务器配置。这种模块化的参考架构包括CPU、GPU和DPU,适用于多代处理器。
Supermicro还将在广泛的解决方案中纳入最新的NVIDIA Spectrum-X网络平台。该平台是第一个专门为提高基于以太网的AI云的性能和效率而设计的平台。Spectrum-X建立在由NVIDIA Spectrum-4以太网交换机与NVIDIA BlueField-3数据处理单元(DPU)紧密耦合的网络创新之上。这项突破性技术实现了1.7倍的整体人工智能性能和能源效率提升,同时在多租户环境中实现了一致、可预测的性能。
目前,数据中心消耗的电力占到了全球电力需求的1%至1.5%,因此绿色计算对于数据中心至关重要。Supermicro机架级液冷解决方案可以大幅降低对传统冷却方法的需求。通过冗余和热插拔电源和泵,机架上的所有高性能AI和HPC优化服务器都能够得到有效冷却,不用担心电源或泵发生任何故障。该解决方案还为CPU和GPU量身定制了水冷板,相较于传统设计能够更有效地去除热量。如果数据中心利用Supermicro技术将其PUE降低至近1.0,能节省高达100亿美元的能源成本,相当于减少建造30座化石燃料发电厂。
机架级集成是数据中心运营商所需的另一项核心竞争力。要想给生产效率加速,就必须将随时可用的全部机架及时交付给数据中心。Supermicro的 L11和L12服务器集群已通过全面测试并且进行适当配置,可以在必要时实现大规模液体冷却。
Supermicro采用ServerBuildingBlockSolutions服务器构建方法,整合I...
初夏的临夏大地牡丹飘香,游客如织,一派生机盎然的景象。为切实做...
1、袁枚《马嵬》:“莫唱当年长恨歌,人间亦自有银河。2、石壕村里...
1、《木兰花慢·立秋夜雨送梁汾南行》清代诗人纳兰性德原文:盼银河...
ST广珠(600382):公司股票将于2023年5月31日开市起停牌一天,并于20...
北京时间5月30日,NBA东部决赛抢七,热火客场103-84轻取凯尔特人,...
基本面周三日元受日本当局强烈干预自低位大涨230点,但其它非美跟随...
大河网讯(记者刘高雅)5月25日以来,河南省出现大范围持续阴雨天气...
2009年的哥本哈根气候变化大会上,发达国家承诺每年向南方国家提供10...
1、意思是说天下人为了利益而蜂拥而至,为了利益各奔东西。2、指普天...
中国银行保险报网讯今年以来,农发行四川广安市分行坚守政策性银行...
今天小编肥嘟来为大家解答以上的问题。网购属于支付手段还是流通手...
大家好,今日关于【神十六乘组进驻空间站】的话题登上了各大平台的...
”基于AI算法突破,许锦波带领团队面向产业需求推出了AI蛋白优化和...
驱动中国2023年5月30日消息,特斯拉公司在中国发起的价格战,已经重...
今天小编岚岚来为大家解答以上的问题。三个中国传统节日的故事,中...
据中国载人航天工程办公室消息,在载人飞船与空间站组合体成功实现...
相比于其它领域,汽车上的黑科技无疑要离我们普通人更近,比如HUD平...
来为大家解答以上问题,抢红米手机软件,红米手机抢购攻略很多人还...
新京报贝壳财经讯(记者曲筱艺)文化和旅游部资源开发司近日印发《...
2023年五月:参加刀具界奥斯卡的ANCA年度刀具大赛,您将获得全球的...
上海东航置业:暂停云锦东方云筑开盘销售摇号排序活动,摇号,开盘,王...
《星河战队:灭绝(StarshipTroopers:Extermination)》中的ARC模式...
来为大家解答以上问题,三星9120拆机视频,三星9120很多人还不知道...
其所有的货架都是与中台系统连接的,每一个销售的商品,是几点、以...
拉斯加长什么样,阿拉斯加雪橇犬的性格如何很多人还不知道,现在让...
中新网永州5月30日电 (唐小晴 何艳飞)“这块油茶地,质地疏松,保...
直播吧5月30日讯国足六月国际友谊赛开球时间确定,地点均为大连梭鱼...
一、前言:“性能小金刚”迎来迭代升级用上天玑8200-Ultra芯作为中...
人民网消息从新疆喀什叶城县乘车出发,沿着219国道新藏线一路攀升,...