超微推出适配英伟达Blackwell和HGX H100/H200的机柜级即插即用液冷AI SuperCluster
创始人
2024-06-07 16:01:50
0

DoNews6月7日消息,Supermicro, Inc.(NASDAQ:SMCI)作为AI、云端、储存和 5G/边缘领域的全方位IT解决方案制造商,推出可立即部署式液冷型AI数据中心。此数据中心专为云原生解决方案而设计,通过SuperCluster加速各界企业对生成式AI的运用,并针对NVIDIA AI Enterprise软件平台优化,适用于生成式AI的开发与部署。

通过Supermicro的4U液冷技术,NVIDIA近期推出的Blackwell GPU能在单一GPU上充分发挥20 PetaFLOPS的AI性能,且与较早的GPU相比,能提供4倍的AI训练性能与30倍的推理性能,并节省额外成本。配合此率先上市的策略,Supermicro近期推出基于NVIDIA Blackwell架构的完善产品系列,支持新型NVIDIA HGXTM B100、B200和GB200 Grace Blackwell Superchip。

Supermicro总裁兼首席执行官梁见后表示:“Supermicro 在打造与部署具有机柜级液冷技术的AI解决方案方面持续领先业界。数据中心的液冷配置设计可几近免费,并通过能持续降低用电量的优势为客户提供额外价值。我们的解决方案针对NVIDIA AI Enterprise软件优化,满足各行各业的客户需求,并提供世界规模级效率的全球制造产能。因此我们得以缩短交付时间,更快提供搭配NVIDIA HGX H100和H200,以及即将推出的B100、B200和GB200解决方案的可立即使用型液冷或气冷计算丛集。从液冷板到CDU乃至冷却塔,我们的机柜级全方位液冷解决方案最大可以降低数据中心40%的持续用电量。”

在台北国际计算机展(COMPUTEX 2024)上,Supermicro展示了即将推出,并针对NVIDIA Blackwell GPU优化的系统,包括基于NVIDIA HGX B200的10U气冷系统和4U液冷系统。

此外,Supermicro也将提供8U气冷型NVIDIA HGX B100系统、NVIDIA GB200 NVL72机柜(具有72个通过NVIDIA NVLink 交换器互连的GPU)与新型 NVIDIA MGX™系统(支持NVIDIA H200 NVL PCIe GPU与最新发布的NVIDIA GB200 NVL2架构)。

NVIDIA创始人兼首席执行官黄仁勋表示:“生成式AI正在推动整个计算堆栈的重置,新的数据中心将会通过GPU进行计算加速,并针对AI优化。Supermicro设计了顶尖的NVIDIA加速计算和网络解决方案,使价值数兆美元的全球数据中心能够针对AI时代优化。”

随着大语言模型(Large Language Model,LLM)的快速发展以及Meta的Llama-3和Mistral的Mixtral 8x22B等开源模型不断推出,企业更容易取得并使用当今最先进的AI模型。简化AI基础设施并以最具成本效益的方式提供存取能力,对于支持目前的急速AI变革至关重要。

Supermicro云原生AI SuperCluster使实时存取的云端便利性和可移植性之间得以连结,并通过NVIDIA AI Enterprise让任何规模的AI项目从评估测试阶段无缝顺畅地进行到实际作业阶段。这提供了能在任何地方运行并安全管理数据的灵活性,包括自架系统或本地大型数据中心。

随着各界企业急速进行生成式AI的实验性使用,Supermicro与NVIDIA密切合作,确保无缝且灵活地从AI应用的实验和评估试行推动至作业部署和大规模数据中心AI。此顺畅流程是借由NVIDIA AI Enterprise软件平台的机柜、丛集级优化而实现,能使从初步探索至可扩展AI落地的过程更流畅无阻。

托管服务涉及基础架构的选择、数据共享和生成式AI策略控管。NVIDIA NIM微服务作为 NVIDIA AI Enterprise的一部分,可在无缺陷情况下提供托管生成式AI和开源部署优势。其多功能推理运行环境通过微服务,可加速从开源模型到NVIDIA基础模型等各类型生成式AI的部署。

此外,NVIDIA NeMoTM可实现通过数据管理、进阶自定义和检索增强生成(Retrieval-Augmented Generation,RAG)的客制模型开发,以实现企业级解决方案。与搭配NVIDIA AI Enterprise的Supermicro SuperCluster整合后,NVIDIA NIM能为可扩展、加速型生成式AI作业的部署提供最快途径。

Supermicro目前的生成式AI SuperCluster产品包括:

液冷型Supermicro NVIDIA HGX H100/H200 SuperCluster,具有256个H100/H200 GPU,为5个机柜规模的可扩展计算单元(包括 1 个专用网络机柜)

气冷型Supermicro NVIDIA HGX H100/H200 SuperCluster,具有256个HGX H100/H200 GPU,为9个机柜规模的可扩展计算单元(包括1个专用网络机柜)

Supermicro NVIDIA MGX GH200 SuperCluster,具有256个GH200 GraceTM Hopper Superchip,为9个机柜规模的可扩展计算单元(包括1个专用网络机柜)

Supermicro的SuperCluster支持NVIDIA AI Enterprise,其中包括NVIDIA NIM微服务和NVIDIA NeMo平台,能实现端对端生成式AI客制,并针对NVIDIA Quantum-2 InfiniBand以及具有每GPU 400Gb/s网速的新型NVIDIA Spectrum-X以太网络平台优化,可扩展到具有数万个GPU的大型计算丛集。

Supermicro即将推出的SuperCluster产品包括:

Supermicro NVIDIA HGX B200 SuperCluster,液冷型

Supermicro NVIDIA HGX B100/B200 SuperCluster,气冷型

Supermicro NVIDIA GB200 NVL72 或 NVL36 SuperCluster,液冷型

Supermicro的SuperCluster解决方案针对LLM训练、深度学习以及大规模与大批量推理优化。Supermicro的L11和L12验证测试及现场部署服务可为客户提供无缝顺畅体验。客户收到即插即用的可扩充单元后即可在数据中心轻松部署,进而更快取得效益。

相关内容

热门资讯

百镜出道,C位依旧:WAIC顶... 来源:雷科技 如果说 WAIC 2025 是今年 AI 硬件的「集体高考」,那 Rokid Glas...
韩媒:韩国扶持五大联合体开发“... 综合韩联社、《朝鲜日报》和《京乡新闻》等韩媒报道,韩国政府4日正式选定NAVER Cloud、Ups...
录取通知书的“飞驰”之路 7月盛夏,安徽省近50万封承载着无数学子青春梦想与家庭期盼的高考录取通知书,正从四面八方“飞驰”向它...
凡知智造取得恒温核酸扩增分析仪... 金融界2025年8月6日消息,国家知识产权局信息显示,山东凡知智造医药科技有限公司取得一项名为“一种...
原创 离... [撒花] 随着科技的不断发展,“仿人形机器人”也变的越来越成熟了,AI的加持也让这些机器人变的更加智...
当AI化身“全能助手”,人类的... 正在屏幕前玩手机的你 有没有过这样的体验? 遇到不懂的问题 第一反应不是翻书思考 而是脱口而出“嘿 ...
珠海创信电子取得电路板用锡膏检... 金融界2025年8月6日消息,国家知识产权局信息显示,珠海创信电子有限公司取得一项名为“一种电路板用...
NBN Co转投亚马逊柯伊伯计... 来源:C114通信网 C114讯 北京时间8月6日晚间消息(蒋均牧)NBN Co与亚马逊达成协议,通...
石景山这家医院药品有了“电子身... “窗口不用一盒盒扫码吗?取药几乎不用排队,这速度真给力!”在北京大学首钢医院门诊药房,刚取到药的患者...
电力数据“会说话” 点亮智慧新... 本文转自【新华社】 新华社北京8月6日电 《经济参考报》8月6日刊发记者邓林如采写的文章《电力数据“...
国能新疆红沙泉二号矿实现纯电无... 近日,在国家能源集团新疆红沙泉二号露天煤矿(以下简称“红二矿”),58台无人驾驶矿卡正高效运转,其中...
普天科技:致力数据治理领域打造... 金融界8月6日消息,有投资者在互动平台向普天科技提问:公司相关产品或技术有哪些能为人工智能赋能?谢谢...
DeepMind发布Genie... 来源:至顶网 尽管目前还没有人找到通过生成式人工智能赚钱的可靠方法,但这并没有阻止Google D...
【喜讯】骨三科陈美玲在全国竞赛... 8月2日,在全国首届护理AI创新应用技能挑战赛决赛中,我院骨三科陈美玲的作品《创新聚力赋能发展——A...
微信内存一下就少了10G上热搜... 站长之家(ChinaZ.com)8月6日 消息:今日,微博热搜榜上#微信内存一下子就少了10G#的话...
我是宁波技能冠军④丨这些技能高... 前言 从工业设备控制(PLC)、工业机器人系统操作等“硬核”制造能力,到人工智能训练、网络安全等高科...
聚焦人工智能产业链 山东蓄力打... 中新网济南8月6日电 (记者 沙见龙)“这项体系如同人工智能产业的‘中央厨房’,能根据不同行业的差异...
2025未来科学大奖揭晓,他们... 科学之光照亮人类未来。6日,备受关注的2025未来科学大奖揭晓。这个夏天,“高冷”的基础研究再次变得...
为什么CA需要有《电子认证服务... 来源:SSL_SecureSocketLayer 1. CA是什么?—— 数字世界的「信任基石」 C...
2025 年 2 款华为会议记... 现在远程会议越来越多,不管是企业还是个人,都需要能快速整理会议记录的工具。我作为科技产品体验师,选了...