再上王炸!英伟达Blackwell架构GPU有多强?|科技观察
创始人
2024-03-19 17:38:45
0

原标题:再上王炸!英伟达Blackwell架构GPU有多强?|科技观察

封面新闻记者 边雪 马晓玉

“我希望你意识到这不是一场音乐会。”当地时间3月18日,在加州圣何塞的SAP中心,英伟达(NVIDIA)总裁黄仁勋对挤满会场的观众说道,自己介绍的内容是与音乐会完全相反的东西。“这是一个开发者的会议,将会有很多关于算法、计算机架构和数学相关的科学知识。”

这不是一场摇滚音乐会,但舞台中心穿着皮夹克的61岁CEO黄仁勋,却是台下不少听众的粉丝——其1993年创建的公司英伟达,以推动通用计算超越其极限使命,“加速计算”更是成为英伟达的口号。

而本次,黄仁勋带着“王炸”产品来到2024GTC大会主题演讲,某种程度上是对公司最初使命的回归。“我想向你展示英伟达的灵魂,我们公司的灵魂,在计算机图形、物理和人工智能的交叉点上,所有这些都在计算机内部交叉。”

“我们需要更大的 GPU”

图形处理单元 (GPU) 是英伟达的发源地。曾组装过计算机的数码爱好者,一定对安装在 PCI 插槽中的显卡不陌生。这也是英伟达旅程开始的地方。

“通用计算已经失去动力,现在我们需要更大的模型、更大的 GPU,更需要将 GPU 堆叠在一起”,黄仁勋在英伟达 GTC 大会上说道。在这一逻辑下,英伟达官宣新一代Blackwell架构,并基于这一架构推出B200和GB200系列芯片,定位直指“新工业革命的引擎” ,“把AI扩展到万亿参数”。

黄仁勋演讲画面。(图源直播截图)

黄仁勋声称英伟达将推出全新的Blackwell超级计算架构打造的AI超级计算机——DGX SuperPOD计算机,处理器的核心是“突破了芯片尺寸的物理极限”。它配备了GB200 GraceBlackwell超级芯片,GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。

据黄仁勋介绍,新芯片相较此前产品也有巨大提升,拥有2080亿个晶体管,通过 NVLink 5.0 像拉链一样捆绑芯片。此外,每个 Blackwell Die 的浮点运算能力要比上一代Hopper Die 高出 25%,而且每个封装中有两个 Blackwell 芯片,总性能提高了 2.5 倍。

毫无疑问,将一堆这样的芯片组合在一起,将产生惊人的力量。“ Blackwell的速度快 2 到 30 倍,具体取决于测量方式。”黄仁勋解释说,创建 GPT-MoE-1.8T 模型需要 8,000 个 GPU、15 兆瓦和 90 天。使用Blackwell,只需使用 2,000 个 GPU ,跑90天只要消耗四分之一的电力。”

要做世界AI的入口

会上,黄仁勋表示,将在英伟达企业软件订阅中增加一款名为NIM的AI微服务,用于开发和部署企业级生成式AI应用。通过NIMs(Nvidia inference micro service),用于AI聊天的形式调动一堆NIMS来完成训练、应用的部署。

目前,NVIDIA的AI微服务NIM网站已经上线,据悉,NIM微服务提供了最快、性能最高的AI生产容器,用于部署来自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型,以及来自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的开放模型。

英伟达官网。(图源:官网截图)

NIM提供了一种封装和交付软件的新方式,方便企业和开发者用GPU部署各种定制AI模型。换句话说,任何人都可以通过易于使用的用户界面体验各种AI模型和应用,同时保留对其知识产权的完全所有权和控制权。NIM微服务定价也非常直观,“一个GPU一小时一美元”,或年付打五折,一个GPU每年4500美元。

“任何可以数字化的东西:只要有某种结构,我们可以应用一些模式,并且加以学习”黄仁勋说。“我们正处于生成人工智能革命之中,如果我们能够学习这些模式,我们就能理解其含义。当我们理解其含义时,我们也可以生成它。”

黄仁勋在演讲中还官宣了一系列合作。其中提到,全球最大电动车公司比亚迪,将采用英伟达下一代智能汽车芯片Thor,同时,比亚迪将使用英伟达提供的基础服务,进行自动驾驶模型训练。

值得注意的是,英伟达还发布人形机器人基础模型Project GR00T、新款人形机器人计算机Jetson Thor,对Isaac机器人平台进行重大升级。在演讲末尾,黄仁勋还抛出一个悬念,“我们现在拥有创建人形机器人所需的技术。”这或许意味着,英伟达人形机器人也快要来了。

AI技术将如何加速应用落地?

“现场听了CEO黄仁勋的演讲,还是比较震撼。”谈及参加#NVIDIAGTC24感想,慧科集团合伙人、首席战略官、慧科研究院院长陈滢告诉封面新闻记者:“首先,英伟达新发布“ Blackwell”平台,包括最新Blackwell GPU, GB200 Grace Blackwell super chip和 GB200 NVL72系统,面向万亿级大模型训练,世界首个计算性能超过EFLOPS(推理)的rack。”

陈滢表示,为推动算力摩尔定律(每六个月计算能力翻一倍),英伟达用“洪荒之力”持续scale-up和scale-out,其算力性能正在史无前例地增长。“此外,建立世界模型,通过打造三大计算平台 DGX/OVX/AGX,获得理解世界(multi model large model)、仿真世界(digital twin)和影响世界(edge computing)的能力,与众多头部企业的合作案例已经初步展示了这些能力,领域遍布工业仿真、天气预报、健康医疗等。”

在陈滢看来,英伟达正在以AI时代的“加速计算”为理念,打造坚实的硬件基座,强化软件平台能力,面向不同场景(如自动驾驶、人形机器人等)构建AI生态,筑高护城河。黄仁勋表示,将在英伟达企业软件订阅中增加一款名为NIM的AI微服务。

封面新闻记者注意到,受GTC大会影响,英伟达的股价大幅高开在900美元/股之上,一度最高涨逾5%。不过,或许是此前投资者期待过高,随后英伟达股价回落一度翻绿,最终微涨0.7%,报884.55美元/股,总市值2.21万亿美元。

人们已经发现:将深度学习应用到许多领域的科技公司,几乎每一个都是在英伟达的平台上构建的。一位华尔街分析师对此表示:“人工智能领域正在进行一场战争,而英伟达是唯一的军火商”。华尔街的追捧在2023年-2024年之间上升到极致。短短八九个月,英伟达的市值从万亿美元飙升到两万亿美元。目前,英伟达已经成为全球市值第三大的公司,仅次于微软和苹果。

相关内容

热门资讯

就在今晚,时隔36年再现! 时隔36年 海王星与土星再次近距离“相聚”夜空 6月29日,太阳系中的行星海王星与土星相合,上演“星...
西安图为电气取得容性负载装置专... 金融界2025年6月28日消息,国家知识产权局信息显示,西安图为电气技术有限公司取得一项名为“一种容...
广东:科技创新赋能美好生活 【活力中国调研行】 实景剧场、互动空间、水舞秀、行进式夜游等多场景的沉浸式文旅日趋成熟;备课、授课、...
院士南疆开讲,激励边疆学子种下... 2025年6月,“科学与中国”暨广东科普南疆行系列活动在新疆喀什地区和兵团第三师举行。 本次系列活动...
福州城投新基建申请矢量图层等值... 金融界2025年6月28日消息,国家知识产权局信息显示,福州城投新基建集团有限公司申请一项名为“一种...
原创 帮... 最近科技圈最热闹的事儿,莫过于苹果突然杀进好莱坞拍电影了。本周末苹果推出自制大片《F1:狂飙飞车》,...
南方电网:2060年火电装机降... 【南方电网总工:储能是新型电力系统压舱石,发展好坏影响成败】近期,南方电网总工程师汪际峰在第13届储...
上海通领取得卡扣夹紧装置专利,... 金融界2025年6月28日消息,国家知识产权局信息显示,上海通领汽车科技股份有限公司取得一项名为“卡...
原创 比... 阅读此文之前,请您点击一下“关注”,既方便您讨论和分享,又能给您带来不一样的参与感,感谢您的支持 ...
香港“维园庆回归”活动开幕 “... 中新社香港6月29日电 (记者 戴梦岚)由香港各界庆典委员会主办的“维园庆回归”活动29日在香港维多...
一等奖!恭喜驻区企业 近日,天津市科学技术奖励大会召开。中铁十五局集团第五工程有限公司牵头研发的《高能软岩特长隧道新建利旧...
“创新力”变“生产力” (上接1版) 量子前沿技术走出实验室 6月16日,安徽省量子信息工程技术研究中心发布消息,我国首款面...
脑机接口,最新成果曝光 据外媒报道,近期,马斯克旗下脑机接口公司Neuralink展示了他们最新的研究成果及产品发展方向。 ...
全球市占率超一半 这家潮州粤企... 南方财经记者 吴佳楠 潮州报道 “企业现在多款产品产销量均居全球前列,包括光通信用陶瓷插芯在全球市场...
PPE个人防护用品培训ppt免... 一、培训目的 本次培训旨在让员工充分认识个人防护用品(PPE)的重要性,掌握 PPE 的正确选择、使...
浙江沃工机械取得瓷砖表面抛磨加... 金融界2025年6月28日消息,国家知识产权局信息显示,浙江沃工机械有限公司取得一项名为“一种瓷砖表...
同济教授获计算机视觉“学术奥林... 日前,在美国召开的2025年IEEE国际计算机视觉与模式识别会议(Conference on Com...
南通成立人工智能产业创新联盟,... 6月28日下午,由南通市人民政府与中国移动江苏公司共同主办的南通人工智能产业创新联盟成立暨产业创新发...
业界热议钒钛产业发展:加大资源... 人民网北京6月28日电 (记者杜燕飞)在日前举行的2025钒钛资源创新开发暨钒钛钢高质量发展大会上,...
“情绪价值”拉满,瑞金医院发布... 转自:中国科学报 情绪X光机、TI神经调控技术、沉浸式VR治疗系统……6 月27 日,上海交通大学医...