封闭没有前途!Intel打造开放AI生态 誓要虎口夺食
创始人
2024-04-16 14:38:25
0

原标题:封闭没有前途!Intel打造开放AI生态 誓要虎口夺食

Intel日前举办了Vision 2024年度产业创新大会,亮点不少,号称大幅超越NVIDIA H100的新一代AI加速器Gaudi 3、品牌全新升级的至强6、AI算力猛增的下一代超低功耗处理器Lunar Lake,都吸引了不少目光。

不过对于AI开发者、AI产业尤其是企业AI而言,这次大会上还有一件大事:

Intel联合众多行业巨头,发起了开放企业AI平台,推动企业AI创新应用,同时通过超以太网联盟(UEC)和一系列AI优化以太网解决方案,推进企业AI高速互连网络创新。

如今说到大规模AI部署,很多人脑海中会立刻浮现两个名字:

一个是OpenAI,大模型和算法的一枝独秀;另一个是NVIDIA,硬件算力和生态的典型代表。

但是每每说到NVIDIA,以及CUDA为代表的生态圈,其一贯以来的封闭做法颇为人所诟病,被誉为“硅仙人”的芯片开发大神 Jim Keller就一直对NVIDIA的做法极为不满,斥责CUDA不是护城河而是沼泽,NVLink这种私有互连标准也应该摒弃。

坦白说,NVIDIA AI不仅仅在硬件性能上“遥遥领先”,更大的资本正是耗费十几年时间和无数美元砸出来的CUDA生态,成为其“垄断行业”、获利无数的制胜法宝。

只不过时代在变化,无论企业还是开发者,都不希望被束缚在一个小圈子里,更希望在开放共享的世界里自由前行,这正好给了其他厂商追赶甚至超越NVIDIA的大好机会。

Intel就瞅准这一趋势和需求,联合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick、Zilliz等众多行业伙伴宣布,将联合创建企业AI开放平台,助力企业推动AI创新。

它将为企业AI提供一个从下到上的完整平台,底层基于Intel完整覆盖云、数据中心、边缘、PC各个领域的AI算力硬件,也就是XPU理念。

构筑其上的是标准化和可扩展的基础设施生态、安全可靠的软件生态、开放便捷的应用生态,而且全都是对整个行业开放的。

这一计划凝结了全行业的力量,旨在开发开放的、多供应商的AIGC系统,通过RAG(检索增强生成)技术,提供一流的部署便利性、性能和价值。

对于企业当前正在标准云基础设施上运行的大量专有数据源,RAG可以帮助他们通过开放大语言模型进行功能上的增强,从而加速AIGC在企业中的应用。

在Intel看来,坚持开源开放,并以此撬动开放的AI生态飞速发展,至关重要。

Intel副总裁、Intel中国软件和先进技术事业部总经理李映在接受采访时表示:“传统模式中,几家领导公司组建一个开放联盟,各自有明确分工,更多的是一个选择问题。如今基于AI大模型的变化,开放开源第一次和整个行业的技术创新爆发结合在一起。现在,开放开源和闭源同时出现,不再是选择,而是一个自然演变、发展的过程。”

Intel院士、大数据技术全球首席技术官、大数据分析和人工智能创新院院长戴金权也指出,一个开放的生态,可以让同一生态的创新相互促进,在新的应用场景可以互通。

整个行业都在逐渐意识到,构建一个AIGC应用,并不是只需要一个大模型,一些最先进的系统解决方案,其实更多的是相当于构建一个AI系统来解决问题。

在这个企业AI开放平台中,Intel的一个突出重点就是加快构建开放的AI软件生态,通过构建基础软件为开发者提供便利,帮助大企业简化和深入AI的大规模开发和部署。

李映指出,在开放AI软件生态方面,对于Intel而言,非常重要的一个点是如何通过软件加速企业AI的发展,如何把企业原来的云架构和未来基于大模型、数据的AI架构融合在一起。

软件可以在这个过程中起到非常重要的加速作用,而从整个软件堆栈的角度来讲,Intel正是极少数可以真正在各个层面上通过软件提供优化、提供技术的头部企业之一。

同时,Intel一直在极力推动基于AI的软件创新,最典型的就是oneAPI,下载量已经超过100万次。

第三就是如何帮助开发者提高开发效率,其中很重要的一部分就是Intel开发者云平台。

它不但可以让开发者最早接触到最新的至强、Gaudi AI加速器,还能保证各种开源框架、组件在同一环境中的兼容性,从而提升开发效率、优化用户体验。

另外非常值得一提的是,Intel也在积极为开源社区贡献技术、创新和经验,推进开放标准。

比如,PyTorch已逐渐成为标准的AI框架,Intel一直都是PyTorch非常靠前的重要贡献者,并以高级会员的身份加入了PyTorch基金会。

除了对PyTorch本身进行优化,Intel的一些技术创新都投入到了PyTorch开源框架之中,让更多企业和开发者共享,让整个AI软件框架更加开源、开放。

再比如openEuler、龙蜥这些开源的中国Linux社区,Intel对其的投入都已经和国际同步,甚至在某些领域领先于国际上其他一些Linux的分布和发展。

最后再来回顾一下Intel本次揭晓的三大算力产品。

Gaudi 3 AI加速器采用台积电5nm工艺,配备8个矩阵引擎、64个张量核心、96MB SRAM缓存、1024-bit 128GB HBM2E内存(带宽3.7TB/s),还有16个PCIe 5.0通道、24个2000GbE网络、JPEG/VP9/H.264/H.265解码器。

功耗有600/900W两个级别,提供OAM兼容夹层卡、通用基板、PCIe扩展卡三种形态。

Gaudi 3相比上代拥有2倍的FP8 AI算力(1835TFlops)、4倍的BF16 AI算力、2倍的网络带宽、1.5倍的内存带宽。

Intel还声称,它对比NVIDIA H100 LLM推理性能领先50%、训练时间快40-70%,能效领先最多达2.3倍。

另外,得益于强大、便捷的开发工具,开发者最少只需改变3行代码,就能将其他AI应用移植到Gaudi 3之上。

全新的至强6包含两个分支,其中Sierra Forest第二季度发布,堪称至强处理器历史上最大的一次变革,首次采用纯能效核(E核)设计。

它重点针对效率进行优化,适合高密度、可扩展的工作负载,最多288核心288线程。

按照官方说法,相比第二代至强,Sierra Forest可以带来2.4倍的能效提升,机架密度则可以提高2.7倍。

Granite Rapids则是传统的纯性能核(P核)设计,重点针对性能优化,适合计算密集型应用和高强度的AI负载。

它新增了对MXFP4数据格式的软件支持,能够运行700亿参数的Llama 2大模型,对比四代至强能将令牌延迟缩短最多6.5倍。

代号Lunar Lake的下一代超低功耗酷睿Ultra处理器,AI算力将超过100TOPS(100万亿次每秒),是现有一代酷睿Ultra Meteor Lake的足足三倍!

其中,单单是NPU单元就可以提供大约45TOPS的算力,是目前的多达四倍,自己即可满足微软定义下一代AI PC的需求。

可以说,Intel拥有目前最为完善的AI体系,从底层覆盖云端、数据中心端、边缘端、客户端的XPU硬件算力,到上层的网络方案、开发工具,再到广泛的生态合作,如今又组建了开放的企业AI平台,可以说万事俱备,在AI训练与他推理、AIGC领域必定会有一番作为。

【来源:快科技】

相关内容

热门资讯

山石网科:ASIC芯片已率先应... 7月11日,在“安芯守护 智启未来”——2025年·安全守护者峰会上,山石网科董事长兼CEO叶海强表...
支持1800W功率太阳能充电,... 前言 充电头网拿到了大疆户外电源新品DJI POWER 1000 V2户外电源,这款户外电源内置1...
未来科学城增中小企业特色产业集... 合成生物、应用光学智能制造,未来科学城正崛起两个中小企业特色产业集群。北京市经济和信息化局近日发布通...
长乐AI“数字村民”上岗啦!看... 潮新闻客户端 通讯员 李柳霏 何雯玥 余丹妮 当前沿AI科技遇见古韵悠长的古村落,会碰撞出怎样的火花...
原创 传... 7月11日消息,据The Information最新发布的一份报告称,中国科技巨头华为正在寻求改变其...
大族数控获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示大族数控(301200)新获得一项实用新型专利授权,专利名为“...
扬溧高速3D智能摊铺技术成功落... 扬子晚报网7月12日讯(通讯员 张君 樊青松 记者 姜天圣)烈日下的扬溧高速改扩建工程YLK-1标施...
农田里的气象“黑科技” 位于河南省伊川县的农业气象物候自动观测仪。 河北省承德市气象局的S波段双偏振多普勒天气雷达。以上图...
携程申请基于流量感知的动态缓存... 金融界2025年7月12日消息,国家知识产权局信息显示,携程旅游网络技术(上海)有限公司申请一项名为...
综述|三年来,世界互联网大会这... 综述|三年来,世界互联网大会这样打造网络空间“朋友圈” 世界潮流,浩浩汤汤。随着互联网、大数据、云...
美国诺奖得主,在苏州看到了什么... ↑关注苏州圆桌查看更多精彩评论 7月10日,一场属于全球科创界的盛会在苏州国际博览中心正式拉开帷幕。...
科技援疆再结硕果!广州援建53... 在广东对口援疆工作的精准支持下,一座科技感十足的“智慧灵芝房”在新疆疏附县吾库萨克镇拔地而起。202...
青海首条信创计算机整机生产线落... 7月11日,在海东市互助土族自治县绿色产业园,青海首条信创计算机整机生产线落地投产。这条由诚迈科技打...
“男孩像妈 女孩像爸”有依据吗... 随着生命科学研究的突破,遗传学成果已从实验室走入日常生活,为健康生育和疾病防治提供科学支持。我们常说...
龙源技术获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示龙源技术(300105)新获得一项实用新型专利授权,专利名为“...
苹果明年新品规划曝光!入门级i... 快科技7月11日消息,据Mark Gurman透露,苹果计划在2026年上半年推出一系列新品,包括一...
美ITC初步裁定影石部分产品侵... 2025-07-12 07:20:22 作者:狼叫兽 7 月 12 日消息,根据一份报道显示,美国...
飞科电器获得发明专利授权:“加... 证券之星消息,根据天眼查APP数据显示飞科电器(603868)新获得一项发明专利授权,专利名为“加湿...
宁波金发等申请双峰聚丙烯制备方... 金融界2025年7月12日消息,国家知识产权局信息显示,宁波金发新材料有限公司;金发科技股份有限公司...
而上(苏州)智能取得热熔器内脚... 金融界2025年7月11日消息,国家知识产权局信息显示,而上(苏州)智能科技有限公司取得一项名为“一...