沈抖:传统云计算不再是主角,智能计算呼唤新一代“操作系统”
创始人
2024-04-16 17:19:21
0

原标题:沈抖:传统云计算不再是主角,智能计算呼唤新一代“操作系统”

4月16日,Create 2024 百度AI开发者大会在深圳召开。期间,百度集团执行副总裁、百度智能云事业群总裁沈抖正式发布新一代智能计算操作系统——万源,通过对AI原生时代的智能计算平台进行抽象与封装设计,为用户屏蔽掉云原生系统与异构算力的复杂性,提升AI原生应用开发效率与体验。

沈抖表示,随着大模型技术的不断演进,通过自然语言进行编程正在成为现实。编程将不再面向过程或者面向对象,而是面向需求;编程的过程将成为开发者表达愿望的过程,并为操作系统带来革命性的变化。在操作系统的内核中,底层硬件从以CPU算力为主变成以GPU算力为主,并且新增了被大模型压缩的世界知识。操作系统管理的对象发生了本质的变化,从管理进程、管理微服务,进化为管理智能。

(百度集团执行副总裁、百度智能云事业群总裁沈抖)

“传统的云计算系统依然重要,但不再是主角,我们需要一个全新的操作系统,对新的计算平台,也就是智能计算做好抽象和封装,重新定义人机交互,为开发者提供更简单、更流畅的开发体验。”沈抖如是说。

(百度智能云发布新一代智能计算操作系统——万源)

本次大会上,百度智能云全新推出的“万源”智能计算操作系统,旨在“桥接”算力效能与应用创新。具体来讲,万源主要由Kernel(内核)、Shell(外壳)、Toolkit(工具)三层构成,底层屏蔽掉云原生系统与异构算力的复杂性,上层则为AI原生应用的敏捷开发提供支撑与保障。

首先,在内核层,在算力资源管理方面,百度百舸·AI异构计算平台针对大模型训练、推理等任务,对智算集群的设计、调度、容错等环节进行了专项优化。目前,百舸能够实现万卡集群上的模型有效训练时长占比超过98.8%,线性加速比、带宽有效性分别高达95%,算力效能业界领先。

此外,百舸还兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国内外主流AI芯片,支持用户以最小代价完成算力适配。

(业界领先的单一任务一云多芯大模型训练解决方案)

目前,百舸已经实现了单一训练任务下不同厂商芯片的混合训练,且百卡规模性能损失不超过3%,千卡规模性能损失不超过5%,最大程度上屏蔽硬件之间差异,帮助用户摆脱单一芯片的依赖,实现更优成本,打造更具弹性的供应链体系。

万源内核中的另一个重要组成部分是大模型。大模型能够将巨量的世界知识进行高效压缩,并将自然语言的理解、生成、逻辑、记忆能力进行封装。目前,万源内核中既包含了业界领先的ERNIE 4.0、ERNIE 3.5大语言模型,也包括ERNIE Speed/Lite/Tiny等轻量级模型、文心视觉大模型和各具特色的第三方大模型,充分满足用户在不同业务场景下的多样化需求。

在内核层之上是Shell层,通过百度智能云千帆ModelBuilder解决内核中模型的管理、调度、二次开发等问题,屏蔽掉模型开发的复杂性,帮助更多人只投入少量的数据、资源和精力,就能快速精调出适合自己业务的模型。

在Shell层之上,千帆AppBuilder和AgentBuilder共同构成了工具层,为开发者提供强大的AI原生应用开发能力。

在AppBuilder上开发AI原生应用的过程中,还可以直接调用通过ModelBuilder精调过的模型,让整个开发过程变得极为流畅和便捷。在应用开发完成后,可以一键发布到百度搜索、微信公众号等平台,也可以通过API或SDK的方式直接集成到用户自己的系统中。

万源作为开放的操作系统,未来还将进一步开放生态合作,为应用开发者提供更多能力和接口;助力企业打造专属的垂直行业操作系统;将万源部署在客户自有智算中心,提供稳定、安全、高效的智能计算平台服务;适配更多厂商异构芯片并发挥其最大效能。

当前,大模型技术与AI原生应用正在促使云服务向以AI为核心的新一代智能计算操作系统方向发展,这一趋势不仅反映了技术发展的内在逻辑,也体现了市场需求的强劲推力,并开启一个由AI驱动的崭新的智能云时代。

志成 晓风

相关内容

热门资讯

锐明技术获得发明专利授权:“车... 证券之星消息,根据天眼查APP数据显示锐明技术(002970)新获得一项发明专利授权,专利名为“车载...
2024年诺奖颁给了AI还是物... 7月11日,搜狐创始人、董事局主席兼首席执行官、物理学博士张朝阳和2004年诺贝尔物理学奖获得者、中...
光华科技获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示光华科技(002741)新获得一项实用新型专利授权,专利名为“...
24所高校、139支队伍参赛!... 7月11日至12日,第十届全国大学生生命科学竞赛(科学探究类)广东省赛区决赛在华南农业大学生命科学学...
又一款三折叠手机来了,年底见! 温馨提示: 最近来了很多新同学, 蓝字」, 右上角「···」, 将奇果酱「」, 以免错过重要消息哦~...
任正非:不学英文,农村孩子永远... 题图来源:视觉中国 2023年9月21日晚,华为公司创始人任正非与南开大学新闻与传播学院院长、科技日...
苹果新专利:锁屏时向 Siri... IT之家 7 月 11 日消息,据科技媒体 The Mac Observer 昨日报道,苹果提交了一...
浙江岭德重工取得破碎锤油路优化... 金融界2025年7月12日消息,国家知识产权局信息显示,浙江岭德重工有限公司取得一项名为“一种破碎锤...
人类的下一场手术,可能由自主机... 自主手术机器人作为手术机器人领域的新兴方向,在技术进步、临床需求等因素的驱动下,正受到全球范围内的广...
钟睒睒突然出手,首款国产九价H... 来源:首席财经观察 前首富眼光独到,做疫苗大获成功。 出品 | 首席财经观察 作者 | 李新 首款...
嘉良电子取得差共模一体的电感专... 金融界2025年7月12日消息,国家知识产权局信息显示,深圳市嘉良电子有限公司取得一项名为“一种差共...
从“万里穿针”到“智能仓储” ... 央视网消息:7月12日上午,天舟九号货运飞船与长征七号遥十运载火箭组合体在文昌航天发射场垂直转运至发...
天地万佳取得物流仓储用堆垛机专... 金融界2025年7月12日消息,国家知识产权局信息显示,北京天地万佳物流有限公司取得一项名为“一种物...
拉塞特机器人申请深度相机误差计... 金融界2025年7月12日消息,国家知识产权局信息显示,合肥拉塞特机器人科技有限公司申请一项名为“一...
印度航空空难初步调查报告公布 最新公布。 据央视新闻,印度航空事故调查局12日披露了此前印度航空波音787-8型客机坠毁事故的初步...
新松佳和取得便携兼容上架结构形... 金融界2025年7月12日消息,国家知识产权局信息显示,北京新松佳和电子系统股份有限公司取得一项名为...
印度航空空难初步调查报告公布:... 印度航空事故调查局12日披露了此前印度航空波音787-8型客机坠毁事故的初步调查结果。 报告显示,飞...
群山深处崛起氨基酸产业 来源:滚动播报 转自:经济日报 走进湖北省八峰药化股份有限公司六车间,全自动研磨机正在精准处理原料。...
恩菲工程取得井下降温系统专利,... 金融界2025年7月12日消息,国家知识产权局信息显示,中国恩菲工程技术有限公司;中国有色工程有限公...
山石网科:ASIC芯片已率先应... 7月11日,在“安芯守护 智启未来”——2025年·安全守护者峰会上,山石网科董事长兼CEO叶海强表...