百度发布多款AI原生云产品,侯震宇称大模型正在重构云计算
创始人
2024-01-08 07:30:04
0

原标题:百度发布多款AI原生云产品,侯震宇称大模型正在重构云计算

12月20日,在2023百度云智大会·智算大会上,百度一口气发布了AI异构计算平台“百舸3.0”、智算网络平台、自研云原生数据库GaiaDB 4.0等新产品。

其中,百舸3.0针对AI原生应用以及大模型的训练、推理等环节进行了全面的专项优化升级。支持万卡级别超大规模AI集群计算;相比自建智算基础设施可以实现模型训、推吞吐分别最高提升30%和60%;在资源利用方面,能够实现98%的超高集群有效训练时间占比,95%的网络带宽有效利用率,充分释放集群有效算力。

智算网络平台针对AI原生时代智能算力的供给平衡问题,支持将百度及第三方建设的智算中心、超算中心、边缘节点等智算节点进行全域接入,将分散和异构的算力资源连接起来,形成统一的算力网络资源池,再通过百度自主研发的先进算力调度算法,智能分析各类算力资源的状态、性能和利用率等指标进行统一调度,能够有效提升智算产业资源利用率。

云原生数据库GaiaDB 4.0增强了并行查询能力,突破单机计算瓶颈,实现跨机多核并行查询,在混合负载和实时分析业务场景中性能提升超过10倍。

百度集团副总裁侯震宇强调,AI原生时代,面向大模型的基础设施体系需要全面重构,为构建繁荣的AI原生生态筑牢底座。

侯震宇表示:“大模型重构云计算主要体现在三个层面:AI原生云将改变云计算的格局,MaaS ( Model as a Service ,模型即服务)会成为新的基础服务,AI原生应用催生新的研发范式。”

1、在算力层,计算更智能

在底层的云基础设施层,以往从互联网应用到移动互联网应用,底层都基于CPU计算芯片,而AI应用对GPU或异构计算的需求大幅增加,云市场的底层算力开始迁移到以GPU为主。

2023年第三季度,英伟达的营收已经超过英特尔,英伟达最新市值也超过英特尔1万亿美元,未来GPU的增长将远大于CPU。在这一趋势下,我们需要对面向大模型的云计算基础设施体系进行全面重构,以支撑AI原生应用系统落地。

具体来说,云计算的全面重构会表现在三大领域,即:面向模型的智算基础设施、面向数据的数据基础设施、面向应用的云基础设施全面升级,让计算更智能。

2、在模型层,大模型正在成为通用的服务能力,即MaaS

MaaS将大幅降低Al落地的门槛、实现真正的Al普惠,其依赖的新型IT基础设施也将进一步在底层颠覆现有的云计算市场格局。

从百度智能云的实践来看,自8月31日文心一言全面开放后至今的4个月,百度智能云千帆大模型平台(百度智能云推出的MaaS平台)上,API日调用量增长10倍,客户主要来自互联网、教育、电商、营销、手机、汽车等各行业。可以明显看到,最近半年,已经有很多企业真正把大模型用起来了。

3、在应用层,应用开发的范式已经被彻底颠覆

大模型理解、生成、逻辑、记忆的独特能力会催生A原生应用研发新范式,整个应用技术栈、数据流和业务流都将被改变。

原先基于CPU的应用开发主要是业务逻辑驱动,传统的AI研发需要针对每一个独立场景获取数据,再分别从头训练模型。而现在AI原生应用主要基于大模型能力,以数据驱动开发。企业可直接在基础大模型之上,利用场景数据微调出专属大模型,再用模型能力设计AI原生应用,无需从头训练大模型。随着企业业务扩大,逐渐积累出更多有竞争力的场景数据,进而反哺模型和应用效果提升,从而形成数据飞轮。

具体来说,大模型驱动的AI原生应用研发新范式展现出几个新变化:

首先是“新场景”。生成式大语言模型,在理解、生成、推理、记忆等多维度展现出超预期的能力,带来了智能涌现,由此催生了很多新的可落地的业务场景应用,如个人助理、智能文案创作、GBI(智能商业分析)、编码助手等。

第二是“新架构”。大模型具体在这些新场景落地的过程中,也产生了很多新的系统架构,如检索增强生成RAG,智能体Agent 等。

第三是“新开发生态”。以大模型为核心,开发者工具层也出现了一些新工具,包括编排工具LangChain、AI应用开发工具PromptFlow、数据框架Llamalndex等。

侯震宇表示,总体来说,构建繁荣的A原生应用生态,需要大模型、智能算力、

AI原生应用研发新范式三要素相辅相成。大模型是AI原生应用的“大脑”,智能计算则为AI原生应用运行提供坚实支撑,新研发范式助力开发者高效基于大模型能力开发应用。数据飞轮是成功的AI原生应用的充分必要条件,让大模型能力高速迭代,产品体验持续进步。

“我相信,真正非常闪耀的AI原生应用会在2024年诞生。”侯震宇说。

相关内容

热门资讯

今天起,正式停止运营! 据央视新闻消息,美国微软公司旗下即时通信软件Skype正式停止运营,其核心功能将被迁移至微软主推的另...
探秘航空科技 躬读自然之美┊这... 五一假期,市青少年宫以“科创少年 逐梦航空”和“探秘森林氧吧 解码自然DNA”为主题的两场研学活动,...
七部门联合印发实施方案 医药工... 近日,工业和信息化部、商务部、国家卫生健康委等七部门联合印发《医药工业数智化转型实施方案(2025—...
手机=充电宝?10000mAh... 声音 | 小白 此前有消息称随着电池技术不断发展,预计接下来配备7000以上毫安时大电池的机型会更多...
月球独行,笑对绝境——动画版《... 在2022年的炎炎夏日,电影《独行月球》以其独特的科幻喜剧风格横空出世,由沈腾与马丽的精彩演绎,成功...
AI技术既能“上天”又能“下地... 当神舟十九号载人飞船返回舱在东风着陆场成功着陆时,中山大学航空航天学院教授张小虎非常激动。由他带领的...
超导电路新设计有望提升量子处理... 记者 张佳欣 据新一期《自然·通讯》杂志报道,美国麻省理工学院团队展示的全新超导电路设计,有望使量子...
千元预算享旗舰体验?荣耀80堪... 在科技飞速发展的当下,随着手机更新换代速度的加快,消费者换机的频率也随之提高,但频繁换机带来的经济压...
重现MIX荣光!曝小米屏下摄像... 快科技5月6日消息,博主数码闲聊站暗示,尽管小米现阶段没有推出屏下前摄的量产机型,但是相关技术一直在...
曝小米MIX 5已完成多轮技术... 【CNMO科技消息】早在2016年,小米就推出了MIX系列手机,试图打造真正的全面屏手机。最后一款M...
库卡、美的取得定子绝缘框架等相... 金融界2025年5月6日消息,国家知识产权局信息显示,库卡机器人(广东)有限公司、广东美的电气有限公...
OpenAI重组计划被迫改变 ... 财联社5月6日讯(编辑 夏军雄)当地时间周一(5月5日),人工智能(AI)研究公司OpenAI宣布,...
国产“强磁心脏”诞生!中科院突... 中国科学院电工研究所近日传来振奋人心的消息,王秋良院士领导的研究团队在超导磁体技术领域取得了重大突破...
磁组件:材料设计进入新时代 民生证券近日发布人形机器人材料需求系列报告之三:磁组件属于稀土永磁材料精深加工环节。生产工序较为繁杂...
山东豪迈取得用于撬块吊耳焊接设... 金融界2025年5月6日消息,国家知识产权局信息显示,山东豪迈机械制造有限公司取得一项名为“一种用于...
横店东磁申请四端式全硅基多结太... 金融界 2025 年 5 月 6 日消息,国家知识产权局信息显示,横店集团东磁股份有限公司申请一项名...
AI时代下的数智链主:趋势与展... 数字链主的竞争必然是全球性的。当前智能化进程不断突破行业门槛,正在对传统链主发动毁灭性的竞争。 当...
国内科研团队在人工智能领域取得... 近年来,国内科研团队在人工智能领域持续突破,以多维度创新成果推动技术边界拓展与产业应用深化,在基础算...
中科院发布智能科研平台:Sci... 在科技界的瞩目之下,中国科学院自动化研究所于近期举行的第八届数字中国建设峰会上,隆重推出了基于科学基...
宣威:警企携手打造智慧防控典范... 近年来,宣威市公安局丰华派出所在社会治理领域大胆创新,携手众成实业公司共同推出“科技联防”社会治理品...