大国工匠丨大国重器九天大模型是如何打造的?“AI工匠”带你揭秘
创始人
2025-05-03 14:00:53
0

原标题:大国工匠丨大国重器九天大模型是如何打造的?“AI工匠”带你揭秘

近两年,人工智能大模型日益受到社会关注,AI+算力正在驱动千行百业的智能化转型。

有一位“AI工匠”王斌,他带领团队驾驭大规模国产智算集群,训练出了一套全系统自主可控的九天大模型,打造面向未来的大国重器。

中国移动研究院人工智能中心高级总监 王斌:这是北京市最典型的一个覆盖居民区的基站,类似的基站中国移动已经开通了686万台,这些基站实际上每天会消耗大量的电力。

信号基站引入九天人工智能大模型技术,对海量手机流量信号精确预测,给出每台基站的智能节能方案,全国600多万台基站通过人工智能等多种技术实现全年节电2.5亿度。

王斌:我们的大模型的定位,不光是要能够写诗作画,除了能够识别传统的文本类和图片类知识,它还要能看得懂像这种雷达、红外,这种射频信号

抢抓人工智能发展的历史机遇,2023年初,我国提出,根据通信、电力、交通物流、能源等领域的需求,使用国产软硬件,打造人工智能大模型,形成自主可控的全新的产业生态。

作为中国移动研究院AI技术专家,王斌有十多年芯片研发技术背景,之后又投入人工智能这一新赛道,是我国为数不多的既精通AI芯片又熟悉AI模型的技术人员。训练九天大模型这一国之重器的任务就落在了王斌团队肩上。

王斌:这是我们的一个机房,智算的服务器就在这个机架里面。

记者:有多少台?

王斌:整个楼里面一共有2304台服务器,折算成AI加速卡的话,超过1.8万张。

这个全国规模最大的软硬件都基于国产技术的智算集群就是九天大模型的最强大脑。

王斌带领团队,收集了近500万亿字符的原始文本数据,几乎涵盖了人类有史以来全量的文本类知识,从中筛选出超10万亿字符的高质量训练数据集。让大模型记住这些知识不难,难的是怎么学会运用,这正是王斌必须迈过的第一道关卡。

王斌:大模型的结构跟咱们人类的大脑结构是比较类似的,像人类大脑也有差不多1000亿个神经元,可能不同的神经元是负责不同的任务。我们平时做数学题用到的神经元,跟做语文题用到的神经元可能是不一样的。

记者:所以这大模型也是这么分的?

王斌:像一个千亿的大模型,我们要拆成18000份,每一个芯片在训练它所负责那部分的时候,都要高效地从这些数据中把知识萃取出来。

大模型的18000张芯片要学会理解知识之间的逻辑关系,还要各有分工,彼此联动,逐渐变得聪明起来,王斌带领团队给大模型设计学习知识的算法、控制学习进程、矫正大模型的价值观。然而,他却碰到了一个棘手的难题。

王斌:在我们这个行业,有个说法叫得开发者得天下。像国际主流AI芯片,它的开发者人数有好几百万,它会有很多优化的手段,这种优化手段会带来整个训练效率的提升。咱们现在国内的AI芯片,它的开发者人数可能都不到10万,可能里面还会有很多缺陷,只能说是一个坑一个坑去蹚,一个坎一个坎去迈。

从系统设计到功能模块开发,近150名工程师历时一年半时间,写出了超过120万行的代码,构建了一套完整的平台软件,瞄准国际先进行列,加速追赶。

这个智算集群里的18000张芯片运行时,好像一个庞大的方阵,整齐划一,共同推进,只要有一张卡出现问题,就会导致整个方阵混乱,训练任务失败。在训练了两个月的时候,这一巨大方阵就出现了严重故障。王斌带领技术骨干扎入18000张卡的数字深海,一层层排查,直到智算集群最底部。

中国移动研究院人工智能中心高级工程师丛鹏宇:王斌原来积累的硬件知识,在做大模型训练过程中,特别是排障过程中,其实发挥了很重要的作用。有很高的技术的前瞻性和技术的敏感性,能够指导大家从更加广泛的角度、更加有建设性的角度来解决问题。

7天后终于找到了一张故障卡。然而,这7天的停滞却导致整个训练任务要从头再来。

王斌:这么大规模的资源,已经执行了这么长时间任务,整个效果要清零是多么大的一个打击。为了解决这个问题,我们必须有一个即时检测技术。

半年多,王斌带领团队对上万次大大小小的故障逐个分析,找到每一个故障的根本原因,归类整理,做出了一份故障处置清单,打造了一套自动检测软件,把各类故障的排查恢复时间从几天缩短到了十几分钟。

在王斌团队的努力下,国产AI芯片在万卡规模上的训练效率达到同代国际主流AI芯片水平,为后续国产芯片在其他领域更广泛的应用打下了坚实基础。

目前九天大模型已经进入了通信、石油生产、农业种植、智能制造等很多领域,正在用智慧赋能新质生产力。2025年1月,九天大模型被评为央企大国重器。

中国信息通信研究院人工智能研究所平台与工程化部副主任 董昊:九天大模型不仅是我们自主技术的一种突破,同时也为我们国家大模型的应用落地提供了可复制可借鉴的成熟解决方案。

王斌:国家给了我们这种期许,能够用国产算力实现对国际主流算力的替代,我们九天大模型还在持续迭代升级,在AI赛道上任重道远,我们有信心有决心来应对挑战。

来源:央视新闻客户端

相关内容

热门资讯

AI除了省钱之外,还会给电影产... “难点是不确定性,但省钱,真的特别省钱。”《光年与花》导演真启分享用AI创作电影的感受时感慨。6月1...
利空还没出尽!互联网大洗牌可能... 前段时间,我一直在犹豫要不要重新买回美团,思虑再三还是放弃了。主要原因是前两个月我发现京东不过要做外...
AI引领奢侈品行业革新:LVM... 人工智能正在持续推动奢侈品行业发展,通过超个性化优化消费者体验,并在内容创作的全面需求中提升效率。 ...
5G-A改变生活 从无人快递到... 封面新闻记者 孟梅 6月18日,2025世界移动通信大会(MWC)在上海正式启动。本届大会汇聚了华为...
金融科技公司Klarna将在美... 瑞典金融科技公司 Klarna 周三宣布,将在美国推出无限量移动套餐,加入英国竞争对手 Revolu...
苏州纽威阀门取得一种盘阀专利,... 金融界2025年6月18日消息,国家知识产权局信息显示,苏州纽威阀门股份有限公司取得一项名为“一种盘...
光子跃迁CTO杨盛:从天空工场... 作者 | 李广 编辑 | 魏晓 6月初,一家名为“光子跃迁”的初创企业炸响了市场——据多家媒体报道,...
AI+医疗,最新趋势!产学研热... 从辅助诊断到药物研发,从智慧医院到精准治疗,近年来,人工智能正以前所未有的速度渗透医疗领域,通过重建...
汲光仪器取得洗瓶机用进样小瓶清... 金融界2025年6月18日消息,国家知识产权局信息显示,汲光(杭州)仪器技术有限公司取得一项名为“一...
施耐德电气:深度融合数智新技术... ——访施耐德电气副总裁、工业自动化中国区OEM业务负责人崔志达 在制造业转型升级与消费市场持续扩容的...
2025年GTI国际产业大会今... 6月18日,以“预见未来 从5G-A到6G” 为主题的2025年GTI国际产业大会在上海召开。来自G...
中国移动发布“AI+物联网”“... 6月18日,在2025上海世界移动通信大会期间,中国移动举行“AI+物联网”产品发布会,以“智无界,...
大科学装置“夸父”建设迎来重要... 记者从中国科学院合肥物质科学研究院获悉,国家重大科技基础设施聚变堆主机关键系统综合研究设施“夸父”的...
推动纺织工业数字化转型,六部门... 近日,工业和信息化部、教育部、人力资源社会保障部等六部门联合印发《纺织工业数字化转型实施方案》,加快...
达实智能:既有建筑的智能化和节... 证券日报网讯 达实智能6月18日发布公告,在公司回答调研者提问时表示,既有建筑的智能化和节能改造无疑...
踏梦燕赵,情牵石榴籽——巴州学... 6月17日,在巴州团委与河北团省委的精心组织下,巴州“石榴籽祖国行”青少年交流(河北高校行)活动的营...
上海国际电影节,DPVR开启影... 6月17日,第二十七届上海电影节开启了一项特殊的观影活动——国际VR作品展映。此次活动将地点设定在佰...
产业科技前沿 | “人工树叶”... 记者17日从天津大学获悉,该校化工学院新能源化工团队在无偏压光电化学水分解制氢领域取得突破性进展。研...
腾盛机械取得履带驱动轮专利,大... 金融界2025年6月18日消息,国家知识产权局信息显示,泉州市腾盛机械配件有限公司取得一项名为“履带...
11787架!重庆无人机刷新吉... 6月17日晚,重庆以11787架无人机成功挑战吉尼斯世界纪录“最多无人机组成的空中图案”。 这场“魅...