2025年分布式推理网络技术白皮书
创始人
2025-05-04 17:01:55
0次
《分布式推理网络（DIN）技术白皮书（2025年）》由中国移动通信有限公司研究院发布，全面剖析了AI大模型时代的业务趋势与挑战。报告指出，以DeepSeek-R1为代表的高性能低成本大模型正驱动AI普惠化，用户从传统内容访问转向AI模型调用，AI Agent通信流量显著增长。然而，端云多模态交互和Agent间东西向流量激增对网络时延提出更高要求，同时暴露出AI推理基础设施能力不足、推理网络架构待完善、服务网络安全防护能力薄弱等核心瓶颈。
报告系统介绍了DIN的分布式架构及其适应多样化推理服务范式的技术体系。DIN通过端、边、网、算协同实现高安全、高并发的网络连接，满足ToB场景下算网一体安全推理、边云协同后训练、模型分层协同需求，同时支持ToC/ToH场景中的大小模型协同推理、训推协同进化、PD分离部署等创新模式。其设计目标包括构建可扩展架构以提供低时延推理服务，通过确定性连接保障数据传输性能，并构建多层次安全防护体系保护数据隐私。
报告总结了DIN关键技术突破，包括微流级流控、细粒度切片等节点间互联质量保障技术，集中式与分布式相结合的推理服务调度方案，以及基于PHYSec技术、拒绝服务防护和轻量化APT监测的模型推理安全体系。展望未来，中国移动将联合产业界完善DIN技术与标准体系，通过融合端边云协同优势应对AI普惠化的时延、安全和成本挑战，推动智能社会建设，助力AI推理服务实现安全、高效、普惠的全面升级。
相关内容
热门资讯
人工智能时代需要什么样的新文艺...
深圳商报•读创客户端首席记者 魏沛娜 通讯员 胡诗涵 9月12至9月14日，“面向数智文明的科幻文艺...
他是上海光源功臣、新一代核能开...
徐洪杰，一位用15年建成上海第一个大科学装置上海光源、又用16年拓荒我国新一代核能技术的上海科学家，...
第四届全球数贸会来袭 100＋...
当杭州的秋风邂逅数字化浪潮，一场为期五天的科技盛宴即将点燃这座城市。9月25日至29日，第四届全球数...
纯私有化部署+AI加持 政企专...
开会总是漏掉重点？整理会议纪要耗费太多精力？……面对传统会议存在“信息遗漏、效率低下、安全隐患”三大...
无人机抗风试验风墙
科翔KXT5731型无人飞机抗风试验风墙 科翔KXT5731型无人机抗风试验风墙，是一种模块化、智能...
关于变更图书馆opac书目检索...
关于变更图书馆opac书目检索系统 登录环境的通告 根据加强网络安全管理相关要求，现将图书馆opac...
跳过小米16！小米17系列本月...
9月15日，小米集团总裁卢伟冰在社交媒体宣布，本月将发布小米 17 系列，并表示这将是小米手机数字系...
重蹈覆辙还是颠覆市场？高德地图...
当高德地图的“扫街榜”携10亿补贴高调入场，本地生活服务领域再度掀起惊涛骇浪。 这场由阿里生态强力驱...
索尼将主机外游戏营收从战略重点...
索尼如今PlayStation的多平台战略已经施行了多年，很多玩家都认为索尼正在将PlayStati...
“升级版”太空菜园喜获丰收 神...
【太平洋科技快讯】9 月 15 日消息，据央视网报道，神舟二十乘组于上周按计划顺利完成多项空间科学实...
甘肃省网络安全宣传周启动：首创...
央广网兰州9月15日消息（记者寇刚 实习记者马浩轩）9月15日上午，2025年甘肃省网络安全宣传周开...
科技赋能！2025年服贸会文旅...
走进展区，多款新潮文创让人爱不释手；戴上设备，苏轼笔下的诗词世界任人遨游；指尖轻点，三千年前的青铜器...
生物技术重塑未来生命图景
在这个生物技术与数字技术深度交织的时代，我们正构建一幅宏大的新生命图景。曾几何时，精密的蛋白质结构、...
淘宝上线图搜“AI找低价”，A...
界面图库 界面新闻记者 | 程璐 界面新闻编辑 | 文姝琪 阿里电商的AI实践正在用户端加速...
人形机器人助力中国应对老龄化
参考消息网9月15日报道据美国《新闻周刊》网站9月8日报道，和东亚其他国家一样，中国也在努力应对不断...
泽普县赛力乡荒地村开展“探索科...
9月12日，在首个全国科普月到来之际，荒地村科普教育馆正式开馆。自治区党委直属机关工委驻村工作队联合...
跨过万亿门槛 “新中式”服务走...
来源：中国新闻网 中新网北京9月14日电(记者 张乃月)初秋的北京，阳光穿越钢铁高炉洒入首钢园，光影...
冥王星或“火热”诞生？太阳系边...
在浩瀚的太阳系边缘，冥王星这颗矮行星一直以冰冷、孤寂的形象示人。然而，近期一项颠覆性的研究却揭示出，...
OpenAI董事长：AI行业身...
泰勒 北京时间9月15日，OpenAI董事长布雷特泰勒(Bret Taylor)表示，行业正处于AI...
虚拟电厂从蓝图到实践——“化零...
来源：经济日报 随着新型电力系统和电力市场建设加快推进，虚拟电厂作为电力系统新业态、新模式，正从技术...