量化技术赋能+通信传输优化!天翼云支撑DeepSeek-R1降本增效
创始人
2025-02-17 17:00:54
0

近日,天翼云DeepSeek模型推理技术迎来重大升级。该技术不仅支撑DeepSeek-R1满血版模型实现性能的四倍提升,更将大规模部署模型的成本降至原来的25%以下,为AI应用落地铺就更为宽广的道路。

此次技术升级主要体现在量化技术赋能及通信传输优化两大层面。其中,天翼云针对模型的浮点计算进行深度优化,使用高效量化算法,大幅减少计算资源消耗,提升推理速度,同时保证性能不打折。

通信传输方面,天翼云通过优化通信算子编排与通信方式,显著提升MoE模型推理中的通信效率,助力DeepSeek-R1模型的整体处理能力再上新台阶。

基于两大技术升级,天翼云提供的DeepSeek-R1满血昇腾版每实例性能提升至原版本207%,首字输出仍保持百毫秒级响应;每实例部署所需机器数减少一半,仅为两台。

此次升级DeepSeek-R1为行业的大规模AI应用提供了更完善的解决方案。DeepSeek-R1满血昇腾版整体部署成本降至原来25%以下,意味着企业可以在不增加太多预算的情况下,享受到更强大、更高效的AI服务,加速了AI技术的普及与应用。

目前,天翼云“息壤”智算平台已有多款产品支持部署DeepSeek,为行业提供了性能卓越、安全可控的智能算力基座,以普惠AI应用服务,不断促进国产AI生态繁荣。

科技创新的目标是解决实际应用,促进行业进步。天翼云始终坚持科技创新,将技术升级与市场需求紧密结合,加速AI技术从理论走向实践,从实验室走向生产线。未来,天翼云将继续探索更多前沿AI技术路径,为广大开发者和用户提供更优质、更具性价比的模型服务,推动AI应用普惠化,共筑数字中国的智慧未来。

相关内容

热门资讯

原创 五... 随着7月份的正式到来,各大车企也都纷纷公布了自家6月份的销量数据情况以及今年1-6月的销售成绩。而让...
原创 【... 【25年7月顶配游戏手机推荐】教父级拍照手机选购指南!涵盖vivo/OPPO/REDMI/iQOO/...
苹果降价就能躺赢?iPhone... 7月1日消息,数码博主@智慧芯片案内人整理了一份关于各品牌旗舰机型市场表现的图表。数据显示,在第20...
强化AI应用 加快聚集青年人才... 6月30日,市委副书记、市长胡衡华在两江新区调研软信产业发展时强调,要深入贯彻习近平总书记视察重庆重...
奇安信获得发明专利授权:“一种... 证券之星消息,根据天眼查APP数据显示奇安信(688561)新获得一项发明专利授权,专利名为“一种数...
普惠医疗,是人工智能赋能医疗的... 中国科学院院士、西安交通大学数学与统计学院教授徐宗本。 近日,蚂蚁集团推出了新一代人工智能(下称“A...
拥抱Web3去中心化时代的浏览... 去中心化网络的基石 Web3的核心是区块链技术,这是一种分布式账本技术,它允许数据在多个节点上存储和...
多名稀土高管神秘离职……是为了... 点上面,快速进入并关注走向科学 “走向科学”微信公众号 K95028 看破迷雾,人生就会更淡定从容 ...
天正电气获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示天正电气(605066)新获得一项发明专利授权,专利名为“一种...
中电云计算申请轻量级容器管理系... 金融界2025年7月1日消息,国家知识产权局信息显示,中电云计算技术有限公司申请一项名为“轻量级容器...
Steam家庭共享功能全攻略:... Steam平台近日再次展示了其用户友好的一面,推出了家庭共享功能,这一创新服务让游戏爱好者们能够与亲...
科幻电影照进现实,弘扬科学家精... 当科幻电影中的科技照进现实,我们实现了哪些畅想?在人工智能时代,我们要如何拥抱科技发展?近日,202...
NH2-Sodium algi... NH2-Sodium alginate(氨基修饰海藻酸钠)是一种通过化学方法将氨基(-NH₂)引入海...
深圳首个高校独研人形机器人“南... 南科大独立研发的“南科盘古”机器人 羊城晚报讯 记者沈婷婷、通讯员韩文嘉摄影报道:“您好...
倍益康获得发明专利授权:“可变... 证券之星消息,根据天眼查APP数据显示倍益康(870199)新获得一项发明专利授权,专利名为“可变振...
红色电信薪火路|从半部电台到6... (记者 杜峰)从“半部电台”到5G赋能千行百业,从5G-A实现规模商用到6G技术加速推进,在波澜壮阔...
小岛秀夫:希望成为首位在太空中... IT之家 7 月 1 日消息,小岛秀夫上月出席了悉尼电影节,在活动中他表示,希望成为首位在太空中开发...
从云悦动APP看互联网投资理财 在当今数字化时代,云悦动 APP 的运营模式及与之相关的互联网投资理财风险备受关注。 云悦动 APP...
自免新靶点,不是一个好选择了? 文|氨基观察 仅次于肿瘤的自免市场,正迎来一场无声的“靶点焦虑”。 过去几年,最显著的进展发生在靶...
“感觉DeepSeek好痛苦”... 这里是“AI新榜”的「每日一AI」,我们在这里记录一些人类跟AI对话的碎片,社交媒体上被热烈讨论、引...