阿里云全面升级GPU云服务多GPU推理服务性能最大100%提升_资讯

创始人

2024-07-22 08:41:27

0次

【太平洋科技快讯】近日，阿里云宣布对其GPU云服务进行重大升级，通过全新优化的GPU套件，多GPU推理服务性能实现最大100%的提升。此次升级旨在加速AI大模型应用的落地，使开发者和企业更高效地开发和部署AI应用，加速大模型应用的落地。

升级后的GPU云服务，通过优化DeepNCCL通信库，在同等硬件环境下，Token输出吞吐提升14%，首Token时延降低15%。这意味着，在资源不变的情况下，业务处理能力翻倍，大幅提升了AI推理任务的处理效率。

同时，阿里云推出ACK云原生AI套件，专注于提升GPU调度、AI任务调度、训练数据加载等关键环节的性能。该套件可提升训练数据读取性能30%以上，降低大模型推理服务冷启动时延70%以上，有效提升AI应用的运维效率。

以国产AI绘画工具海艺AI为例，通过采用ACK调用阿里云GPU云服务，模型切换无感，推理耗时从平均20秒降至3.95秒，整体性能提升至少50%。

根据最新的Forrester 全球AI基础设施解决方案研究报告显示，阿里云综合产品能力指标位居全球第二，已成为中国AI大模型的公共底座,众多知名企业和机构已在其平台上训练大模型并提供服务，如小鹏汽车、联想、德勤等。

融捷能源取得模拟电芯运行装置专... 金融界2025年8月21日消息，国家知识产权局信息显示，广州融捷能源科技有限公司取得一项名为“一种模...

三十载热爱同行, vivo V... 8月21日，vivo Vision发布会暨影像盛典于广东东莞隆重举行。值企业三十周年之际，vivo重...

亿咖通·云山跨域软件平台——“... 2025年8月20日晚，吉利汽车集团在杭州举办“AI座舱技术发布会”，宣布“全域AI”技术体系正式落...

特斯拉：机器人出租车成本预测遭... 【当地时间周三，知名做空者吉姆·查诺斯质疑特斯拉CEO马斯克机器人出租车成本预测，称每英里不到20美...

智能赋能与范式重构：AI时代新... 当AlphaGo击败李世石的那一刻，人工智能不再是科幻小说的专属词汇，而是成为了重塑商业世界的基础性...

2025流量多又便宜手机卡推荐... 办卡关注微信公众号：可可找卡这将是您揭秘流量卡真相、探索优质正规流量卡办理的一站式平台。让我们一起...

狂飙的算力，炽热的难题：戴尔如... 算力狂飙，能耗飙升智算中心的“绿色革命”已经打响当算力引擎全速运转数据中心的能耗正步步攀升在...

“河南理工二号”卫星成功发射中国教育报-中国教育新闻网讯（记者张利军通讯员苏丽敏都伟冰）8月19日15时33分07秒，“...

REDMI Note 15 P... 在智能手机的红海市场中，每一个系列都有其独特的标签和忠实的用户群。而提到REDMI Note系列，大...

雷军、马斯克、朱啸虎盯上的这门... 在人工智能产业风口频出的当下，“AI陪伴”正在成为被资本、创业者与产业巨头同时押注的新赛道。头豹研...

对标苹果 HomePod Mi... IT之家 8 月 21 日消息，科技媒体 phonearena 今天（8 月 21 日）发布博文，报...

AI用来Coding，小红书用... 文丨阑夕仅仅把时间倒回3年前，要问中国的独立开发者们会扎根在哪个平台聚集发育，小红书绝对不会被当作...

原创外... 到2025年，中国航天领域已经接连取得了重要突破，且这些成就几乎都发生在同一时间段内。从梦舟飞船的逃...

原创邓... 这颗以每秒61公里冲向太阳的星际访客3I/ATLAS，其双曲线轨道与自主发光现象揭示了宇宙隐性势能向...

广电计量：公司积极布局AI高算... 证券日报网讯广电计量8月21日发布公告，在公司回答调研者提问时表示，广电计量积极布局AI高算力芯片...

原创荣... 不知道有多少人和阿维一样，购买手机喜欢购买高配版，目前阿维手里的手机就是16GB+1TB规格的，后续...

马云时隔6年再访蚂蚁森林，比种... 马云时隔六年再次探访“蚂蚁森林”，这些年蚂蚁森林种树超6亿棵据蚂蚁森林官方微博消息，8月19日，...

马斯克一觉醒来，Space X... 西风发自凹非寺量子位 | 公众号 QbitAI 马斯克一觉醒来，新品Space X在京被发布了...

六年投数百亿元每年上万人研发 2019年8月9日，在广东东莞松山湖举行的华为开发者大会上，华为发布了自主研发的鸿蒙操作系统。新华...

微信最新发文：一开始就没有已读... “微信已读功能”这个话题，年年有人问，年年上热搜，年年在辟谣，堪称热搜榜的“钉子户”和“打不死的南方...