腾讯混元发布开源加速库,生图时间缩短75%
创始人
2024-06-07 15:01:55
0

6月6日,腾讯发布针对腾讯混元文生图开源大模型(以下简称为混元DiT模型)的加速库,让推理效率大幅提升,生图时间缩短75%。

混元DiT模型的使用门槛也大幅降低,用户可以基于ComfyUI的图形化界面,使用腾讯混元文生图模型能力。同时,混元DiT模型已经部署至Hugging Face Diffusers通用模型库中,用户仅用三行代码即可调用混元DiT模型,无需下载原始代码库。

此前,腾讯宣布旗下的混元文生图大模型全面升级并对外开源,可供企业与个人开发者免费商用。这是业内首个中文原生的DiT架构文生图开源模型,支持中英文双语输入及理解;采用了与 sora 一致的DiT架构,不仅可支持文生图,也可作为视频等多模态视觉生成的基础。

腾讯混元DiT模型开源之后,受到了众多社区开发者的认可。开源不到一个月,项目Github Star数就超过2100,位于开源社区热门DiT模型前列。

混元DiT Github页面

为了提升开发者使用体验,腾讯混元官方上线了专属的加速库,让推理时间缩短75%,提高大模型运行效率。开发者通过Hugging Face即可下载该推理加速工具。

项目组通过知识蒸馏和TensorRT高性能推理框架,实现了DiT模型的采样步数压缩与高效推理部署。蒸馏主要指降低扩散模型迭代的步数实现加速。模型整体结构和参数量不变,用户在无需任何额外的操作和设备要求下使用蒸馏权重,即可降低50%迭代步数,实现耗时减半。TensorRT推理加速方案通过工程优化,可以进一步降低耗时,并且和模型权重解耦。同时使用两者进行推理部署,可将推理时间缩短75%。

官方还分享了两个降低用户使用门槛的最新消息:经过与吐司社区的共同努力,用户可以基于ComfyUI的图形化界面使用腾讯混元文生图模型能力。同时,通过与Hugging Face团队合作,混元DiT模型已经部署到Hugging Face官方模型库Diffusers中,并编写了适配该模型库的调用和生成代码,用户可以直接通过该途径调用混元DiT模型,大大简化了用户使用的成本。

ComfyUI是一款文生图领域的WebUI界面设计,它将文生图领域的扩散算法模块化与图形化,提升了生成效率与资源利用率,也大幅降低了开发者的使用门槛。用户可以通过图像化工作流使用混元DiT文生图模型,实现与官方模型一样的效果。

混元DiT文生图模型的ComfyUI使用界面

此外,围绕ComfyUI的使用生态,还衍生出强大的开源社区。混元DiT对ComfyUI的支持,也能让社区的成员体验基于最新DiT架构的文生图模型。

作为知名的AI开源社区,Hugging Face的Diffusers是目前调用各种主流文生图大模型的通用库,已经成为当今文生图大模型使用的社区标准。

将混元DiT模型适配进Hugging Face Diffusers,可以大幅提升模型的易用性和用户基础。用户无需将原始代码库下载与部署到自身环境,安装了Diffusers库的开发者,仅需要运行几行代码,即可调用混元DiT模型,配置与调用都十分方便。同时,Hugging Face与腾讯混元团队共同优化算法框架,加快了图片的生成速度。

此举也相当于为所有后续基于混元DiT的使用和开发提供了底层支持,覆盖各种需要调用混元DiT的任何场景,包括上述的ComfyUI方式。同时对开发者而言,之前配置好的基于Diffusers的工作流和插件可以在少量修改的情况下直接用于混元DiT。

腾讯文生图负责人芦清林表示:“腾讯混元文生图模型开源之后得到了众多开发者的支持和反馈,我们十分高兴,也同时在针对开发者的反馈与社区一起完善和优化基于混元DiT的开源生态,让更多开发者能更便利地享受到最新的研究成果。也欢迎大家跟我们一起共建下一代视觉生成开源生态,推动大模型行业加速发展。”

相关内容

热门资讯

聚焦人工智能产业链 山东蓄力打... 中新网济南8月6日电 (记者 沙见龙)“这项体系如同人工智能产业的‘中央厨房’,能根据不同行业的差异...
2025未来科学大奖揭晓,他们... 科学之光照亮人类未来。6日,备受关注的2025未来科学大奖揭晓。这个夏天,“高冷”的基础研究再次变得...
为什么CA需要有《电子认证服务... 来源:SSL_SecureSocketLayer 1. CA是什么?—— 数字世界的「信任基石」 C...
2025 年 2 款华为会议记... 现在远程会议越来越多,不管是企业还是个人,都需要能快速整理会议记录的工具。我作为科技产品体验师,选了...
微软奖励计划BUG导致用户周打... 2025-08-06 12:21:59 作者:狼叫兽 8月6日,据相关报道,微软官方确认其推出的奖...
原创 i... 随着九月日益临近,科技圈的“春晚”——苹果秋季发布会也即将拉开帷幕。今年的主角iPhone 17系列...
全球首家具身智能机器人4S店和... 中新网北京8月6日电(陈小雨)全球首家具身智能机器人4S店与“机器人焰究所”主题餐厅将于8月8日与2...
国企出题科技企业解答,广州发布... 南都讯 8月6日,广州市发改委(市人工智能产业办)、广州市国资委联合主办的广州首批人工智能应用场景发...
【山西·企业技术中心巡礼】激发... 潞安化工集团旗下潞安化工机械集团的“小坦克”机器人正在进行开孔作业。陈阳摄 2024年研发投入强度达...
孙正义投资马云真相:竟因马云“... 在创业传奇中,马云与孙正义的故事总是引人入胜。据悉,马云曾在创业初期携带详尽的计划书四处奔波,向众多...
捷美斯取得自带灯效喇叭及音响设... 金融界2025年8月6日消息,国家知识产权局信息显示,惠州市捷美斯科技有限公司取得一项名为“一种自带...
瑞典首相称工作中咨询AI意见,... 据英国《卫报》8月5日报道,瑞典首相乌尔夫·克里斯特松表示,他在处理公务时经常咨询人工智能(AI)聊...
原创 地... 在人类探索自身起源的漫长历程中,“第一个人如何出现” 始终是最引人深思的问题之一。从古代神话的创世传...
AI专题:2025年AI技术在... 今天分享的是:AI专题:2025年AI技术在项目管理中的应用洞察报告 报告共计:24页 《AI专题:...
透过美的,看机器人产业的深度觉... 1927 年,美国西屋公司就制造了世界上第一台人形机器人 "Televox",直到近 100 年后,...
超算互联网火速上线gpt-os... 来源:上海证券报·中国证券网 上证报中国证券网讯(记者 李雁争)超算互联网6日发布消息,超算互联网已...
伙伴计划丨航天纪录燃梦想 手工... 伙伴计划 HUO Ban 当好奇目光聚焦浩瀚星河,当童稚巧手邂逅剪纸手工,一场融合趣味与启迪的成长之...
苹果云手机挂机神器盘点:24小... 上班族搬砖党时间紧,下班挂游戏耗电又费时?苹果云手机24小时挂机不占手机,本文推荐5大品牌+教程,解...
【观摩学习】汲取科技智慧 赋能... 青海省西川监狱组织民警前往三江源绿电智算融合示范基地观摩学习 为深入学习借鉴前沿科技在智慧化建设领域...
格科微0.61微米5000万像... 8月5日,格科微有限公司(以下简称“格科微”)发布公告称,近日,公司0.61微米5,000万像素图像...