{dede:global.cfg_webname/}

当前位置: 首页 > 科技 > 软件 > 正文

腾讯混元发布开源加速库 生图时间缩短75%

来源:互联网    时间:2024-06-07 15:19:49

  6月6日,腾讯发布针对腾讯混元文生图开源大模型(以下简称为混元DiT模型)的加速库,让推理效率大幅提升,生图时间缩短75%。

  混元DiT模型的使用门槛也大幅降低,用户可以基于ComfyUI的图形化界面,使用腾讯混元文生图模型能力。同时,混元DiT模型已经部署至Hugging Face Diffusers通用模型库中,用户仅用三行代码即可调用混元DiT模型,无需下载原始代码库。

  此前,腾讯宣布旗下的混元文生图大模型全面升级并对外开源,可供企业与个人开发者免费商用。这是业内首个中文原生的DiT架构文生图开源模型,支持中英文双语输入及理解;采用了与 sora 一致的DiT架构,不仅可支持文生图,也可作为视频等多模态视觉生成的基础。

  腾讯混元DiT模型开源之后,受到了众多社区开发者的认可。开源不到一个月,项目Github Star数就超过2100.位于开源社区热门DiT模型前列。

混元DiT Github页面

  为了提升开发者使用体验,腾讯混元官方上线了专属的加速库,让推理时间缩短75%,提高大模型运行效率。开发者通过Hugging Face即可下载该推理加速工具。

  项目组通过知识蒸馏和TensorRT高性能推理框架,实现了DiT模型的采样步数压缩与高效推理部署。蒸馏主要指降低扩散模型迭代的步数实现加速。模型整体结构和参数量不变,用户在无需任何额外的操作和设备要求下使用蒸馏权重,即可降低50%迭代步数,实现耗时减半。TensorRT推理加速方案通过工程优化,可以进一步降低耗时,并且和模型权重解耦。同时使用两者进行推理部署,可将推理时间缩短75%。

  官方还分享了两个降低用户使用门槛的最新消息:经过与吐司社区的共同努力,用户可以基于ComfyUI的图形化界面使用腾讯混元文生图模型能力。同时,通过与Hugging Face团队合作,混元DiT模型已经部署到Hugging Face官方模型库Diffusers中,并编写了适配该模型库的调用和生成代码,用户可以直接通过该途径调用混元DiT模型,大大简化了用户使用的成本。

  ComfyUI是一款文生图领域的WebUI界面设计,它将文生图领域的扩散算法模块化与图形化,提升了生成效率与资源利用率,也大幅降低了开发者的使用门槛。用户可以通过图像化工作流使用混元DiT文生图模型,实现与官方模型一样的效果。

混元DiT文生图模型的ComfyUI使用界面

  此外,围绕ComfyUI的使用生态,还衍生出强大的开源社区。混元DiT对ComfyUI的支持,也能让社区的成员体验基于最新DiT架构的文生图模型。

  作为知名的AI开源社区,Hugging Face的Diffusers是目前调用各种主流文生图大模型的通用库,已经成为当今文生图大模型使用的社区标准。

  将混元DiT模型适配进Hugging Face Diffusers,可以大幅提升模型的易用性和用户基础。用户无需将原始代码库下载与部署到自身环境,安装了Diffusers库的开发者,仅需要运行几行代码,即可调用混元DiT模型,配置与调用都十分方便。同时,Hugging Face与腾讯混元团队共同优化算法框架,加快了图片的生成速度。

  此举也相当于为所有后续基于混元DiT的使用和开发提供了底层支持,覆盖各种需要调用混元DiT的任何场景,包括上述的ComfyUI方式。同时对开发者而言,之前配置好的基于Diffusers的工作流和插件可以在少量修改的情况下直接用于混元DiT。

  腾讯文生图负责人芦清林表示:“腾讯混元文生图模型开源之后得到了众多开发者的支持和反馈,我们十分高兴,也同时在针对开发者的反馈与社区一起完善和优化基于混元DiT的开源生态,让更多开发者能更便利地享受到最新的研究成果。也欢迎大家跟我们一起共建下一代视觉生成开源生态,推动大模型行业加速发展。”

声明:来源非IT商业科技网的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:Email:342 4350 938@qq.com

频道精选
腾讯混元发布开源加速库 生图时间缩短75%

腾讯混元发布开源加速库 生图时间缩短75%

  6月6日,腾讯发布针对腾讯混元文生图开源大模型(以下简称为混元DiT模型)的加速库,让推理效率大幅提升,生图时间缩短75%。  混元DiT
2024-06-07
特斯拉Model 3的价格、配置以及物有所值

特斯拉Model 3的价格、配置以及物有所值

  自 2017 年推出以来,特斯拉 Model 3已成为美国最受欢迎的电动汽车之一。从 2018 年到 2020 年,它也是美国买家中最畅销的电动
2024-06-07
日本5月电动车销量暴减4成 特斯拉翻倍?

日本5月电动车销量暴减4成 特斯拉翻倍?

  日系车厂销售疲弱,拖累5月份日本电动车销售量暴减4成,其中日产汽车销售市占率高达5成。 另外,日本进口电动车销量连3个月增长、其中
2024-06-07
Anthropic幕僚长:远距工作者能做的事AI会做得更好

Anthropic幕僚长:远距工作者能做的事AI会做得更好

  Anthropic首席执行官Dario Amodei去年7月表示,人工智能可能会彻底改变世界的运作方式。  Business Insider周三报导,现年25岁的Av
2024-06-07
英特尔传活用夏普液晶面板工厂、研发半导体

英特尔传活用夏普液晶面板工厂、研发半导体

  液晶面板工厂被转用为半导体据点的动向扩大,传出英特尔将活用夏普的液晶面板工厂、携手日企研发半导体生产技术。  日经新闻6日报道
2024-06-07
丰田汉兰达在中国跌落神坛 降价8万元乏人问津

丰田汉兰达在中国跌落神坛 降价8万元乏人问津

  汉兰达是日本丰田汽车自2000年起开发制造的中型运动型多用途车,也是中国首款累计销量突破百万台的大中型SUV,不过,近来突然间跌落神
2024-06-07
身边云解锁会补贴新型福利模式 助力企业管理降本提质增效

身边云解锁会补贴新型福利模式 助力企业管理降本提质增效

  随着班尼时代的到来,90后、Z世代逐渐成为职场主力,对企业福利的多元化要求和个性化倾向也悄然发生变化。如今,降本增效已成为许多企
2024-06-07
明略科技吴明辉:企业提早布局大模型 未来将更有机会

明略科技吴明辉:企业提早布局大模型 未来将更有机会

  将AI融入工作流程已成为众多企业的共识。但当大模型扎根企业时,现实的阻力却不容忽视:缺乏高质量的行业数据、与业务场景适配不足、员
2024-06-07
一键释放手机存储空间 华为云空间让你端午出游随心拍

一键释放手机存储空间 华为云空间让你端午出游随心拍

  今年端午节假期不调休,连休三天!必须抓住机会享受轻松愉悦的旅行时光。出行前,除了准备美衣造型,也别忘了准备大容量的云端存储空间
2024-06-07

2017-2019 Copyright © IT商业科技网 备案许可证号粤ICP备2022153948号 豫公网安备110102003388号

紧急处理QQ:133 4673 445@qq.com