腾讯混元发布开源加速库,生图时间缩短 75%
腾讯混元DiT模型是业内首个中文原生的DiT架构文生图开源模型,为了提升开发者使用体验,腾讯混元官方上线了专属的加速库。开发者可通过 Hugging Face 下载该推理加速工具。
项目组通过知识蒸馏和TensorRT高性能推理框架,实现了DiT模型的采样步数压缩与高效推理部署。蒸馏主要指降低扩散模型迭代的步数实现加速。模型整体结构和参数量不变,用户在无需任何额外的操作和设备要求下使用蒸馏权重,即可降低50%迭代步数,实现耗时减半。TensorRT推理加速方案通过工程优化,可以进一步降低耗时,并且和模型权重解耦。同时使用两者进行推理部署,可将推理时间缩短75%。
官方还分享了两个降低用户使用门槛的最新消息:经过与社区的共同努力,用户可以基于ComfyUI的图形化界面使用腾讯腾讯混元文生图模型能力。同时,通过与Hugging Face团队合作,腾讯混元DiT模型已经部署到Hugging Face官方模型库Diffusers中,并编写了适配该模型库的调用和生成代码,用户可以直接通过该途径调用腾讯混元DiT模型,大大简化了用户使用的成本。
ComfyUI是一款文生图领域的WebUI界面设计,它将文生图领域的扩散算法模块化与图形化,提升了生成效率与资源利用率,也大幅降低了开发者的使用门槛。用户可以通过图像化工作流使用腾讯混元DiT文生图模型,实现与官方模型一样的效果。
将腾讯混元DiT模型适配进Hugging Face Diffusers,可以大幅提升模型的易用性和用户基础。Hugging Face还与腾讯混元团队共同优化算法框架,加快了图片的生成速度。
此举也相当于为所有后续基于腾讯混元DiT的使用和开发提供了底层支持,覆盖各种需要调用腾讯混元DiT的任何场景,包括上述的ComfyUI方式。同时对开发者而言,之前配置好的基于Diffusers的工作流和插件可以在少量修改的情况下直接用于腾讯混元DiT。
腾讯文生图负责人芦清林表示:“腾讯混元文生图模型开源之后得到了众多开发者的支持和反馈,我们十分高兴,也同时在针对开发者的反馈与社区一起完善和优化基于腾讯混元DiT的开源生态,让更多开发者能更便利地享受到最新的研究成果。也欢迎大家跟我们一起共建下一代视觉生成开源生态,推动大模型行业加速发展。”

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
学习笔记丨嵌入式 BI 分析的 12 个关键功能
编者注:以下内容节选编译自嵌入式分析厂商Qrvey发表的《What is Embedded Analytics?》(什么是嵌入式分析)一文,作者为Qrvey产品市场主管Brian Dreyer。 什么是嵌入式分析? 嵌入式分析是指能够将数据分析的特性和功能纳入到某个应用程序内部的技术能力。 根据咨询机构Dresner于2023年发布的嵌入式BI市场研究显示,当前市场中嵌入式BI的使用率为49%,且技术采纳的需求仍然旺盛。同时,有86%的行业受访者表示,嵌入式BI是关键或者是非常重要的。 嵌入式分析的12个关键功能 1. 自助式、易于构建的图表和仪表板 用户通过简单的点击操作就可以制作出美观的数据可视化大屏。一款自助式、可交互的图表工具一定是易于使用的,并且包含多种仪表板生成组件,以方便用户自定义制作仪表板和报告。 2. 支持多种数据类型 由于大多数的传统数据分析工具只适用于对结构化数据的分析,这就导致有超过70%的业务数据并未被分析利用。为了获得充分的数据洞察,用户需要整合所有的数据资源,其中就包含半结构化数据源(例如表单)和非结构化数据源(例如图像)。 3. 工作流与自动化 比起用户...
- 下一篇
字节跳动基础架构两篇论文入选 VLDB 2024
2024 年 8 月 26 至 30 日,VLDB 2024 将在中国广州举行。字节跳动基础架构云原生中间件团队、批式计算团队研究成果分别被 VLDB 2024 接收,并受邀进行现场报告。 VLDB(International Conference on Very Large Data Bases)是数据库三大国际顶级学术会议之一,也是中国计算机学会(CCF)推荐的A类国际学术会议。自 1975 年成立以来,每年吸引全球顶级研究机构投稿,但录用率较低,对系统创新性、完整性、实验设计等方面都要求极高。VLDB 也因此成为数据库管理领域最杰出的研究和发展成果的实时传播场所,反映了当前数据库研究的前沿方向、工业界的最新技术和各国的研发水平。 ResLake: Towards Minimum Job Latency and Balanced Resource Utilization in Geo-distributed Job Scheduling ResLake 是字节跳动基础架构计算和存储团队、应用研究中心和系统部网络团队,共同研发的多机房计算、存储、网络一体化资源管理系统。ResLake...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- Docker安装Oracle12C,快速搭建Oracle学习环境
- CentOS7安装Docker,走上虚拟化容器引擎之路
- Linux系统CentOS6、CentOS7手动修改IP地址
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- CentOS关闭SELinux安全模块
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- Hadoop3单机部署,实现最简伪集群
- CentOS6,7,8上安装Nginx,支持https2.0的开启