清华团队开源 “赤兔 Chitu” 推理引擎
清华大学高性能计算研究所的翟季冬教授团队与清华系科创企业清程极智宣布,联合开源了大模型推理引擎 “赤兔 Chitu”,实现非H卡设备(如国产芯片、英伟达旧款GPU)无损运行原生FP8模型。
根据介绍,在首期开源版本中,通过赤兔引擎部署的DeepSeek-R1-671B满血版在A800集群测试中,相比部分国外开源框架,GPU使用量减少50%的情况下推理速度仍有3.15倍提速。
“有了赤兔引擎,这不仅意味着手里的大部分老卡旧卡又“复活”了,不用转换模型即可部署DeepSeek满血版,原生处理FP8数据,推理质量无损!同样意味着企业可以用更少的硬件资源,获得更高的性能,为企业私有化部署降低门槛。”

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
月薪高达 4 万,Manus 光谷研发团队大量招聘
国产AI智能体Manus一夜爆火后,其武汉研发团队——蝴蝶效应公司在光谷发布了招聘需求,扩大团队规模。此次招聘共有10余个岗位,将持续招聘。 据了解,此次蝴蝶效应招聘岗位有虚拟化研发工程师、linux内核开发工程师、运维工程师、数据库运维、Web前端工程师、客户端工程师、用户运营等,月薪范围在5000元至4万元不等。 其中,虚拟化研发工程师月薪最高可达4万元。该岗位主要负责: Linux内核,虚拟化,容器方面的研发工作; 负责Linux内核、虚拟化定制化研发工作,提升产品竞争力; 负责宿主机和客户机上Linux内核的性能优化和问题定位方面的工作。不过这个岗位对于应聘者的要求相对地比较高。
- 下一篇
腾讯官宣本周开启「混元 3D 开源日」
近日,腾讯混元宣布,分别在 3 月 18 日和 3 月 19 日两天(都为上午 11 时)开启「混元 3D 开源日」。 今年 1 月,腾讯混元宣布正式开源 3D 生成大模型 2.0 版本(Hunyuan3D-2.0),同时上线业界首个一站式 3D 内容 AI 创作引擎。 据官方介绍,Hunyuan3D-2.0 相较于 1.0 版本,在3D模型生成效果上有显著提升,在几何结构上更加精细,纹理色彩更加丰富;根据 CLIP Maximum Mean Discrepancy (CMMD)、Frechet Inception Distance (FID) 和 CLIP-score 指标,Hunyuan3D-2.0 模型的整体表现,在业界处于领先梯队。 而一同上线的腾讯混元 3D AI 创作引擎,可通过提示词或图片,直接生成高质量 3D 模型,并且还有 3D 功能矩阵、3D 编辑、3D 生成工作流、创作素材库等多种功能;混元 3D AI 创作引擎还支持设计 3D 生成工作流,用户只需要输入提示词,或上传图片,调整节点生成参数,即可一键生成具有特定风格和特征的 3D 资产。
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- Red5直播服务器,属于Java语言的直播服务器
- Linux系统CentOS6、CentOS7手动修改IP地址
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- SpringBoot2全家桶,快速入门学习开发网站教程
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长