Hugging Face 牵头推动 Transformers 库模型架构标准化
Hugging Face 宣布联合多家机构推动将transformers
库作为模型架构标准,提升 AI 生态兼容性。
Hugging Face 表示正与 vLLM、LlamaCPP、SGLang、Mlx、Qwen、Glm、Unsloth、Axoloth、Deepspeed、IBM、Gemma、Llama、Deepseek、Microsoft、Nvidia、InternLM、Llava、AllenAI、Cohere、TogetherAI 等众多生态系统参与者共同努力,将 transformers
库中的模型定义代码作为标准,旨在为所有模型提供一个统一的真实来源。
Hugging Face 目前正在与最流行的推理引擎(vLLM、SGLang、TGI、...)紧密合作,让它们使用transformers
作为后端:只要模型被添加到transformers
,便支持在这些推理引擎中使用,同时利用每个引擎的优势:推理优化、专用内核、动态批处理等。
这项联合工作将极大地提高不同模型架构在整个 AI 生态系统中的兼容性和互操作性。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Dify.AI 开源两周年更新品牌形象,坚持“让每一个想法变成 AI Agent”的使命
开源 AI 应用开发平台 Dify.AI 迎来了两周年。在庆祝之际,Dify 发布了全新的品牌形象和外观。 Dify 的使命保持不变,即让每一个想法都能变成 AI Agent。新的品牌口号强调“如果”你能想到,通过 Dify 你就能构建它。
- 下一篇
NebulaGraph 图数据库开源六周年
2025 年 5 月 15 日,NebulaGraph 迎来开源六周年的里程碑。作为国产开源图数据库的标杆项目,回望 NebulaGraph 的六年发展历程,不仅是一部技术迭代的编年史,更是中国开源社区在全球基础软件领域崛起的缩影。 一、诞生:在数据关系的浪潮中扬帆起航 2018 年 8 月 31 日, @Sherman-the-tank 在 nebula 仓库中提出第一个 issue ‘Create a parser framework to process GQL.’ 2018 年 9 月 5 日, @dutor 提交了第一个 PR ‘Added some concurrent utilities, GenericThreadPool, etc.’ NebulaGraph PMC Sherman Ye 曾参与多个分布式数据库研发工作,当社交网络爆发式增长,引发数据关系挖掘需求井喷时,他敏锐地意识到:图数据库是表示和理解关系最天然的工具,然而当时的图数据库或受限于单机性能,或困于扩展性不足,难以承载千亿节点、万亿边级的超大规模数据。 “我们必须打造一款开源的、分布式的、支持线性...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2全家桶,快速入门学习开发网站教程
- CentOS8安装Docker,最新的服务器搭配容器使用
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- CentOS8编译安装MySQL8.0.19
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- Hadoop3单机部署,实现最简伪集群
- CentOS7设置SWAP分区,小内存服务器的救世主