您现在的位置是:首页 > 文章详情

Hugging Face 牵头推动 Transformers 库模型架构标准化

日期:2025-05-16点击:36

Hugging Face 宣布联合多家机构推动将transformers库作为模型架构标准,提升 AI 生态兼容性。

Hugging Face 表示正与 vLLM、LlamaCPP、SGLang、Mlx、Qwen、Glm、Unsloth、Axoloth、Deepspeed、IBM、Gemma、Llama、Deepseek、Microsoft、Nvidia、InternLM、Llava、AllenAI、Cohere、TogetherAI 等众多生态系统参与者共同努力,将 transformers 库中的模型定义代码作为标准,旨在为所有模型提供一个统一的真实来源。

Hugging Face 目前正在与最流行的推理引擎(vLLM、SGLang、TGI、...)紧密合作,让它们使用transformers作为后端:只要模型被添加到transformers,便支持在这些推理引擎中使用,同时利用每个引擎的优势:推理优化、专用内核、动态批处理等。

这项联合工作将极大地提高不同模型架构在整个 AI 生态系统中的兼容性和互操作性。

原文链接:https://www.oschina.net/news/350188/huggingface-transformers-model-definition
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章