Xinference v0.13.1 正式发布！一键部署，智能新篇！

Xorbits Inference（Xinference）是一个 性能强大且功能全面的 分布式 推理框架。可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。通过 Xorbits Inference，你可以轻松地 一键部署你自己的模型或内置的前沿开源模型 - https://github.com/xorbitsai/inference。无论你是研究者，开发者，或是数据科学家，都可以通过 Xorbits Inference 与最前沿的 AI 模型，发掘更多可能。

 

Xinference的功能和亮点有：

 

 

🎉 Xinference快速迭代，v0.13.0 已正式发布！！！Apple M系列专用后端 MLX 来临，Mac 上加速高达 40% 🚀。目前已支持 qwen2 和 gemma-2。阿里云镜像也如约而至，且容量大幅缩减，解决大家在国内拉取 docker 的痛点。详细更新内容如下：

新增内置支持模型 📦

• qwen2 gguf格式 📝
• gemma-2-it 💻

新功能 🚀

• transformers推理后端支持开启continuous batching(连续批处理)，优化LLM同时服务多请求的吞吐。支持generate / chat / vision任务，欢迎试用。详见：https://inference.readthedocs.io/zh-cn/latest/user_guide/continuous_batching.html 📊
• 支持mac arm芯片平台下的高速推理引擎MLX 🍏
• 官方GPU镜像以vllm镜像为基础进行重构。大幅减少镜像体积，要求宿主机cuda版本12.4+和nvidia驱动版本550+。详见：https://inference.readthedocs.io/zh-cn/latest/getting_started/using_docker_image.html 🎥
• 官方镜像支持从阿里云服务中拉取。详见：https://inference.readthedocs.io/zh-cn/latest/getting_started/using_docker_image.html ☁️
• 新增更多日志模块。现在与请求相关的详细的uvicorn日志将被记录在日志文件中，同时transformers和vllm在命令行和文件中也会有更详细的日志 📑

BUG修复 🐛

• 修复glm4 tool call的问题 🔧
• 修复rerank接口curl和python客户端返回documents行为不一致的问题 📜
• 更新glm4v模型的版本号，修复多GPU使用等若干问题。已下载的用户删除后重新下载即可 🔄
• 修复LLM为基础的rerank计算报错的问题 💡
• 修复deepseek-vl-chat模型缺少依赖的问题 🔗

UI相关 💻
优化鉴权模式下的使用体验 🔐

我们感谢每一位参与的社区伙伴对Xinference的帮助和支持，也欢迎更多使用者和开发者参与体验和使用Xinference。https://github.com/xorbitsai/inference 给我们一个星标，遮掩给你就可以在GitHub上及时收到每个新版本的通知。