您现在的位置是:首页 > 文章详情

xinference 0.13.0 版本发布

日期:2024-07-08点击:278

🎉 Xinference v0.13.0 正式发布!Apple M系列专用后端 MLX 来临,Mac 上加速高达 40% 🚀。目前已支持 qwen2 gemma-2。阿里云镜像也如约而至,且容量大幅缩减,解决大家在国内拉取 docker 的痛点。详细更新内容如下:

- 新增内置支持模型 📦
 
- qwen2 gguf格式 📝
 
- gemma-2-it 💻

- 新功能 🚀
    - transformers推理后端支持开启continuous batching(连续批处理),优化LLM同时服务多请求的吞吐。支持generate / chat / vision任务,欢迎试用。详见:https://inference.readthedocs.io/zh-cn/latest/user_guide/continuous_batching.html 📊
    - 支持mac arm芯片平台下的高速推理引擎MLX
    - 官方GPU镜像以vllm镜像为基础进行重构。大幅减少镜像体积,要求宿主机cuda版本12.4+nvidia驱动版本550+。详见:https://inference.readthedocs.io/zh-cn/latest/getting_started/using_docker_image.html 🎥
    - 官方镜像支持从阿里云服务中拉取。详见:https://inference.readthedocs.io/zh-cn/latest/getting_started/using_docker_image.html ☁️
    -
新增更多日志模块。现在与请求相关的详细的uvicorn日志将被记录在日志文件中,同时transformersvllm在命令行和文件中也会有更详细的日志 📑

- BUG修复 🐛
 
- 修复glm4 tool call的问题 🔧
 
- 修复rerank接口curlpython客户端返回documents行为不一致的问题 📜
  - 更新glm4v模型的版本号,修复多GPU使用等若干问题。已下载的用户删除后重新下载即可 🔄
 
- 修复LLM为基础的rerank计算报错的问题 💡
 
- 修复deepseek-vl-chat模型缺少依赖的问题 🔗

- UI相关 💻
    -
优化鉴权模式下的使用体验 🔐

原文链接:https://www.oschina.net/news/301038/xinference-0-13-0
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章