xinference 0.13.0 版本发布
🎉 Xinference v0.13.0 正式发布!Apple M系列专用后端 MLX 来临,Mac 上加速高达 40% 🚀。目前已支持 qwen2 和 gemma-2。阿里云镜像也如约而至,且容量大幅缩减,解决大家在国内拉取 docker 的痛点。详细更新内容如下:
- 新增内置支持模型 📦
- qwen2 gguf格式 📝
- gemma-2-it 💻
- 新功能 🚀
- transformers推理后端支持开启continuous batching(连续批处理),优化LLM同时服务多请求的吞吐。支持generate / chat / vision任务,欢迎试用。详见:https://inference.readthedocs.io/zh-cn/latest/user_guide/continuous_batching.html 📊
- 支持mac arm芯片平台下的高速推理引擎MLX
- 官方GPU镜像以vllm镜像为基础进行重构。大幅减少镜像体积,要求宿主机cuda版本12.4+和nvidia驱动版本550+。详见:https://inference.readthedocs.io/zh-cn/latest/getting_started/using_docker_image.html 🎥
- 官方镜像支持从阿里云服务中拉取。详见:https://inference.readthedocs.io/zh-cn/latest/getting_started/using_docker_image.html ☁️
- 新增更多日志模块。现在与请求相关的详细的uvicorn日志将被记录在日志文件中,同时transformers和vllm在命令行和文件中也会有更详细的日志 📑
- BUG修复 🐛
- 修复glm4 tool call的问题 🔧
- 修复rerank接口curl和python客户端返回documents行为不一致的问题 📜
- 更新glm4v模型的版本号,修复多GPU使用等若干问题。已下载的用户删除后重新下载即可 🔄
- 修复LLM为基础的rerank计算报错的问题 💡
- 修复deepseek-vl-chat模型缺少依赖的问题 🔗
- UI相关 💻
- 优化鉴权模式下的使用体验 🔐

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Diboot 低代码 v2.11.0 发布,带来系列优化与更新
这是v2.x的优化累积升级版本,包括一些重要优化、依赖更新、bugfix 等 内核 diboot-core & core starter v2.11.0 优化: 字典选项数据查询支持缓存(默认内存缓存,启用Redis则使用Redis缓存) 优化字段名转列名映射,支持连续大写命名的模糊匹配 优化BindCount赋值逻辑,无count值时设置为0 Bugfix: 修复 isSimpleClassType 可能触发NPE的问题 fix 修复PropInfo初始化字段错误 修复 DynamicQueryMapper跳过数据访问控制的问题 fix 修复SqlExecutor在事务中使用导致链接关闭 升级: 升级依赖至最新(Spring boot v2.7.18,Mybatis-plus v3.5.7) IAM组件 diboot-IAM starter v2.11.0 优化: 升级依赖版本:shiro 至 v1.13.0 等 定时任务组件 diboot-scheduler starter v2.11.0 优化: 组件初始化SQL时自动写入定时相关字典数据 优化定时任务加载失败抛出堆栈异常...
- 下一篇
新增多种图表类型,新增插件管理模块,DataEase 开源数据可视化分析工具 v2.8.0 发布
2024年7月8日,人人可用的开源数据可视化分析工具DataEase正式发布v2.8.0版本。 这一版本的功能变动包括:图表方面,新增组合图、热力地图、符号地图、K线图等图表类型,并对已有的仪表盘、明细表、指标卡、富文本等图表类型进行了功能增强和优化;仪表板和数据大屏方面,新增一键全屏预览和大屏刻度尺功能,分享链接支持Ticket设置。 X-Pack增强包方面,新增插件管理模块,支持自定义图表插件和数据源插件;CAS(Central Authentication Service,即中央认证服务)新增支持https模式;定时报告中支持使用过滤组件功能。 新增功能 ■ 图表:支持分组柱线组合图、堆叠柱线组合图、热力地图、符号地图和K线图 DataEase v2.8.0版本中新增分组柱线组合图、堆叠柱线组合图、热力地图、符号地图和K线图。DataEase正在持续丰富图表图库,增强数据的展示能力,为数据在对比、空间、分布等场景下的呈现提供更多的选择。 ▲ 图1 分组柱线组合图、堆叠柱线组合图、热力地图、符号地图、K线图编辑页面 ■ 仪表板和数据大屏:支持全屏预览和大屏刻度尺 在DataEase...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2初体验,简单认识spring boot2并且搭建基础工程
- CentOS8安装Docker,最新的服务器搭配容器使用
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- CentOS7,8上快速安装Gitea,搭建Git服务器
- 设置Eclipse缩进为4个空格,增强代码规范
- SpringBoot2全家桶,快速入门学习开发网站教程
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Red5直播服务器,属于Java语言的直播服务器
- Docker安装Oracle12C,快速搭建Oracle学习环境