TabbyML —— 自托管 AI 编程助手
Tabby 是自托管的 AI 编程助手,也是 GitHub Copilot 的开源、本地替代方案。
特点
- 自托管,不需要 DBMS 或云服务
- 用于可视化和配置模型和 MLOps 的 Web UI
- OpenAPI 接口,易于与现有的基础设施整合
- 消费者级别的 GPU 支持
演示
Docker
最简单的方法是使用 Docker 镜像:
# Create data dir and grant owner to 1000 (Tabby run as uid 1000 in container) mkdir -p data/hf_cache && chown -R 1000 data docker run \ -it --rm \ -v ./data:/data \ -v ./data/hf_cache:/home/app/.cache/huggingface \ -p 5000:5000 \ -e MODEL_NAME=TabbyML/J-350M \ tabbyml/tabby

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
每日一博 | 详解事务模式和 Lua 脚本,带你吃透 Redis 事务
摘要:Redis事务包含两种模式:事务模式和Lua脚本。 本文分享自华为云社区《一文讲透 Redis 事务》,作者: 勇哥java实战分享。 准确的讲,Redis事务包含两种模式:事务模式和Lua脚本。 先说结论: Redis的事务模式具备如下特点: 保证隔离性; 无法保证持久性; 具备了一定的原子性,但不支持回滚; 一致性的概念有分歧,假设在一致性的核心是约束的语意下,Redis 的事务可以保证一致性。 但Lua脚本更具备实用场景,它是另一种形式的事务,他具备一定的原子性,但脚本报错的情况下,事务并不会回滚。Lua脚本可以保证隔离性,而且可以完美的支持后面的步骤依赖前面步骤的结果。 Lua脚本模式的身影几乎无处不在,比如分布式锁、延迟队列、抢红包等场景。 1 事务原理 Redis的事务包含如下命令: 事务包含三个阶段: 事务开启,使用 MULTI , 该命令标志着执行该命令的客户端从非事务状态切换至事务状态 ; 命令入队,MULTI 开启事务之后,客户端的命令并不会被立即执行,而是放入一个事务队列 ; 执行事务或者丢弃。如果收到 EXEC 的命令,事务队列里的命令将会被执行 ,如果是...
- 下一篇
X.Org 基金离开 SPI ,转投 SFC 自由软件保护协会
经过社区成员的投票,X.Org 基金会将脱离公益软件协会 SPI 转到软件自由保护协会 SFC的旗下,由 SFC作为其财务赞助商及管理者。 公益软件协会 SPI 全称 Software in the Public Interest,起初是为了公开透明地对 Debian 项目进行捐赠而创建,现在已成为 40 多项自由和开源项目的财政赞助商,包括我们熟悉的 Arch Linux 、Debian 、Ffmpeg、PostgreSQL 等。 X.Org 基金会在 2016 年加入了 SPI ,但近年来基金会成员总觉得 SPI 处理事务的效率太慢(估计赞助的资金也不太充足),合作不愉快,想要寻找新的组织投靠。从X.Org 的会议记录也能看出成员的怨气: 而软件自由保护协会 SFC(Software Freedom Conservancy)一直是 X.Org 基金会的主要财政赞助商。作为最大的金主爸爸,SFC 一直希望 X.Org 基金会转投到自家名下。 在今年的 X.Org 董事会选举中,X.Org 基金会顺水推舟,对 “是否放弃 SPI ,转到 SFC 名下” 问题进行了社区全员投票。 投票结...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS7,CentOS8安装Elasticsearch6.8.6
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- Red5直播服务器,属于Java语言的直播服务器
- CentOS7设置SWAP分区,小内存服务器的救世主
- CentOS7安装Docker,走上虚拟化容器引擎之路
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- CentOS关闭SELinux安全模块
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- Linux系统CentOS6、CentOS7手动修改IP地址