您现在的位置是:首页 > 文章详情

TabbyML —— 自托管 AI 编程助手

日期:2023-05-05点击:1416

Tabby 是自托管的 AI 编程助手,也是 GitHub Copilot 的开源、本地替代方案。

特点

  • 自托管,不需要 DBMS 或云服务
  • 用于可视化和配置模型和 MLOps 的 Web UI
  • OpenAPI 接口,易于与现有的基础设施整合
  • 消费者级别的 GPU 支持

演示

Docker

最简单的方法是使用 Docker 镜像:

 # Create data dir and grant owner to 1000 (Tabby run as uid 1000 in container) mkdir -p data/hf_cache && chown -R 1000 data docker run \ -it --rm \ -v ./data:/data \ -v ./data/hf_cache:/home/app/.cache/huggingface \ -p 5000:5000 \ -e MODEL_NAME=TabbyML/J-350M \ tabbyml/tabby
原文链接:https://www.oschina.net/p/tabbyml
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章