TurboPilot —— AI 代码补全引擎
Turbopilot 是一个开源的基于大型语言模型的代码完成引擎，在 CPU 上本地运行。 具体来说，TurboPilot 是一个自托管的 GitHub copilot 克隆，它使用 llama.cpp 背后的库在 4GiB 的 RAM 中运行 60 亿参数的 Salesforce Codegen 模型。它很大程度上基于 fauxpilot 项目并受到其启发。 注意：项目处于概念验证阶段，而不是稳定的工具。在这个版本的项目中，自动补全功能非常慢。 开始 尝试该项目的最简单方法是获取预处理模型，然后在 docker 中运行服务器。 获取模型 有 2 个选项来获取模型 选项 A：直接下载 - 简单、快速入门 可以从 Google Drive 下载预转换、预量化的模型。项目组制作了具有 350M、2B 和 6B 参数的multi风味模型 - 这些模型在C、C++、Go、Java、JavaScript和Python上进行了预训练 选项 B：自己转换模型 - 困难，更灵活 如果想自己尝试量化模型，请遵循本指南。 运行 TurboPilot 服务器 下载最新的二进制文件并将其解压缩到根项目文件夹。...
