FauxPilot

FauxPilot 是什么？

FauxPilot 是一个开源项目，提供了 GitHub Copilot 的自托管替代方案。它允许开发人员和组织在自己的基础设施上运行强大的 AI 代码补全服务。这种方法可确保您的代码保持私密，永远不会发送到第三方服务器，从而解决了与基于云的 AI 助手相关的主要隐私和安全问题。该系统利用在 NVIDIA Triton 推理服务器上运行的 Salesforce CodeGen 模型，直接在您的 IDE 中提供具有上下文感知能力的代码建议。

主要特点

• 自托管和私密： 将您的代码库完全保留在您自己的网络中。任何数据都不会传输到外部服务。
• 开源： 在 MIT 许可下免费使用、修改和分发。唯一的成本是运行服务所需的硬件。
• VS Code 集成： 通过配置官方的 GitHub Copilot 扩展以指向您的本地 FauxPilot 服务器，与 Visual Studio Code 无缝集成。
• 强大的 AI 模型： 利用来自 Salesforce 的预训练 CodeGen 模型，这些模型专为多种编程语言的代码生成任务而设计。
• 可扩展的模型支持： 支持各种 CodeGen 模型大小（例如 350M、2B、6B、16B），允许您根据硬件能力平衡性能和资源消耗。

使用案例

• 安全的企业开发： 企业可以为其开发人员提供 AI 编码辅助，而不会有暴露专有代码的风险。
• 注重隐私的个人： 不愿意将代码发送到云端的开发人员可以保持完全的隐私。
• 离线编码： 可以在本地网络上运行，在没有互联网接入的环境中实现由 AI 驱动的代码补全。
• 定制与研究： 为研究人员和爱好者提供了一个基础，以便在 AI 代码生成模型上进行实验和构建。

入门指南

要开始使用 FauxPilot，您需要一台配备 Docker、Docker Compose 和 NVIDIA GPU 的机器。设置过程包括克隆存储库并运行设置脚本。

1. 克隆存储库：

   git clone https://github.com/fauxpilot/fauxpilot.git
   cd fauxpilot
   

2. 运行设置脚本： 此脚本将下载必要的 CodeGen 模型并配置环境。您可以选择模型大小。例如，要使用 2B 参数模型：

   ./setup.sh 2B
   

3. 启动服务器：

   docker-compose up -d
   

4. 配置 VS Code：
   • 安装官方的 GitHub Copilot 扩展。
   • 打开 VS Code 设置 (JSON) 并添加以下行，以将扩展重定向到您的本地 FauxPilot 实例：

     "github.copilot.advanced": {
       "authProvider": "github-enterprise",
       "auth.githubEnterprise": {
           "host": "127.0.0.1:5000",
           "token": "1"
       }
     }
     

   • 重新加载 VS Code，它将开始从您的自托管服务器获取建议。

定价

FauxPilot 是完全免费和开源的。主要成本与运行推理服务器所需的硬件相关，特别是一个功能强大的 NVIDIA GPU，其 VRAM 需足以支持所选的语言模型。