1. 为什么我决定把补全后端从云端换到本地GitHub Copilot 能换成本地模型吗答案不是简单的“能”或“不能”而是取决于你想替换的是哪一层。Copilot 的官方插件本身是一个闭源客户端它把代码上下文发到云端由 Codex 系列模型生成补全再把结果推回编辑器。你能改的是“谁来当这个后端”。把后端换成 Ollama 拉起的 CodeLlama再配一个支持自定义 Base URL 的补全插件就能得到一套数据不出本机、断网也能用的本地化方案。我平时写 Python 和 TypeScript 比较多最早用 Copilot 确实爽Tab 一按整段函数就出来了。但有两个场景让我很难受一是出差在高铁上网络不稳补全转圈半天不出来二是公司内网项目代码片段外发这件事过不了合规。于是我开始折腾本地模型核心诉求就三条补全要能离线、代码别离开本机、切换模型别改一堆配置。这套方案适合谁适合对数据外发敏感、经常离线开发、或者想深度定制补全行为的开发者。如果你追求的是“开箱即用、效果拉满、零运维”那云端方案仍然更省心。本地化的代价是硬件投入和一点折腾成本但换来的是完全可控。下面我把从 Ollama 拉模型到 VS Code 接入的完整链路拆开讲每一步都能直接复制。先说清楚一个概念我们不是去“破解”Copilot 插件而是用 Continue 这类开源补全插件把它的后端指向本地 Ollama 服务。Copilot 的交互体验行内补全、侧边聊天Continue 基本都有模型换成 CodeLlama 后能力会有差距但日常补全够用。如果你还想保留云端模型作为补充可以用 TaoToken 统一管理 Key 和 API 通道本地和云端随时切。2. Ollama 安装与 CodeLlama 拉取本地补全后端怎么搭Ollama 是目前把本地大模型跑起来最省事的工具它帮你处理了模型下载、量化、推理服务暴露这些脏活。你只需要装好它然后一条命令拉模型。CodeLlama 是 Meta 开源的代码模型有 7B、13B、34B 几个尺寸还有专门的 Python 和 Instruct 版本。本地补全建议从 7B 起步显存 8GB 左右就能跑13B 需要 16GB 显存更稳。安装 Ollama 在 macOS 和 Linux 上就是一行脚本Windows 直接下安装包。装完后确认服务在跑ollama --version # 输出类似 ollama version 0.3.x然后拉取 CodeLlama。补全场景我推荐codellama:7b-code它是基础代码模型适合做行内补全如果你还要聊天问答可以再拉codellama:7b-instructollama pull codellama:7b-code # 拉取完成后本地会缓存后续离线可用拉完后直接跑一下确认模型能推理ollama run codellama:7b-code 写一个 Python 函数判断字符串是否为回文你会看到它流式输出代码。这里有个坑默认 Ollama 只监听127.0.0.1:11434本机插件访问没问题如果你想让局域网内其他机器也用需要设置OLLAMA_HOST0.0.0.0但注意这会把服务暴露出去内网也要做好访问控制。模型参数方面CodeLlama 的上下文窗口默认 4096补全场景够用。如果你想让补全更“贴上下文”可以在请求里调num_ctx但调大会吃显存。温度建议补全用低值0.1 到 0.2 之间太高会瞎编。这些参数在 Continue 的配置里可以逐模型设置下面会给完整片段。验证 Ollama 服务是否正常用 curl 打一下它的 APIcurl http://localhost:11434/api/tags # 返回 JSON列出本地已拉取的模型看到codellama:7b-code在列表里说明后端就绪。这一步是整个本地化的地基地基不稳后面插件连不上会报各种错。我试过在 16GB 内存的 Mac 上跑 7B 量化版补全延迟大概 1 到 2 秒能接受如果你有独显速度会明显更快。3. VS Code 接入配置Continue 指向本地 Ollama 的完整 settingsVS Code 本身不直接连 Ollama需要装一个支持自定义后端的补全插件。Continue 是开源里比较成熟的选择它支持 Ollama、OpenAI 兼容接口等多种 provider。装完插件后配置写在~/.continue/config.jsonmacOS/Linux或%USERPROFILE%\.continue\config.jsonWindows。这个文件是 JSON 格式路径和字段名要和插件版本一致下面这份可以直接改。{ models: [ { title: CodeLlama Local, provider: ollama, model: codellama:7b-code, apiBase: http://localhost:11434, contextLength: 4096, completionOptions: { temperature: 0.1, topP: 0.9, maxTokens: 256 } } ], tabAutocompleteModel: { title: CodeLlama Autocomplete, provider: ollama, model: codellama:7b-code, apiBase: http://localhost:11434 }, allowAnonymousTelemetry: false }这里三个关键点provider必须是ollamaapiBase指向本地 11434 端口tabAutocompleteModel单独指定行内补全用的模型。allowAnonymousTelemetry关掉避免任何外发。保存后重启 VS CodeContinue 侧边栏应该能看到 CodeLlama Local 这个模型。如果你还想同时保留云端模型比如用 TaoToken 统一管理云端 Key可以在models数组里再加一个 OpenAI 兼容的 provider把 Base URL 指向https://taotoken.net/apiKey 填你在控制台生成的。这样本地和云端模型在同一个下拉里切换不用改代码。TaoToken 的接入文档里有各语言的示例配置字段和 Continue 的 OpenAI provider 对得上。配置写完后VS Code 里按Cmd/CtrlShiftP打开命令面板运行Continue: Open Config能快速定位文件。改完记得看 Continue 的输出面板如果 provider 连不上会在这里报错。常见的是端口写错或 Ollama 没启动对照下一节的排错清单处理。4. 补全效果验证从请求到结果的完整链路检查配置好之后别急着写业务代码先做一次最小验证确认请求真的打到了本地。第一步在 VS Code 里新建一个test.py输入一个函数签名然后换行看有没有灰色补全提示。如果没有打开 Continue 的输出面板看日志。第二步直接用 curl 模拟插件的请求确认 Ollama 的补全接口返回正常curl http://localhost:11434/api/generate -d { model: codellama:7b-code, prompt: def add(a, b):\n return, stream: false, options: {temperature: 0.1} }返回 JSON 里的response字段应该包含a b之类的补全。如果这一步通了说明后端没问题问题在插件配置。第三步在 Continue 里测试聊天和编辑。选中一段代码让它解释或重构看是否走本地模型。你可以在 Continue 的输出里看到请求的 provider 和 model 名确认是ollama而不是别的。实测下来CodeLlama 7B 在 Python 和 JavaScript 的常见补全上表现还行简单函数、循环、条件判断基本能猜对复杂业务逻辑会弱一些偶尔生成不存在的 API。这是模型尺寸决定的不是配置问题。如果你对补全质量要求高可以换 13B 或试试 DeepSeek-CoderOllama 同样支持改一下model字段就行。响应速度方面本地补全的首 token 延迟取决于硬件。CPU 推理会慢GPU 快很多。你可以通过ollama ps看模型是否常驻显存。如果每次补全都重新加载模型延迟会很高设置OLLAMA_KEEP_ALIVE让模型常驻export OLLAMA_KEEP_ALIVE24h验证通过后你就有了一个完全本地的补全后端。接下来把它用起来同时知道出问题时去哪查。5. 常见报错排查401、local proxy failed 与 reading choices本地化过程中最容易卡在连接和鉴权上。下面这几个报错我都遇到过对照处理能省不少时间。报错一local proxy failed或连接被拒绝。这通常是 Ollama 没启动或者apiBase端口写错。先确认服务curl http://localhost:11434/api/tags如果 curl 都不通说明 Ollama 没跑起来重启它。如果 curl 通但插件报错检查config.json里的apiBase是不是http://localhost:11434注意不要多写/v1Ollama 的原生接口不带这个前缀。报错二401 Unauthorized。本地 Ollama 默认不需要 Key出现 401 多半是你把 provider 配成了 OpenAI 兼容模式却指向了需要鉴权的云端地址。如果你用 TaoToken 做云端通道Key 要填在对应 provider 的apiKey字段Base URL 用https://taotoken.net/api。本地模型和云端模型的配置要分开写别混在一个 provider 里。报错三reading choices或返回结构解析失败。这个报错说明插件按 OpenAI 的响应格式去解析但 Ollama 原生接口返回的字段名不一样。解决办法是确认 provider 选的是ollama而不是openai。如果你确实要用 OpenAI 兼容层Ollama 也提供了/v1/chat/completions接口但补全场景建议直接用原生 provider少一层转换少一个坑。报错四模型加载超时或显存不足。13B 模型在 8GB 显存上会 OOM。换 7B或者用codellama:7b-code-q4_0这类量化版本。Ollama 默认会选合适的量化但你可以显式指定。报错五补全不触发。检查 Continue 的tabAutocompleteModel是否配置以及 VS Code 里 Continue 插件是否启用。有时候是快捷键冲突或者文件类型不在补全范围内。排查顺序建议先 curl 后端再查插件日志最后看模型是否加载。把这三层分开定位会快很多。如果你同时用云端和本地记得在 Continue 里确认当前选中的是哪个模型避免以为在用本地其实走了云端。6. 本地与云端统一管理用 TaoToken 打通 Key 与 API 通道纯本地方案有个现实问题CodeLlama 7B 的能力上限摆在那遇到复杂重构或跨文件理解还是得靠更强的云端模型。这时候如果本地一套配置、云端一套 Key切换起来很烦。我的做法是用 TaoToken 做统一的 API 通道管理本地 Ollama 走 localhost云端模型走 TaoToken 的兼容接口两边在 Continue 里并列成两个模型项下拉即切。TaoToken 的接入地址是https://taotoken.net/api你需要在控制台生成 API Key。然后在 Continue 的config.json里加一个 OpenAI 兼容的 provider{ title: Cloud Model via TaoToken, provider: openai, model: claude-3-5-sonnet, apiBase: https://taotoken.net/api, apiKey: 你的_TaoToken_Key }这样配置后Continue 的模型下拉里会同时出现CodeLlama Local和Cloud Model via TaoToken。写日常补全用本地省钱又私密遇到难题切云端能力拉满。Key 只在 TaoToken 控制台管理不用散落在多个配置文件里。如果你用 Claude Code 这类命令行工具TaoToken 也支持通过环境变量接入。设置ANTHROPIC_BASE_URL指向 TaoToken 的兼容端点ANTHROPIC_API_KEY填你的 Key就能在终端里用云端模型做代码生成。本地 Ollama 和云端通道各司其职互不干扰。需要提醒的是本地模型和云端模型的上下文长度、计费方式不同。本地 Ollama 不花钱但吃硬件云端按 token 计费但能力强。你可以根据任务类型决定用哪个补全、格式化、写注释走本地架构设计、复杂调试走云端。这种混合模式比死守一种方案灵活得多。最后给一个实用技巧把 Continue 的配置纳入 dotfiles 管理换机器时直接同步。Ollama 的模型缓存目录也可以迁移避免重复下载。本地化的核心不是“完全抛弃云端”而是“把数据敏感和高频的补全留在本地把重活交给云端”两者用统一的 Key 通道串起来才是可持续的工程方案。