1. 现象拆解中文提问英文思考到底发生了什么第一次撞见这个现象的人反应基本都一样明明用中文问的问题模型在“思考”阶段噼里啪啦吐出一大段英文最后给出的答案又是中文。有人怀疑是模型没学好中文有人怀疑是系统提示词写错了还有人干脆认为这是某种“内部机制泄露”。先把结论摆在前面这大概率不是 bug而是模型在推理阶段的一种自然行为背后牵扯到训练数据分布、系统提示词设计、Token 效率、以及 Agent 框架对思考过程的处理方式这几件事。理解清楚这几层你就能判断自己遇到的是正常现象、配置问题还是真的踩到了坑。这个现象最典型的触发场景有三类。第一类是带思考链的推理模型比如各类带 thinking 模式的模型你问一个需要多步推理的问题它会先输出一段“思考内容”再输出正式回答。第二类是 Agent 框架比如你在自己搭的 agent 里让模型先规划再执行规划那一步经常是英文。第三类是系统提示词里混入了英文模板模型顺着模板的语言往下走。适合读这篇的人包括正在做 AI 应用开发、调 Agent 的工程师写系统提示词的产品和运营以及单纯好奇“模型脑子里在想什么”的重度用户。不管你是哪一类读完应该能自己判断我这次遇到的英文思考是该改提示词还是该调参数还是根本不用管。2. 为什么模型“一想事情就切英文”2.1 训练数据里推理类文本英文占比更高大模型的预训练语料是一个巨大的混合体。中文语料在总量上不少但在“结构化推理”“分步骤论证”“代码与逻辑推导”这类特定文本类型里英文的占比明显更高。学术论文、技术文档、开源代码注释、Stack Overflow 问答、教科书习题解答这些恰恰是模型学习“怎么一步步想问题”的主要素材来源。你可以把模型想象成一个读过海量书的人。它读过的“教人怎么推理”的书绝大多数是英文写的它读过的中文书里叙事、抒情、日常对话居多专门讲“第一步第二步第三步”的偏少。所以当它被要求“展示你的思考过程”时它下意识调用的就是那批英文推理素材的表达模式。这不是说模型的中文推理能力差。你让它直接用中文回答它照样能答得很好。区别在于“思考”这个动作本身在它的参数里和英文的关联度更高。一旦进入显式的、需要展开的推理模式英文就成了默认通道。2.2 系统提示词里的英文模板在“带节奏”很多推理模型和 Agent 框架的系统提示词是英文写的。比如常见的结构是“You are a helpful assistant. Think step by step before answering.” 或者 Agent 框架里的 “First, analyze the task. Then, plan your actions.”模型对系统提示词的语言非常敏感。系统提示词用什么语言模型的“内部独白”往往就跟什么语言。这不是硬性规则而是一种强烈的倾向。你在系统提示词里写英文的思考指令却期望它用中文思考本身就是在给它制造语言冲突。更隐蔽的一种情况是系统提示词是中文的但里面嵌了英文的格式标记比如thinking、plan、Step 1:这类标签。模型看到这些英文标签很容易把标签内的内容也一并切成英文。2.3 Token 效率英文在推理场景下更“省”这一点很多人没意识到。同样一个意思英文的 Token 数往往比中文少。中文一个字通常对应 1 到 2 个 Token而英文一个常见单词也就 1 到 2 个 Token但一个英文单词承载的信息量在推理场景下经常更大。举个粗略的例子。“因为所以”这四个字中文大概 4 个 Token英文 “therefore” 一个词1 到 2 个 Token。在需要大量逻辑连接词的推理过程中英文在 Token 消耗上有天然优势。模型在生成思考内容时如果它的解码策略倾向于“用更少的 Token 完成推理”它就会偏向英文。这跟成本直接挂钩。思考内容也是要计费的思考越长Token 用量越大。有些模型在训练时就被优化过“推理效率”英文思考某种程度上是这种优化的副产品。2.4 思考过程和最终回答是两套“输出通道”这是理解整个现象最关键的一点。带思考模式的模型输出通常分成两段一段是思考内容一段是正式回答。这两段在模型内部并不是完全一样的处理逻辑。思考内容更像是模型的“草稿纸”它的目标是帮模型自己理清思路而不是给用户看。正式回答才是面向用户的会严格遵循用户的语言和系统提示词里的输出要求。所以你会看到草稿纸上写英文正式答卷写中文。模型并不觉得这有什么矛盾因为这两段本来就有不同的“读者”。Agent 框架里也是同理。规划阶段是给框架自己看的执行阶段才是给用户看的。规划用英文执行用中文在框架设计者眼里是合理的。3. 系统提示词、Token 与 Agent 的三角关系3.1 系统提示词怎么影响思考语言系统提示词对思考语言的影响比大多数人想的要大。我做过一组对比测试同一个问题只改系统提示词的语言思考语言就跟着变。系统提示词写法思考语言倾向正式回答语言全中文明确要求中文思考中文为主中文全中文未提思考语言中英混杂中文英文思考指令 中文输出要求英文为主中文全英文英文英文从这张表能看出来如果你在意思考语言就必须在系统提示词里显式约束。不写模型就按自己的倾向走写了英文思考指令就别怪它用英文想。实操上如果你希望思考也用中文可以在系统提示词里加一句类似“请始终使用中文进行思考和回答包括你的推理过程”。注意要明确说“包括推理过程”只说“用中文回答”往往管不住思考段。3.2 Token 用量与思考长度的权衡思考内容是要消耗 Token 的。一个复杂问题思考段可能几百到几千 Token。如果你用的是按 Token 计费的接口思考越长账单越高。这里有个常见的误区有人为了省钱把思考长度压到很短结果模型推理不充分答案质量下降。也有人放任思考无限长账单爆炸。合理的做法是给思考设一个预算上限比如 512 或 1024 Token让模型在这个范围内完成推理。英文思考在这个背景下有个副作用它可能让思考段更短从而更省 Token但代价是思考语言和用户语言不一致可读性差。如果你不需要看思考过程这其实无所谓如果你需要审查思考过程那就得权衡。3.3 Agent 框架里的思考语言处理Agent 框架对思考语言的处理各家做法不一样。有的框架会把思考内容直接透传给用户有的会过滤掉有的会做语言转换。如果你在自建 Agent建议在框架层面做一件事把“思考语言”和“输出语言”当成两个独立配置项。思考语言可以跟随模型默认输出语言强制跟随用户。这样既不影响模型推理效率也不影响用户体验。另外Agent 的多步规划里中间步骤的语言往往和最终输出不一致。这不是问题只要最终交付给用户的内容语言正确就行。但如果你要把中间步骤展示给用户看那就得在框架里加一层处理。4. 实操怎么控制思考语言4.1 方法一系统提示词显式约束最直接的办法。在系统提示词里写清楚思考语言要求。示例你是一个中文助手。在回答任何问题前请先使用中文进行思考和分析。 你的思考过程必须使用中文最终回答也必须使用中文。关键点是“思考过程必须使用中文”这句不能省。只写“用中文回答”模型可能只约束最终输出。实测下来这个方法对大多数模型有效但不是 100%。有些模型在遇到复杂推理时还是会不自觉地切回英文。这时候需要配合下面的方法。4.2 方法二用 few-shot 示例锚定语言在系统提示词里给一两个示例展示“中文思考 中文回答”的完整格式。模型对示例的模仿能力很强看到示例是中文思考它跟着用中文的概率会大幅提升。示例可以这样写用户3 加 5 等于几 助手思考这是一个简单的加法问题我需要把 3 和 5 相加。 助手回答3 加 5 等于 8。这种 few-shot 锚定的效果通常比单纯的语言指令更稳因为它给了模型一个具体的模仿对象。4.3 方法三框架层做语言后处理如果你控制不了模型行为或者模型就是不听话那就在框架层兜底。具体做法是拦截思考内容检测语言如果是英文且你要求中文就做一次翻译或重新生成。这个方法的成本是要多一次模型调用或翻译调用。适合对思考语言有硬性要求的场景比如要把思考过程展示给用户看的产品。4.4 方法四接受它只约束输出最省事的办法其实是不管思考用什么语言只保证最终输出是中文。对绝大多数应用来说思考过程用户根本看不到纠结它用什么语言没有实际收益。我个人的建议是除非你要展示思考过程否则不要在思考语言上浪费精力。把约束放在输出语言上性价比最高。5. 常见问题与排查速查5.1 思考语言相关的典型问题现象可能原因排查方向思考全英文回答中文系统提示词含英文思考指令检查系统提示词语言思考中英混杂未显式约束思考语言加中文思考指令或 few-shot思考英文且回答也英文系统提示词或用户输入是英文检查输入语言和输出约束思考语言随机切换模型本身语言倾向不稳定用 few-shot 锚定或框架兜底思考过长导致 Token 超限未设思考预算设置思考 Token 上限5.2 排查顺序建议遇到思考语言问题按这个顺序排查先看系统提示词再看用户输入语言再看模型本身的默认行为最后看框架有没有做语言处理。大部分问题在前两步就能定位。5.3 几个容易踩的坑第一个坑以为改了用户输入语言就能改思考语言。实际上系统提示词的影响更大。第二个坑在系统提示词里混用中英文标签。比如中文指令里嵌thinking标签容易让模型把标签内容也切成英文。要么全中文标签要么接受英文思考。第三个坑把思考语言问题当成模型能力问题。大多数情况下模型中文推理没问题只是“默认通道”是英文。约束一下就好不用换模型。6. 我自己的处理经验和几个实用建议调这类问题调多了我慢慢形成一个习惯先问自己“思考过程要不要给用户看”。要展示就花力气约束语言不展示就只约束输出思考爱用什么语言用什么语言。另一个体会是系统提示词里的语言一致性比想象中重要。你写提示词的时候尽量保持一种语言贯穿到底别中英夹杂。中英夹杂的提示词模型的行为也会中英夹杂。还有一点思考预算这个参数值得花时间调。设得太小推理不充分设得太大浪费 Token。我一般从 512 开始试根据任务复杂度往上加。复杂任务给到 1024 到 2048简单任务 256 就够。最后分享一个判断技巧如果你发现模型思考用英文但回答质量很好那基本不用管如果思考用英文且回答也开始跑偏那就要检查系统提示词和输出约束了。语言跑偏往往是更深层配置问题的表面症状。