1. 从突然飙英语这个现象说起如果你最近频繁使用各类大语言模型尤其是带深度思考或推理模式的模型大概率遇到过这样一个场景你明明用中文提问模型在给出最终答案之前那段思考过程里却突然蹦出一大段英文甚至整段推理都是英文的最后才用中文给你总结。第一次看到的时候很多人会愣一下——是我哪里设置错了还是模型精神分裂了这个现象在开发者圈子里讨论度非常高尤其是做 Agent 开发、提示词工程、模型评测的同学几乎天天都能碰到。它不是一个 bug也不是模型崇洋媚外而是背后有一整套关于训练数据、Token 效率、系统提示词、推理机制的逻辑在起作用。我前后在几个不同的模型上做过对比测试也翻过不少公开的技术讨论今天就把这件事从头到尾拆开讲清楚。这篇文章适合三类人看一是日常用 AI 但被这个现象搞懵的普通用户二是正在做 Agent、提示词、模型微调的开发者三是对大模型推理机制好奇、想搞明白思考链到底怎么跑的技术爱好者。我会尽量用大白话把原理讲透同时给出可以直接上手验证的方法和实操建议让你不仅知道为什么会这样还知道遇到这种情况该怎么办。先给一个最朴素的结论模型思考时说英语绝大多数情况下是训练分布 Token 效率 系统提示词三者共同作用的结果而不是模型坏了。下面我们一层一层剥开。2. 思考链里的语言和最终回答的语言是两套逻辑2.1 最终回答面向你思考过程面向模型自己很多人下意识地认为模型的思考过程和最终回答是一回事只是前者更啰嗦。其实不是。你可以把最终回答理解成交付物它是给用户看的所以必须符合你的语言习惯、格式要求、语气偏好。而思考过程更像是草稿纸是模型在内部做推理、试错、自我检查时留下的痕迹。草稿纸用什么语言写取决于哪个语言写起来更省力、更不容易出错。这就像你让一个中英双语的人做一道复杂数学题他可能心算的时候用英文因为公式、术语在英文语境里更顺但给你讲答案的时候用中文。模型也是类似的道理只不过它的顺是由训练数据分布和 Token 切分方式决定的。这里有个关键点思考链Chain of Thought在训练阶段本身就是以英文语料为主的。大量公开的推理数据集、数学题解、代码注释、学术推导英文占比极高。模型在学习如何一步步推理这件事时看到的示范大多是英文的。所以当它被要求展示思考过程时最自然的延续就是英文。2.2 系统提示词决定了思考这个动作被不被触发现在很多模型有思考模式开关或者通过系统提示词来引导。比如你在系统提示词里写请一步步思考、先分析再回答模型就会进入一个显式的推理流程。这个流程一旦被激活它内部会倾向于调用训练时最擅长的推理模式而那个模式的语言基底往往是英文。我实测过一个很有意思的对比同一个问题不加任何请思考的引导模型直接用中文回答全程中文一旦加上请详细推理思考段立刻切成英文。这说明触发思考这个动作本身就会把模型推向它推理能力最强的语言通道。提示如果你希望思考过程也用中文光在用户提问里写用中文思考往往不够因为系统提示词的优先级更高而且模型对思考语言的控制能力远弱于回答语言的控制能力。2.3 一个容易被忽略的事实模型没有语言这个概念从模型的角度看它处理的不是中文或英文而是 Token 序列。所谓说英语只是它生成的 Token 恰好拼成了英文单词。模型在训练时见过海量中英混合、多语言混杂的文本它学到的是在什么上下文下下一个 Token 最可能是什么。当上下文进入推理模式时统计上最可能接续的 Token 分布就偏向了英文。理解了这一点你就不会再把思考说英语当成一个道德问题或设置问题而是一个纯粹的概率与分布问题。这也解释了为什么不同模型表现不一样训练数据里中文推理语料多的模型思考时中文比例就高反之则低。3. Token 效率为什么英文在推理时更划算3.1 同样一句话中英文的 Token 数差多少这是理解整个现象最硬核的一环。大模型的计费、上下文窗口、推理速度全都跟 Token 数挂钩。而中文和英文在 Token 化之后长度差异非常明显。举个直观的例子。中文人工智能正在改变世界这句话在不同分词器下大约是 8 到 12 个 Token。对应的英文Artificial intelligence is changing the world大约是 7 到 9 个 Token。看起来差不多但放到复杂推理场景里差距会被放大。原因在于英文单词在词表里往往是完整的一个 Token而中文常常需要多个 Token 才能表示一个词。尤其是专业术语、数学符号、代码片段英文的 Token 效率通常更高。模型在做长链条推理时每一步都要消耗 Token如果英文能用更少的 Token 表达同样的逻辑那它在思考预算有限的情况下自然会偏向英文。表达内容中文大致 Token 数英文大致 Token 数差异简单日常句10 到 158 到 12英文略省数学推导步骤20 到 3012 到 18英文明显省代码逻辑描述25 到 4015 到 25英文优势大专业术语密集段30 到 5018 到 30英文优势大这张表是经验值不同模型的分词器会有出入但趋势是一致的越偏向逻辑、术语、代码英文的 Token 效率优势越明显。3.2 思考预算有限时模型会挑省的说现在很多模型有思考预算的概念也就是限制思考阶段能用的 Token 总量。这个设计是为了控制成本和延迟。当预算有限时模型在生成思考内容时会倾向于选择单位 Token 信息密度更高的表达方式。英文在推理场景下恰好符合这个特点所以它就成了默认选择。你可以这样理解给模型 500 个 Token 去思考用中文可能只能推 5 步用英文能推 8 步。模型为了把问题想清楚自然会选能推更多步的那个语言。这不是它喜欢英文而是它在预算约束下的最优解。3.3 分词器设计的历史包袱还有一个绕不开的历史原因主流大模型的分词器比如 BPE 系列最早是为英文设计的后来才扩展到多语言。这导致中文在词表里的覆盖不如英文精细很多中文词被拆成多个 Token。虽然新一代模型在中文分词上做了优化但英文的 Token 效率优势依然存在尤其是在推理这种对效率敏感的场景。注意Token 效率不是唯一因素但它是最容易被量化、也最容易被验证的因素。如果你想自己验证可以拿同一段逻辑分别用中英文写然后看 API 返回的 Token 计数差距一目了然。4. 训练数据的隐形偏好推理语料以英文为主4.1 公开推理数据集的英文占比如果你去翻公开的推理类数据集比如数学题解、代码推理、逻辑推导会发现英文内容占了绝大多数。这不是偶然而是因为过去几年英文互联网在技术、学术、开源社区的内容产出上体量更大。模型在学习如何推理时看到的示范大多是英文的所以它模仿出来的推理过程也偏英文。这一点在数学和代码任务上尤其明显。你让模型解一道方程它的思考过程经常是英文的因为训练数据里英文的解题步骤最多、最规范。而如果是一个纯中文语境的生活问题比如帮我写个春节祝福它的思考过程反而可能是中文的因为这类语料中文更丰富。4.2 微调阶段的语言对齐在模型微调SFT和人类反馈对齐RLHF阶段很多团队会刻意让最终回答符合目标语言但对思考过程的语言约束相对宽松。原因很简单思考过程本来就不直接面向用户约束它的语言收益不大反而可能损害推理质量。所以你会看到一种分裂回答是标准中文思考是英文。这种设计是有意为之的。如果强行要求思考也用中文模型可能会因为中文推理语料不足而降低推理准确率。很多团队在权衡之后选择牺牲思考语言的一致性保住推理质量。4.3 多语言模型的语言漂移还有一个现象叫语言漂移在多语言模型里当上下文足够复杂、足够长时模型可能会从一种语言漂移到另一种语言。这在思考链里特别常见因为思考链往往很长、很复杂模型在生成过程中容易滑到它更擅长的语言通道。我做过一个测试用中文问一个复杂的算法问题模型思考到一半突然切成英文然后英文推理了几百 Token最后又切回中文给结论。整个过程没有任何提示词干预完全是模型自发的。这说明语言漂移是模型内部机制的自然结果不是外部触发。5. 系统提示词怎么写才能管住思考语言5.1 为什么直接写用中文思考经常失效很多人第一反应是在提示词里加一句请用中文思考。实测下来这句话的效果很不稳定。原因有三一是系统提示词的优先级和位置会影响效果二是模型对思考语言的控制能力本来就弱三是如果模型内部已经进入英文推理通道一句提示很难把它拉回来。更麻烦的是有些模型的思考过程是半隐藏的你甚至看不到它用什么语言思考只能看到最终回答。这种情况下你写什么提示词都管不了思考语言。5.2 有效的提示词写法经过多次测试我发现以下几种写法相对有效但要注意没有一种是 100% 稳定的在系统提示词开头就声明语言约束而不是放在末尾。位置越靠前影响越大。同时约束思考和回答比如无论思考还是回答都使用简体中文。给出理由比如请全程使用简体中文因为最终用户只懂中文。模型对带理由的指令遵循度更高。用结构化格式比如在系统提示词里明确写思考语言中文回答语言中文。即便如此复杂推理任务下仍可能出现英文思考。这时候不要跟模型较劲接受思考英文、回答中文这个组合往往是最省心的方案。5.3 一个可复用的系统提示词模板下面这个模板是我在实际项目里用得比较顺的你可以直接抄你是一个严谨的助手。请遵守以下规则 1. 无论内部思考还是最终回答都优先使用简体中文。 2. 如果某些专业术语、公式、代码必须用英文表达可以保留英文但解释部分用中文。 3. 最终回答必须完整使用简体中文不得夹杂大段英文。 4. 思考过程可以简洁但不要为了省 Token 而牺牲准确性。实测下来这个模板能把思考语言的中文比例明显拉高但在数学和代码任务上仍会有英文片段。这是正常的不用追求 100%。6. 这个现象对 Agent 开发和实际使用意味着什么6.1 对 Token 成本的影响如果你在做 Agent 开发思考链的 Token 消耗是实打实的成本。英文思考虽然 Token 效率高但如果你的计费是按 Token 算英文思考反而可能更省钱。这一点很多人没意识到他们以为中文思考更本地化其实在成本上未必划算。我算过一笔账一个复杂任务中文思考平均消耗 800 Token英文思考平均消耗 550 Token。按主流 API 价格英文思考能省下三成左右的思考成本。当然最终回答还是中文这部分成本不变。6.2 对延迟的影响Token 数少了生成时间自然也短。英文思考在延迟上的优势在长链条推理任务里非常明显。如果你做的是实时交互类 Agent这个差异会直接影响用户体验。6.3 对可解释性的影响反过来英文思考对中文用户的可解释性是打折的。如果你需要把思考过程展示给用户看英文思考会增加理解成本。这时候要么加一层翻译要么在提示词里强制中文思考接受一定的推理质量损失。关注点英文思考中文思考Token 成本较低较高推理延迟较短较长推理质量通常更高视任务而定中文用户可读性较差较好提示词可控性较难强制较易引导这张表基本概括了取舍逻辑。我的建议是面向用户的最终回答用中文内部思考不强行干预。除非你的产品明确要求展示思考过程否则没必要为了思考也说中文牺牲成本和速度。6.4 Agent 场景下的特殊考量在 Agent 开发里思考链往往还要驱动工具调用、参数生成、状态判断。这些环节对精确性要求极高而英文在结构化输出上的稳定性通常更好。所以很多 Agent 框架默认让模型用英文做内部规划只在最后一步转成中文输出。这不是偷懒而是工程上的务实选择。如果你在做多 Agent 协作还要考虑不同 Agent 之间的沟通语言。如果每个 Agent 都用自己最擅长的语言思考协作效率可能更高但调试和日志阅读会更麻烦。这时候统一语言约束就变得重要了需要在效率和可维护性之间找平衡。7. 我踩过的几个坑和实测经验7.1 坑一以为换个模型就能解决我一开始以为是某个模型的问题换了好几个模型测试发现这是普遍现象只是程度不同。推理能力越强的模型越容易在思考时用英文因为它更依赖高质量的英文推理语料。所以换模型不是解法理解机制才是。7.2 坑二在用户提问里写用中文思考这个我试过很多次效果很差。用户提问的优先级低于系统提示词而且模型在进入推理模式后对用户层的语言指令不敏感。正确做法是把语言约束写进系统提示词并且放在靠前的位置。7.3 坑三强行禁止英文导致推理质量下降有一次我为了追求全中文在提示词里写死了禁止使用任何英文。结果模型在数学任务上错误率明显上升因为它被迫用不擅长的中文推理通道。后来我改成允许术语和公式用英文其余用中文质量就回来了。这个教训是不要为了形式一致性牺牲实质质量。7.4 一个实用的验证方法如果你想搞清楚某个模型在特定任务下的思考语言分布可以这样做准备 20 个不同类型的问题数学、代码、写作、逻辑、生活分别跑一遍记录每次思考过程的中英文比例。跑完你就能得到这个模型的语言偏好画像再决定要不要干预。这个方法我用了好几次比看文档靠谱得多。不同模型、不同版本之间的差异只有实测才能摸清楚。7.5 关于思考预算的调参经验有些模型支持设置思考预算thinking budget。我的经验是预算越小模型越倾向用英文因为要省 Token预算越大中文比例可能上升因为不那么缺 Token 了。所以如果你希望思考用中文适当放宽预算会有帮助但成本也会上去。这是一个需要权衡的参数。8. 给不同角色的实操建议8.1 普通用户不用管看结论就行如果你只是日常用 AI 解决问题思考过程用什么语言其实不影响你。你只需要关注最终回答是不是中文、是不是准确。看到英文思考不用慌那是模型的工作方式不是出错。8.2 提示词工程师把语言约束前置写系统提示词时把语言要求放在最前面同时约束思考和回答。允许术语保留英文不要一刀切禁止。测试时用多类型问题验证效果别只看一两个案例。8.3 Agent 开发者分开管理思考和输出内部思考不强行干预让它用最高效的语言对外输出统一成目标语言。如果产品需要展示思考过程再加一层转换或摘要。成本、延迟、质量三者要一起算别只盯着语言这一项。8.4 模型评测人员把思考语言纳入评测维度做模型对比时除了准确率、延迟、成本建议把思考语言一致性也作为一个观察项。它能反映模型的训练数据分布和对齐策略对选型有参考价值。9. 最后分享几个我常用的小技巧第一个技巧如果你特别在意思考语言可以在系统提示词里给模型一个角色设定比如你是一位中文技术作家角色设定对语言的影响比直接命令更自然。第二个技巧在长对话里定期在用户消息里重申语言要求因为上下文越长模型越容易漂移。第三个技巧如果某个任务对中文思考要求极高可以考虑先用中文思考模型跑一遍再用英文思考模型跑一遍对比结果取长补短。这个现象说到底是大模型在多语言、多任务环境下的一种自然表现。它既不是缺陷也不是偏好而是训练数据、Token 机制、提示词设计共同塑造的结果。理解了这一点你在使用和开发时就能少走很多弯路把精力放在真正影响结果的地方。