2025年刚开年那阵子AI圈几乎被同一个名字刷屏DeepSeek。我当时正在跑一批数学和代码评测手里基线模型面对复杂应用题还在稳定翻车R1发布当天我试着丢了几道题进去它居然会先自我检查、重新捋一遍条件边界再给出答案。那一刻我有种很强烈的感觉这一年的AI范式重心要从“谁能聊得更自然”转向“谁真的会思考”了。到了3月底DeepSeek又把V3-0324悄悄放了出来。这两个更新一个是把推理能力做成可训练、可复现的路线一个是把训练好的推理能力以极低成本下放到真实生产力场景。今天这篇总结我不打算复述新闻稿而是把这两个重大更新各自的技术脉络、它们之间的关系、以及我从实际使用和部署中踩出来的教训一并摊开来讲。适合正在做LLM应用开发的同学、想本地私有化部署的团队以及对AI技术底层感兴趣、但不想只看口水话的普通用户。1. 第一个重大更新DeepSeek-R1正式发布“会思考的模型”从论文走向所有人1.1 R1到底改变了什么R1发布之前行业里已经有很多人讨论“推理模型”这个概念。当时的推理模型大多依赖人工标注思维链数据成本高、规模有限效果也常常不稳定。R1最重要的突破是证明了推理能力可以在没有大量人工标注思维链的情况下靠强化学习“长出来”。R1的体感差异非常明显。普通对话模型拿到问题后是“直接给答案”R1则会先输出一大段内部推理过程把问题拆解、尝试不同思路、中途发现自己走错、再回头修正最后才给出结论。我第一次用的时候看着它在数学题上自己纠正了一个符号错误差点以为这是系统预设的剧本。但多试几道题之后会发现这是训练方法带来的稳定行为而不是巧合。这件事为什么值得被当成“重大更新”因为它的意义不在某一个评测分数上而在于把“让模型会思考”这件事从少数闭源实验室里解放出来。R1不仅开源了模型权重还公开了训练方法论、蒸馏方案和整套技术报告。任何一个有显卡、有能力的研究者都能沿着这条路线复现、改进、做实验。这一年里全球范围内涌现出一大批基于类似思路的推理模型源头基本都可以追溯到R1的发布。1.2 R1的训练路线从R1-Zero到完整对齐要理解R1得先从它的前身R1-Zero说起。R1-Zero是DeepSeek团队做的一个极端实验不用任何人工思维链做冷启动直接拿一个基础模型上强化学习。奖励信号也很简单——答对了加分答错了减分。结果模型随着训练推进自己涌现出了“重新读题”“多步骤验算”“自我纠错”这类推理行为数学评测分数一路爬升。这个实验最有价值的地方在于它提供了一个强证据推理策略不一定非要人类教只要有正确的反馈信号模型能自己找出来。但纯RL训练的R1-Zero也有很明显的问题。它生成的推理链经常语言混乱中英文夹杂可读性差偶尔还会出现“自问自答但答非所问”的情况。所以R1正式版没有走这条“裸奔”路线而是设计了一条更务实的四阶段流程冷启动SFT先用几千条高质量、可读性好的思维链样本做监督微调。这一步不是为了让模型“学会推理”而是为了给模型一个规范的语言模板让它在后续强化学习里写出人类能看懂的推理过程。第一轮强化学习用GRPO算法训练奖励信号主要看两件事——答案的最终准确率以及输出格式是否规范。这一轮会把模型的推理能力拉到一个很高水平。大规模SFT把前两步得到的模型拿去做海量数据采样挑选出约80万条高质量推理样本再做一版全面的监督微调。这一步相当于把强化学习探索出来的优秀行为“固化”成数据集让模型在更多场景下都能稳定表现。第二轮强化学习在数学、代码、通用对话等混合场景上做偏好对齐兼顾推理能力与实用性、安全性。这套流程里最值得研究的组件是GRPO。传统PPO需要训练一个独立的Critic模型来估计价值基线计算量和显存开销很大。GRPO的做法更取巧对同一个问题让模型生成一组答案用这组答案内部的相对好坏来作为训练信号不再单独训练价值模型。训练成本降下来了稳定性反而更好。后来很多开源推理模型的训练方案都直接拿GRPO做基底这套思路已经成了推理模型训练事实上的基础设施。1.3 权重开源、蒸馏小模型和价格冲击R1发布时最炸裂的三件事我依次说。第一是权重开源。R1的权重以宽松许可放出这意味着本地部署、商用、二次开发都没有太大阻碍。任何一个有技术能力的团队都可以把R1拉到自己服务器上做私有化部署。对比当时同级别的闭源推理模型这是完全不同的游戏规则。第二是蒸馏小模型。R1团队用R1的推理数据去微调了一系列小模型从1.5B、7B、8B、14B、32B一直到70B都有。我在24GB显卡上试过基于Qwen的14B和32B蒸馏版本数学和逻辑题的表现远超同尺寸普通模型。虽然小模型的推理深度和稳定性仍然比不上满血R1但把它们塞进API服务、边缘设备、本地知识库场景性价比非常惊人。对开发者来说这意味着“会推理的小模型”第一次可以作为常规组件出现在产品里不用动不动就上几百亿参数的大机器。第三是价格冲击。满血R1的API定价输入侧每百万token大约是十进制的美元小数字输出侧也不到同级别闭源模型的十分之一。配合量化部署一台双卡工作站就能勉强跑起来响应速度虽然不快但可接受。当时很多做Agent产品的团队连夜把底层模型切成R1——性能没降多少成本掉了一个量级。这就是我把R1定义成“重大更新”的核心原因它不是一个实验室Demo而是一个能直接改变产品ROI的模型。2. 第二个重大更新DeepSeek-V3-0324把“好底子”变成“生产力”2.1 V3到V3-0324的跨越在哪里先理清一点R1不是从石头缝里蹦出来的它的底座就是DeepSeek-V3。V3本身是个训练成本控制得很极致的大模型2024年底发布时已经引起过一波讨论。但那时候的V3给我的感觉更接近“基础很好但还不够顺手”——尤其在复杂代码修改、长链路工具调用上总差那么一点。2025年3月24日发布的V3-0324把这块短板补上了。它在保留V3架构大体不变的前提下对训练策略和数据配比做了调整最终效果上代码生成、代码补全、单元测试生成、前端页面实现这类任务的能力显著上升。我记得当时社区里有人拿V3-0324去写前端组件完成度和对设计稿的理解明显比旧版本高一个台阶。还有做Agent的同行反馈V3-0324在多轮工具调用里“跑偏”的概率明显下降能更稳定地按照指令一步步执行。另一个值得说的点是V3-0324在编码场景的推理能力已经非常接近R1但响应速度和成本又比R1友好得多。这直接导致了一个很实用的分工需要深度推理的时候用R1日常代码补全和工具调用用V3-0324。模型的选择第一次变得像“选工种”一样自然。2.2 性能提升到底体现在哪里我以自己比较信任的几个维度来讲不给具体到小数点的分数因为评测集本身也在更新数据容易被断章取义。第一是代码类的软件工程任务。V3-0324在偏向真实GitHub Issue修复的基准上成绩相比旧版V3提升幅度很大已经摸到了闭源头部模型的平均水平。这意味着它不只是“会写一段函数”而是能理解现有代码库、定位问题、做修改并且不破坏周边功能——这是工程生产力而不是玩具级代码生成。第二是前端和全栈能力。实测里V3-0324对“实现一个有交互逻辑的页面”这类需求理解得更好生成的代码结构更清晰JS逻辑和CSS样式的耦合问题也少很多。我拿同一个需求分别用旧版V3和V3-0324各生成过一轮后者几乎不需要人工调整就能跑起来。第三是推理和数学能力的下放。虽然V3-0324没有R1那种显式的长思维链但在短链推理、条件判断、逻辑归纳上已经可以处理相当复杂的任务。配合上它的低延迟很多原本需要专门推理模型的场景V3-0324也能扛住。从架构角度看V3-0324最大的意义是证明了“通用模型经过更好的训练也能获得接近推理模型的编码能力”。这为后来“推理模型与通用模型融合”提供了现实注脚。2.3 部署和成本为什么这套MoE看起来很“便宜”V3-0324的总参数量是671B但激活参数只有大约37B。什么意思呢就是说模型文件确实很大——如果下FP16权重要几百个GB普通人一张显卡装不下但真正推理时每一个token只会让37B的参数参与计算。对比一个密集型的70B模型它的计算量反而可能更低。这对成本的影响是决定性的。API侧V3系列的输入输出价格都压到了极低水平百万token的成本对个人开发者几乎可以忽略不计。本地部署侧虽然满血版仍然需要多卡服务器或者大显存机器但在量化之后一张48GB或80GB的显卡就能勉强跑起来如果只用蒸馏小模型一张16GB到24GB的消费级显卡也够用。我在那张24GB卡上跑过7B和32B的蒸馏版本速度完全可用单机甚至能支撑小团队的内部使用。这就是“把好底子变成生产力”的含义不仅模型能力强而且它不挑机器、不烧钱普通团队和个人都能接得住。3. 两个更新背后的共同技术支点MLA、DeepSeekMoE和强化学习3.1 多头潜在注意力MLA把KV Cache的负担打下来很多人只盯着R1和V3的分数看没注意到这两代模型之所以能在有限算力下做出这个级别的效果架构上的MLA功不可没。传统Transformer推理时需要把每个token的Key和Value缓存下来后续生成新的token时反复读取。上下文越长这个缓存KV Cache就越大显存很快就不够用了。MLA的思路是这些缓存信息本身存在高度冗余不如先把Key和Value压缩成一个低维的潜在向量存起来要用的时候再解压还原。一句话概括以前是每次都要搬整本笔记本现在只带一张索引卡。这个改造带来的直接收益是KV Cache占用大幅下降长上下文推理变得便宜很多。V3和R1都能在较低显存下支持很长的上下文MLA是背后最重要的支撑之一。开发者如果自己部署过同代其他大模型对比一下KV Cache占用会非常直观地感受到这个设计的价值。3.2 DeepSeekMoE按需激活专家MoE现在不稀奇了但DeepSeek的MoE有它自己的“人格”。V3系列用的是细粒度专家结构每一层有一个共享专家加上256个路由专家每个token从中激活大约8个专家。共享专家负责处理所有token都必须做的通用知识提取路由专家则像骨科大夫一样一个看运动损伤、一个看骨折、一个看康复训练不同问题找不同专家。这样的好处是总参数量可以堆得很大但每个token的计算量控制在很小范围。更进一步的细节是DeepSeek在负载均衡上做了优化尽量不依赖额外的辅助损失让各个专家被更均匀地使用。负载均衡做得不好会出现“所有人都挤同一个专家”的调度瓶颈训练和推理都会变慢。DeepSeek这套设计让671B的庞然大物在推理时能做到接近紧凑模型的延迟这是它能被低成本部署的核心原因。3.3 强化学习和FP8为什么能凑到一起R1代表的“推理模型路线”本质上是把强化学习从“对齐工具”升级成了“能力训练工具”。以前RLHF主要调整模型说话的态度和偏好让输出更符合人类喜好R1则用RL去训练模型怎么一步步找到正确答案。这是一个范式级别的变化获取数据的方式不再只是“请人写更多的标准答案”而是“让模型自己探索用对错信号筛出好策略”。对奖励信号的设计、采样策略、训练稳定性都提出了比传统RLHF更高的要求。FP8则负责给这些昂贵实验“降本”。DeepSeek在V3训练上大规模使用FP8混合精度把激活、权重、梯度通信都压在8位浮点精度上同时通过缩放因子保证训练稳定。训练成本因此被压到远低于同类模型的程度。有了低成本训练基础设施才有底气去跑R1那种大规模强化学习探索。FP8和RL看起来是两个方向实际上是一枚硬币的两面一个负责省钱一个负责把省下来的钱花在重要的事上。4. 从用户和开发者视角看这两个更新实际改变了什么4.1 我在实际使用里的体感变化我把自己日常的使用场景分成三类分别说说感受。第一类数学和逻辑题。用R1之前我遇到复杂的条件推理题基本默认AI会半路出错现在R1会自己检查、反向验算、甚至主动说“我刚才那个假设不成立”。它在难度较高的竞赛题和证明题上的表现确实达到了“可以当作推理助手”的水平。第二类代码工程。V3-0324给我的感觉是“懂工程”了不只会写单文件脚本还能阅读仓库、改Bug、补测试。我甚至用它把一个小项目里的旧接口迁移到新版本它给出的改动清单基本可以直接提交。第三类日常内容创作和中文处理。R1和V3-0324在中文的长文本理解、摘要、改写上的质量都很稳尤其中文长句的逻辑层次处理比我用过的很多外语系模型更自然。但也必须说清楚一个边界R1的思维链只是推理工具不是“意识”也不是“真心话”。它内部生成了多长的推理过程不代表它就真地在“想”什么。把它当黑盒工具用就好别神化。4.2 API调用和本地部署的具体注意事项如果你做开发第一件要适应的事是R1的“慢”。它生成答案之前会先输出很长的推理过程所以API调用时max_tokens一定要给足——我建议至少16K复杂任务直接设32K。如果给太少回答会在推理中途被截断你只看到它思考了一半。temperature建议调低0到0.6之间比较稳过高会让推理过程飘。这些细节看着不起眼但直接影响结果可用性。本地部署V3-0324或R1满血版先算显存账FP16权重需要超过1TB显存完全不是消费级场景AWQ/GPTQ 4位量化后一张40GB以上的卡才勉强能跑速度不会太快。真正适合个人玩家的路线是蒸馏小模型比如7B到14B的版本搭配16GB到24GB显卡配vLLM或llama.cpp都能跑得很舒服。量化方案建议用AWQ我测下来推理质量掉得相对少速度也稳。4.3 横向对比R1、V3-0324和主流闭源推理模型我不想把不同模型拉出来打榜因为版本更新太快今天的数据明天就失效。但可以从“参数规模、开放程度、成本、推理方式、适用场景”这几个维度给个参考框架模型总参数/激活开放程度推理方式适合场景DeepSeek-R1671B / 约37B权重技术报告蒸馏模型全开放显式长思维链数学、逻辑、复杂代码设计DeepSeek-V3-0324671B / 约37B权重开放隐式快速推理长链能力较强日常代码、工具调用、内容生成主流闭源推理模型未公开仅API显式推理但细节黑盒各平台生态内调用这张表想说明的是R1和V3-0324真正的优势不是“单点分数碾压”而是“开放、低成本、性能可用”这三个要素的叠加。闭源模型或许在个别基准上更高但你是拿不到权重、做不了私有化、也没法自由改写的。对很多实际业务而言可控制、可部署、成本可见比那几分差距重要得多。5. 这一年的踩坑与复盘给同行写点实在话5.1 我在推理模型上翻过的车第一批翻车记录基本都来自“没适应推理模型的新脾气”。第一个坑思维链被截断。我刚开始接R1 API时还按普通模型的习惯把max_tokens设成2048。结果复杂数学题输出到一半就断了看起来像模型“卡住了”实际上是被token上限硬切了。后来把上限调到16K以上才正常。第二个坑temperature太高。用普通对话模型的习惯把temperature调到1.0结果是推理过程非常跳跃逻辑断点变多答案质量明显下降。推理模型要的是确定性temperature保持低值才是正确姿势。第三个坑期待蒸馏小模型能完全复刻满血版。32B蒸馏版确实强但复杂代码库级的任务还是会露馅一旦陷入超长推理链它会表现出和满血版明显的能力差距。小模型有适合的定位别过度拔高。还有一个方法论上的教训评测推理模型时别只看最终答案对不对要看它“犯错之后的纠错能力”。R1真正值钱的地方不是一次答对而是它发现路径不对时会返工——这是推理模型和普通模型在行为上的分水岭。5.2 对后续演进的一点判断经历了这两个重大更新我倾向于认为接下来的18个月里推理模型会全面成为主流产品的默认选择而不是少数场景的专用选项。V3-0324已经证明了推理能力能下放到通用模型R1则证明了强化学习这条路的可复制性。继续往下走大概率会发生这样几件事一是推理成本继续下降Agent类产品会大量使用推理模型做复杂任务拆解二是开源权重的方法论会被更多团队跟进推理模型的商业壁垒从“模型本身”转向“数据和场景打磨”三是通用与推理的边界会进一步模糊一个模型可以在不同模式下自动切换深度思考V3-0324和R1已经把这个方向展示得很清楚了。5.3 最后分享一个实用技巧用R1这类推理模型时给自己加一个约束在提示词里设定一个“解释对象”。比如同样是一道概率题直接问“求答案”和问“请向一位没学过概率论的人解释推导过程”后者的推理链会更细致、更稳。因为解释对象约束了推理的颗粒度模型会主动补充中间步骤减少跳步。这个技巧几乎不增加成本但能显著提升结果的可读性和稳定性。我后来给团队写推理模型调用规范时也把这条写进去了明确输出对象的背景比反复强调“要详细”有效得多。DeepSeek今年的两个重大更新一个让模型学会了思考一个让思考变得便宜可用。前者告诉整个行业推理能力是可以训练出来的后者告诉所有开发者好技术不一定贵到够不着。作为这一年的亲历者我最深的体会是技术选型从来不是追着分数跑而是找对适合自己场景的“思考方式”。R1和V3-0324恰好把两个方向的答案都摆到了桌上剩下的就看你怎么用了。