资讯详情

松鼠脑与大模型:万亿参数为何不如3克大脑?

📅 2026/10/20 22:09:09 | 华诺云谱 👁 阅读
松鼠脑与大模型:万亿参数为何不如3克大脑?
我最早看到这个说法的时候第一反应是“又一个标题党”。但后来在技术社区翻完几场争论又对照自己这几年在模型落地项目里踩过的坑我意识到这个观点虽然极端却戳中了一个很实在的问题我们用万亿参数堆出来的模型真的在“理解”世界吗还是在用统计规律模拟“理解”而一只松鼠在树枝间跳跃、藏起几百颗松果、几个月后还能准确找回——它的大脑只有约3克重耗能不到1瓦。这个对比太刺眼了。这篇文章我不会站队而是把两边拆开聊松鼠的神经机制到底厉害在哪大模型的问题到底出在哪以及“更聪明的松鼠”能不能给当前的AI路线带来一些真正可落地的启发。它适合谁看如果你是做模型训练、算法选型、产品落地的工程师或者只是好奇“AI是不是走进了死胡同”这篇内容或许能给你一个新的视角。1. 先摆事实三克大脑与万亿参数的账本1.1 先把量级摊开看很多东西不放到一张表里是感受不到差距有多荒诞的。对比项松鼠大脑当前万亿参数模型重量/规模约3克数千GB参数文件功耗约0.5-1瓦训练期兆瓦级单次推理也可能耗电数百瓦样本效率几十次试错学会藏食、避险需要数万亿token“喂”出常识寿命内数据量有限感官经验几乎等于人类书面语料的全部存量任务类型复杂三维空间规划、长期记忆、灵活决策文本续写、图像生成、指令跟随我见过最形象的类比松鼠大脑像一名在山林里长大的猎人凭借有限经验就能应对各种没见过的情况万亿参数模型像一个背下了整个图书馆的考生你问它书里写过的它头头是道你问它书里没写过的它就开始一本正经地编。我参与过一些基础模型的部署和微调项目有个数字印象特别深为了把一个垂直场景的问答准确率从78%提到85%我们动用了数千张加速卡跑了接近一个月烧掉的电费够一个小型创业团队发一年工资。而松鼠学会分辨哪些果子能吃、哪些不能吃只需要看妈妈示范几次外加自己咬一口。这不是量变是质的差距。1.2 能耗账算下来更扎心大模型的能耗一直是热点但我今天想算一笔更细的账。以一次典型的知识型问答为例一个千亿参数模型在推理时哪怕只生成50个token也需要把数百亿参数中的活跃部分加载到显存里做矩阵运算。单次调用对应的耗电大约在几瓦到十几瓦之间看起来不多但乘以日均数十亿次调用就是一个惊人数字。松鼠的整个大脑功耗不到1瓦却同时处理着视觉、嗅觉、运动控制、空间记忆、捕食避险等一堆任务。它甚至在睡觉时还在做记忆巩固。更关键的是松鼠的“推理”是实时的在树枝间腾跃的瞬间完成运动规划延迟低到几乎为零。问题不在于“谁更省电”而在于我们能不能找到一条路让机器在接近松鼠的能耗量级上完成复杂决策。如果不能大模型的边际成本就永远是它规模化的天花板。2. 本质差异统计关联与因果世界模型2.1 大模型究竟在做什么抛开各种玄学包装大模型做的最核心的一件事是在超高维空间里学习token序列的条件概率分布。给它前文它预测下一个token是什么。这个过程里模型学到了大量的人类知识痕迹——语法、事实、逻辑关系、风格模式——但学到的都是“共现关系”而不是“因果关系”。用一句话概括大模型不关心“为什么”只关心“通常接下来是什么”。这也解释了它为什么能写出一篇结构完整的文章却在简单的物理常识题上翻车。比如你问“把一杯水倒进锅里锅会怎样”它能答对因为训练数据里这句话出现过成千上万次。但你问“把一杯水倒进一个正在运行的服务器的散热孔里接下来五分钟会发生什么”如果训练数据里类似描述较少它就很可能给出逻辑顺畅但完全脱离实际的回答。因为它的世界里没有“水会导电”“服务器短路会冒烟”“金属壳会烫”这些物理直觉。它只有文字上的相关性。2.2 松鼠脑子里的“世界模拟器”松鼠对世界的理解完全不是统计性的。它的大脑里有一套整合了视觉、嗅觉、触觉、运动指令和空间记忆的闭环系统。当它看到一颗坚果时大脑皮层处理视觉信息小脑和基底节参与运动规划海马体中的位置细胞实时更新它自己的坐标前额叶参与决策——是当场吃掉还是搬去藏起来。这整套过程建立在一个至关重要的能力之上对世界运转规律的内隐建模。松鼠知道树枝有弹性但会断知道从高处跳下要调整姿态知道同类会偷自己藏的食物知道天气变冷之前要囤粮。这些不是从语言文字里学来的而是从与物理世界的持续交互中建立起来的因果模型。打个比方大模型是一个读过无数本菜谱、却没进过一次厨房的人它能描述“红烧肉”的每一个步骤但它从没体验过锅铲碰到铁锅的震动感也不知道油温到了什么程度肉会焦。松鼠则是一个每天在厨房里摸爬滚打的老师傅它可能说不出什么理论但手里每一道菜都有数。这就是统计关联与因果模型的本质差异一个在符号层面运转一个在物理层面运转。2.3 语言的优势恰恰也是陷阱有人会说语言本身就是人类智能的载体模型在语言上表现好不就是在逼近智能吗这话对一半。语言确实是人类压缩知识的高效形式但语言终究是“对世界的描述”而不是“世界本身”。大模型读了海量语言相当于拿到了无数张关于世界的地图但它从没踏上过那些土地。它能在地图上精确规划出路线却不知道踩在泥地里是什么感觉不知道走近路要穿过一条河。更麻烦的是语言数据本身带有大量人类偏见、错误和矛盾。模型无法区分“某本书里写的是真的”和“某本书里写的是错的”它只能学会“这类句子经常出现在权威文本里”。于是它会在一些话题上表现出比人类更自信的态度而那份自信仅仅来自统计频率。松鼠没有这个负担。它的每一个认知都经过物理现实的检验错误会被直接惩罚——判断失误的代价可能是饿肚子或者摔一跤。所以它的“知识”是经过验证的、带因果结构的、与行动绑定的。3. “死胡同”论成立在哪又偏激在哪3.1 成立的部分数据、算力和边际收益的三重困境支持“大模型死胡同”观点的人手里握着三张牌。第一张是数据墙。人类文明积累的高质量文本数据是有限的而头部模型已经把其中相当一部分“吞”进去了。如今训练新模型的语料来源已经从“新增数据”转向“模型生成数据”这会导致一种自我吞噬效应模型反复学习模型生成的内容多样性逐渐衰减长尾知识被压缩。我见过一个不算严谨但真实的比喻这就像复印机的复印件每次复制都会丢失一点细节复制多代之后画面已经模糊成一团。第二张是算力墙。单次训练的算力投入已经涨到一个让绝大多数机构望而却步的量级同时推理成本也在随着模型规模的扩大而水涨船高。参数规模越大单次推理需要的显存和计算量就越大这意味着即使模型更强了用不起的用户也更多了。商业上不可持续技术路线就会收缩。第三张是收益递减。规模增大带来的能力提升越来越不“均匀”。在常见任务上千亿和万亿模型的差距并没有想象中大而在需要长尾推理、物理常识、复杂规划的罕见任务上纯靠堆参数也很难再带来质的飞跃。这说明一个问题规模扩张已经进入了边际收益显著下降的平台期。这三张牌合在一起构成了“继续堆参数量可能走不通”的合理推论。3.2 偏激的部分忽略了大模型的真实价值但说它是“死胡同”我认为过于武断。批判之前得给大模型一个公道它是人类迄今为止构建的最强大的“知识压缩器”和“符号引擎”。大模型真正擅长的事情是把海量知识压缩成参数然后以极高速度检索、组合、重述。医疗问答、法律条文检索、代码速写、内容草拟、翻译润色在这些“以语言为载体的知识工作”上它已经超过绝大多数人的处理速度。这不是假的是实实在在的生产力提升。我自己的经验是以前三天才能写完的项目方案现在用模型初稿加人工修订一天就能搞定节省下来的时间用来做真正的思考。它不能替代因果模型但它是极好的“知识外挂”。所以更准确的表述不是“大模型走进了死胡同”而是“只靠大模型这条路走不到真正的智能”。这两者差别很大。前者否定一切后者承认阶段性成果但指出路线边界。3.3 用“锤子理论”看问题有个工程上的老故事手里拿着锤子看什么都像钉子。大模型的成功让很多人产生了一种错觉——所有智能问题都是“更多参数能够解决”的问题。但现实里大量场景根本不是这么回事离线机器人搬箱子需要的是视觉-力觉-运动控制的闭环不是更长的文本自动驾驶过复杂路口需要的是预测其他行人的意图和反应不是更丰富的路况描述。这些任务的核心瓶颈都在“与真实世界的交互能力”上而大模型从设计之初就不具备这个闭环。这不是大模型的错是路线适配性的错。就好比你用挖机去劈柴挖机确实强大但你得承认挖机不是所有工具的组合。把挖机换成斧头不是因为斧头更先进而是因为劈柴这个场景需要的是特定工具。4. 向松鼠学习四条被验证过的出路如果说前面都在拆解“为什么松鼠聪明”那这一节就要落回“我们能从松鼠身上拿走什么”。在我看来当前学术界和工业界已经浮现出四条被反复讨论、有初步成果的方向。4.1 世界模型从预测下一个字到预测下一步“世界模型”这个概念不新但直到近几年才因为视频生成和强化学习的进展而重新被重视。它的核心思路是让模型不只学习文字序列的概率而是在一个抽象空间里学习“状态转移”——给定当前状态和动作预测下一状态。举个例子一台家政机器人看到桌上有杯水它的“世界模型”应该能预测机械臂推倒杯子后水会流出来并沿桌面扩散。这是通过三维重建、物理模拟和因果推理得出的而不是从标签库里检索的答案。目前主流路径是“视频生成作为世界模型”。模型通过观看大量视频学习“什么会引起什么”的物理直觉。比如一段杯子被推倒后水流出的视频模型能隐式学习到重力、碰撞、液体扩散的规律。这个方向还远不完美但它比纯文本模式多了一个关键通道视觉物理信号。之所以说这是从松鼠身上学来的是因为松鼠的绝大部分世界知识都来自视觉和运动反馈语言在它的学习过程中几乎不参与。视频生成式的世界模型相当于给了AI一双“眼睛”哪怕这双眼睛目前还比较近视。4.2 持续学习别再一锤子买卖大模型的训练方式有一种“一锤子买卖”的味道一次性灌入巨量数据训练完成后模型就被冻结了。后续想更新知识只能再次全量或大规模重新训练。这种方式跟松鼠的学习模式天差地别。松鼠每天都在学习夏天学会找果子秋天学会藏果子冬天学会挖出果子这一整年它的大脑都在不停更新。学术界把这个问题叫“灾难性遗忘”。用普通微调方式在小规模新数据上继续训练时模型会逐渐忘记旧知识。原因在于神经网络的权重是全局共享的更新一部分权重就会扰动另一部分对应的旧记忆。目前有几个值得关注的解决方案我实际也试过其中两个回放缓冲区保留一部分旧数据混在新数据里训练减少遗忘。简单有效但需要额外存储。参数隔离给不同任务分配独立的参数子集或独立LoRA适配器互不干扰。这种方法在多任务场景下实现比较干净我后来的垂直模型基本都是这个思路不同客户共用底座各挂各的适配器。弹性权重巩固在更新时给对旧任务重要的权重加惩罚让它不那么容易被改动。理论最优但实现复杂度较高。持续学习的意义不仅在于技术可行性更在于它改变了我们思考模型的方式模型不再是一个“静态作品”而是一个“不断生长的系统”。这才更接近生物智能的形态。4.3 稀疏激活不必每次都动用万亿参数松鼠用它3克的大脑应对所有任务本质上是“按需激活”。你不用在它思考去哪里找松果时同时调用它肌肉记忆的全部细节。它的大脑在信息处理时表现出明显的稀疏性——特定任务只激活特定神经网络回路。大模型在这方面一直很低效。哪怕你问它“今天天气怎么样”理论上它也把数千亿参数中的很大一部分加载出来做了计算。虽然像MoE混合专家模型这样的架构已经实现了部分稀疏性——每次只激活一小部分专家网络——但离真正的按需计算还有距离。我参与过一个量产的文本分类模型压缩项目。原始底座是百亿参数通过蒸馏剪枝量化最终部署版本只有十亿参数的规模在目标场景下精度几乎无损而推理时延和能耗都降到原来的十分之一以下。这个过程让我深刻意识到模型不是越大越好而是越匹配越好。很多任务根本不需要那么大参数问题是我们以前习惯了“大力出奇迹”很少认真去思考“最少需要多少参数就能完成这个任务”。4.4 内隐知识与具身交互最后一个方向也是看起来最“不AI”但实际最接近松鼠本质的方向是具身智能——让智能体拥有身体通过与真实环境的交互来学习。松鼠之所以聪明不是因为它脑容量基因好而是因为它有一副身体有一个需要生存的环境有一套奖惩反馈机制。具身智能的具体落地形式包括机械臂操作、四足机器人、家用移动机器人。它们用视觉感知环境用运动规划动作用环境反馈更新策略整个过程不依赖大量人工标注数据。和松鼠一样它们是“边活边学”。当然这个方向目前的产品化程度还很低。我自己测试过一些机械臂抓取方案面对形状规则的物体已经很熟练但遇到软体、透明、混杂堆叠的物体时成功率会明显下降。这说明具身交互的学习效率还远不如松鼠但方向已经没有争议——让智能回归物理世界与真实环境对话。5. 当下能做的事在现有路线上叠加“松鼠思维”大趋势很远眼下的活还得干。作为在一线做模型落地的人我聊一聊在现有条件下怎么把“松鼠思维”落到实际项目和产品里——这些做法不需要等什么颠覆性技术出现现在就能用。5.1 放弃“一个大模型解决所有问题”的妄念很多团队的习惯是“先上大模型再想产品”。我觉得这个顺序应该倒过来先明确任务边界再选最合适的模型规模。我经手过一个法律文书场景的项目。最初方案是部署某百亿级通用模型做全量文档解析和问答效果不错但成本极高客户根本扛不住推理费用。后来我们换了个思路用一个小体量模型做段落分类和关键信息抽取只把真正复杂的语义判断任务交给大模型。整套系统成本降到原来的三成客户满意度反而更高了。这次经历让我坚定了一个原则——模型选型的第一标准不是“能力上限”而是“任务匹配度”。5.2 用小模型专家构筑领域护城河通用模型的知识面很广但广而不深。在垂直领域一个经过精心微调的小模型往往比通用大模型表现更稳定因为它只学了一个窄分布不产生与领域无关的干扰。那为什么很多人微调后效果还是不好我踩过的坑主要有三个数据太脏直接拿原始业务文本去训很多格式乱七八糟、语义模糊甚至错误的内容会被模型当成知识学进去效果自然好不了。任务定义模糊微调时用的是独角戏式的自问自答没有覆盖真实用户五花八门的提问方式上线后一问一个懵。过度微调把模型在单一任务上训得太久它会把通用能力全部覆盖掉稍微变个问法就翻车。正确做法是数据清洗至少要过三遍去噪、去重、去错、准备不少于五千条覆盖真实场景的多样化问答对、微调过程中实时测评且预留通用能力验证集。这些功夫下足了小模型的威力才能发挥出来。5.3 让知识在模型之外流动大模型不是唯一的知识容器也不该是所有知识的唯一容器。我建议把“模型内化知识”和“模型外挂知识”分开模型内化知识需要推理链、语言习惯、风格特征的常识性能力放进模型参数里让模型“会说话”。模型外挂知识不断变化的事实性数据、私有业务数据、垂直领域最新规则放进外部知识库里用检索引擎召回后拼接给模型。这个思路就是业内常说的RAG检索增强生成。它有几个立竿见影的好处一是知识更新只要换数据库不用重新训练二是可以说清楚答案来源减少模型胡编乱造三是可以用很小的模型加足够好的检索达到接近大模型的效果。我在一个客服场景里实测过底座模型只有七亿参数挂了一个经过清洗的数千条知识片段库意图识别准确率和答案完整度都超过了另一组用百亿模型裸奔的对照组。成本低了一个量级效果却更好。关键是控制好检索质量召回的相关文档不够准再好的模型也会在一堆垃圾信息里迷失。5.4 建立测评体系别信嘴上的“聪明”无论是大模型还是小模型判断它“聪明不聪明”不能靠测试集上那几道题。踩过那么多坑之后我的建议是建一套三层测评体系。第一层是能力层测评覆盖通用理解、领域知识、逻辑推理几个维度用固定题库跑出基线数据第二层是业务层测评拿真实场景的用户问题去测试由业务人员按标准打分第三层是鲁棒性测评用稍微改写过的问法、错别字文本、混合语种、超长输入来测看模型会不会崩。这套体系加上回归机制以后我才算真正掌握了一个模型在版本迭代中到底有没有变强。没有测评就谈聪明就像不看运动成绩就评谁是冠军太空了。6. 写在最后承认边界才谈得上超越我写这篇文章不是想否定大模型恰恰相反我觉得它是我职业生涯里遇到过的最强大的工具。但我越来越确信一件事它只是一种工具一种非常擅长处理符号的工具。而智能这个词语的范围比符号处理大得多。我的个人体会是这两年参与的几个项目里真正让系统变强的往往不是把底座模型换大而是想清楚哪一层用模型、哪一层用检索、哪一层用规则、哪一层需要人去兜底。好的系统像松鼠小巧、精准、按需调用而不是像一座到处漏电的巨型计算中心。如果你正在设计一个AI系统不妨先不要问“我能用多大的模型”先问自己“我需要它学会什么样的世界规律它有没有机会通过交互验证这些规律”。顺着这个思路往下走你可能会得到跟“堆更多参数”完全不同的答案。最后分享一个实际操作中的小技巧把手头的任务列一张表标出哪些是纯符号处理可以用大模型哪些需要与真实世界交互获得反馈需要设计闭环哪些只需要查固定的知识直接用检索。这张表做完你的技术路线就会清晰很多。这条路还很长。但至少我们手里已经有了地图上的几个坐标世界模型、持续学习、稀疏激活、具身智能。它们指向的不是同一条路但都在朝着同一个目标努力——让机器不再只是复述世界的文字而是真正理解世界运转的方式。哪怕只是先理解一颗松果是怎么从树上到地下的也算是一步不错的开始。
📝

华诺云谱内容团队

资深建站顾问 · 行业研究员

10年+企业数字化服务经验,专注智能建站、SEO优化与品牌营销,持续输出建站技巧、行业洞察与营销干货,已帮助5000+企业实现数字化增长。

你可能需要的服务

订阅华诺云谱资讯周报

每周一封,精选建站技巧、SEO与营销干货,直达邮箱。已有 8,000+ 企业主订阅,助你少走弯路。

↑