N2.5-mini 的强是模型的强还是定制框架的强【免费下载链接】Nex-N2.5-mini项目地址: https://ai.gitcode.com/hf_mirrors/nex-agi/Nex-N2.5-mini当 Nex-N2.5 系列以 mini / Pro / Max 三档阵容登场时社区讨论最热的一个问题不是它能跑多快而是它凭什么这么强。尤其是 N2.5-mini——一个能用 2 张 H100 单机部署的轻量级多模态模型在 OSWorld-G 上拿到 82.9把 Claude Opus 5、GPT-5.6 Sol 等千亿级对手全部压在身后。随之而来的质疑也异常尖锐这份成绩单究竟属于模型权重本身还是属于 README 里那一长串定制启动参数、专属 chat template 和尚未开源的评测 harness答案并不非黑即白。翻开仓库你会发现N2.5-mini 的强是一个模型权重 提示协议 推理框架三者联合优化的系统性问题——权重是这套系统的接口框架是权重的延伸。本文从源码出发把这份强拆开来看。一、争议起点Agent 跑分亮眼但跑分环境自带定制红利先看 README 里公开的硬数据。Nex-N2.5-mini 在文本与多模态两套基准上成绩呈现出极强的任务选择性BenchmarkN2.5-mini最强对比项表中最佳备注OSWorld-G82.987.4N2.5-Pro全场最佳为同门 Promini 反超全部闭源对手OmniDoc89.792.9GPT-5.6 Sol文档理解接近第一梯队Terminal-Bench 2.173.489.1Claude Opus 530B 级中很强但落后头部 16 分BrowseComp83.492.6N2.5-Max落后头部约 8~9 分Toolathlon Verified54.676.5Claude/Kimi 并列落后 22 分SWE-Bench Pro43.879.2Claude Opus 5差距显著结论很清晰N2.5-mini 的反超集中在计算机操作类OSWorld-G、检索浏览类BrowseComp等 Agent 场景而在深度软件工程与工具调用类任务上它与头部的差距以两位数计。社区里30B 级别也这么强的评价准确说法应当是30B 级别里这么强、且在特定任务族里以小博大而非全面比肩。但真正让跑分可信度打折扣的是 README 脚注里几行容易被忽略的声明。对照 README.md编码类任务统一使用NexAU harness评测脚注 3OSWorld、WebTest、WebArena 等计算机/浏览器操作任务统一使用NexCUA harness评测且项目即将开源脚注 8BrowseComp 评测中当 token 用量超过上下文窗口 60% 时启用了 Summary 上下文压缩策略脚注 6所有评测统一采用temperature0.7, top_p0.95, top_k40脚注 2。换句话说这份成绩单不是拿公开 harness 随手一测而是模型 专属评测协议 定制上下文管理策略共同产出的结果。harness 尚未开源意味着第三方暂时无法在完全相同的环境里复现并对照压缩策略的存在则意味着长程检索任务的部分得分来自工程手段而非模型原生能力。这正是Agent 跑分优势 vs 定制框架依赖争议的根源。二、拆开权重看这是为了一套协议训练的模型要判断分数属于谁得先看权重本身是什么形态。打开 config.jsonN2.5-mini 的骨架立刻呈现{ architectures: [Qwen3_5MoeForConditionalGeneration], dtype: bfloat16, hidden_size: 2048, model_type: qwen3_5_moe, text_config: { num_hidden_layers: 40, num_experts: 256, num_experts_per_tok: 8, full_attention_interval: 4, max_position_embeddings: 262144, vocab_size: 248320, layer_types: [linear_attention, ..., full_attention, ...] }, vision_config: { depth: 27, hidden_size: 1152, patch_size: 16, temporal_patch_size: 2 } }三个关键事实浮出水面这不是普通 MoE。40 层中只有 4 层是全注意力每 4 层插入 1 层full_attention_interval: 4其余 36 层是linear_attention——即带卷积核与 SSM 参数的线性注意力层权重文件里可以看到conv1d.weight、dt_bias、A_log等 Mamba 系参数。这类结构在标准 transformers 里根本没有原生 kernel离开定制推理栈就无法高效运行。多模态是内置的。视觉塔27 层、patch 16、temporal patch 2与文本 MoE 融合在同一权重中tokenizer 侧也预置了|vision_start|、|image_pad|、|video_pad|等专用 token见 tokenizer_config.json处理器注册为Qwen3VLProcessor。规模不轻。model.safetensors.index.json 显示权重总量约 70.2GB切成 16 个 safetensors 分片bfloat16 精度——mini 指的是部署门槛2×H100与激活参数而非磁盘体积。真正决定强的是 chat_template.jinja 里那套严苛的协议。模板把函数调用编码为tool_callfunction...parameter.../parameter/function/tool_call的 XML 结构要求函数调用必须嵌套在tool_call/tool_call中、参数必须齐全、可在调用前给出自然语言推理但不得在调用后追加同时把推理轨迹封装进think/think标签并支持reasoning_effort三档none/medium/high控制思考行为。这意味着N2.5-mini 是在训练阶段就把思考标签 XML 工具协议 视觉 token烙进权重的模型。它的函数调用能力、推理切换能力、多模态感知能力都与这套模板深度耦合——换个模板、换个协议权重里的这些技能会立刻失配。三、通用推理与深度工程任务的明显差距强任务选择性的另一个证据来自软件工程类基准的整体滑坡。把 mini 与头部模型放在一起落差一目了然深度任务基准N2.5-miniClaude Opus 5GPT-5.6 Sol差距SWE-Bench Pro43.879.264.6落后 20~35 分DeepSWE v1.136.173.772.7落后约 37 分SWE-MM25.559.440.2落后 15~34 分Job Bench28.565.745.4落后 17~37 分SWE-MM 尤其说明问题——它是多模态软件工程基准恰恰需要模型把看屏幕/看图与写代码/改代码结合起来而这正是 N2.5-mini 宣称的主场visually grounded agentic capabilities。结果它只拿到 25.5与头部相差 34 分。这印证了社区文章《Nex-N2别急着说它打败 GPT先看它到底开源了什么》的判断该系列的比较优势在 Agent 类基准与真实任务稳定性而非单轮回答质量或深度推理。换个角度看这种落差未必是缺陷mini 的定位本来就是轻量级智能体执行器2×H100 单机、262K 上下文、面向操作和完成而非攻克难题。但如果把它的 Agent 跑分直接等同于通用能力接近头部就是误读——跑分领先是定向的差距也是定向的。四、部署即验证定制推理栈是能力的一部分README 给出的 mini 官方启动方式是最能说明框架依赖的一段代码。对照 README.mddocker run --gpus all --shm-size 32g --ipchost \ -p 30000:30000 \ -v /path/to/your/model:/model \ nexagi/sglang:v0.5.18-nex-patch \ python3 -m sglang.launch_server \ --model-path /model \ --tp 2 \ --host 0.0.0.0 --port 30000 \ --reasoning-parser qwen3 \ --tool-call-parser qwen3_coder \ --chat-template /path/to/nex-N2.5-mini/chat-template.jinja \ --mamba-scheduler-strategy extra_buffer请注意三个细节基础镜像不是官方 sglang而是nexagi/sglang:v0.5.18-nex-patch定制 fork——线性注意力、MoE 通信、Mamba 调度都需要补丁必须显式挂载chat-template.jinja并同时指定--reasoning-parser qwen3与--tool-call-parser qwen3_coder推理轨迹与工具调用才能从回复流中被正确切分--mamba-scheduler-strategy extra_buffer是为线性注意力层服务的调度策略标准 sglang/vLLM 并没有这一参数。也就是说官方在 README.md 中提供的能力基线默认假设你使用这套定制镜像 专属模板 专属 parser。一旦脱离换 vLLM 或 transformers 直跑36 层线性注意力没有高效 kernel不挂模板工具调用协议直接失配不用 parserthink内容会混入回复正文。权重、协议与框架是一枚硬币的三面——这也是为什么社区教程几乎都在强调SGLang 部署 模板适配 函数注册三件套见《Nex-N2.5-mini 部署与调用实战基于 SGLang 的智能体推理、思考模式与函数调用全解析》。五、开源可控与生态绑定的辩证回到标题的终极问题。N2.5-mini 的强既不能归因于裸权重也不能归因于框架本身而是**为 Agent 协议联合训练的权重 配套推理栈这一整体**的强。这带来了一个值得辩证看待的开源局面好的一面——可控性前所未有。权重以 Apache-2.0 开源bfloat16、分片 safetensors、标准 transformers 元数据library_name: transformers单节点 2×H100 即可部署还提供了开箱即用的定制 Docker 镜像与 OpenRouter 托管入口。对一个需要真实环境里连续行动、自我纠错的生产型模型来说全链路可复现是实打实的工程红利低技术债务、生态兼容的评价并非虚言。需要警惕的一面——生态绑定同样前所未有。评测 harnessNexAU/NexCUA尚未完全开源意味着跑分暂时无法第三方复验推理栈是定制 fork模板协议是独有格式导致社区衍生生态量化工具、端侧移植、其他推理引擎必须逐层适配。社区已有实践佐证了这种适配成本安卓端将 N2.5-mini 迁移到 GGUF/MNN 时需要专门处理 tokenizer 差异、KV cache 管理与词表字节序见《安卓端 GGUF 大模型落地实战》Apple Silicon 上的量化部署则依赖 mlx-optiq 等第三方工具链的分层精度策略见《Qwen3_5Moe 架构深度解析》。开源了权重却把跑出同分的能力留在了定制环境里——这是当下 Agent 模型开源的一种新范式也是一道新的兼容性考题。结论或许可以这样收敛N2.5-mini 的强是系统工程的强。模型本身确实优秀——线性注意力 MoE 的混合架构、262K 上下文、内置视觉、为工具协议训练出的行为都是实打实的权重能力但这份能力只有在定制 sglang、专属 chat template、配套 parser 与 harness 的完整闭环中才能全额兑现。它的意义不在于权重打败了谁而在于它示范了一种把训练、协议、推理框架、评测环境打包成一体的开源方式——对想抄作业的团队这是最完整的教材对想只取权重的用户这则是第一道需要支付的兼容性税。【免费下载链接】Nex-N2.5-mini项目地址: https://ai.gitcode.com/hf_mirrors/nex-agi/Nex-N2.5-mini创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考