AA Pareto 前沿选型法为什么 Step 5 Preview 不是跑分最高的那个【免费下载链接】Step-5-PreviewStep 5 Preview 是阶跃星辰面向智能体工作打造的旗舰模型。该模型在软件工程和专业知识工作领域均展现出前沿级性能尤其在金融领域表现突出。 Step 5 Preview 是一个稀疏混合专家MoE模型总参数量为 600B激活参数量为 27B。它支持高达 100 万 token 的上下文长度并可接收文本、图像和视频输入能够在复杂任务中实现持续推理与工具调用。项目地址: https://ai.gitcode.com/StepFun/Step-5-Preview2026 年 9 月 20 日阶跃星辰发布面向 Agentic 任务的旗舰基座模型 Step 5 Preview600B 总参数的稀疏 MoE每 token 只激活 27B支持 1M token 上下文与图像输入几天后它登顶 OpenRouter Trending 榜10 月 15 日权重正式开源——当前仓库即为开源后的 FP8 检查点。社区对它的讨论有一个很一致的关键词它不是跑分最高的那个却出现在 Artificial Analysis下称 AA的 Pareto 前沿上。这正是本文要拆解的问题。选模型时盯着单一跑分榜首是最容易踩坑的方式而“Pareto 前沿”给出的是另一种多维选型语言在“质量-成本”平面上找到一个没有被任何模型“同时更强且更便宜”支配的点。Step 5 Preview 的智能指数为 44模型总榜第 24、开源权重模型第三厂商口径下单任务成本约为 Claude Opus 5 的 1/8——它卖的不是“最强”而是“同等质量档位下的最低成本同成本下的质量甜点”。本文分三部分先讲清 Pareto 前沿选型法怎么读再回到本仓库用config.json、inference/目录的源码和检查点索引逐项核对这个“性价比位置”是由哪些架构与工程决策换来的最后落到一个反直觉的工程细节——为什么这个模型的推荐采样参数是temperature1.0以及结构化输出稳定性该怎么调。一、Pareto 前沿多维模型选型方法论1.1 为什么“单榜第一”不是好指标过去一年社区选模型的默认逻辑是二选一要能力就上最贵的旗舰要便宜就用小模型凑合。Pareto 前沿把这个二选一打破把每个模型放进“质量-成本”或“质量-延迟”二维空间画出一条帕累托最优曲线曲线上的点满足一个严格定义——你无法在不牺牲一个维度的前提下改善另一个维度。落在前沿线上意味着没有别的模型在“能力更高且成本更低”的意义上支配它注意这不等于它在每个子项上都最强而是说整体权衡不被压制。社区读 AA 图时有几个反复被验证的要点综合质量分通常是多个基准的加权平均权重设计影响排名看之前先确认权重是否贴合自己的业务分布每百万 token 成本要按输入/输出分别计价再按自己业务的实际混合比例折算输出速度对流式交互影响很大Pareto 图上有时直接用延迟替代成本轴上下文窗口是硬门槛长文档场景窗口不够直接出局。最典型的错误是忽略“评估集与业务集的分布差异”AA 的评估集偏通用如果你的业务是合同审核、财务报表或代码仓库级任务图上的位置只能当参考必须拿业务数据再跑一轮自建评测。1.2 一个可复现的选型流程把 Pareto 思想落成流程大致是四步定指标先确定业务核心是延迟敏感还是质量敏感哪些维度是硬门槛窗口、JSON 稳定性、工具调用格式圈可行域在质量-成本图上圈出满足硬门槛的区域只保留不被支配的候选自建评测集从业务日志抽 200~500 条真实请求做标注评测覆盖超长输入、多语言混合、歧义指令等边界 case分“常规集”看均值、“压力集”看鲁棒性定接入形态预览版模型要锁版本号、做指数退避重试例如间隔 1s、2s、4s3 次后降级备用模型、密钥只放服务端代理层绝不下发到前端。这套流程对 Step 5 Preview 的意义在于它出现在前沿上只是入场券能不能用取决于下面两节的架构与工程细节。二、Step 5 Preview 在质量-成本曲线上的位置2.1 位置怎么来的600B 总参、27B 激活先看开源仓库自己给出的事实。README.md 的定位是一句话“StepFuns flagship model for agentic work”规格表为 600B 总参 / 27B 激活 / 1M 上下文 / 1M 最大输出。真正的信息密度在 config.json 里可以逐项核算“27B 激活”是怎么来的配置项值含义num_hidden_layers92文本主干 92 层hidden size 4096moe_layer_list3~90共 88 层第 3 层起启用 MoE前 3 层为稠密moe_num_experts/moe_top_k352 / 8每层 352 个路由专家每 token 只选 8 个moe_intermediate_size1536每个路由专家约 18.87M 参数3×4096×1536share_expert_dim1536每个 MoE 层另有 1 个共享专家常驻激活num_nextn_predict_layers3MTP3 个多 token 预测层sliding_window512滑窗注意力窗口layer_types72×sliding_attention 23×full_attention每 4 层一组3 滑窗 1 全注意max_position_embeddings10485761M 位置编码上限路由专家部分的算术很直白88 个 MoE 层 × 352 专家 × 18.87M ≈584.65B参数占了 600B 总参的绝大部分而每个 token 只激活 8 个专家激活量 88×8×18.87M ≈13.29B。加上共享专家88×18.87M≈1.66B、各层注意力与嵌入、以及 3 层 MTP合计正好落在官方宣称的27B 激活附近。换句话说约 95% 的参数在每个 token 上都不参与计算——这就是稀疏 MoE 把“能力”与“单 token 推理成本”解耦的核心机制总参数决定能力上限激活参数决定单位成本。磁盘与量化侧model.safetensors.index.json 的metadata.total_size为 644.1 GB24 个model-*.safetensors分片 独立的 MTP 分片fp8_vit_sidecar_ready.json 记录 FP8 导出时视觉塔667 个 BF16 张量被拆到 vit.safetensors 单独存放vit_sidecar约 3.96 GB每 TP rank 复制一份config.json 的quantization_config声明quant_method: fp8、fmt: e4m3、weight_block_size: [128, 128]的块量化并把视觉塔前两层注意力与第 88/89/90 层的路由专家保留为 BF16modules_to_not_convert。FP8 权重让 4×B300 单节点即可承载整模型——这直接决定了 API 侧的边际成本下限。2.2 1M 上下文的真实代价混合注意力 DSA 稀疏索引“1M 上下文”在营销页面上只是一个数字工程上它意味着 KV cache 与注意力计算必须被双重压缩否则长上下文的成本会吞噬掉 MoE 省下的钱。config.json里能读出三套机制。第一套滑窗/全注意混合布局。92 层中 72 层是sliding_attention窗口 512 token仅每第 4 层23 层是full_attention且rope_theta数组对这两类层做了不同的基频配置滑窗层用 10000全注意层混用 10000 与 1e7partial_rotary_factors也按层区分。滑窗层的 KV cache 深度被窗口截断长序列下显存与带宽开销远小于全量注意力全注意层负责跨窗口的长程信息传递。第二套全注意层的 DSA 稀疏注意力。text_config.sparse_config显示topk: 512、region_block_size: 8、attention_impl: sparse_gqa、apply_to_layer_types: [full_attention]——那 23 层全注意并不做 O(n²) 全量注意力而是先用一个轻量 indexerproxy_dim: 256、16 个 q 头、单 k 头、带 RoPE 的 32 维投影、ssmaxsoftmax 变体从历史中按 8-token 区域块选出最相关的 512 个块约 4096 token再只对选中区域计算注意力。inference/kernel.py 中对应的正是这套 Triton/CUDA 实现的“稀疏注意力DSAindexer decode/prefill”算子inference/README.zh.md 对 DSA 的定义是“先选出最相关的历史区域再计算注意力”。这是 1M 级上下文能落进“中档成本”区间的另一块基石长上下文的注意力开销近似线性而不随长度平方级膨胀。第三套MTP 投机解码。num_nextn_predict_layers: 3表示主干之外还有 3 个多 token 预测层fp8_vit_sidecar_ready.json记录mtp_weight_count: 17主索引中以独立分片存放。服务命令里 vLLM 用--spec-method mtp --spec-tokens 3、SGLang 用--speculative-algorithm EAGLE --speculative-num-steps 3 --enable-multi-layer-eagle一次前向同时验证最多 3 个草稿 tokendecode 阶段吞吐成倍提升在 token 级定价下更快出 token 就是更低的单位时间成本。把三套机制叠起来每 token 只跑 27B 激活参数计算省、滑窗 DSA 压住长上下文存储与注意力省、MTP 提高 decode 吞吐时间省、FP8 权重压低单节点硬件门槛资本省。Pareto 图上那个“1/8 成本”的位置不是定价部门拍出来的是这条参数链推导出来的结果。2.3 部署形态成本曲线的下限由什么决定README.md 的部署表给出了 FP8 权重的最低门槛——单节点 4×B300vLLM 的 TP4/TEP4/DEP4或 SGLang 的 TP4/EP48×H200 单节点TP8/EP8BF16 则需 8×B300 或 2×8 H200 双节点。以 vLLM FP8 单机 4 卡为例关键参数已经写成了事实标准vllm serve stepfun-ai/Step-5-Preview \ --served-model-name step5 \ --tensor-parallel-size 4 \ --max-model-len 1048576 \ --max-num-batched-tokens 16384 \ --max-num-seqs 64 \ --gpu-memory-utilization 0.85 \ --enable-prefix-caching \ --spec-method mtp --spec-tokens 3 \ --reasoning-parser step5 \ --enable-auto-tool-choice \ --tool-call-parser step5注意--enable-prefix-caching与--max-num-batched-tokens 16384prefix cache 对 Agent 场景长 system prompt 多轮 tool_response 前缀高度重复是实打实的成本项16K 的 chunked prefill 则决定长 prompt 的排队行为。对于没有 4 卡 B300 的团队inference/ 目录提供了一条独立推理路径convert.py一次性把检查点切成tpN/model-r{rank}.safetensors加对应的config-r{rank}.jsongenerate.py用torchrun每 rank 加载一个分片做贪心解码。FP8 路径已在单节点 8×H200TPEP8每 rank 44 个路由专家上验证文本与图文生成BF16 双节点 16 卡下每秩参数占用 74.93 GiB端到端生成跑通16 个 rank 输出 token 完全一致。inference/requirements.txt 把运行时钉在torch2.10,2.14、transformers4.57.6,6、triton3.6,3.8的窄区间上——因为滑窗解码走 PyTorch SDPA、MoE 用 block-scaled FP8 专家 GEMM算子兼容性比版本号敏感。同样值得看的是这条路径写明的限制只支持贪心、不加载 MTP 层投机解码不可用、无 paged KV 与 prefix cache——它是正确性与兼容性验证路径不是吞吐路径。其拓扑校验也非常硬核inference/generate.py 中validate_parallel_topology()会做 fail-closed 检查拒绝把8.9这类浮点值当作 EP8 接受TP/EP 尺寸不匹配直接抛出independent TP and EP groups are not implemented错误。开源仓库在工程契约上的严谨程度与它在 Pareto 图上“抠成本”的取向是同一件事的两面。三、温度参数与结构化输出稳定性的调优组合拳这是社区实测帖里分歧最大、也最容易照搬错的一块。3.1 官方采样点temperature1.0 不是笔误README.md 的 Evaluation Notes 明确给出Recommended inference settings:temperature1.0,top_p0.95,top_k0且官方榜单结果使用 High 推理档位DeepSWE v1.1 的评测同样在temperature1.0、top_p0.95下完成。对习惯“结构化任务一律 temperature 0~0.2”的工程师来说这是反直觉的。原因不难从训练侧推断经过强化学习/偏好优化的推理模型其输出分布是在较高温度采样下对齐过的把温度压到 0 附近可能把模型推出训练分布推理链质量反而下降。社区常见的经验值结构化抽取 0~0.2、创意生成 0.7~1.0、Agent 工具选择 0.1~0.3可以作为其他模型的先验但落到 Step 5 Preview 上正确的姿势是以官方推荐的 1.0/0.95 为锚点做温度扫描在自己的业务评测集上观察“格式正确率 × 内容质量”的联合曲线而不是套用低温默认值。推理档位本身也是一个采样参数chat_template.jinja 支持reasoning_effort变量模板会把Reasoning: level注入 system 段开头生成侧固定以 【免费下载链接】Step-5-PreviewStep 5 Preview 是阶跃星辰面向智能体工作打造的旗舰模型。该模型在软件工程和专业知识工作领域均展现出前沿级性能尤其在金融领域表现突出。 Step 5 Preview 是一个稀疏混合专家MoE模型总参数量为 600B激活参数量为 27B。它支持高达 100 万 token 的上下文长度并可接收文本、图像和视频输入能够在复杂任务中实现持续推理与工具调用。项目地址: https://ai.gitcode.com/StepFun/Step-5-Preview创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考