决策模型正在取代生成式 LLM 做智能体大脑微软 Microsoft-Decision-1、Liquid AI d1 与 Kev 背后的单次前向范式引言一个不太像巧合的两周如果只看单条新闻2026 年 10 月上旬的这几条消息并不起眼10 月 2 日的 GitHub 周榜里出现了一个名为 Kev 的项目描述是「基于 Qwen3.5 的小型决策模型家族提供 0.8B/4B/9B 规模支持是/否、选择、评分等多种问答类型」7 天星标增量 1,449累计 8,195截至该榜单所述日期[4]10 月 5 日的日报提到上海人工智能实验室开源了主打多模态界面的 Intern-Decision创业公司 StartLux 推出覆盖 0.8B 至 27B 五档规格的 StartLux-Decision定位是「为复杂 Agent 系统提供低延迟、低成本的高频判定基础设施」[3]10 月 8 日Liquid AI 开源 d1 系列边缘决策模型其特点是「不产生 token而是在单次前向传播中直接输出答案」[2]10 月 9 日至 10 日微软宣布推出 Microsoft-Decision-1报道口径称其基于 Qwen3.5-9B [1]。把它们排在一条时间轴上共性就浮出来了参数规模刻意做小、输出形式高度结构化、面向 Agent 的高频判定而非内容生成、普遍强调低延迟与边缘可部署。有日报甚至直接把「决策模型成新赛道」写进了标题 [5]。这已经不太像几家机构各自偶然的产品线动作更像同一类需求在同一个时间窗口被同时看见。不过在把「新赛道」当作定论之前需要先说明本文的证据边界。本文引用的全部规格数字均来自公开日报、榜单速报及其转述没有厂商官方模型卡、技术报告或一手仓库页面作为直接依据材料中也完全没有延迟、吞吐、成本、准确率的实测数据。因此下文凡涉及性能与成本的部分一律给出机制层面的推导公式与自测方法不填写任何具体毫秒数或倍数凡属于作者分析而非公开口径的内容均标注为「推断」。「取代」一词本文只在标题疑问句与结论的否定回答中出现。一、现象盘点五款模型一个新赛道1.1 公开信息对照先把已知与未知分开摆。下表只填材料中出现过的信息空白处标「待核实」不做任何补全发布方模型参数规模声称底座输出形式目标场景开源状态来源等级微软Microsoft-Decision-1待核实报道称 9B 级报道称 Qwen3.5-9B [1]待核实结构化判定Agent 判定待核实二手转述Liquid AId1 系列待核实自家 Liquid 基础模型 [2]单次前向直接作答不产生 token [2]边缘场景报道称开源 [2]二手转述上海 AI 实验室Intern-Decision待核实待核实多模态界面方向 [3]Agent 系统报道称开源 [3]二手转述StartLuxStartLux-Decision0.8B–27B 五档 [3]待核实待核实高频判定、低成本 [3]报道称开源 [3]二手转述开源项目 KevKev 家族0.8B/4B/9B [4]报道称基于 Qwen3.5 [4]是/否、选择、评分 [4]自建客服或业务决策 [4]开源可本地训练部署 [4]二手转述榜单这张表本身就是一个信息五家里只有两家的底座、只有两家的参数规模、只有 Kev 的输出契约在材料里有具体描述。任何一份声称给出完整规格对比的文章若没有引用官方模型卡都应被读者追问出处。时间线也需要一点修正。「两周内密集发布」是基于媒体报道时间的观察Kev 至少在 10 月 2 日的周榜中已被收录 [4]其真实发布时间可能更早而各条消息大多来自日报类内容报道集中本身也可能制造「同时发生」的观感。严格的发布时间轴需要回到各项目官方仓库或博客的 release 记录逐条确认。1.2 「决策模型」的工作定义概念一旦热起来边界就会模糊。为了可操作本文给出三条判据满足全部三条的才归入「决策模型」这一赛道输出空间可枚举或结构化是/否、固定选项集合、分值区间而不是自由文本。Kev 明确支持是/否、选择、评分三类问答 [4]是这一判据最清晰的样本。推理路径不经过自回归逐 token 解码Liquid AI d1 的描述是「单次前向传播中直接输出答案不产生 token」[2]属于机制层面的直接证据。部署目标是高频判定而非内容生成StartLux-Decision 的定位「低延迟、低成本的高频判定基础设施」说明了这一点 [3]。按这三条决策模型与既有概念的关系可以这样理解它在输出形态上像分类器/回归器在训练来源上常常继承大模型的表示能力在系统角色上又接近传统软件里的规则引擎或策略路由器。它与 Reward Model 有谱系关系——Reward Model 也是把开放生成压缩为标量或排序——但 Reward Model 主要服务于训练期的偏好对齐决策模型主要服务于推理期的在线判定二者不可混称。它也不等于「小 LLM」一个小的生成式模型仍然要逐 token 解码即便参数只有 0.8B也仍属于自回归范式。1.3 「密集发布」的证据强度必须坦白说明材料的性质。在本次可引用的来源中绝大多数是日报、周榜、榜单速报彼此大量转引同一条消息独立的一手来源官方仓库、官方博客、论文比例很低。这意味着「五家同时发布」在很大程度上是媒体聚合视角下的同时而非严格意义上的独立交叉验证。目前唯一可引用的量化热度线索是 Kev 的星标数8,1957 天增量 1,449出自 2026 年 10 月 2 日的周榜统计 [4]。引用时必须带上「截至该榜单所述日期」的限定且星标数只反映开源关注度不代表模型效果。二、机制拆解单次前向直接作答 vs. 逐 token 生成这是全文的技术核心。「不产生 token」听起来像营销话术但在计算图上它对应一个非常具体的差异。2.1 两条推理路径究竟差在哪一步生成式 LLM 的一次典型调用由两段构成Prefill预填充把输入序列一次性并行送入模型建立 KV cache。这一步计算并行度高通常受算力约束。Decode解码每一步只算一个新 token但要读取全部历史 KV cache并把结果采样后追加到序列尾部再进入下一步。这一步是串行的且通常是访存瓶颈算力利用率低延迟随输出长度线性累积。决策模型则跳过了第二段一次前向传播完成输入编码直接由表示层映射到答案空间——通常是一个分类头、回归头或一个受限输出头输出一个枚举值或标量。用符号表示生成式 T_total ≈ T_prefill(L_in) N_out × T_decode_per_token 决策模型T_total ≈ T_forward(L_in) T_head其中L_in是输入长度N_out是输出 token 数T_decode_per_token是单 token 解码延迟含 KV cache 读写与采样。**决策模型省掉的是解码循环次数N_out不是前向计算本身。**输入编码的成本并没有消失它仍随输入长度增长。这一点常被误读为「决策模型计算量极小」准确的说法是决策模型把输出侧的成本从随长度线性增长变成了近似常数。2.2 延迟解码循环是主要变量延迟构成可以拆成三块输入编码、输出生成、网络与调度开销。前两块受模型与硬件影响第三块受部署形态影响。对一个「是/否」判定生成式模型即使只输出 5 个 token例如「答案是」也要付出 5 次串行解码的代价而答案的信息量只有 1 比特。**用自回归生成去传输 1 比特信息是范式与任务的错配。**决策模型把这 1 比特直接从 logits 或标量头读出输出侧成本与「答案有多长」完全解耦。由此可以得到两条可用于自测的预期是机制推导不是实测结论生成式路径的端到端延迟随N_out近似线性增长决策模型路径对输出长度不敏感。当输入很长、输出很短时两者的差距主要由N_out × T_decode_per_token决定当输入很短时网络与调度开销可能成为主导此时差距会缩小。需要强调材料中没有任何一家公开延迟数字。任何宣称「快 X 倍」的表述若没有注明硬件型号、输入/输出长度、批量大小、是否量化都不可采信。建议读者在自家环境按下述口径自测固定输入长度分布记录 P50/P95/P99分别在批量 1 与目标并发下测量并单独统计 prefill 与 decode 时间。2.3 成本真正的收益在吞吐与并发成本优势常常被简化为「小模型更省算力」但更准确的账在吞吐侧。解码阶段访存密集KV cache 占用显存并随并发数线性增长去掉解码循环意味着单卡可承载的并发判定数显著提高且显存占用更可预测请求排队造成的尾延迟P99更稳定因为没有长输出请求长时间占用解码槽位边缘设备上的能耗与电池预算更可控因为没有反复的 KV cache 读写循环。这与近期算力计价口径的变化是同向的。有报道提到推理引擎厂商开始以「每块 GPU 承载的并发智能体会话数」来衡量效率并称相关产品能让单卡承载 2 到 6 倍并发会话厂商口径本文未独立验证[6]另有报道提到以「词元服务」为计费单位的智算基础设施研究 [5]。决策模型恰好绕开了按 token 计费的逻辑——如果一次判定不产生 token那么按 token 计费的成本模型就不再能刻画它的真实价值。建议用「单位判定成本」作为口径每次判定消耗的 GPU 秒、能耗或边缘设备的电池预算。2.4 可解释性结构化输出的两面结构化输出对可解释性是加减分并存的。加分面输出空间可枚举意味着可以统计混淆矩阵、做置信度校准、设置拒答阈值、完整回放每一次判定及其输入。这在合规、风控、安全过滤场景里是硬需求——你可以精确回答「过去一周有多少请求被判为允许其中误判率是多少」而生成式模型的自由文本很难做这种审计。减分面没有理由链。当一次判定错了很难区分是输入表示的问题、训练数据偏差还是判定头的问题。生成式模型的思维链至少提供了诊断线索尽管它本身也未必忠实。决策模型需要配套机制来弥补输出置信度、拒答位、对中间表示做探针分析、以及定期的对抗评测。目前材料中没有任何一家公开可解释性方案。这是赛道当前的空白点也是选型时应当主动向供应方追问的项。2.5 适用边界不是所有判定都适合换任务类型答案空间推理深度推荐方案意图分诊、请求路由可枚举低决策模型工具选择可枚举工具清单低到中决策模型置信度低时升级是/否校验、参数合法性检查可枚举低决策模型安全与合规过滤可枚举 拒答位低决策模型 规则层双重把关评分、排序、偏好打分标量/序数低到中决策模型多步规划、长上下文综合开放高生成式 LLM开放式内容产出、代码生成开放高生成式 LLM答案不可枚举的推理题开放高生成式 LLM判断标准可以压缩成一句话答案空间是否可枚举输出是否高频错了是否可回退。三项都满足才值得考虑替换。三、为什么普遍绑定 Qwen 系列底座3.1 现象陈述两家明示一家反例绑定 Qwen 的证据目前有两条Microsoft-Decision-1 被报道为基于 Qwen3.5-9B [1]Kev 的项目描述称其基于 Qwen3.5提供 0.8B/4B/9B 三档 [4]。Intern-Decision 与 StartLux-Decision 的底座在材料中没有说明。但 Liquid AI d1 是一个明确的反例它基于自家 Liquid 基础模型 [2]。这说明绑定 Qwen 是当前的一种主流选择而非技术上的必然。同时需要提醒「Qwen3.5」这一具体版本号目前只见于二手日报的转述是否为官方正式版本命名本文无法确认引用时应保留这一不确定性。3.2 成因推断全部为推断无厂商官方口径以下五条是可能的解释均无官方依据支持请按推断对待假设支持线索反例或风险待验证问题开放许可、可商用、可微调微软与开源社区项目都可基于它做衍生许可细节与衍生模型义务未核实各衍生模型的许可证传导条款中文与多语言覆盖较好面向国内 Agent 与客服场景的需求国际厂商选择它可能另有原因多语言任务的实际表现小尺寸梯队完整便于按算力档位选型Kev 提供 0.8B/4B/9B 三档 [4]其他底座亦有小尺寸梯队各档位的精度/延迟曲线微调与量化工具链成熟项目宣称可本地训练部署 [4]工具链成熟度随时间变化训练成本与工程文档质量与国内部署环境、信创生态适配国内研发平台在推进 AI 能力落地与国际厂商的选择无必然联系硬件适配与算子支持情况3.3 底座绑定的生态代价集中绑定同一底座带来三层风险供应链集中底座的许可变更、版本停更、权重撤回会传导到整个决策模型生态同质化偏差多家模型共享同一表示层可能共享同一类盲区在同一类输入上集体失效评测可比性受损不同厂商在同一底座上做微调宣称的准确率提升难以横向比较因为评测集与标注口径往往不公开。对使用者的建议是不要只看底座名字要看微调数据的来源与标注口径、评测集是否独立、许可证是否允许你的使用场景。四、Agent 架构选型把决策模型放进哪一层4.1 Agent 循环里的高频判定环节一个典型的 Agent 循环里真正开放推理的调用其实不多大量调用是「小判定」用户意图分诊这句话是闲聊、任务请求还是越权指令上下文与工具路由需要检索、需要调用工具还是直接回答工具选择在十几个 MCP 工具里选哪一个参数合法性校验生成的工具参数是否符合 schema、是否越权结果置信判定工具返回是否可信、是否需要重试或换路径安全与合规过滤这条输出能否放行下一步动作闸门继续执行、请求确认还是终止这些环节的共同特征是调用频次高、答案空间小、错了可回退、延迟预算紧。它们正是决策模型的适用区间。4.2 参考架构生成式做推理决策模型做闸门┌────────────────────────────────────────────┐ │ Agent 编排层 │ │ 生成式 LLM规划、工具参数构造、内容产出 │ └───────────────┬────────────────────────────┘ │ 高置信、开放性任务 ┌───────────────▼────────────────────────────┐ │ 判定层决策模型 │ │ 路由 / 过滤 / 评分 / 置信闸门 / 拒答 │ └───────────────┬────────────────────────────┘ │ 低置信 → 升级回生成式 LLM ┌───────────────▼────────────────────────────┐ │ 执行层 │ │ 工具调用 / MCP Server / 外部系统 │ └────────────────────────────────────────────┘这个分层与当前 Agent 基础设施的演进是衔接的。材料显示智能体生态的主线已经从「模型能力」转向上下文管理、技能装配Skills、工具协议MCP与工作台Harness[8][9]。判定层正是这些基础设施的守门员Skills 的渐进式加载需要判断「该不该加载、加载哪一个」[8]MCP 工具的选择需要判断「该调用哪个服务」[9]工作台的多会话并发需要判断「这条请求走快路径还是慢路径」。判定层不是取代大脑而是让大脑不再被琐事反复打断。4.3 最小可落地示例以下为伪代码接口用占位符不绑定任何未公开 API。重点在输出契约设计fromdataclassesimportdataclassfromenumimportEnumclassVerdict(Enum):YESyesNOnoABSTAINabstain# 拒答位模型不确定时强制升级dataclassclassDecision:verdict:Verdict score:float# 置信度需在验证集上做校准choice:str|None# 若为选择题返回枚举选项model_id:str# 溯源哪个模型、哪个版本做的判定defroute_request(user_request:str,tools:list[str])-Decision:意图分诊 工具路由 置信闸门# 1. 结构化判定一次前向输出枚举值与分数ddecision_model.predict(taskroute,inputuser_request,optionstools[direct_answer,escalate],output_schema{verdict:enum,score:float},)# 2. 置信闸门低于阈值不作结论强制升级ifd.scoreCALIBRATION_THRESHOLD:returnDecision(Verdict.ABSTAIN,d.score,None,d.model_id)# 3. 映射到动作returnDecision(d.verdict,d.score,d.choice,d.model_id)defagent_loop(request:str):droute_request(request,TOOL_REGISTRY)ifd.verdictVerdict.ABSTAIN:returngenerate_with_llm(request)# 兜底升级到生成式模型ifd.choiceinTOOL_REGISTRY:resultcall_tool(d.choice,request)ifnotresult.ok:returngenerate_with_llm(request)# 执行失败同样回退returnresultreturngenerate_with_llm(request)契约设计上有三点必须坚持枚举输出必须带拒答位否则模型会被迫在不确定时给出结论置信度必须做校准原始 softmax 分数不等于概率必须记录 model_id 与输入快照否则无法回放审计也无法做回归评测。4.4 选型决策表判定频次答案熵延迟预算推荐方案高每轮多次低可枚举紧毫秒级决策模型独立承担高低宽松决策模型 定期用生成式模型抽检中中选项多但有限中混合决策模型先判低置信升级低高开放文本宽松生成式 LLM任意高紧不建议用 LLM回到规则或专用模型迁移成本也要算进去换模型不是只换一个 endpoint。你需要自建标注数据、独立评测集、置信度校准流程、以及判定失败时的兜底路径。没有这四样替换带来的延迟收益会被错误判定的返工成本抵消。4.5 边缘部署的额外考量Liquid AI d1 明确主打边缘场景 [2]但材料中没有任何边缘实测数据。工程上需要额外验证的项包括量化前后精度损失、内存峰值与冷启动时间、离线更新与版本回滚机制、设备异构下的算子支持、以及长时间运行的功耗与热稳定性。这些都应作为待补实测项而不是默认成立。一个标注为示意、非真实客户案例的端到端流程客服 Agent 收到用户消息 → 决策模型在一次前向内完成意图分诊与工具路由返回枚举选项 置信度→ 置信度低于阈值则升级到生成式 LLM 做开放推理 → 工具执行前由决策模型校验参数合法性 → 输出前由安全判定头做放行检查 → 全部判定记录带 model_id 落审计日志。这个流程的价值不在单点速度而在把不可预测的生成延迟替换为可预测的判定延迟。五、冷思考证据边界与结论5.1 目前能确认什么、不能确认什么能确认的多个机构在 2026 年 10 月上旬的报道窗口内发布了形态相似的产品小参数、结构化输出、面向 Agent 高频判定是共同定位 [1][2][3][4]至少两家被报道绑定 Qwen 系列底座 [1][4]而 Liquid AI d1 使用自研底座构成反例 [2]开放权重模型在追踪总量中已占相当比例但综合能力与闭源旗舰仍有差距 [7]。不能确认的任何延迟、吞吐、成本、准确率的具体数字「决策模型正在取代生成式 LLM」这一论断各家模型的实际效果与横向评测「Qwen3.5」这一版本命名的官方准确性各模型的许可证细节与商用边界。5.2 需要继续核实的事实清单Microsoft-Decision-1 的官方模型卡发布日期、底座、输出头结构、是否开源权重、许可证。「Qwen3.5」是否为官方正式版本命名规格如何。Liquid AI d1 的具体型号与参数量、输出头实现、边缘硬件基准。Intern-Decision 的发布主体、规格、任务范围与开源状态。StartLux-Decision 五档的具体型号名、底座与发布方身份材料中信息最少的一项宜优先核实。Kev 的仓库地址、许可证、三种输出的具体接口定义以及星标数据的采集日期。各家是否官方解释过选择 Qwen 的原因若无全文保持「推断」措辞。任何性能数据都需注明硬件、输入长度、输出长度、批量大小与量化方式。5.3 结论不是取代大脑而是把判定从大脑里拆出来回到标题的问题答案是否定式的决策模型大概率不会取代生成式 LLM 成为 Agent 的「大脑」。规划、创造、长上下文综合、开放性推理仍然需要生成能力这是自回归范式的强项也正是决策模型刻意放弃的部分。但它很有可能取代生成式 LLM 承担 Agent 的「反射弧」。那些高频、低熵、可枚举、错了可回退的判定环节用逐 token 生成来完成是范式错配为传输 1 比特信息支付 5 次串行解码的成本既不经济也难以审计。把这部分判定从生成式模型中拆出来交给结构化的决策模型真正的收益是延迟可预测、成本可核算、行为可审计——这三件事恰恰是 Agent 系统从演示走向生产时最难补齐的部分。对正在设计或维护 Agent 系统的团队可执行的下一步只有一条先把自家 Agent 的判定调用清单列出来逐条标注答案空间是否可枚举、调用频率、延迟预算与失败可回退性。清单列完替换收益是否成立答案通常已经清楚。至于「新赛道」能走多远取决于厂商何时公开可复现的评测、可解释性方案与许可证条款——这三样目前都还在待核实清单上。参考资料[1] AI 与大模型新闻日报2026-10-10含 Microsoft-Decision-1 相关转述CSDNhttps://blog.csdn.net/dozenyaoyida/article/details/167461325[2] AI 日报2026 年 10 月 8 日Liquid AI 开源 d1 系列边缘决策模型掘金https://juejin.cn/post/7693909029785337871[3] AI 日报2026 年 10 月 5 日Intern-Decision 与 StartLux-Decision 相关转述掘金https://juejin.cn/post/7692379120274538536[4] GitHub 周榜趋势速报2026-10-02含 Kev 项目条目与星标数据掘金https://juejin.cn/post/7691399863522918438[5] AI 资讯日报2026 年 10 月 10 日决策模型成新赛道、中国信通院词元服务研究报告等CSDNhttps://blog.csdn.net/IT_ORACLE/article/details/167563262[6] 从 2048 并发会话到 501B 开源模型算力账本开始按「单位卡产出」计价2026-10-07CSDNhttps://blog.csdn.net/kenshin1980/article/details/167172850[7] 2026 年第 41 周科技社区趋势周报导读含 BenchLM 开放权重统计转述掘金https://juejin.cn/post/7695199380076822547[8] Anthropic 官方揭秘Agent 和 Skills 如何配合工作Agent Skills 四层协同架构掘金https://juejin.cn/post/7598588085597601832[9] AI 资讯日报2026 年 10 月 6 日智能体基建成企业落地主线、开放代理安全平台等CSDNhttps://blog.csdn.net/IT_ORACLE/article/details/167210150说明以上来源多为日报、榜单类二次转述彼此存在相互引用关系不构成独立交叉验证。文中涉及的模型规格、发布时间与技术实现均建议以各项目官方仓库、模型卡或技术报告为最终依据。