一、问题的起点企业知识库问答有一个绕不开的现实用户的一次提问往往要同时检索多个知识库——制度库、产品手册库、故障案例库。这带来两个看似简单、实则棘手的问题每个知识库有独立的检索配置A 库用向量检索、开了 Rerank、阈值 0.7B 库用混合检索、阈值 0.5。各库的分数体系、召回策略完全不同怎么并行执行、互不干扰多路结果怎么合成一路向量相似度是 [0,1] 的余弦分关键词命中是固定分不同库的分数量纲不一直接拼在一起排序毫无意义。怎么融合才公平更隐蔽的一个坑是如果在粗召回阶段就按阈值过滤一个“向量分只有 0.55、但经过重排序模型判定相关度 0.9”的高质量文档块会在它被证明价值之前就被扔掉。本文介绍我们在生产环境中落地的一套检索编排架构核心思想只有一句话单库流水线是唯一的核心方法每个知识库都执行它多库检索只是“各库并行跑流水线 一次跨库融合”。二、总体架构检索发生在三层权限过滤之后知识库可见性 → 文档元数据过滤 → 检索确保只在“用户有权看的文档”范围内工作。整体编排如下用户查询 可见知识库列表 │ ┌─────────────────┴─────────────────┐ │ 各库并行执行「单库流水线」 │ │ 粗召回 → Rerank → 阈值 → 库内TopK │ └─────────────────┬─────────────────┘ │ ┌──────────────┴──────────────┐ │ 知识库数量 1 │ └──────┬───────────────┬───────┘ 是 │ │ 否 ▼ ▼ 单库短路直接返回 多库 RRF 等权融合 │ 全局 Rerank可选 │ 全局 Score 阈值过滤 【前提配置Rerank 】 │ 全局 TopK关键设计决策有三个后文逐一展开单库流水线是核心召回、重排、过滤、截断四步闭环多库只是它的并行组合分数融合用 RRF多库跨库只按“名次”而非原始分数融合天然规避量纲问题单库短路只有一个有权限的知识库时跳过全部全局步骤。三、单库流水线核心方法每个知识库都走同一条四步流水线它是整套系统的原子单元。3.1 流水线四步[1] 粗召回模式层 向量 / 关键词 / 混合混合内部再按融合规则二选一 返回 topK×2 候选池按分数降序 ↓ [2] Rerank 重排序可选 知识库开启 Rerank 时用重排序模型按“查询-文档”语义相关度重新打分 模型未配置/调用失败 → 保底保留粗召回顺序 ↓ [3] Score 阈值过滤 按【最终分数】过滤经过 Rerank 则过滤的是重排分数 ↓ [4] Top-K 截断 取前 k 条单库结果产出完毕3.2 第一步粗召回三种模式向量检索查询经 Embedding 向量化用 pgvector 余弦距离做 ANN 近邻搜索score 1 - cosine_distance懂语义、善同义关键词检索PGILIKE词面匹配BM25 的阶段一替代接口已预留替换点不依赖任何模型对型号、错误码、专有名词精确可靠混合检索两路各召回topK×2再按知识库配置的融合规则二选一、互斥执行加权分数融合默认两路分数各自 min-max 归一化到 [0,1]再按权重加权——score 0.7×normVec 0.3×normKw同一块双路命中则两份加权分相加天然靠前Rerank 重排序融合两路先 RRF 等权合并成候选池顺序仅作保底精排交给流水线第二步统一做全链路只重排一次。3.3 第二步Rerank 的位置是精心安排的粗召回追求“快而全”Rerank 模型Cross-Encoder 类追求“准而贵”——把“查询每个候选块”成对输入重新打分。它被显式放在粗召回之后、阈值之前原因是阈值必须基于最终分数执行。一个向量路只给了 0.55 分的块可能恰恰是 Rerank 眼中相关度 0.9 的答案。如果粗召回时就阈值预过滤它连进入 Rerank 的资格都没有。这就是候选池设计见 3.5存在的意义。容错策略也值得一提Rerank 是“锦上添花”而不是“必经之路”。模型未配置、返回分数数量不匹配、下标越界、网络异常——任何一种情况都返回空流水线保底使用粗召回顺序绝不因为重排失败而丢掉结果。【注意点需要留意一种边界情况如果 Rerank 模型频繁失败但每次都静默降级系统会长期运行在“无 Rerank”状态而不被察觉。建议增加一个监控指标记录 Rerank 失败率超过阈值时主动告警】3.4 第三、四步阈值与 Top-K阈值过滤和条数截断是两步独立动作先按分数滤掉噪声阈值为 0 表示不过滤再截取前 k 条。分开做的好处是语义清晰——阈值回答“够不够格”Top-K 回答“要多少条”。3.5 候选池设计为什么模式层返回 topK×2 且阈值传 0这是整套实现最关键的细节阶段条数是否做阈值过滤模式层粗召回topK× 2否阈值传 0Rerank全候选池—阈值过滤保留达标项是基于最终分数Top-K 截断topK—放大召回、后置收紧给 Rerank 和融合留足“原料”把淘汰权交给掌握最终分数的编排层。四、多库编排并行流水线 跨库融合当用户有权访问多个知识库时在单库流水线之上叠加跨库处理。4.1 五步流程[1] 各库并行执行单库流水线线程池并发单路失败不影响其他库 ↓ [2] 多库 RRF 等权融合候选池 全局TopK × 4 ↓ [3] 全局 Rerank全局配置开启时失败保底 RRF 顺序 ↓ [4] 全局 Score 阈值过滤 【前提rerank开启】 ↓ [5] 父子扩展等后处理 → 全局 Top-K 截断4.2 第一步并行执行 故障隔离各库通过固定线程池4 线程并行跑同一条单库流水线。每个知识库用自己的参数独立完成召回、库内 Rerank、库内阈值、库内 Top-K。任意一库检索抛异常只记日志、返回空列表不拖累其他库——这是多库场景必须的故障隔离。4.3 第二步为什么跨库融合用 RRF 而不是加权分数这是多库融合的算法核心。不同库的原始分数不可直接比较向量分是余弦相似度关键词命中是固定分即使都是向量分不同库内容分布不同0.8 分在 A 库和 B 库的“含金量”也不同。RRFReciprocal Rank Fusion倒数名次融合只看名次、不看分数因此天然免疫量纲问题RRF_score(块) Σ 1 / (k rank_i) 各库rank_i该块在第 i 个知识库结果中的名次从 1 开始k 60学术界与工业界通用的经验常数作用是“压缩头部名次优势”——第 1 名和第 2 名的差距不会大到碾压其他库的贡献同一块在多个库中被召回 → 各路 RRF 分累加跨库共识的块自然浮到顶部。举例某块在 A 库排第 1、在 B 库排第 3其融合分 1/(601) 1/(603) ≈ 0.0322而只在一个库排第 1 的块只有1/61 ≈ 0.0164。“多个知识库都认可”比“单个知识库特别看好”权重更高这正是跨库融合想要的语义。融合后块的分数被覆盖为 RRF 分按融合分降序候选池取全局TopK × 4同样为后续全局 Rerank 预留空间。注意两种融合的分工库内混合检索用加权分数融合同库、同 Embedding、分数量纲一致可以直接操作分数跨库用 RRF异质分数不可比只能比名次。同一个 RRF 组件以“两路带权 / 多路等权”两个方法复用。4.4 第三~五步全局加工全局 Rerank跨库 RRF 给出的只是“按名次共识”的粗排再由全局配置的重排序模型对整个融合池做一次跨库精排回答“在所有库的候选中谁才是真正最相关的”全局阈值/全局 Top-K基于全局最终分数统一过滤、截断参数取自“多库结果融合”全局配置父子扩展收尾命中单位是子块检索单元送入大模型的是父块上下文单元。按子块 parentId 批量回查父块内容、同父多子去重取最高分既保证上下文完整又保留引用溯源能力。五、单库短路不要给单库结果做“多库按摩”一个容易被忽略但很重要的规则当用户只有一个知识库权限时直接返回该库流水线结果跳过 RRF、全局 Rerank、全局阈值、全局 Top-K 全部全局步骤。原因有三语义正确单库结果的分数已经是该库体系下的最终分数可能是 Rerank 分再按全局阈值RRF 分体系或另一套配置过滤属于张冠李戴避免重复重排库内已经按知识库配置重排过一次没必要用全局模型再排一次白花 token 和延迟参数归属清晰单库只认知识库自身设置全局配置天然只在“多库”这个它该出现的地方生效。实现上就是流水线产出后的一个分支判断一行短路省掉整条全局链路。六、参数归属单库只执行单库的参数编排的复杂性很大程度来自“这个参数到底听谁的”。我们定下的规则简单而严格参数单库流水线多库全局步骤检索方式向量/关键词/混合知识库设置—库内 Rerank 开关 / 模型知识库设置—库内 Score 阈值 / Top-K知识库设置—混合融合规则 / 双路权重知识库设置—全局 Rerank 开关 / 模型—多库结果融合配置全局 Score 阈值 / 全局 Top-K—多库结果融合配置单库配置配置只管单库单库只执行单库的参数全局配置只管多库它控制的是融合之后的跨库加工七、容错与分层小结整套编排的容错是分级的模式层只负责召回与融合不感知 Rerank/阈值/Top-K输出候选池Rerank 层任何失败都退化为“保留上游顺序”不阻断流程多库并行层单库异常隔离返回空路融合照常进行后处理层父子扩展对无 parentId 的通用分块原样透传父块缺失时保留子块数据异常也不丢结果。分层之后每个组件都可以独立演进关键词路未来从 ILIKE 升级为真正的 BM25tsvector / ES只需替换模式实现融合算法调整只动融合组件上层编排一行不用改。八、写在最后回顾这套设计真正让系统变简单的不是某个算法而是两个结构性决定把单库流水线确立为唯一核心方法——多库不再有自己的一套召回逻辑只是“并行 N 次 融合 1 次”重复代码与分叉判断全部消失把“分数”在正确的阶段用在正确的地方——库内同质分数用加权融合跨库异质结果比名次RRF阈值永远等在 Rerank 之后候选池先放大再收紧。RAG 检索没有银弹但一套“单库闭环、多库组合、名次融合、短路保底”的编排骨架足以支撑从单库试点到成百上千个知识库的平滑扩展。