资讯详情

Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记

📅 2026/11/2 21:23:22 | 华诺云谱 👁 阅读
Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记
# Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记 论文信息:arXiv:2609.25049|EMNLP 2026 Main Conference|作者:Zixuan Wang, Bingjie Zhang, He Zhao, Dandan Guo## 一、论文主要内容该论文针对经过安全对齐的大语言模型普遍存在的**过度拒绝(Over‑Refusal)**问题展开机理研究与算法设计。过度拒绝指模型错误拒绝本身无害、但和不安全提示存在词汇/语义重叠的合法用户指令(论文称为Hard‑Safe提示),会严重损害模型的可用性与推理能力。1. **机理分析**:过往研究大多把过度拒绝归因于静态表征空间的重叠,本文从Transformer注意力内部路由冲突角度做机理剖析。作者发现存在一小部分**高敏感安全注意力头(Hypersensitive Safety Heads)**,在处理Hard‑Safe无害提示时会异常激活;产生异常注意力纠缠,强行将无害实体绑定到拒绝语义上,引发高熵的路由冲突,目标实体得不到应有的注意力分配,最终触发错误拒绝输出。2. **方法提出**:提出**SRC(Semantic Routing Calibration,语义路由校准)**,是一套轻量、**无需重新训练、仅推理时生效**的框架。核心两步:①推理阶段精准定位并动态抑制高敏感安全头;②双分支Logits融合作为安全正则器,校正解码过程,恢复模型正常推理输出,不会破坏原有安全能力。3. **实验验证**:在多模型、多基准上开展大量实验,SRC可以有效缓解过度拒绝问题,同时尽可能保留模型原生的安全防御性能,在“减少误拒绝”和“拦
📝

华诺云谱内容团队

资深建站顾问 · 行业研究员

10年+企业数字化服务经验,专注智能建站、SEO优化与品牌营销,持续输出建站技巧、行业洞察与营销干货,已帮助5000+企业实现数字化增长。

你可能需要的服务

订阅华诺云谱资讯周报

每周一封,精选建站技巧、SEO与营销干货,直达邮箱。已有 8,000+ 企业主订阅,助你少走弯路。

↑