资讯详情

Ladders of Thought论文阅读总结

📅 2026/11/2 21:23:23 | 华诺云谱 👁 阅读
Ladders of Thought论文阅读总结
# Ladders of Thought论文阅读总结 论文信息:**Ladders of Thought: A Self‑Evolving Curriculum of Progressively Simplified Reasoning Traces**,arXiv:2609.25643 作者:Minghui Liu, Thomas Magelinski, Dehao Yuan, Qi Yu, Furong Huang 链接:[https://arxiv.org/abs/2609.25643](https://arxiv.org/abs/2609.25643)## 一、文章主要内容大语言模型只有达到千亿参数规模时,推理能力才表现优异;中小规模模型即便使用知识蒸馏(KD),推理依旧很脆弱。本文提出**LoT(Ladders‑of‑Thought,思维阶梯)**框架,结合渐进式问题改写与自进化课程学习来提升中小模型推理能力。LoT完整流程分为三步:1. **渐进式改写**:自动生成语义保持不变、难度逐步降低的推理问题变体,形成难度阶梯;2. **难度分桶**:基于推理步骤数量对改写后的样本做难度打分,划分不同难度样本桶;3. **自进化老虎机调度器**:采用多臂老虎机算法自适应分配不同难度样本的训练占比,动态调整训练数据分布。实验覆盖数学推理、多跳推理两大任务,测试1‑8B不同系列的中小模型:- 算术任务提升巨大:AddSub提升32个百分点,SVAMP提升25个百分点;- 域内测试集稳定提升2‑8个百分点;- 多跳推理收益随数据集变化:QASC提升16pp,StrategyQA提升25pp;部分侧重事实检索数据集提
📝

华诺云谱内容团队

资深建站顾问 · 行业研究员

10年+企业数字化服务经验,专注智能建站、SEO优化与品牌营销,持续输出建站技巧、行业洞察与营销干货,已帮助5000+企业实现数字化增长。

你可能需要的服务

订阅华诺云谱资讯周报

每周一封,精选建站技巧、SEO与营销干货,直达邮箱。已有 8,000+ 企业主订阅,助你少走弯路。

↑