Lost in Context: Addressing Context Anxiety in Large Language Models
《Lost in Context: Addressing Context Anxiety in Large Language Models》全文总结、创新点 + 指定章节中英对照翻译一、论文整体核心内容总结1. 核心概念:上下文焦虑(Context Anxiety)本文首次系统性定义上下文焦虑:大模型明明具备完成任务的能力、且任务所需token远小于模型上下文上限,却因错误预估任务所需token量,产生“资源不足、无法完整输出答案”的自我怀疑,提前放弃解题,属于可修正的行为缺陷,而非模型底层能力不足。2. 核心研究问题传统认知认为模型推理失败=任务超出模型能力;本文推翻该认知,提出大量长时序推理失败源于模型自我评估校准偏差,而非算力/上下文窗口不足。研究围绕三大问题展开:如何自动检测、量化模型的上下文焦虑行为?上下文焦虑的内在成因、对模型精度与token效率的负面影响是什么?能否通过轻量微调缓解该现象,提升长上下文推理表现?3. 实验设计与数据集主任务:汉诺塔:难