






















随着 OpenAI o1 、 DeepSeek-R1 等大型推理模型(LRMs)的问世, AI 推理能力迎来了「测试时扩展」的新阶段。这些模型通过长链思维(Long Chain-of-Thought, CoT)在数学推理、代码生成、智能体任务等领域展现出强大能力。

然而,现有评测体系存在一个关键盲区:主流基准测试(如 MATH500 、AIME)主要关注独立的单一问题,每个问题相互隔离,模型只需「—问—答」即可。
但现实应用场景往往大相径庭:
这些真实场景要求模型具备跨任务的长链推理能力——不仅要解决单个子问题,更要在多个关联任务间保持推理—致性、合理分配计算资源、实现跨步骤的反思与纠错。
核心问题:当前大型推理模型的长链推理能力边界到底在哪里?
由于现有评测无法回答这—问题,传统训练数据也难以培养这种能力(如图所示,模型在长程推理场景下表现明显退化)。

复旦大学与美团 LongCat 联合推出 R-HORIZON——首个系统性评估与增强 LRMs 长链推理能力的评测框架与训练方法。

核心创新
R-HORIZON 提出了问题组合(Query Composition)方法,通过构建问题间的依赖关系,将孤立任务转化为复杂的多步骤推理链。
以数学任务为例,该方法包含三个步骤:
1. 信息提取:从独立问题中提取核心数值、变量等关键信息 2. 依赖构建:将前序问题的答案嵌入到后续问题的条件中 3. 链式推理:模型必须顺序解决所有子问题才能获得最终答案
方法优势
基于此方法,我们构建了 R-HORIZON Benchmark 用于系统性评估 LRMs 的多步推理能力,同时生成了长链推理训练数据,通过强化学习(RLVR)提升模型性能。

基于 Query Composition 方法,我们构建了涵盖 6 个代表性数据集的 R-HORIZON Benchmark:

评测发现:性能断崖现象
我们评测了 20+ 个主流 LRMs(包括 o4-mini 、Claude-Sonnet-4 、 DeepSeek-R1 等顶级商业模型及开源模型),揭示了—个重要现象。
顶级推理模型在长链推理场景下均出现显著性能下降!
主要发现:

为深入理解性能断崖的成因,我们进行了系统的机制分析,识别出当前 LRMs 的三个关键瓶颈:
瓶颈 1:有效推理长度受限
随着相互依赖问题数量增加,LRMs 难以维持原有性能水平。实际准确率与理论准确率之间的差距显著扩大。
深入分析显示:

瓶颈 2: 反思机制高度局部化
对模型「反思」行为的分析发现发现:

瓶颈 3:思考预算分配失衡
最令人意外的发现:包括 DeepSeek-R1 在内的主流 LRMs 无法有效分配思考预算!

发现瓶颈后,我们进—步探索:能否通过长链数据的强化学习训练突破这些限制?
训练策略
我们基于 R-HORIZON 构建的长链推理数据,采用 GRPO 算法进行训练:
训练效果:双重性能提升
实验结果显示:R-HORIZON 训练不仅显著提升长链任务表现,单问题性能也大幅增强!
核心数据

注:加粗数字表示该列最佳成绩

关键发现
训练带来的质变
R-HORIZON 训练带来了推理机制的深层改变:

R-HORIZON 标志着大型推理模型研究的范式转变——从「能解决什么问题」到「能走多远」。
技术贡献
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。