陆毅，是复旦大学自然语言处理实验室的硕士生，于一系列顶会发表了十余篇论文，他是 LongCat Team 的核心成员，其研究方向针对大模型的复杂推理以及长序列建模，他的指导老师是桂韬老师，这些顶会包括 ACL、EMNLP、COLM、NeurIPS 。

郭林森，硕士毕业于东南大学，在NAACL会议上发表了多篇论文，在EMNLP会议上也发表了多篇论文，在Recsys会议上同样发表了多篇论文，目前就职于美团，是LongCat Team的核心成员，其研究方向是大模型评测以及数据价值挖掘。

王嘉宁此人，获取了华东师范大学的博士学位，曾去往 UCSD 进行访问学习，于 ACL、EMNLP、AAAI、ICLR 等顶级会议发表了数十篇相关论文，当前供职于美团，是 LongCat Team 的核心成员一枚，其研究的方向是大模型训练以及复杂推理。

研究背景：从「单步推理」到「长链决策」

像OpenAI o1、DeepSeek-R1等大型推理模型即LRMs的出现，这意味着AI推理能力进入了一个新纪元，也就是「测试时扩展」的阶段。这些模型凭借着长链推理也就是Long Chain-of-Thought即CoT，在不少行业领域比如数学推理、代码生成、智能体任务等方面取得了令人刮目相看的突破。

然而，当前训练与评测范式存在一个根本性局限，几乎所有主流Benchmark例如MATH500、AIME都聚焦于孤立的单步问题，这些问题相互独立，模型只需如此这般「回答一个问题，然后结束」，但真实世界的推理场景往往截然不同：

这些场景对模型有这样的要求，模型要具备跨问题的长链推理能力，这能力意味着啥呢，它不仅得去解决单个问题，还得在多个相互关联的子问题当中，维持推理连贯性，还要合理分配思考资源，并且进行跨步骤的反思与纠错。

这引发了一个关键问题，大型推理模型长链推理能力的边界究竟所处位置在哪里呀？ ， ？

现有的评测，没办法回答这个问题，传统的训练数据，也没办法培养此种能力（从图中可以看出，模型在长程推理场景之下，性能发生严重的下降）。

R1 系列模型在长程推理场景下理论准确率和实际准确率的差异

复旦大学，与美团 LongCat Team 联合，为填补这一空白，推出 R-HORIZON，它是首个系统性评估，并且是增强 LRMs 长链推理能力的方法与基准。

R-HORIZON：揭开推理模型「能力地平线」

核心创新：Query Composition 方法

R-HORIZON提出了一种方法，这种方法简洁且强大，是关于问题组合的，它借助建立问题之间的依赖关系，把孤立任务转化成复杂的多步骤推理场景。

以数学任务为例：

提取关键信息，从多个彼此单独的问题里，提取核心的数值、变量之类的信息。

2. 构建依赖之关联：把前一个问题所获取的答案，嵌入至后一个问题的条件范围之内 。

形成推理链，模型得按顺序正确解决所有问题，如此才能得到最终答案。

这种方法具有三大优势：

我们构建了用于长链推理的评测基准R-HORIZON benchmark以评估LRMs在多步推理下场景的真实能力，这是基于一种方法构建的，同时，我们还构建了长链推理的训练数据，通过强化学习训练来提升模型在长链推理方面的能力。

一张关于R-HORIZON的用于示意的图，它呈现的是从单一问题朝着复杂推理链所处的转化进程呀，还有R-HORIZON的应用场景在其中所涉及的情况呢。

推测您可能想表达类似意思，为您改写如下：有一个被赋予特定名称的评测基准，它是用于全面长链推理的，基准，句号

根据 Query Composition 办法，我们搭建了 R-HORIZON Benchmark，它包含 6 大具有代表性的数据集，：

核心发现：顶级模型的「推理断崖」

我们对20多个主流LRMs进行了评测，这些主流LRMs涵盖o4 - mini、Claude - Sonnet - 4、DeepSeek - R1等顶级商业模型以及开源模型，评测结果揭示了一个令人震惊的现象，即便是最先进的模型，在长链推理场景下也会出现性能断崖式下降。

关键发现：

针对R - HORIZON Benchmark的评测结果，可发现每一个模型，都呈现出明显的性能衰退现象。

深度分析：推理模型的三大瓶颈

需要去弄明白性能断崖背后所蕴含的缘由，为此我们展开了深度的机制剖析，最终察觉到眼前的这些LRMs实实在在地存在着三个关键的瓶颈：

1. 有效推理长度受限

依赖问题数量增多，使得 LRMs 维持性能变得困难，实际准确率与理论准确率间差距显著扩大，这表明模型在更长推理范围内无法保持原有性能 。

深入分析发现：

R1 - Qwen - 7B 的准确率情况分析，R1 - Qwen - 7B 的错误位置情况分析，R1 - Qwen - 32B 的准确率情况分析，R1 - Qwen - 32B 的错误位置情况分析，标点符号为句号

2. 反思机制高度局部化

我们分析了模型的「反思」行为，发现：

MATH500 数据集上的反思行为分析

3. 思考预算分配失衡

最令人意外的发现是，主流LRMs在推理范围内无法有效分配思考预算，其中包括DeepSeek-R1 。

不同组合问题数量下各模型的思考预算分配

R-HORIZON 训练：重塑推理模型的能力边界

发现问题，这仅是第一步，接着我们要做的是进一步去探索，探索的内容是，能不能靠着运用组合数据开展强化学习训练，以此来突破这些瓶颈？

使用具有R-HORIZON的RLVR，借助长链数据来训练推理模型，。

我们运用 R-HORIZON 构建长链推理数据，之后采用 GRPO 算法予以训练，训练方法是：

突破性成果：双重性能提升

令人振奋的是实验结果，R-HORIZON训练，不仅显著提升了长链任务的表现，还大幅增强了单问题的性能。

加粗数字表示该列最佳成绩

不同训练配置之时的性能对比，“Origin”所表达的是单问题场景，“n=X”所代表的是X个组合问题场景，“Multi”所呈现的是多问题场景的平均性能。

关键发现：

使用n = 2组合问题训练，有着双重性的性能提升，大幅提升了多步推理性能，在AIME24中n = 2时提升了17.4分，单问题性能也显著增强，在AIME24中单题提升了7.5分。

2. 可扩展复杂度：增加组合复杂度，这种组合复杂度为n等于4时的情况，它增强了模型处理需要更多推理步骤问题的能力，而该模型在作为MATH500且n等于8的情况下，有着达到50.6%的表现。

训练带来的质变

R-HORIZON训练，提升了性能数字，带来了推理机制的深层改变，这深层改变，不是普通的改变，是具有深度的改变，是从本质上发生的改变，是与以往不同的改变，是能产生重大影响的改变，是能推动整体发展的改变，是能促使相关领域进步的改变，是能让整个体系优化的改变，是能使各方面都受益的改变，是能带来全新局面的改变

更高效的推理长度：

通过训练，模型在组合任务方面原本的性能得到了显著改善，其展现出了一种能力，即能够更好地对于更长推理链进行泛化，与此同时，还缓解了「overthinking」现象，也就是生成的回答变得更短且更具高效性。

更合理的预算分配：

模型掌握了于多步问题里头进行更为合理的token预算分配技能，不再呈现出「开始重视程度高而结尾重视程度低」的情况。

更长程的反思能力：

“R-HORIZON”促使模型开展更长程反思的频次得以提升，进而直接优化了长链推理的性能。