When Reasoning Meets Its Laws¶

会议: NeurIPS 2026
arXiv: 2512.17901
代码: https://github.com/ASTRAL-Group/LoRe
领域: 大模型推理
关键词: 大语言模型推理, 推理定律, 计算量单调性, 可组合性, 监督微调

一句话总结¶

提出了大模型推理定律（LoRe）理论框架，形式化了推理计算量随问题复杂度线性增长与准确率指数衰减的核心规律，并通过单调性与可组合性双重性质构建了评测基准 LoRe-Bench，提出基于组合计算量约束的 SFT-Compo 微调方法显著提升了大模型的通用推理能力。

研究背景与动机¶

以 OpenAI o1 与 DeepSeek-R1 为代表的大型推理模型（LRMs）通过长思维链（CoT）推理取得了突破性成果，但其内部计算分配行为常常呈现出反直觉且无序的异常现象。人类在面对复杂问题时，通常会根据任务的难易程度自适应地分配思考时间；然而现有推理模型经常在面对结构更简单的子问题时生成过长却错误的推理链，反而在复合复杂问题上推理不足。这种计算资源分配失衡（过度思考或思考不足）严重制约了模型推理能力的稳健扩展。

这一反常现象的核心矛盾在于：现有推理模型的思维链主要依赖人类启发式标注或强化学习 rollout 采样，缺乏明确的理论准则来约束针对特定复杂度问题应当分配多少计算预算。尽管学术界尝试通过可变长度思维链微调或测试期截断进行后验控制，但多属于经验主义启发式调整，缺乏对模型理想推理行为的严格理论形式化。学术界亟需回答：能否从第一性原理出发建立推理行为的物理规律？现有主流模型是否服从这些规律？强化这些规律能否反哺并提升通用推理能力？

本文从理论建模与行为规范切入，将推理计算分配与人类认知逻辑对齐。核心 idea：形式化推理计算量随复杂度线性增长（计算律）与准确率随复杂度指数衰减（准确率律）的大模型推理定律（LoRe），利用单调性与可组合性两个可计算代理性质构建 LoRe-Bench 基准，并设计通过最小化独立子任务组合计算量偏差的 SFT-Compo 微调，显式注入可组合性先验并全面提升推理能力。

方法详解¶

整体框架¶

LoRe 框架构建在图灵机基本操作步长的可计算复杂度理论之上，将模型生成思维链的 token 期望长度定义为推理计算量 $C_\theta(x)$，将最终答案匹配真实标签的概率定义为准确率 $A_\theta(x)$。理论框架提出了两项核心定律：核心计算律（推理预算应与问题复杂度呈近似线性关系 $C_\theta(x) \propto \kappa(x)$）和互补准确率律（在独立步长相继成功的假设下，整体准确率应随复杂度指数衰减 $A_\theta(x) = \exp(-\lambda_\theta \kappa(x))$）。

由于真实自然语言和复杂数学题的真实极小解步长 $\kappa(x)$ 在计算上是 NP 难且不可直接测量的，LoRe 理论证明了可通过两个具备操作性的等价代理性质来刻画定律：单调性（Monotonicity）（更复杂的问题需要更多计算量、具有更低准确率）与可组合性（Compositionality）（当两道问题概念相互独立时，联合求解复合问题的总计算量应等于各自求解计算量之和，联合准确率应等于各自准确率的乘积）。基于此，作者构建了用于评测两项性质的 LoRe-Bench（含 LoRe-Mono 与 LoRe-Compo），并据此提出了 SFT-Compo 训练策略。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入独立问题对 (x1, x2) 与复合问题 x12=x1⊕x2"] --> B["阶段1：多路径采样生成<br/>强教师模型采样 K 组有效推理链"]
    B --> C["阶段2：可组合性一致性过滤<br/>筛选全部正确且满足加和守恒的路径组合"]
    C --> D["阶段3：SFT-Compo 监督微调<br/>注入计算量守恒先验训练目标模型"]
    D --> E["输出具备定律自洽性的紧凑强推理模型"]

关键设计¶

1. 计算律与准确率律的形式化表征：以图灵机极小步长定义问题内生复杂度 针对如何客观衡量自然语言与多步推理问题固有难度这一根本难题，该设计定义了基于固定确定性图灵机有效转移步数的极小有效解长度 $\kappa(x) \triangleq \min\{\ell(\tau): v(x, \tau)=1\}$。若模型高效分配资源，其期望生成的思维链长度 $C_\theta(x) = \mathbb{E}[\ell(r)]$ 应当满足一次线性扩展关系 $C_\theta(x) = \alpha_\theta \kappa(x) + o(\kappa(x))$，其中 $o(\kappa(x))$ 吸收开场白与连接词等次要系统开销。同时，设每一步基础图灵机转移以恒定概率成功，则多步成功概率构成马尔可夫独立级联，推导出准确率定律 $\log A_\theta(x) = -\lambda_\theta \kappa(x)$。作者严格证明了在独立性假设下，单调性与可组合性构成了该线性/指数关系成立的充分必要公理系统。

2. 单调性与可组合性可计算代理：构建 LoRe-Mono 与 LoRe-Compo 评测基准 由于全局搜索 $\kappa(x)$ 难以实现，作者设计了可操作的代理基准。在单调性评测中，构建了覆盖数学、科学、语言与代码 4 个领域的 LoRe-Mono 基准。每个领域选取 10 个种子问题，通过程序自动化规则迭代 $N$ 次（$N \in [1, 30]$）生成严格单调递增复杂度的 30 个变体，并排除了周期性捷径答案，采用 Spearman 秩相关系数 $\rho$ 评测计算量与对数准确率的单调性趋势。在可组合性评测中，构建了基于 MATH500 分类标签的 LoRe-Compo，保证抽取的子问题 $x_1, x_2$ 知识概念交集为空（即概念集合不相交），利用连词提示拼接构成 250 组三元组 $(x_1, x_2, x_{12})$。采用归一化平均绝对偏差（nMAD）度量模型对可组合性的遵从程度： $$\mathrm{nMAD}_{f} = \frac{\sum |f_\theta(x_{12}) - (f_\theta(x_1) + f_\theta(x_2))|}{\sum |f_\theta(x_1) + f_\theta(x_2)|}$$ 其中 $f_\theta$ 可以是计算量 $C_\theta$ 或负对数准确率 $-\log A_\theta$。

3. SFT-Compo 约束微调：基于三元组推理链加和守恒的数据筛选机制 评测发现当前开源模型普遍具备较好的单调性，但在可组合性上存在严重缺陷（例如复合问题的计算量显著偏离两子问题之和）。针对该痛点，SFT-Compo 从训练集生成独立子问题对并拼接为复合问题，利用更强的教师模型（如 DeepSeek-R1-Distill-Qwen-14B）分别采样 $K=8$ 组候选推理路径。在所有能得到正确答案的三元组路径组合中，显式挑选使得计算量偏差最小的黄金组合： $$(r_1^*, r_2^*, r_{12}^*) = \arg\min_{r_1, r_2, r_{12}} |\ell(r_1) + \ell(r_2) - \ell(r_{12})| \quad \text{s.t. } r_1, r_2, r_{12} \text{ 均得到正确最终答案}$$ 将筛选得到的优质三元组构造成包含 3.9K 样本的高质量监督微调数据集 $\mathcal{D}_{\text{comp}}$，通过标准交叉熵进行有监督微调，迫使小模型内化“复合任务计算量等于子任务计算量线性叠加”的理性规划准则。

一个完整示例¶

以 DeepSeek-R1-Distill-Qwen-1.5B 处理算术与代数复合题为例： - 子问题 $x_1$ 为求和题，模型平均消耗推理计算量 $C_\theta(x_1) = 2177$ tokens，准确率 $A_\theta(x_1) = 1.0$； - 子问题 $x_2$ 为平方计算，模型平均消耗计算量 $C_\theta(x_2) = 3546$ tokens，准确率 $A_\theta(x_2) = 1.0$； - 在未经处理的 Base 模型上，面对由两者顺序串联构成的复合问题 $x_{12} = x_1 \oplus x_2$ 时，模型表现出严重的推理不足（Underthinking），仅分配了 $C_\theta(x_{12}) = 732$ tokens（远小于理论预期的 $2177 + 3546 = 5723$ tokens），且准确率骤降至 $A_\theta(x_{12}) = 0.25$； - 在经过 SFT-Compo 微调后，模型在复合问题上合理调整了思考预算，分配 $C_{\tilde{\theta}}(x_{12}) = 4300$ tokens，推理更加充分且平稳，复合准确率显著恢复至 $A_{\tilde{\theta}}(x_{12}) = 0.875$。

损失函数 / 训练策略¶

SFT-Compo 采用标准自回归语言建模损失函数，针对满足加和约束的三元组样本 $(x_1, o_1^*)$、$(x_2, o_2^*)$、$(x_{12}, o_{12}^*)$ 进行有监督微调： $$\mathcal{L}_{\text{SFT}}(\theta) = -\sum_{(x, o^*) \in \mathcal{D}_{\text{comp}}} \sum_{t=1}^{|o^*|} \log p_\theta(o^*_t \mid x, o^*_{<t})$$ 训练细节：基于 DeepScaler 子集标注的代数、数论、几何、概率与微积分等主题构建概念不相交问题对。使用 DeepSeek-R1-Distill-Qwen-14B 作为教师模型对每个问题采样 $K=8$ 个路径，过滤出 3.9K 个高质量问答对。在学习率集合 $\{1\times 10^{-6}, 5\times 10^{-6}, 5\times 10^{-5}\}$ 中进行网格搜索，批大小为 16（batch size 8，梯度累积 2），warmup 比例设为 0，共微调 5 个 epochs。

实验关键数据¶

主实验¶

在 6 个极具挑战性的数学与科学推理基准（AIME 2024、AIME 2025、AMC 2023、MATH500、GSM8K、OlympiadBench）上对 4 个基础尺寸的推理模型（Qwen-1.5B、Qwen-7B、Llama-8B、Phi-4-mini）进行评测，采用 8 次采样下的 Pass@1 平均准确率（%）对比：

基础模型	微调方法	AIME24	AIME25	AMC23	MATH500	GSM8K	Olympiad	平均 Pass@1	相对提升
DeepSeek-R1-1.5B	Base	18.8	20.4	59.7	71.6	81.2	33.8	47.6	基线
	SFT (对照)	20.4	21.5	59.6	76.4	81.7	36.1	49.3	+1.7
	SFT-Compo (本文)	26.2	21.7	65.0	77.6	85.1	38.7	52.4	+4.8
DeepSeek-R1-7B	Base	36.3	27.5	79.0	86.8	91.0	48.1	61.5	基线
	SFT (对照)	40.0	32.5	80.4	88.0	91.6	48.4	63.5	+2.0
	SFT-Compo (本文)	43.3	33.2	80.6	88.8	91.6	50.5	64.7	+3.2
DeepSeek-R1-8B	Base	28.3	22.9	71.9	76.4	86.5	40.9	54.5	基线
	SFT (对照)	30.4	24.2	75.2	82.6	88.0	44.7	57.5	+3.0
	SFT-Compo (本文)	31.3	29.2	76.9	83.0	89.5	46.8	59.5	+5.0
Phi-4-mini (3.8B)	Base	32.5	24.6	71.9	86.4	91.4	50.0	59.5	基线
	SFT (对照)	40.0	26.2	73.4	87.0	91.6	49.5	61.3	+1.8
	SFT-Compo (本文)	43.7	31.7	76.9	87.0	92.8	51.2	63.9	+4.4

消融实验¶

评测当前主流模型在 LoRe-Mono（单调性 Spearman 秩相关系数 $\rho$）与 LoRe-Compo（可组合性归一化绝对偏差 $\mathrm{nMAD}$，越低越好）上的基线表现：

模型参数	模型架构	计算量单调性 $\rho_{C_\theta} \uparrow$	对数准确率单调性 $\rho_{\log A_\theta} \downarrow$	计算量组合偏差 $\mathrm{nMAD}_{C_\theta} \downarrow$	准确率组合偏差 $\mathrm{nMAD}_{\log A_\theta} \downarrow$
1.5B	DeepSeek-R1-1.5B	0.875	-0.868	0.528	2.368
1.5B	Thinkless-1.5B	0.976	-0.960	0.339	0.694
3.8B	Phi-4-mini	0.988	-0.954	0.322	0.732
7B	DeepSeek-R1-7B	0.991	-0.978	0.337	1.170
7B	AdaptThink-7B	0.995	-0.972	0.327	0.791
8B	DeepSeek-R1-8B	0.988	-0.947	0.423	0.818
14B	Nemotron-14B	0.993	-0.913	0.354	1.188
14B	DeepSeek-R1-14B	0.990	-0.981	0.368	1.310
32B	Sky-T1-32B	0.967	-0.963	0.392	1.900
80B	Qwen3-80B-Next	0.992	-0.973	0.411	1.487

关键发现¶

现有开源推理模型普遍满足单调性，但显著违背可组合性：除较弱的 1.5B 模型在语言与代码领域出现反常负相关（$\rho = -0.346$）外，绝大多数 7B 以上模型的单调性相关系数均接近 1.0；但在 LoRe-Compo 上，所有模型的计算量 nMAD 均在 0.32~0.53 之间，准确率 nMAD 高达 0.69~2.37，绝大多数数据点严重偏离 $y=x$ 理想对角线。
可组合性约束显著降低计算分配偏差：微调后，DeepSeek-R1-1.5B 的 $\mathrm{nMAD}_{C_\theta}$ 从 0.528 大幅下降至 0.314（降幅 40.5%），8B 模型从 0.423 降至 0.328（降幅 22.5%），数据点高度收敛至对角线。
定律间与性质间展现出显著的协同正向效应（Synergistic Effects）：微调过程仅约束了计算量的可组合性，却在未显式干预的情况下使得对数准确率的可组合性偏差大幅降低（1.5B 模型的 $\mathrm{nMAD}_{\log A_\theta}$ 从 2.368 下降 71.1% 至 0.685，7B 降幅 35.4%）；同时使 1.5B 模型的代码领域单调性由 0.151 跃升至 0.914，全领域单调性从 0.875 提升至 0.977。
推理能力提升来源于定律约束而非单纯教师模型蒸馏：控制实验显示，对比随机采样正确答案的传统 SFT（平均提升 +1.7% ~ +3.0%），显式选拔符合可组合性约束的 SFT-Compo 实现了超额的稳定提升（平均增益达 +3.2% ~ +5.0%），且在困难基准 AIME24 上取得显著突破（1.5B 模型提升 +7.4%，Phi-4-mini 提升 +11.2%）。

亮点与洞察¶

将图灵机基本操作与推理计算量建立公理化联系：摆脱了以往启发式度量难度的粗糙经验，建立了基于极小解长度与公理化独立概念的完整数学体系，证明了单调性与可组合性对计算律与准确率律的充分性。
以“无为”手段实现多维定律的自发协同：仅通过筛选计算量满足加法守恒的 $r_1, r_2, r_{12}$ 路径组合，模型不仅学会了合理规划 token 预算，更同步激活了准确率乘法守恒和跨领域复杂度单调性，揭示了大模型内部推理机制的内聚关联。
轻量即插即用的推理数据提纯范式：无需设计复杂的强化学习奖励塑形或冗长的多阶段退火，仅需 3.9K 条符合物理定律的合成三元组样本，即可在主流尺寸模型上一致提高 AIME/MATH 基准表现，极具工业落地价值。

局限与展望¶

独立性假设的操作化存在近似：论文在实操中利用预定义数学学科（如代数与几何）的不相交性来代表概念独立，但跨领域的隐式先验知识可能存在未被显式捕获的交叠，更严格的信息论独立性度量仍待深入研究。
LoRe-Mono 种子题规模有待扩充：当前单调性基准包含 40 道种子题目，虽覆盖四大主要领域，但在更广义的开放域多轮逻辑规划与真实代码生成上的代表性仍有提升空间。
商业闭源模型测试受限：受制于高并发多轮采样成本与长上下文预算限制，本研究主要聚焦于开源顶尖模型生态，未对 o1/o3/Claude 3.7 Sonnet 等前沿闭源推理引擎展开全面闭卷评测。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次从理论公理化角度形式化推理模型的计算律与准确率律，提出了创新的可组合性约束。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 10 款主流模型评测，设计了严谨的单调性/可组合性基准，并在 6 大数学竞赛基准上验证了稳健增益。
写作质量: ⭐⭐⭐⭐⭐ 理论推导严谨（附录附完整数学证明），动机连贯鲜明，图表信息密集直观。
价值: ⭐⭐⭐⭐⭐ 为解决长链推理模型过度思考/不足思考问题指明了理论路线，提供的 SFT 数据提纯方案极具实用价值。