Meta\(^n\): Recursive Self-Improvement through Emergent Depth¶

会议: NeurIPS 2026
arXiv: 2608.24735
OpenReview: https://openreview.net/forum?id=dbmUO9RPNq
代码: https://github.com/minnesotanlp/meta-n
领域: LLM Agent
关键词: 自我改进智能体, 递归元优化, 涌现深度, 代码库注入, 进化档案搜索

一句话总结¶

通过固定单一通用元算子 \(\Omega\) 并将其递归作用于自身产物（执行轨迹与累积代码库），Metan 打破了自我修改智能体为保稳定性而冻结驱动层导致元深度受限在 2 层的瓶颈，在 8 项跨领域基准及 ARC-AGI-2 上实现超越现有 SOTA 的递归深度与自适应分工涌现。

研究背景与动机¶

大语言模型驱动的自主智能体在算法设计、代码优化与复杂推理上取得了显著进展，但其面对执行失败的核心应对范式仍然停留在「单层自我反思」（如 Self-Refine、Reflexion 等生成-评估-诊断-重试循环），本质上只是在改进特定任务的具体答案，而非改进「产生和改进答案的过程机制」。近期引入元层（meta-level）的研究尝试跨越这一限制，主要分为两类：一是人工设计的外部进化搜索系统（如 FunSearch、AlphaEvolve、ADAS 等），其外部搜索循环和变异规则被永久固定，元深度严格受限于 1；二是自指代自我修改智能体（如 Gödel Agent、Darwin Gödel Machine、HyperAgents 等），允许智能体改写自身源代码，但为了防止系统自我崩溃或破坏底层脚手架，必须将核心驱动模块（如动作 API、档案维护、父代选择、外层评估循环）硬性冻结，导致实际可达成的元深度（realized meta-depth）被锁死在约 2.5 层。

这种两难困境的核心矛盾在于：递归修改改进器本身会以牺牲系统稳定性为代价换取元深度，而为了保全稳定性所冻结的固定驱动层，恰恰截断了递归原本旨在带来的更高阶元推理能力。当前系统因此无法跨越至更高层次的策略抽象与反思，面对全新问题分布或高度抗记忆的抽象推理任务时容易陷入停滞。

本文的切入视角借鉴了侯世达在《哥德尔、艾舍尔、巴赫》中关于「怪圈（strange loops）」与自指涌现的论述：既然修改改进器自身会导致脆弱性，不如将改进操作本身彻底固定，而将递归施加在其输入上。核心 idea：固定单一通用的提示词元算子 \(\Omega\)，将其递归施加于系统自身不断积累的输出（下层求解器的执行轨迹与累积代码栈），通过非侵入式包装器逐层叠加策略前处理与可调用代码库，使元深度由收敛性自适应决定，从而在保证绝对系统稳定性的同时涌现出高阶元推理与角色分工。

方法详解¶

整体框架¶

Metan 的核心运行流程分为离线构建阶段（Build-step）与在线任务执行阶段（Run-step）。在构建阶段，单一固定的通用元操作 \(\Omega\) 接收整个任务集上的下层执行轨迹 \(\{\tau_i^{(d-1)}\}_{i=1}^N\) 以及此前各层生成的代码栈 \([C_2, \dots, C_{d-1}]\)，通过大模型生成当前深度的新代码 \(C_d = (f_{\text{pre}}^{(d)}, \mathcal{L}^{(d)})\)，其中包含用于注入战略上下文的预处理函数 \(f_{\text{pre}}^{(d)}\) 与供求解器调用的可重用 Python 代码库 \(\mathcal{L}^{(d)}\)。在执行阶段，包装器 \(M_d\) 将新生成的代码以非侵入式方式套接在下层求解器外围，形成由内向外的复合求解器栈 \(S_d = M_d(C_d, S_{d-1}) = M_d \circ \dots \circ M_2 \circ S_1\)。

任务执行时，上下文由最外层深度向下逐层传递、细化，最终底层基础求解器 \(S_1\) 在合并的战略上下文指导下生成候选求解脚本，并将多层累积的代码库注入命名空间中沙箱运行。若性能未达收敛阈值，则继续调用 \(\Omega\) 向上生长深度。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["任务集合与执行轨迹<br/>Traces & Prior Code Stack"] --> B["固定元算子与输入递归<br/>Universal Meta-Operation Ω"]
    B --> C["非侵入式层级包装器与上下文串联<br/>Wrapper Composition & Pre-process Library"]
    C --> D["基础求解器执行与沙箱验证<br/>Base Solver S1 Sandbox Run"]
    D --> E["进化档案搜索与回滚纠偏机制<br/>Evolutionary Archive & Rollback Guard"]
    E -->|未收敛/探索新链| B
    E -->|达到收敛阈值| F["输出最优求解栈与档案最优解<br/>Final Solver Stack Sd"]

关键设计¶

1. 固定元算子与输入递归：消除自修改崩溃的怪圈设计
针对自指修改智能体因篡改核心驱动导致崩溃、不得不冻结组件而将元深度锁死在 2.5 的痛点，Metan 彻底冻结了元改进算子 \(\Omega\) 的提示词模板与输出规范，使其在不同深度、不同基准下保持绝对一致。递归被重定向到 \(\Omega\) 的输入空间：在深度 \(d\)，\(\Omega\) 接受输入 \((\{\tau_i^{(d-1)}\}_{i=1}^N, [C_2, \dots, C_{d-1}], \mathcal{T}, d)\) 并输出 \(C_d\)。由于 \(\Omega\) 能够同时阅读先前的多层代码及其在整个任务集上的实际执行轨迹，当深度 \(d \ge 3\) 时，它具备了比扁平反思循环高阶的信息输入，能够精确识别「究竟是哪一层注入的策略导致了性能衰退还是增益」，从而将元深度的扩展从「修改改写者」转变为「高阶上下文的递进感知」。

2. 非侵入式层级包装器与上下文串联：策略条件化与乘法空间覆盖
针对多层修改容易污染内部求解器状态的风险，Metan 设计了严格沙箱化的非侵入式包装器 \(M_d\)。对任意输入任务 \(t_i\)，最外层的预处理函数 \(f_{\text{pre}}^{(d)}\) 首先运行并输出战略上下文 \(\text{ctx}_d\)，该上下文向内流动并逐级被内层预处理函数修饰：\(f_{\text{pre}}^{(d-1)}(t_i, \text{ctx}_d) \to \text{ctx}_{d-1}\)。基础求解器 \(S_1\) 仅观察合并后的全局上下文并输出求解脚本 \(s\)。在脚本执行前，多层代码库的并集 \(\mathcal{L}^{(2)} \cup \dots \cup \mathcal{L}^{(d)}\) 被静态语法检查与沙箱预检后前置拼接到 \(s\) 中（深层函数遇同名覆盖浅层）。这种设计使得每层具有 \(k_d\) 种行为配置的多层栈能够表征高达 \(\prod_{d=2}^n k_d\) 种策略-战术联合配置，相比扁平架构的加法组合 \(\sum_d k_d\) 形成了指数级的策略覆盖优势。

3. 进化档案搜索与回滚纠偏机制：对抗层级干扰与局部倒退
深层策略的过度约束可能干扰浅层已有成果（层级干扰，Layer Interference）。Metan 构建了单调递增的候选链进化档案 \(\mathcal{A}\)，采样父代链权重设为 \(w(c) \propto \bar{S}(c) + \alpha / (1 + \text{children}(c))\)，兼顾高分倾向与探索多样性；同时引入交叉候选启发机制，在父代落后任务上自动附加上游对手的优质轨迹。针对深层出现的策略过冲，\(\Omega\) 能够自发识别回归并在更高深度主动执行「回滚（Rollback）」（如保留有效代码库辅助函数的同时撤销过度约束的提示词指令）。在单任务敏感场景下，Metan 还提供巩固模式（Consolidation Guard），通过冻结其他任务的最优轨迹，实现全任务档案得分 \(\bar{S}^\star\) 严格单调不减。

损失函数 / 训练策略¶

Metan 属于无需权重微调的纯推理期/进化期自适应优化系统。其优化目标为最大化任务集平均得分 \(\bar{S} = \frac{1}{N} \sum_{i=1}^N \mathrm{eval}(t_i, s_i)\) 或档案联合最优得分 \(\bar{S}^\star = \frac{1}{N} \sum_{i=1}^N \max_{c \in \mathcal{A}} \mathrm{score}(t_i, c)\)。

停止准则基于自适应收敛性： 1. 增益收敛容忍度：设定固定尺度阈值 \(\epsilon = 0.02\)。若连续 \(P\) 次迭代未能实现超过 \(\epsilon \cdot R\) 的提升（\(R\) 为初始设定的评分范围），则触发早停； 2. 最大深度上限：设防死循环深度上限 \(D = 10\)（实际实验中所有任务均在 3 到 6 层内自发收敛，无一触顶）； 3. 轨迹采样超参：\(\Omega\) 调用时上下文保持 3:1 的失败与成功样本比例（75% 失败轨迹突出模式诊断，25% 成功轨迹提供正例脚手架）；进化温度循环采用 \(\{0.5, 0.7, 0.9\}\)。

实验关键数据¶

主实验¶

在 Gemma 4 31B-IT 与 GPT-5.2 双骨干模型上，覆盖代码生成/组合优化（CO-Bench、AlphaEvolve Math、Symbolic Regression、AlgoTune、ARC-AGI-2）、Docker 终端操作（TerminalBench 2.0）以及提示词改写（Symptom2Disease、LawBench）共 8 个基准测试家族。基线对比包括前序 SOTA 自修改智能体 Gödel Agent 与程序进化系统 OpenEvolve。

模型与基准	评估指标	Metan (档案最优)	Metan (单链最优)	OpenEvolve	Gödel Agent	相对优势/说明
Gemma 4 31B-IT
CO-Bench (NP-Hard)	综合得分 [0,1]	0.851 ± 0.014	0.782 ± 0.016	0.814 ± 0.022	0.451 ± 0.023	档案超越 OE +0.037，显著超越 GA
Symptom2Disease	诊断准确率	0.733 ± 0.015	0.743 ± 0.034	0.718 ± 0.022	0.710 ± 0.034	提示词改写空间内稳定占优
LawBench (罪名预测)	Macro F1	0.815 ± 0.013	0.796 ± 0.046	0.745 ± 0.034	0.775 ± 0.023	领先 GA +0.040，领先 OE +0.070
AlphaEvolve Math	综合数学发现分	0.869 ± 0.045	n/r	0.802 ± 0.052	0.581 ± 0.061	注入模拟退火等算子带来飞跃
AlgoTune (算法加速)	加速倍数 (×)	×15.10 ± 2.4	n/r	×10.45 ± 1.8	×13.22 ± 2.7	3-seed 均值超越全部基线
Symbolic Regression	4领域均分	5.22 ± 0.38	4.68 ± 0.45	n/r	n/r	探索物理与材料复杂公式
GPT-5.2 Backbone
CO-Bench (Held-out)	综合得分 [0,1]	0.870 ± 0.011	0.806 ± 0.017	0.702 ± 0.025	0.527 ± 0.033	领先 OE 达 +0.168，区间互不重叠
AlphaEvolve Math	综合数学发现分	0.917 ± 0.016	0.820 ± 0.024	0.726 ± 0.046	0.674 ± 0.068	突破 0.9 大关，大幅领先基线
Symbolic Regression	4领域均分	5.03 ± 0.20	n/r	3.70 ± 0.13	2.45 ± 1.63	领先 OE +1.33，领先 GA +2.58
ARC-AGI-2 (Dev)	准确率 (pass@2)	0.331 ± 0.010	0.123 (1 seed)	0.003 ± 0.001	0.054 ± 0.006	质的突破：基线近乎归零
ARC-AGI-2 (Held-out)	测试集准确率	> 0.000	n/r	0.000	0.000	唯一在测试集上取得非零得分的系统

消融实验¶

通过对核心机制的逐项剥离，量化代码库注入、层间上下文传递以及递归元堆叠结构本身的贡献（基于 CO-Bench 与 AlphaEvolve Math）：

实验条件	剥离机制	得分	相对降幅 (\(\Delta\))	机制贡献归因解释
Metan (Full; Gemma, CO-Bench)	完整模型	0.845	—	基准基线验证分
w/o 代码库注入	移除 \(\mathcal{L}^{(d)}\) 函数库注入	0.825	-0.020	贡献约 15% 的递归收益，提供跨任务复用工具
w/o 层间上下文	移除跨层级上下文 \(\text{ctx}_d\)	0.751	-0.094	贡献约 72% 的递归收益，证实战略条件化是主导通道
w/o 递归机制 (depth-1)	移除元层堆叠 (仅保留单层)	0.714	-0.131	彻底退化为传统扁平改进系统，性能大幅滑坡
Metan (Full; GPT-5.2, CO-Bench)	完整模型	0.886	—	强骨干下的验证基准
w/o 递归机制 (depth-1)	移除元层堆叠	0.806	-0.080	强模型下递归依然带来 +0.080 的硬性提升
Metan (Full; GPT-5.2, AE Math)	完整模型	0.917	—	数学发现领域验证基准
w/o 递归机制 (depth-1)	移除元层堆叠	0.759	-0.158	移除递归后在数学复杂搜索任务中掉点高达 0.158

关键发现¶

上下文串联占据绝对主导收益：消融显示约 72% 的递归提升来自层间传递的自然语言战略字符串 \(\text{ctx}_d\)，代码库函数注入占 15%，其余 13% 来自进化档案的束搜索与跨候选启发。这证明高层级对低层级的「战略重塑与条件化约束」远比单纯堆砌代码工具更加关键。
角色分工随深度自发涌现：通过 GPT-5.2 与 Kimi-K2.6 针对全部 596 次算子生成的双盲标注分析（Cohen's \(\kappa=0.59\)），Metan 在无任何提示词预设的情况下自发演化出鲜明的角色分工：
- Depth 2：以战术基础原语为主（100% 聚焦通用工具如 simulated_annealing、local_search、环境约束排查）；
- Depth 3：任务分支路由（if/elif）与专门化库达到峰值，同时层级干扰初现（41% 任务对发生局部退步）；
- Depth 4-6：主动回滚与纠偏（Rollback）成为主力（代码基质下占比稳定在 50% 左右），专门化修复深层错误。
极端抽象推理的质变：在极难产生经验记忆的 ARC-AGI-2 上，所有基线及单层搜索均接近 0，而 Metan 凭借元层不断抽象视觉几何变换原语并跨任务组合，开发集达到 0.331，在 held-out 测试集上成为唯一非零解算系统。

亮点与洞察¶

将改写算子自身转变为改写输入：以往研究误认为元改进必须让模型去改动改写器本身，引发死锁与崩溃风险；Metan 证明固定算子 \(\Omega\)、将其作用于下层历史代码和轨迹的怪圈机制，既安全又天然解锁了任意深度的能力。
深度的内生性与收敛终止：摒弃了固定迭代轮数或无节制的开卷扩增，深度完全由任务复杂度和收益边际收敛（\(\epsilon=0.02\)）决定，实际测试在 3-6 层自适应收敛，形成了自然的层次节律。
档案组合收益大于单链深入：档案联合最优与单链最优之间存在显著差距（CO-Bench 上达 0.06~0.07），表明复杂问题空间的最优解往往由不同深度的特化链共同覆盖，进化档案机制完美承接了这种多样性。

局限与展望¶

同构模型假设：当前实验在基础求解器和所有 \(\Omega\) 节点均采用同一款 LLM。未来可探索异构架构，例如在外层 \(\Omega\) 部署极高推理能力的模型指导内层轻量模型，评估其杠杆效应。
跨层通信仍为非结构化文本：虽然上下文串联贡献了 72% 的增益，但目前仍采用纯自由文本传递，容易引发长文本冗余或指令混淆，未来可探索类型化、结构化的元协议规范。
深层搜索成本较高：Agentic 模式在探索深度时调用量显著增加（单任务 8 次交互），在实际落地中需权衡样本效率与搜索预算。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 颠覆了自修改必须改写自身的传统认知，以固定算子输入递归构建怪圈元系统，概念精巧且高度优雅。
实验充分度: ⭐⭐⭐⭐⭐ 跨越 8 个异构基准家族、2 大前沿骨干模型，提供细致的消融、人工标注角色涌现分析及 ARC-AGI-2 严苛检验。
写作质量: ⭐⭐⭐⭐⭐ 逻辑极为严密流畅，从概念形式化到工程实现与失败案例剖析层层递进，极具说服力。
价值: ⭐⭐⭐⭐⭐ 为自主系统与自进化 AI 架构提供了全新的范式参考，在复杂算法工程与开放式推理中潜力巨大。