NEMO: Execution-Aware Optimization Modeling via Autonomous Coding Agents¶

会议: ICML 2026
arXiv: 2601.21372
代码: 数据/中间产物已发布在 HuggingFace（系统代码暂未开源）
领域: code intelligence / LLM Agent / 运筹优化
关键词: 自动优化建模、自治编码代理(ACA)、执行感知验证、模拟器-优化器闭环、MBR 解码

一句话总结¶

NEMO 把自治编码代理 (Autonomous Coding Agent, ACA) 当作和 LLM 同级的"一等抽象"来调用，让独立生成的模拟器和优化器在共享沙箱里通过执行结果互相校验，再叠加多样性记忆检索与 MBR/自一致性解码，在 9 个优化建模基准上 8 个拿到 SOTA、最高领先 28 个百分点。

研究背景与动机¶

领域现状：把自然语言决策问题（资源调度、组合优化、生产计划等）自动翻译成可执行的数学优化代码，目前主流走两条路线——训练系（ORLM/LLMOPT/SIRL/OptMATH 等用专用数据 fine-tune LLM）和 Agent 系（Chain-of-Experts/OptiMUS/OR-LLM-Agent/OptimAI 用多角色 LLM 协作 + critic 反思）。

现有痛点：训练系成本高、领域迁移差；Agent 系把交互建模成"结构化文本消息传递"（message-passing），coder 把代码贴出来给 critic 看错误描述，coder 再改。问题是：1) 生成的代码常常语法/执行不通；2) critic 只看文本，没法真的"跑一遍"看是否满足约束；3) 不同 agent 间共享代码需要约定 schema，扩展难。

核心矛盾：优化建模本质上有一对天然的非对称——写一个 declarative 的求解器很难（要正确翻译约束、目标、求解器 API），但写一个 imperative 的模拟器相对简单（按问题描述顺序模拟即可）。论文实测在 OptiBench 上 LLM 单次生成模拟器 Pass@1 为 97%，优化器只有 87%。现有 Agent 系完全没利用这种"验证比求解简单"的非对称性。

本文目标：构造一个执行感知的 Agent 系统，让独立生成的模拟器去验证优化器的输出，并系统性处理 ACA 自身的非确定性。

切入角度：作者观察到，与其让多个 LLM agent 在文本层面交换信息，不如让多个 ACA 共享一个持久沙箱，通过"可执行制品"（runnable artifacts）交互——代码可以 import、可以跑、单测可以验，这就是 Workspace-State 范式（对应传统的 message-passing 范式）。

核心 idea：把 ACA 当作和 LLM 调用同级的一等抽象 → 用模拟器（简单任务）作为优化器（困难任务）的执行式验证参考 → 用 MBR / 多样性检索 / 自一致性压住 ACA 的非确定性。

方法详解¶

整体框架¶

输入是一段决策问题的自然语言描述 \(D\)，输出是一份能跑通、解出最优解、且通过模拟器交叉验证的可执行优化代码包。系统由四大模块串成一条流水线：

D (自然语言)
  │
  ▼ ① Decision Process Extractor (推理 LLM + 组件级 MBR)
     输出结构化表示 P* = {决策变量, 状态, 转移, 目标, 约束, 外生参数}
  │
  ▼ ② Solver Recommender → 排序后的求解器候选 SO*
  │
  ├─▶ ③ Simulator 生成 (ACA #1, 写命令式 Python + pytest 单测)
  │      输出 S: x → (feasible, F_sim)
  │
  └─▶ ④ Optimizer 生成 (ACA #2, 写 declarative 求解器代码 + 自一致性)
         输出 x*, F_opt(x*)
  │
  ▼ ⑤ Asymmetric Validation Loop
     S(x*) 验证 x* 是否可行且 |F_sim − F_opt| ≤ δ
     失败 → 把结构化错误报告回喂给 Optimizer ACA 继续 debug

注意所有 ACA（论文用 OpenHands + Claude 3.7 Sonnet 实例化，框架与具体 ACA 解耦）都跑在同一沙箱里，可以直接 import 对方生成的模块，不需要 schema 协商。

关键设计¶

ACA 一等抽象 + Workspace-State 范式：
- 功能：把"远程调用一个能写代码、能在沙箱里跑代码、能自我 debug 的 ACA"作为系统级原语，与"调用 LLM"对等。
- 核心思路：每个 ACA 接收一个任务说明（自然语言指令 + 结构化问题描述 + 引用现有制品），返回可执行代码、执行轨迹与结果。多个 ACA 共享同一持久沙箱，靠 import 文件、跑单测、读对方输出来协作；记忆库的少样本也作为可执行 Python 文件直接放进沙箱（而非塞进 prompt 文本）。Section 2.1 把这套契约总结为三条能力：ACA-as-Architect（语法正确性由 ACA 自身保证，无需独立 critic）、共享工作空间（不同角色 ACA 直接 import 不用 schema）、可执行记忆（exemplar 是 runnable file 不是 static text）。
- 设计动机：直接对掉了 message-passing 范式的三个老大难——代码可执行性、跨组件 schema 协商成本、prompt 长度爆炸下的少样本利用率；同时把"代码到底能不能跑"从开发者关心的隐式问题变成系统层面的强保证。
模拟器-优化器非对称验证闭环：
- 功能：用独立生成、自带单测验证过的 simulator 当作 ground-truth-free 的"裁判"，去检查 optimizer 解 \(x^*\) 是否真的可行、目标值是否一致，并在不一致时驱动 optimizer 自我修正。
- 核心思路：抽取阶段产出 \(\mathcal{P}^*\) 后，分两路并行——ACA #1 写 simulator \(\mathcal{S}: \mathbb{R}^{|X|} \to \{0,1\} \times (\mathbb{R} \cup \{\infty\})\)（命令式 Python + 一整套从 \(D\) 和 \(\mathcal{P}^*\) 派生的 pytest 单测，只有通过单测的 simulator 才被采用为验证基线），ACA #2 写 optimizer 求出 \(x^*, F_{\text{opt}}(x^*)\)。验证函数 \(V(x^*) = 1\) 当且仅当 \(\text{feasible}(x^*)=1\) 且 \(|F_{\text{sim}}(x^*) - F_{\text{opt}}(x^*)| \leq \delta\)，其中 \(\delta = \text{atol} + \text{rtol} \cdot |F_{\text{opt}}(x^*)|\)。\(V=0\) 时 simulator 输出结构化错误报告（哪条约束被违反、目标差多少），这份报告被作为 refinement prompt 注入 optimizer ACA 的上下文，让它针对具体失败 case 改代码。
- 设计动机：核心是利用 "simulation 比 optimization 简单 10 个百分点 Pass@1" 的非对称性——用更可信的一侧去验另一侧，绕开"没有 ground-truth 怎么校验语义正确性"这个死结。这也是 NEMO 区别于所有 critic-based agent 系统的本质：critic 是基于文本的二次推理，simulator 是基于执行的客观判定。
稳定 ACA 非确定性的三件套——多样性记忆 + 组件级 MBR + 自一致性：
- 功能：从三个不同环节压住 ACA 在变量命名、约束表达、求解器配置、数值精度上的随机抖动，让 SOTA 性能在没有 benchmark-specific 调参下也能复现。
- 核心思路：a) Memory 用 OptMATH 训练集的 3000 条样本（覆盖 15 类问题）构建向量库，给一个新问题 \(D\) 先按余弦相似度取候选池 \(\mathcal{M}\)，再用贪心打分 \(\text{score}(c) = \text{sim}(D, c) - \lambda \cdot \frac{1}{|\mathcal{M}^*|}\sum_{m \in \mathcal{M}^*} \text{sim}(c, m)\) 平衡相关性与多样性，选 \(k\) 个样本——formulation 给 extractor，code 给 optimizer。b) Component-wise MBR：并行生成 \(n\) 份 extraction，按组件类型 \(j\) 计算两两余弦相似度的均值作为 utility \(S(c_j^i) = \frac{1}{n-1}\sum_{k \neq i} \text{sim}(c_j^k, c_j^i)\)，再按预设权重 \(w_j\) 加权得 \(U(i)\) 选 top-\(q\)，最后让一个 LLM-Judge（只看原问题 \(D\)，不看 memory，避免选偏到检索样本）从 top-\(q\) 里挑出最终 \(\mathcal{P}^*\)。c) Self-consistency：optimizer 并行跑 \(T\) 次，先按 lexicographic 顺序 \(\text{Optimal} \succ \text{Time Limit} \succ \text{Infeasible} \succ \text{Unbounded} \succ \text{Error}\) 多数投票定 status，相同 status 内按 \(|F_{\text{opt}}(x_i) - F_{\text{opt}}(x_j)| \leq \text{atol} + \text{rtol} \cdot |F_{\text{opt}}(x_j)|\) 聚类，取最大簇的中位数作为最终目标值。
- 设计动机：ACA 沙箱保证语法正确但不保证语义正确，且每次跑结果会漂移。这三件套分别对应——上游 prompt 多样性（避免被高相似度但模式雷同的样本带偏）、上游 extraction 稳定性（组件级聚合比整体投票更细粒度）、下游 solution 稳定性（status 优先级 + 数值容差聚类应对求解器浮点噪声）。论文在最小的 BWOR 和 ComplexOR 上跑 5 次独立评测，标准差仅 ±1.3% 和 ±2.5%，远小于对 SOTA 的领先幅度，验证了这套机制确实把"agent 不确定性"压到了"架构贡献"的噪声之下。

损失函数 / 训练策略¶

NEMO 完全不训练任何模型——所有模块用通用 LLM（推理用 OpenAI o3，ACA 用 Claude 3.7 Sonnet 驱动的 OpenHands，embedding 用 Qwen3-Embedding-8B）+ 推理时机制（MBR/self-consistency/validation loop）。所有超参（MBR 的 \(n, q, w_j\)；memory 的 \(k, \lambda\)；self-consistency 的 \(T\)；容差 \(\text{rtol}=10^{-6}, \text{atol}=10^{-9}\)）在小规模 development 集上一次性定好，跨 9 个 benchmark 通用，不做 benchmark-specific tuning。

实验关键数据¶

主实验：9 个优化建模基准 vs 现有 SOTA¶

数据集	NEMO	之前最强 Agent	之前最强 Training	主要提升
OptiBench	90.4%	–	67.4% (SIRL)	+8 pp vs 公开最强
OptMATH-Bench	65.7%	–	45.8% (SIRL)	+20 pp
NL4OPT	98.4% (Std) / 99.1% (Cur)	78.8% (OptiMUS)	97.3% (LLMOPT)	Agent 系大幅领先
NLP4LP	81.4% (Std) / 95.7% (Cur)	72.0% (OptiMUS)	86.5% (LLMOPT)	+14 pp（Std）
BWOR	82.9%	82.9% (OR-LLM-Agent)	–	持平
IndustryOR	63.0% (Std) / 76.0% (Cur)	36.0% (OR-LLM-Agent)	48.0% (SIRL)	+28 pp vs SIRL
MAMO-Easy	83.4% (Std) / 93.5% (Cur)	82.2% (OR-LLM-Agent)	94.7% (SIRL)	与训练系持平
MAMO-Complex	72.0% (Std) / 94.0% (Cur)	51.6% (OR-LLM-Agent)	85.8% (LLMOPT)	+20 pp
ComplexOR	77.8%	66.7% (OptiMUS)	72.7% (LLMOPT)	+5 pp

9 个基准 8 个 SOTA，最大领先 IndustryOR +28 pp（vs SIRL，且 SIRL 是训练系）。

消融实验：模块逐步叠加¶

配置	OptMATH	BWOR	IndustryOR	MAMO-Complex	NLP4LP
w/o Sim（拿掉模拟器-优化器闭环）	59.6%	71.9%	60.0%	50.9%	76.0%
Base（含 Sim）	63.2%	75.6%	60.0%	54.2%	77.5%
+ Mem	63.9%	80.4%	62.0%	61.9%	79.0%
+ Mem + MBR	64.5%	82.9%	63.0%	71.0%	81.4%
+ Mem + MBR + Multi-Optimizer	65.7%	82.9%	63.0%	72.0%	81.4%

计算成本可比 baseline¶

方法	BWOR	OptMATH-Bench
Best-of-5 ACA（同 backend，相同 token 预算）	79.3%	62.7%
NEMO（Claude 4.5 Sonnet）	86.6%	68.1%
Δ	+7.3 pp	+5.4 pp

关键发现¶

simulator 在不同 benchmark 贡献差异大：BWOR/OptMATH/MAMO-Complex/NLP4LP 上加 simulator 涨 1.5–3.7 pp；IndustryOR 上零增益。作者拆开做 instance-level 分析发现 84% 失败是上游问题（52% extraction 错、43% logic/constraint 错、5% solver 错），simulator 只能修下游 implementation bug（碰到 5 个修对 4 个），所以 IndustryOR 的 28 pp 领先实际是 Memory + MBR 在补上游的洞。
Memory + MBR 是 IndustryOR 杀手锏：去掉 simulator 但保留 Memory + MBR 在 IndustryOR 仍能拿 60%，远超只有 simulator 的 60%，说明真实工业问题里上游理解 > 下游验证。
完整系统中 simulator 仍有独立价值：在 Claude 4.5 Sonnet 上跑完整 NEMO（Mem+MBR+Multi）拿 86.6% BWOR，只关掉 simulator 掉到 80.5%（−6.1 pp），说明 simulator 的贡献不会被其他模块完全替代。
simulation 比 optimization 简单 10 pp：OptiBench 上单次生成 Pass@1，simulator 97% vs optimizer 87%——这 10 pp 是整个非对称验证架构的实证基础。
延迟构成：每个实例耗时 5–10 分钟，其中 55% 是 ACA 推理本身（任何 agent 系统都有），32% 是 NEMO 的 validation + 编排开销，13% 是冷启动。

亮点与洞察¶

"ACA = LLM 的一等抽象升级"是个值得复用的系统级 framing：很多 agent 系统其实卡在"代码能不能跑"这个隐式问题上，承认 ACA 本身就是一个新原语（带沙箱、带 debug、带单测），可以把架构图大幅简化——不再需要 coder/critic/executor 三件套，每个角色就是一个 ACA。
"模拟器当裁判"这招在很多 ground-truth-free 场景都能用：只要你能找到一对"验证简单 / 求解困难"的任务对偶（比如：写一个程序的反向 vs 正向、写约束检查 vs 写约束满足、写 oracle vs 写 search），就可以照搬非对称验证闭环；这比 LLM-as-Judge 更可信，因为判定本身是执行出来的而不是推理出来的。
Component-wise MBR + LLM-Judge two-stage 比朴素 MBR 更鲁棒：先用 embedding 在每个组件维度上算 utility，避免整体投票被某一个长串组件主导；再让 LLM-Judge 在 top-\(q\) 上做最后裁断时只看原问题不看 memory，巧妙避免了"检索样本污染最终选择"的偏置。
不训练任何模型仍打过 SIRL/LLMOPT/OptMATH：把 ground-truth 信号从"标注数据"换成"模拟器执行结果"，把"训练时学"换成"推理时验"，是一种很经济的范式——尤其是优化建模这种新领域没有大数据可微调时。

局限与展望¶

作者承认：目标值匹配是必要非充分条件——两个模型可能目标值一致但约束/可行域不同，真正的形式化语义等价验证还没解。
计算成本高：每实例 5–10 分钟，对高吞吐场景不实用；未来可以缓存代码模板、并行 ACA、把高频模式蒸馏成专门组件。
自评论与笔者补充：a) 论文用的是 o3 + Claude 3.7 Sonnet（compute-matched 实验里换了 Claude 4.5 Sonnet），整个系统对推理 LLM 质量的依赖度其实没拆清楚——能不能换成开源 LLM 还要打个问号。b) 对模拟器单测的覆盖度没量化分析，万一单测漏掉了某条约束，验证闭环就会"自洽地错"。c) 9 个 benchmark 里 OptiBench/OptMATH-Bench/NL4OPT 都是 LP/MILP 为主，非线性、随机优化、整数规划组合爆炸场景的表现没充分检验。d) Memory 来自 OptMATH 训练集，存在与 OptMATH-Bench 的潜在数据泄漏风险，论文未明确说明 memory 是否剔除了 bench split。
改进思路：把模拟器-优化器闭环的执行反馈作为 RL signal 反过来 fine-tune ACA（论文 Section 6 也提到这个方向），用 cross-component disagreement 当 reward 比传统 outcome-level reward 更细粒度。

评分¶

新颖性: ⭐⭐⭐⭐ Workspace-State 范式 + 非对称 simulator-optimizer 验证是清晰的架构级创新，但底层组件（MBR、self-consistency、memory retrieval）都是已知技术的组合。
实验充分度: ⭐⭐⭐⭐ 9 benchmark + 完整消融 + compute-matched baseline + 失败模式拆解都做了，但只有 2 个最小 benchmark 给了多次运行方差，且开源代码尚未释放。
写作质量: ⭐⭐⭐⭐ 动机非对称性讲得很清楚，方法 section 形式化定义齐全，消融解读（IndustryOR 上 simulator 零增益的归因分析）尤其漂亮。
价值: ⭐⭐⭐⭐ 把 ACA 抽象为一等公民、用异质双 agent 互验取代 critic-based debug 的范式，对所有需要"自然语言 → 可执行制品"的 agent 系统都有直接借鉴意义；运筹优化建模的自动化也是真有产业需求。