SquidAgent: Parallelize Wisely, Coordinate Efficiently¶

会议: NeurIPS 2026
arXiv: 2610.08647
代码: https://github.com/tmllab/2026_NeurIPS_SquidAgent
领域: LLM Agent
关键词: 大语言模型智能体, 多智能体系统, 并行调度, 代币成本准则, 上下文会话派生

一句话总结¶

针对多智能体系统中盲目并行常因重探索与对齐开销导致劣于串行基线的困境，SquidAgent 提出了基于输出 Token 预算的层级并行化决策准则，并结合会话派生与预生成共享规范块，实现了高产出吞吐与强一致性。

研究背景与动机¶

基于大语言模型（LLM）的智能体系统被广泛用于软件工程、复杂技术写作与结构化规划等长程任务。为了突破单智能体处理长上下文时的能力瓶颈，现有主流框架普遍采用任务分解范式：由编排器将高层目标解构为有向无环图（DAG），并将同一依赖层级中互不依赖的子任务分派给多个并行 worker 协作执行。在理论直觉下，DAG 拓扑层级内的并发执行应使耗时取决于最慢 worker 的执行时长而非所有任务的累加和，从而逼近线性加速。

然而实证表明，现有多智能体框架（如 MetaGPT、Flow、MacNet）在诸多任务上的运行速度甚至明显落后于单智能体基线（如 Claude Code）。造成这一理论与现实断层的核心根源在于：现有框架普遍假定“只要满足显式依赖就一律并行”或仅依赖粗粒度启发式调度，严重忽略了并发所引入的两项隐性协调成本。其一是重探索开销（Re-exploration Cost），并行 worker 无法像串行单智能体那样免费复用编排器或前序步骤沉淀的设计决策与环境认知，必须独立进行冗余探索；其二是对齐开销（Alignment Cost），独立生成的各个文件或模块在接口、命名规范、交叉引用上存在不一致，事后必须花费高昂代价进行调和。

要判断并行执行是否真正划算，必须建立显式、可计算的收益-成本裁决机制。然而直接预测物理运行时间不可靠，因为模型对自身的用时估计系统性失准，且易受后端队列与网络抖动干扰。核心 idea：以模型易于精准预测的输出 Token 预算作为时间代理变量，在 DAG 拓扑层级上显式对比“串行累加成本”与“并行关键路径加协调开销”，并辅以会话派生（消除重探索）与前置规范生成（控制对齐成本），构建自适应判定何时该并行的确定性调度体系。

方法详解¶

整体框架¶

SquidAgent 的整体执行流程涵盖单步规划分解与成本预估、DAG 拓扑分层调度、前置规范生成、会话派生执行以及终审一致性校验。编排器首先接收用户请求，在单次推理输出中同时生成任务 DAG、每个子任务的预期输出 Token 预算 $\tau_i$，以及每个依赖层的规范对齐 Token 预算 $\widehat{C}_{\mathrm{alg}}(\mathcal{L}_k)$。调度器随后确定性地对各层计算串并成本比率 $\widehat{\rho}_k$；若超过安全裕度 $\alpha$，编排器输出前置规范块并派生多个 worker 并发执行；否则由编排器自身串行完成该层任务。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["用户复杂请求 R"] --> B["单步规划与成本估计<br/>DAG构建 + 子任务/层对齐Token预测"]
    B --> C["DAG 拓扑层级划分<br/>得到依赖层 L_1 到 L_L"]
    C --> D["确定性层级调度裁决<br/>计算成本比率 ρ_k 与安全裕度 α"]
    D -->|ρ_k > α 并行分支| E["前置规范制定与会话派生<br/>写入共享规范 + 派生 Worker 并发执行"]
    D -->|ρ_k <= α 串行分支| F["编排器串行执行<br/>由主会话直接顺序产出交付物"]
    E --> G["层级输出汇聚与下一层推进"]
    F --> G
    G --> H["跨文件一致性校验与最终交付"]

关键设计¶

1. 输出 Token 成本决策准则与安全裕度：破解物理耗时预测失真 为了在执行前数学化判定是否值得并行，系统首先在理论上将层级 $\mathcal{L}_k$ 的串行耗时定义为各子任务累加 $\mathrm{Time}_{\mathrm{ser}}(\mathcal{L}_k) = \sum_{i \in \mathcal{L}_k} \tilde{\tau}_i$，并行耗时定义为关键路径与两项隐性开销之和 $\mathrm{Time}_{\mathrm{par}}(\mathcal{L}_k) = \max_{i \in \mathcal{L}_k} \tilde{\tau}_i + \widetilde{C}_{\mathrm{exp}}(\mathcal{L}_k) + \widetilde{C}_{\mathrm{alg}}(\mathcal{L}_k)$。然而实证发现，LLM 预测真实耗时存在严重的认知偏见（倾向锚定人类工程耗时而非模型吐字速度），且对任务执行耗时的排序一致性极差（Spearman 相关系数仅 0.16）。

鉴于此，SquidAgent 创新性地采用“预测输出 Token 数”作为执行耗时的无量纲代理。由于固定解码配置下 LLM 生成 token 的速率高度平稳，输出 Token 预算反映了产出物的客观物理体量，预测与实际的高达 0.77 相关。定义串行代币成本 $T_{\mathrm{ser}}(\mathcal{L}_k) = \sum_{i \in \mathcal{L}_k} \tau_i$，有效并行代币成本为 $\widetilde{T}_{\mathrm{par}}(\mathcal{L}_k) = \max_{i \in \mathcal{L}_k} \tau_i + \widehat{C}_{\mathrm{alg}}(\mathcal{L}_k)$。调度器计算预测成本比率： $$\widehat{\rho}_k = \frac{\sum_{i \in \mathcal{L}_k} \tau_i}{\max_{i \in \mathcal{L}_k} \tau_i + \widehat{C}_{\mathrm{alg}}(\mathcal{L}_k)}$$ 当且仅当 $\widehat{\rho}_k > \alpha$（默认安全裕度设为 $\alpha = 1.9$）时才触发并行；当 $\widehat{\rho}_k \in (1, \alpha]$ 时，由于预测噪声可能吞噬边缘并发收益，调度器保守回退至串行。理论分析（命题 1）严格证明，当估计误差满足 $\varepsilon < \alpha - 1$ 时，系统能绝对避免将真实串行更优（$\rho_k \le 1$）的任务误判为并行。

2. 编排器会话派生机制：彻底消除重探索开销 在朴素多智能体架构中，新派生的 worker 处于完全空白的上下文环境，为了理解全局架构必须调用文件搜索、环境探索或再次向主控提问，导致严重的重复计算，即 $C_{\mathrm{exp}}(\mathcal{L}_k) \gg 0$。SquidAgent 借助支持分支状态的运行时环境，将每个 worker 直接作为编排器当前对话 session 的 Fork（派生进程）。

通过共享父会话的上下文，worker 原生继承了编排器在前期已完成的架构规划、需求解析、环境探查结果与前序依赖文件内容，免去了重复探究与元数据反查过程。这种架构级设计直接在工程底层消除了冗余探索，使得调度公式中可以成立 $C_{\mathrm{exp}}(\mathcal{L}_k) \approx 0$ 的强假设，将原本不可捉摸的双重隐性开销简化为仅需关注对齐项。

3. 前置共享规范块生成：将事后对齐转为确定性前置成本 在多智能体协同编写多文件代码或紧密耦合长篇文档时，事后调和（Post-hoc Reconciliation）具有极大的不确定性与极高的重写开销。若由各个 worker 独立天马行空地命名函数、定义接口或引用定理，汇总时的冲突往往需要额外的 LLM 进行全局重构甚至完全打翻重做。

SquidAgent 在决定并行执行某层之前，强制编排器首先在回复中生成详细的层级共享规范块（Convention Block）。该规范显式界定全局命名约定、代码类型签名、状态管理规则、数据字典格式以及交叉引用编号范式。因为所有 worker 是通过 session fork 启动的，规范自动存在于它们的上下文顶层。这一举措把难以测算的事后冲突修正开销，转化为编排器单次前置规划输出的可预期代币预算 $\widehat{C}_{\mathrm{alg}}(\mathcal{L}_k)$，使对齐成本不仅被大幅压缩，而且在规划阶段即变为显式可量化的调度参数。

一个完整示例¶

以生成包含 6 个核心章节和 4 个交叉引用附录的离散数学教材（MathRef 任务）为例： 1. 规划与预估：编排器构建两层 DAG。第 0 层包含 6 个独立章节（命题逻辑、集合论、图论等），预估单章最长输出 3,000 tokens，总计 $\sum \tau_i = 15,200$ tokens，层规范开销 $\widehat{C}_{\mathrm{alg}}(\mathcal{L}_0) = 2,500$ tokens。 2. L0 层调度决策：调度器计算比率 $\widehat{\rho}_0 = \frac{15200}{3000 + 2500} = 2.76$（实际各 run 平均为 4.64–5.09），远大于安全阈值 $\alpha=1.9$。决策：并行（Parallel）。编排器写入数学符号统一规范后派生 6 个 worker 并发生成，大幅缩减总用时。 3. L1 层调度决策：第 1 层包含 4 个附录（符号表、定理索引、跨章引用指南、证明技术总结），这些附录必须精确聚合前 6 章的具体定理编号与 LaTeX 宏，耦合度极高。编排器估计对齐开销高达 $\widehat{C}_{\mathrm{alg}}(\mathcal{L}_1) = 6,000$ tokens，而单任务输出约 1,200 tokens，总计约 4,800 tokens。调度器计算比率 $\widehat{\rho}_1 = \frac{4800}{1200 + 6000} = 0.67 \sim 1.45$，显著低于 $\alpha=1.9$。 4. L1 层执行：决策判定为串行（Serial）。编排器不再分派 worker，而是自行加载 L0 产出全文，以单智能体视角连续生成 4 个附录，完美避免了跨 worker 间定理编号引用冲突导致的反复修补。

实验关键数据¶

主实验¶

评估在涵盖代码生成（PixelCraft、ShopFlow、CompressKit、ArcadeBox）、长技术文档写作（SlideKit、LinAlgBook、MathRef、CloudDocs）与复杂多阶段规划（ClimateAnalysis）的 9 项复合任务上展开，对比了单智能体基线 Claude Code 以及 6 个典型多智能体系统（SeqCV、MetaGPT、AFlow、Flow、MacNet、AgentConductor）。

任务规模 / 名称	交付物吞吐 (words/s) - SquidAgent	Claude Code	SeqCV	MetaGPT	AgentConductor (强多智能体SOTA)	质量得分 (%) - SquidAgent / Claude Code
PixelCraft (Pygame生存游戏)	21.0	5.0	5.3	12.3	13.1	100.0 / 100.0
ShopFlow (全栈电商Web)	35.1	16.7	15.6	16.3	15.0	96.7 / 96.7
CompressKit (多算法压缩库)	16.1	3.7	4.0	6.9	10.9	95.8 / 100.0
ArcadeBox (Canvas小游戏合集)	52.6	17.5	14.0	8.7	18.7	100.0 / 92.9
SlideKit (ML讲义与幻灯片)	47.7	19.9	18.1	9.7	21.1	95.5 / 100.0
ClimateAnalysis (气候数据分析)	27.7	13.5	15.8	11.4	16.7	96.2 / 92.3
LinAlgBook (线代教程)	46.3	22.6	21.8	20.2	23.7	100.0 / 100.0
MathRef (离散数学参考书)	48.1	26.7	27.9	22.4	27.3	100.0 / 96.2
CloudDocs (云平台API文档)	48.2	29.6	15.6	14.3	26.5	100.0 / 95.7
全任务平均 (Overall)	38.1 ± 12.8	17.2 ± 8.3	15.3 ± 7.0	13.6 ± 4.9	19.2 ± 5.5	98.2 ± 2.1 / 97.1 ± 3.1

在总物理用时（Wall Time）上，SquidAgent 全任务平均仅耗时 483 ± 239 秒，相比 Claude Code（1232 ± 638 秒）实现 2.6× 平均加速，比 SeqCV（2298 秒）和 MetaGPT（2372 秒）快近 5 倍。

消融实验¶

在具备典型多层 DAG 结构的 4 个代表任务上，对核心组件进行了针对性拆解：

实验配置	MathRef 吞吐	CloudDocs 吞吐	SlideKit 吞吐	ClimateAnalysis 吞吐	4任务平均吞吐 (words/s)	相对完整版变化
SquidAgent (完整系统)	48.10	48.20	47.70	27.70	42.93	基准
w/o 调度器 (无脑全并行)	35.54	31.70	31.37	17.96	29.14	-32.1%
w/o 会话派生 (无上下文继承)	41.22	33.02	30.26	19.04	30.88	-28.1%
w/o 规范规划 (仅事后评审调和)	39.90	35.33	32.78	22.50	32.63	-24.0%

同时，针对预测目标类型的有效性进行了独立验证（59 个独立子任务，各重复 5 次预测）： - 输出 Token 预算预测：与真实值 Spearman 秩相关系数 $\rho = \mathbf{0.77}$，对数 Pearson 相关系数 $r_{\log} = \mathbf{0.77}$，逆序对比例仅 17%； - 物理耗时直接预测：与真实值 Spearman 秩相关系数仅 $\rho = \mathbf{0.16}$，对数 Pearson 相关系数仅 $r_{\log} = \mathbf{0.11}$，逆序对比例高达 44%。

关键发现¶

无脑全并行的严重惩罚：去掉调度机制后性能大幅暴跌 32.1%，在附录等高耦合层强行并发使得对齐开销反噬了并发收益，实证了“并非所有可拆分的任务都值得并行”。
安全裕度 $\alpha$ 的相变特性：在 MathRef 敏感性实验中，当 $\alpha \le 1.8$ 时附录层被判定并行，吞吐仅 34–41 words/s；当 $\alpha \ge 2.0$ 时正确将其收束为串行，吞吐跃升至 45–51 words/s。默认设定的 $\alpha=1.9$ 处于最佳相变临界点，稳健屏蔽了紧耦合层的误并行。
质量与速度双赢：SquidAgent 在通过 Opus 4.6 严苛三层 Rubric（硬门禁规范、领域正确性、精细度）评估下，不仅没有因提速牺牲质量，反而凭借清晰的统一规范在 5 个任务上斩获 100% 满分，总分达到 98.2%，位列所有方案第一。

亮点与洞察¶

将不可靠的物理时间调度转为确定的 Token 预算调度：敏锐指出了 LLM 预测执行耗时严重失真（逆序对高达 44%）的致命缺陷，巧借自回归生成速率稳定的特征以输出代币为代理，开创了大模型调度领域的代币经济学建模范式。
会话派生与前置规范软硬兼施：工程上以 Session Fork 消除冗余重探索开销，算法上以前置 Convention Block 将发散的事后修复转化为确定性的前置规划预算，使隐性开销在数学上变得可解且极小化。
可迁移的系统开发准则：在多智能体流水线设计中，“紧耦合收束串行、高独立派生并发”应作为第一性原理；对其他需要代码或文档生成的 Agent 框架，预先注入共享规范比事后多轮检视更高效省流。

局限与展望¶

外部工具调用与 I/O 延迟盲区：Token 代理变量仅适用于 LLM 自回归生成占主导的任务（如纯代码编写、报告生成），无法直接准确拟合高延迟 API、大型检索或耗时较长的单元测试运行等外部执行壁垒。
固定粗粒度层级决策：安全裕度 $\alpha=1.9$ 属于全局硬编码常数，且当前决策是以整层 DAG 为粒度一刀切（全串或全并），若同一层内同时存在极大独立任务与极小微调任务，仍无法实施更细粒度的单任务级混合调度。
对初始规划质量的依赖：编排器单次输出的 DAG 质量和 Token 预估精度决定了后续调度上限，若首轮编排严重遗漏隐式依赖，系统在并发执行时仍可能陷入局部阻塞。

评分¶

新颖性: ⭐⭐⭐⭐⭐ [首次揭示多智能体并行的重探索与对齐双重隐性成本，首创输出代币成本调度准则]
实验充分度: ⭐⭐⭐⭐⭐ [覆盖代码与文档9大重型基准，细致提供多层消融、预测相关性及灵敏度相变实证]
写作质量: ⭐⭐⭐⭐⭐ [问题提出切中要害，数学建模严谨清晰，系统架构与调度逻辑层层递进]
价值: ⭐⭐⭐⭐⭐ [对构建实用级高吞吐大模型多智能体编程与文档自动化系统具有重大的工程指导与理论基准价值]