HACO: Hedged Agent Computing for Reliable LLM Systems¶

会议: NeurIPS 2026
arXiv: 2607.19215
OpenReview: https://openreview.net/forum?id=zNkQ67Ps8c
领域: LLM效率
关键词: LLM 智能体, 容错冗余, 跨地域推理, 系统可靠性, 对冲计算

一句话总结¶

针对长程多智能体系统在现实动态运行环境中因网络波动与服务故障导致的绑定失效问题，HACO 提出将角色调用建模为兼顾认知能力、物理可靠性与延迟代价的对冲子集选择，以自适应冗余和在线经验沉淀实现高可靠低开销执行。

研究背景与动机¶

随着基于大语言模型（LLM）的智能体从孤立的 Prompt 交互演进为长程多智能体协作工作流，系统的可靠性瓶颈正迅速向系统底层与基础设施边界转移。现有多智能体系统（如 MetaGPT、ChatDev、Magentic-One 等）将大量研究精力集中在软件层面的角色专业化划分、通信拓扑重构、记忆机制以及控制器设计上。当评估这些多智能体架构的鲁棒性时，业界普遍将不确定性归因于角色设定或 LLM 本身的主观推理与工具调用能力，却默认底层物理执行环境是一个静态、均质且绝对稳定的背景条件。

然而，这种固定执行环境的假设在实际生产部署中极易被打破。现代大模型云服务（如 Azure Foundry、Amazon Bedrock、Vertex AI、Cloudflare Workers AI）普遍采用跨地域部署、全局端点调度与动态负载均衡架构。这意味着在软件层面上完全相同的同一个角色调用请求，在实际运行时可能被分发至位于不同物理区域、背负不同网络链路质量（延迟突增、抖动、丢包）与瞬态故障概率的具体智能体实例上。红海海底光缆中断、云数据中心散热故障等真实事件反复证明，物理基础设施的扰动会直接转化为智能体调用的高延迟、超时乃至阶段性崩溃，最终在长程依赖的工作流中引发灾难性级联失败。

面对计算与通信环境的动态不确定性，单一路由选择在遭遇局部降级时极易陷入瘫痪，而级联回退（Fallback）会引入串行累积延迟，全量并行（如 MoA 风格的暴搜）又会导致难以承受的 Token 消耗与推理成本。本文的核心切入点是借鉴分布式系统中的对冲请求（Hedged Requests）容错机制，将角色调用形式化为角色类型、模型选择与物理执行环境的三维耦合决策问题。核心 idea：将多智能体中的每次角色调用重构为带可靠性约束的候选实例对冲子集选择，通过乐观效用排序驱动探索、保守可靠性累积自适应截断冗余，并利用执行轨迹异步沉淀候选与链路画像以动态抗扰。

方法详解¶

整体框架¶

HACO 将智能体工作流中的每次角色调用视作由角色类型（Role Type）、模型选择（LLM Choice）和执行环境（Execution Environment）共同构成的三维绑定空间，核心调度单元为具体的“候选智能体实例（Candidate Instance）”。整个运行时调度系统包含四个紧密咬合的阶段：角色抽象、冗余分配、对冲执行与经验沉淀。在执行过程中，控制器发出角色请求并组装上下文载荷，HACO 评估各候选实例的多维画像，挑选满足目标成功率的最小对冲候选集并并发启动；一旦确定最优成功候选即返回主流程阻断等待，其余并发调用则在后台异步完成，用于在线更新模型能力分布与网络链路拓扑统计。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["角色调用事件<br/>(角色类型 r_t, 上下文载荷 x_t)"] --> B["候选实例多维表征<br/>认知能力 + 物理可靠性 + 延迟代价"]
    B --> C["双界协同冗余分配<br/>乐观排序 U_i^+ 与 保守截断 R_i^-"]
    C --> D["并发对冲执行<br/>并行拉起对冲候选集 S_t"]
    D --> E["决胜候选判定<br/>最优成功实例 a_winner 快速返回"]
    E --> F["异步经验沉淀<br/>更新 Beta 能力分布与链路遥测画像"]

关键设计¶

1. 候选实例多维表征：联合建模认知能力、物理可靠性与延迟敏感代价

传统的路由决策往往仅孤立地根据历史准确率对模型打分，忽视了底层物理通信链路与部署拓扑对端到端完成状态的决定性影响。HACO 为每个候选实例 $a_i$ 建立三维特征画像：首先，在认知能力层面，将归一化的输出质量能力期望记为 $\theta_i \in [0, 1]$，并采用 Beta 分布建模其后验分布： $$\theta_i \sim \mathrm{Beta}(\alpha_i, \beta_i)$$ 初始状态设为无信息先验 $\alpha_i = \beta_i = 1$。每次观测到归一化质量评分 $q_i \in [0, 1]$ 后，执行软计数更新：$\alpha_i \leftarrow \alpha_i + q_i$，$\beta_i \leftarrow \beta_i + (1 - q_i)$。由此导出后验均值 $\mu_i$ 与表征认识不确定性的后验标准差 $\sigma_i$： $$\mu_i = \frac{\alpha_i}{\alpha_i + \beta_i}, \qquad \sigma_i = \sqrt{\frac{\alpha_i \beta_i}{(\alpha_i + \beta_i)^2 (\alpha_i + \beta_i + 1)}}$$ 其次，在物理执行可靠性层面，综合考量候选实例的内部运行故障率 $f_{\mathrm{int}}^{(i)}$ 与所处网络链路丢包率 $\ell_{\mathrm{net}}^{(i)}$，定义执行成功概率： $$\rho_i = (1 - f_{\mathrm{int}}^{(i)})(1 - \ell_{\mathrm{net}}^{(i)})$$ 最后，在延迟代价感知层面，结合候选的历史平均处理延迟 $t_{\mathrm{proc}}^{(i)}$、预计传输字节 $k_i$、观测带宽 $b_i$ 与带宽抖动 $j_i$，通过抖动惩罚系数 $\kappa$ 与极小底限 $\epsilon_{\mathrm{B}}$ 估计有效端到端延迟 $T_i = t_{\mathrm{proc}}^{(i)} + \frac{k_i}{\max(\epsilon_{\mathrm{B}}, b_i - \kappa j_i)}$。基于韦伯-费希纳定律（Weber-Fechner Law）中感知延迟递减的规律，构造对数尺度归一化代价 $C_i = \ln(1 + T_i / T_0)$（其中 $T_0$ 为中位数参考延迟），并转化为平滑单调的延迟衰减因子： $$D_i = 1 + \eta C_i$$ 该设计既惩罚高延迟节点，又避免了对微小延迟差异的极端奖励或惩罚。

2. 双界协同冗余分配：乐观排序探索与保守可靠性累积截断

当决定激活多少以及激活哪些候选实例时，系统面临着双重风险冲突：在排序阶段，若过于悲观，系统将陷入局部最优，难以发掘样本较少但高潜力的优良实例；在集合截断阶段，若过于乐观，则会过早停止分配，导致选出的对冲集在真实扰动下无法达到系统设定的安全红线。HACO 创新性地采用“双界协同（Dual-Bound Coordination）”机制化解此矛盾：在候选排序阶段，计算融合置信上限（UCB）的乐观效用值： $$U_i^+ = \frac{\min(1, \mu_i + \lambda \sigma_i) \rho_i}{D_i}$$ 其中 $\lambda$ 为探索系数。所有候选实例按 $U_i^+$ 降序排列。在对冲集构建与截断阶段，系统顺着上述优序，依次累加各候选的保守执行可靠性下界 $R_i^-$： $$R_i^- = \min\left(0.98, \max(\epsilon_{\mathrm{R}}, \mu_i - \gamma \sigma_i) \cdot \rho_i\right)$$ 其中 $\gamma$ 为风险控制下界系数，$\epsilon_{\mathrm{R}}$ 维持基本活跃底限，上界 $0.98$ 防止单实例被误判为绝对可靠。设累积全失败概率初始值 $P_{\mathrm{fail}} = 1$，每将一个候选 $a_i$ 纳入对冲集 $\mathcal{S}$，即更新： $$P_{\mathrm{fail}} \leftarrow P_{\mathrm{fail}}(1 - R_i^-)$$ 当满足 $1 - P_{\mathrm{fail}} \geq \tau$（目标系统可靠性阈值，如 $0.90$）或候选池耗尽时立即终止扩充。这一机制在理论上确保了所选对冲集合是该乐观优序下达到保守可靠性承诺的最短前缀。

3. 并发决胜与异步经验沉淀：低阻塞时延与全量轨迹在线闭环

选定对冲集 $\mathcal{S}$ 后，系统向集合中的全部实例并发下发相同载荷 $x_t$。为避免类似 MoA 全量运行带来的长尾等待，HACO 采用动态决胜机制：一旦成功集合 $\mathcal{S}^+ = \{a_i \in \mathcal{S} \mid s_i = 1\}$ 中出现某个候选，且所有在排序上先于该候选（即 $U_j^+ > U_i^+$）的实例均已返回状态（无论是失败还是超时），系统立即将该最优成功候选判定为决胜者 $a_{\mathrm{winner}} = \arg\max_{a_i \in \mathcal{S}^+} U_i^+$ 并交付给控制器驱动下一步流转，使感知阻塞延迟收敛至决胜裁定时刻。在此之后，其余并发调用的执行并不被丢弃，而是在后台异步完成全量执行轨迹的收集，包括大模型裁判给出的质量评分 $q_i$、执行结果 $s_i$、端到端时延 $t_i$、Token 消耗以及底层的通信往返 RTT、丢包率与抖动。这些指标持续回流，同步更新候选池的 Beta 后验参数与网络链路拓扑配置文件，使系统在应对跨地域网络震荡或节点下线时能够迅速完成在线自愈与流量迁移。

一个完整示例¶

在一个基于 DATAWISE 状态机的多智能体数据科学任务中，假设计算步骤进入 Debugger 角色调用，此时外部网络正经历跨区域链路劣化。 1. 角色抽象：控制器输出事件 $(r_t=\text{debugger}, x_t=\text{错误轨迹与代码上下文})$，候选池检索出 4 个实例：位于本地 Local 的轻量模型、区域 Regional 的中型端点、以及两个部署在全局 Global（美国东部与西欧）的强推理模型。 2. 多维评估与排序：由于 Global 节点虽然认知能力均值高（$\mu \approx 0.88$），但由于网络抖动激增，其估算延迟 $T_i$ 骤增至 800ms，导致延迟惩罚因子 $D_i$ 增大；而 Regional 节点具备中等质量（$\mu=0.75, \sigma=0.08$）且物理可靠性达 $\rho=0.98$、延迟低（80ms），最终计算乐观效用 $U_{\text{Regional}}^+ = 0.72$ 排在首位，Global 强模型次之（$U_{\text{Global}}^+ = 0.58$），Local 节点排第三（$U_{\text{Local}}^+ = 0.41$）。 3. 保守截断：设定目标可靠性 $\tau = 0.90$。首先加入 Regional 节点，其保守可靠性 $R_1^- \approx 0.68$，此时 $P_{\mathrm{fail}} = 1 \times (1 - 0.68) = 0.32$（可靠性 68% 未达标）；继续加入排第二的 Global 节点，其 $R_2^- \approx 0.70$，更新 $P_{\mathrm{fail}} = 0.32 \times (1 - 0.70) = 0.096$。系统可靠性达到 $1 - 0.096 = 90.4\% \geq 90\%$，冗余分配在选取 2 个实例后精准截断，避免拉起第 3、4 个候选。 4. 并发与沉淀：并发拉起 Regional 与 Global 实例。Regional 实例在 95ms 时率先成功返回，因其排位高于 Global 或在判定时已满足决胜条件，立即交回控制器推进后续任务；Global 随后返回并异步回传日志，刷新该链路的延迟抖动统计。

实验关键数据¶

主实验¶

在三套典型智能体基准评测集（涵盖科学可视化 MatplotBench、结构化数据分析 InfiAgent-Bench 与端到端数据科学工作流 DSBench）上，对比单路选择（Random、BestOne）、全量并行（MoA 风格 Best-of-N）以及固定部署区域（Local、Regional、Global）基线：

数据集	方法	任务表现 (Avg. Score / Acc.)	严格成功率 (Strict Succ. %)	Token 开销 (k tokens)	端到端延迟 (s)	全失败步骤比例 (All-Failed Step %)
MatplotBench	Random	46.45	27.00	46.51	82.69	8.78
	BestOne	47.75	25.00	32.22	52.50	9.35
	MoA (Best-of-N)	42.75	23.00	305.67	206.41	0.00
	Fixed-Local	23.90	11.00	43.55	54.42	0.28
	Fixed-Regional	47.68	25.00	64.91	50.74	3.01
	Fixed-Global	52.61	36.00	16.29	28.62	8.25
	HACO (本文)	58.86	36.00	65.32	23.50	0.17
InfiAgent-Bench	Random	86.06	83.27	25.82	34.87	8.65
	BestOne	77.82	75.49	25.33	22.69	13.94
	MoA (Best-of-N)	84.79	80.93	204.02	99.82	0.00
	Fixed-Local	69.42	64.98	52.37	132.47	0.13
	Fixed-Regional	87.86	84.44	35.81	25.82	3.56
	Fixed-Global	4.28	4.28	14.27	13.23	8.59
	HACO (本文)	89.01	84.44	91.04	31.31	0.37
DSBench	Random	31.83	58.90	89.54	254.04	6.95
	BestOne	41.84	73.61	98.90	107.41	11.14
	MoA (Best-of-N)	41.09	71.23	711.73	423.41	0.11
	Fixed-Local	4.90	10.96	103.52	546.77	0.00
	Fixed-Regional	39.79	67.12	88.39	143.46	3.53
	Fixed-Global	33.02	61.64	60.28	75.21	7.64
	HACO (本文)	42.40	76.71	393.72	125.91	0.40

消融实验¶

在 MatplotBench 上对 HACO 核心组件的贡献以及目标可靠性参数 $\tau$ 的敏感性进行消融分析：

配置 / 变体	平均得分 (Avg. Score)	步骤失败率 (Step Failure Rate %)	机制说明
HACO 完整系统 ($\tau=0.95$)	58.86	0.17	双界协同 + 延迟感知 + 经验沉淀完整架构
HACO ($\tau=0.90$)	57.10	0.42	适度降低冗余门槛，Token 消耗显著下降
HACO ($\tau=0.80$)	55.40	0.95	平衡中等开销与可靠性
HACO ($\tau=0.70$)	53.77	1.87	最低冗余配置，单步失败率随之抬升
去除环境感知建模 (w/o Env)	53.00	3.82	忽略网络抖动与延迟代价，导致频繁选入高丢包/高延时节点
替换保守截断为中性截断 (w/o LCB)	53.90	2.45	去除悲观下界后提前停止添加候选，冗余不足引发步骤中断
去除探索置信上限 (w/o UCB)	51.61	4.10	缺乏对不确定性的乐观探索，陷入次优甚至已劣化的候选路径

关键发现¶

动态故障下的断崖式崩溃 vs 韧性自愈：在注入候选节点宕机与网络断连的动态压力测试下，依赖历史最优单路的 BestOne 发生了灾难性性能崩溃，全失败率激增 67.4 至 90.4 个百分点（因为其反复将请求打向已故障的“历史优选”节点）；而 HACO 依托并发对冲执行中的 trace 沉淀，在数十步内完成在线自愈，主动将 Global 请求占比下调 80 个百分点，重定向至健康的 Regional/Local 节点。
全量暴搜的劣势：MoA 虽然通过耗费全部候选池取得了接近 0% 的步骤全失败率，但由于其必须等待全部节点生成并引入额外的裁判模型打分，不仅在 DSBench 上 Token 消耗激增至 HACO 的近两倍（711k vs 393k），端到端耗时更是翻了 3.3 倍（423s vs 125s），且极易受裁判幻觉干扰，导致最终任务分数反而不如自适应截断的 HACO。
可控的可靠性-成本帕累托前沿：目标可靠性旋钮 $\tau$（从 0.70 调至 0.95）展现出平滑的单调调节能力，开发者可根据任务关键程度自由权衡系统失败率（1.87% $\to$ 0.17%）与 Token 预算开销。

亮点与洞察¶

多智能体可靠性视角的下沉：跳脱出单纯对 Prompt、工作流拓扑或单一模型推理能力的修补，首次将多智能体系统的脆弱性边界明确锚定在基础设施层的“角色-实例动态绑定”，指出现实多区域推理环境中的网络抖动与瞬态故障才是长程任务崩溃的隐形杀手。
对冲并发与探索的数学协同：双界协同设计非常精巧，用乐观置信上限 $U_i^+$ 指引高潜探索排序，用保守置信下界 $R_i^-$ 严控冗余截断，巧妙化解了强化学习/Bandit 中“充分探索”与“高可用容错安全红线”之间的内在对抗。
一石二鸟的冗余沉淀理念：将分布式系统中的冗余执行从“单纯的算力开销”转变为“低成本的实时在线遥测采样探针”，在保证当前调用鲁棒完成的同时，免除了额外探测心跳的开销，为后续决策提供了最新鲜的链路质量真值。

局限与展望¶

工作流任务范式局限：目前验证主要集中于具备明确代码解释器、自纠错回路的数据科学与可视化工作流（DATAWISE、InfiAgent、DSBench），对于高度依赖开放 Web 环境交互或长程具身/边缘设备协作场景下的泛化能力仍需进一步评估。
语义级失败未完全纳入画像：当前的经验沉淀主要捕获数值型质量分、延迟与网络指标，尚未解析代码具体报错类型、深度推理链断裂模式等细粒度语义证据，对逻辑层面的深层次系统性失败辨别力有限。
非平稳环境下的时序遗忘机制：当前的 Beta 分布采用简单累加计数，若某个候选节点经历“正常 $\to$ 故障 $\to$ 恢复”的长周期变迁，历史累积的软计数可能导致后验分布更新滞后，未来可引入时间滑动窗口、衰减因子或漂移检测机制。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次从基础设施与网络环境感知视角重构多智能体角色绑定问题，提出对冲智能体计算范式。
实验充分度: ⭐⭐⭐⭐⭐ 兼具真实 Azure 跨国端点压测、故障注入退化实验与三大经典智能体工作流基准评测，数据详实自洽。
写作质量: ⭐⭐⭐⭐⭐ 体系结构清晰，双界协同与对冲执行的数学定义严密，系统图示与伪代码规范完整。
价值: ⭐⭐⭐⭐⭐ 对工业界在大规模落地长程多智能体系统、应对跨区域云服务异构不确定性具有重要的架构指导与借鉴价值。

配置 / 变体	平均得分 (Avg. Score)	步骤失败率 (Step Failure Rate %)	机制说明
HACO 完整系统 (\(\tau=0.95\))	58.86	0.17	双界协同 + 延迟感知 + 经验沉淀完整架构
HACO (\(\tau=0.90\))	57.10	0.42	适度降低冗余门槛，Token 消耗显著下降
HACO (\(\tau=0.80\))	55.40	0.95	平衡中等开销与可靠性
HACO (\(\tau=0.70\))	53.77	1.87	最低冗余配置，单步失败率随之抬升
去除环境感知建模 (w/o Env)	53.00	3.82	忽略网络抖动与延迟代价，导致频繁选入高丢包/高延时节点
替换保守截断为中性截断 (w/o LCB)	53.90	2.45	去除悲观下界后提前停止添加候选，冗余不足引发步骤中断
去除探索置信上限 (w/o UCB)	51.61	4.10	缺乏对不确定性的乐观探索，陷入次优甚至已劣化的候选路径