UMAS: 面向多智能体系统级的不确定性量化 (System-Level Uncertainty Quantification for Multi-Agent LLM Systems)¶
会议: NeurIPS 2026
arXiv: 2610.33013
代码: https://github.com/Dby52-04/UMAS
领域: LLM Agent
关键词: 多智能体系统, 不确定性量化, 同行可信度, 交互轨迹图, 幻觉检测
一句话总结¶
针对现有单智能体不确定性量化（UQ）方法应用于多智能体系统（MAS）时存在的结构错位与采样开销过大问题，UMAS 提出了一种免训练、零额外推理成本的系统级 UQ 框架，通过建模交互图中的节点置信度、利用相对置信度调节同行证据信任权重并动态更新，最终全图聚合实现平均 10.54 个 AUROC 点的大幅提升。
研究背景与动机¶
多智能体协同系统（Multi-Agent Systems, MAS）通过多轮对话、角色扮演与辩论机制，显著拓展了大语言模型（LLM）在复杂推理与事实问答任务上的解题上限。然而，多智能体协同并非绝对可靠的护城河，智能体之间多轮交互不仅无法彻底消除幻觉，反而可能因错误信息的交叉感染而导致错误被滚雪球式放大。为了评估大模型生成的可靠度，不确定性量化（Uncertainty Quantification, UQ）成为了安全部署的关键支柱。但在实践中却出现了一个反直觉的失效现象：尽管多智能体系统在最终任务准确率上优于单智能体模型，直接将标准单智能体 UQ 方法套用在多智能体系统的最终输出上时，其不确定性评估的可靠性（AUROC）反而显著滑坡。
现有单智能体 UQ 方法在多智能体场景下的失效根源主要来自两个维度的严重失配。首先是结构错位（Structure Misalignment）：绝大多数主流 UQ 方法（无论是基于词元概率的困惑度还是基于多重采样的语义熵 Semantic Entropy）都将不确定性视为仅附着在系统“终局答案”上的静态属性；但多智能体输出本质上是由复杂有向图承载的多轮协作轨迹，单纯截取终局回答完全忽视了不确定性在智能体协同流动过程中的传递、抑制与恶性放大，极易对被错误同行带偏却充满自信的终局输出产生误判。其次是计算效率障碍（Efficiency Bottleneck）：多智能体本身就要执行 \(N \times M\) 次模型调用，推理开销已极其昂贵；若在此基础上进一步套用需要多次采样的语义一致性 UQ 方法，推理开销将呈几何级数爆炸，在实际部署中完全不可接受。
为了同时化解“结构感知”与“成本中立（Cost-Neutral）”这一核心冲突，必须摆脱对多次采样或终局黑盒评分的依赖，直接在已生成的交互图拓扑上捕捉不确定性的流动轨迹与交互可信度。核心 idea：将多智能体协同抽象为有向交互图，直接利用各节点已生成文本的最大序列概率作为内在置信度，计算跨智能体前驱边的相对动态置信度以自适应调节同行证据的信任权重，实现轨迹级动态置信度平滑更新与系统级聚合，实现零额外推理开销的高可靠 UQ。
方法详解¶
整体框架¶
UMAS 的核心目标是在不引入任何额外模型调用、不修改底座参数、不进行重复采样的前提下，对整个多智能体系统的生成轨迹赋予一个具有校准意义的系统级不确定性分数。输入为用户查询 \(x\) 以及在标准多智能体协作协议下自然生成的完整交互图 \(\mathcal{G}=(\mathcal{V},\mathcal{E})\) 和各节点生成内容 \(\mathcal{Y}\)，输出为标量形式的系统级不确定性度量 \(U_{\mathcal{G},\mathrm{dyn}}(\mathcal{Y}\mid x)\)。
整个流程紧扣多智能体的天然演化逻辑展开：在每个智能体完成一轮生成后，首先提取生成 logits 计算节点级静态置信度；随后在智能体根据同行意见进行更新时，通过对比同行节点与自身前一轮的历史置信度，量化同行影响的可信度并映射为有界的信任权重；接着利用该权重执行加权移动平均，得到当前节点的动态置信度；最后遍历整张交互图的所有节点，通过结构化平均池化输出系统级不确定性。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["多智能体输入查询与协同交互"] --> B["节点级置信度建模<br/>基于单次生成对数概率提取静态置信度"]
B --> C["同行可信度估计<br/>计算跨轮相对动态置信度比值"]
C --> D["同行信任度权重映射<br/>Sigmoid 归一化与互补融合"]
D --> E["动态置信度移动更新<br/>自适应平衡自身生成与同行参考"]
E --> F["系统级不确定性全图聚合<br/>整图轨迹负均值池化输出"]关键设计¶
1. 节点级置信度建模：基于零开销的单次生成对数概率 为了在长轨迹的多智能体系统中实现零额外推理成本，UMAS 放弃了计算昂贵的多重采样一致性策略，选用最大序列概率（Maximum Sequence Probability, MSP）作为节点基础度量。对于图中任意节点 \(v_i^{(t)}\)（即智能体 \(i\) 在第 \(t\) 轮的状态），设其输入上下文为 \(x_i^{(t)}\)，生成的文本序列为 \(g(v_i^{(t)}) = (y_1, \dots, y_T)\)。UMAS 直接复用生成过程中输出的自回归条件对数概率之和作为静态置信度： $\(c_i^{(t)} = \log P\left(g(v_i^{(t)}) \mid x_i^{(t)}\right) = \sum_{\tau=1}^T \log p_\theta\left(y_\tau \mid y_{<\tau}, x_i^{(t)}\right)\)$ 由于概率取对数后恒为负数（\(c_i^{(t)} < 0\)），其绝对值越小（数值越接近 0），代表模型对该段生成的内在置信度越高。这一设计完全属于“后处理提取”，对底层推理流程保持零侵入。
2. 同行可信度估计与信任权重映射：防止不可靠同行的置信度污染 在辩论或动态网络中，智能体 \(i\) 在第 \(t\) 轮会阅读上一轮同行智能体的前驱状态集合 \(\mathbb{P}_i^{(t)}\)。盲目相信同行的修正意见容易引发从众偏差或锚定效应。UMAS 创新性地引入相对动态置信度来衡量有向边 \(\langle v_j^{(t-1)}, v_i^{(t)} \rangle\) 的原始可信度： $\(w_{j \to i}^{(t-1)} = \frac{c_{j,\mathrm{dyn}}^{(t-1)} - c_{i,\mathrm{dyn}}^{(t-1)}}{c_{i,\mathrm{dyn}}^{(t-1)}}\)$ 由于分母 \(c_{i,\mathrm{dyn}}^{(t-1)} < 0\)，当同行 \(j\) 的动态置信度高于更新者自身（\(c_{j,\mathrm{dyn}} > c_{i,\mathrm{dyn}}\)）时，分子为正，边比值 \(w_{j \to i}^{(t-1)} < 0\)；反之，若同行置信度更低、甚至自己都处于极度摇摆中，则比值为正。为了避免极端比值产生无界影响，UMAS 接着通过 Sigmoid 函数将其非线性映射至 \((0, 1)\) 区间： $\(\hat{w}_{j \to i}^{(t-1)} = \sigma\left(w_{j \to i}^{(t-1)}\right) = \frac{1}{1 + \exp\left(-w_{j \to i}^{(t-1)}\right)}\)$ 在这一映射下，同等置信度映射为 0.5；可信同行落在 \((0, 0.5)\)，不可信同行落在 \((0.5, 1)\)。随后，节点汇总所有汇入的前驱边证据并取补集，得到归一化的综合同行信任权重： $\(w_i^{(t)} = 1 - \mathbb{E}_{j:\langle v_j^{(t-1)}, v_i^{(t)} \rangle \in \mathcal{E}}\left[\hat{w}_{j \to i}^{(t-1)}\right]\)$ 该设计从数学上保证了当输入同行整体具备更高置信度时，\(w_i^{(t)} \to 1\)；当输入同行普遍高度不确定时，\(w_i^{(t)} \to 0\)。
3. 动态置信度自适应更新与全图系统级聚合 得到同行信任权重后，智能体节点不再孤立维护静态概率，而是根据同行可信度执行动态置信度的凸组合更新： $\(c_{i,\mathrm{dyn}}^{(t)} = (1 - w_i^{(t)}) \cdot c_{i,\mathrm{dyn}}^{(t-1)} + w_i^{(t)} \cdot c_i^{(t)}\)$ 这构成了两个直观且鲁棒的物理调节机制：当同行可信度极低（\(w_i^{(t)} \to 0\)）时，意味着当前轮次很可能受到杂乱或有害同行的干扰，系统果断压制本次更新，退回继承上一轮历史状态 \(c_{i,\mathrm{dyn}}^{(t)} \approx c_{i,\mathrm{dyn}}^{(t-1)}\)，防止虚假置信度漂移；当同行可信度极高（\(w_i^{(t)} \to 1\)）时，系统充分接纳同行带来的纠偏信息，追踪当前最新输出 \(c_{i,\mathrm{dyn}}^{(t)} \approx c_i^{(t)}\)。在多轮交互结束后，UMAS 对交互图中全部节点 \(\mathcal{V}\) 的动态置信度进行轨迹级平均池化并取负，作为全系统的最终不确定性评分： $\(U_{\mathcal{G},\mathrm{dyn}}(\mathcal{Y}\mid x) = -\frac{1}{|\mathcal{V}|}\sum_{v_i^{(t)}\in\mathcal{V}} c_{i,\mathrm{dyn}}^{(t)}\)$ 全图平均既消除了单个节点因词元长度或局部异常波动导致的数值震荡，又能完整反映不确定性在全生命周期内的演进全貌。
4. 结构隔离验证机制：UMAS_FIX 消融设计 为了清晰解耦“轨迹图聚合”与“同行可信度更新”各自的边际贡献，论文专门设立了对照变体 \(\mathrm{UMAS}_{\mathit{FIX}}\)。该变体完全保留了对交互图所有节点的全局平均聚合结构，但彻底去除了同行可信度动态更新机制，退化为直接对节点原始静态置信度求均值：\(U_{\mathcal{G},\mathrm{fix}} = -\frac{1}{|\mathcal{V}|}\sum c_i^{(t)}\)。通过将单智能体终端基线对比 \(\mathrm{UMAS}_{\mathit{FIX}}\)，可严格衡量全图聚合的增益；而将 \(\mathrm{UMAS}_{\mathit{FIX}}\) 对比完整 \(\mathrm{UMAS}\)，则可纯净验证同行可信度动态校准带来的进阶价值。
损失函数 / 训练策略¶
UMAS 是一种纯粹的推理期即插即用（Plug-and-play）、免训练（Parameter-free）算法。它无需引入任何辅助判别网络、无需在目标测试集上预先微调或拟合超参数，所有指标均直接由自回归解码过程中的 logits 向量经轻量 CPU 数学运算得到，不会产生任何梯度回传或网络结构修改。
实验关键数据¶
主实验¶
论文在五大权威基准上进行了全面评测：MMLU-Pro（综合知识推理）、AQUA-RAT（代数多步推理）、MedMCQA（医学临床）、MBPP（Python 代码生成）与 GSM-Hard（高难度数学题）。多智能体架构选用经典的辩论框架 Debate（3 智能体 × 3 轮）与动态拓扑重组网络 DyLAN（4 智能体 × 3 轮），底座涵盖 Llama 4 Scout（109B 开源 MoE）与 GPT-4o mini。评价指标为不确定性与任务错误判别的对齐能力 AUROC（%）。
下表汇报了两种架构与两大底座在各基准上的 AUROC 表现汇总（摘录关键基线与 UMAS 系列）：
| 骨干模型 | 协同架构 | 方法类别 | MMLU-P | AQUA | MedMC | MBPP | GSM-H | 平均 AUROC |
|---|---|---|---|---|---|---|---|---|
| Llama 4 Scout | Debate | MSP（终局单采样） | 70.70 | 78.61 | 60.43 | 62.02 | 47.98 | 63.95 |
| Llama 4 Scout | Debate | SE*（多采样语义熵） | 55.08 | 50.70 | 48.30 | 52.06 | 55.80 | 52.39 |
| Llama 4 Scout | Debate | CoCoA*（混合一致性） | 69.20 | 78.59 | 60.43 | 62.43 | 49.53 | 64.04 |
| Llama 4 Scout | Debate | \(\mathrm{UMAS}_{\mathit{FIX}}\) (仅轨迹聚合) | 80.97 | 79.17 | 72.68 | 62.00 | 64.25 | 71.81 |
| Llama 4 Scout | Debate | UMAS (完整动态) | 80.90 | 79.77 | 74.38 | 64.56 | 72.69 | 74.46 |
| Llama 4 Scout | DyLAN | MSP（终局单采样） | 61.02 | 75.00 | 54.95 | 58.39 | 57.47 | 61.37 |
| Llama 4 Scout | DyLAN | CoCoA*（混合一致性） | 61.58 | 76.62 | 54.37 | 58.04 | 59.24 | 61.97 |
| Llama 4 Scout | DyLAN | \(\mathrm{UMAS}_{\mathit{FIX}}\) (仅轨迹聚合) | 79.71 | 80.11 | 66.41 | 51.93 | 65.97 | 68.83 |
| Llama 4 Scout | DyLAN | UMAS (完整动态) | 83.70 | 80.63 | 76.16 | 56.98 | 79.48 | 75.39 |
| GPT-4o mini | Debate | MSP（终局单采样） | 70.50 | 63.38 | 62.64 | 52.16 | 57.93 | 61.32 |
| GPT-4o mini | Debate | SentSAR*（语义相关度） | 77.60 | 71.23 | 62.30 | 53.07 | 59.72 | 64.78 |
| GPT-4o mini | Debate | \(\mathrm{UMAS}_{\mathit{FIX}}\) (仅轨迹聚合) | 77.42 | 81.70 | 66.03 | 57.62 | 67.89 | 70.13 |
| GPT-4o mini | Debate | UMAS (完整动态) | 74.40 | 85.51 | 71.03 | 60.37 | 74.50 | 73.16 |
| GPT-4o mini | DyLAN | MSP（终局单采样） | 68.86 | 70.98 | 68.58 | 47.49 | 52.64 | 61.71 |
| GPT-4o mini | DyLAN | SentSAR*（语义相关度） | 73.32 | 73.87 | 72.73 | 47.80 | 57.00 | 64.94 |
| GPT-4o mini | DyLAN | \(\mathrm{UMAS}_{\mathit{FIX}}\) (仅轨迹聚合) | 75.58 | 84.22 | 73.17 | 59.36 | 71.93 | 72.85 |
| GPT-4o mini | DyLAN | UMAS (完整动态) | 76.54 | 87.48 | 72.33 | 61.69 | 76.39 | 74.89 |
注：在全基准十项设置总体均值上，Llama 4 Scout 下最佳基线为 63.00，\(\mathrm{UMAS}_{\mathit{FIX}}\) 为 70.32，\(\mathrm{UMAS}\) 达到 74.93；GPT-4o mini 下最佳基线为 64.86，\(\mathrm{UMAS}_{\mathit{FIX}}\) 为 71.49，\(\mathrm{UMAS}\) 达到 74.02。相比最强基线平均提升达 10.54 个百分点。
消融与分析：选择性预测与推理效率对比¶
1. 选择性预测准确率（Selective Prediction Accuracy %）¶
利用 UQ 评估的分数在 \(K=5\) 条独立生成轨迹中选择不确定性最低的最佳答案，验证其对系统整体解题表现的实际赋能效果（测试模型：GPT-4o mini）：
| 数据集 | MAS 架构 | 原始单次输出 (Orig) | 最优采样基线 | \(\mathrm{UMAS}_{\mathit{FIX}}\) | UMAS | 绝对准确率增益 |
|---|---|---|---|---|---|---|
| MMLU-Pro | Debate | 70.0 | 75.0 (PE/Deg*) | 74.5 | 76.0 | +6.0% |
| MMLU-Pro | DyLAN | 71.0 | 76.5 (Deg) | 75.0 | 77.0 | +6.0% |
| AQUA-RAT | Debate | 83.7 | 94.2 (PE) | 94.8 | 96.3 | +12.6% |
| AQUA-RAT | DyLAN | 83.2 | 91.1 (SentSAR*) | 92.2 | 93.7 | +10.5% |
2. 计算开销与推理延迟对比（Computational Efficiency）¶
在 Llama 4 Scout、Debate 架构与 MMLU-Pro 任务上实测推理延迟（In.）、不确定性计算时间（Un.）以及是否免 GPU 计算：
| 评估方法 | 采样模式 | 推理总耗时 In. (s) | UQ 耗时 Un. (ms) | 免 GPU 依赖 (GPU Free) | AUROC (%) |
|---|---|---|---|---|---|
| Semantic Entropy (SE) | 多重采样 (\(K=5\)) | 127.32 | 1813.92 | ✗ (需推理与聚类) | 47.81 |
| SentSAR | 多重采样 (\(K=5\)) | 127.32 | 263.30 | ✗ (需 DeBERTa 蕴含模型) | 57.86 |
| Degree Matrix (Deg) | 多重采样 (\(K=5\)) | 127.32 | 3726.16 | ✗ | 54.89 |
| CoCoA | 多重采样 (\(K=5\)) | 127.32 | 262.85 | ✗ | 68.91 |
| MSP (终局基线) | 单次采样 (\(K=1\)) | 84.17 | 0.021 | ✓ | 70.70 |
| UMAS (本文) | 单次采样 (\(K=1\)) | 84.17 | 0.143 | ✓ (仅纯 CPU 计算) | 80.90 |
关键发现¶
- 结构聚合是主要贡献源，动态更新提供关键增量：将改进严格正交拆解后发现，在 Llama 4 Scout 和 GPT-4o mini 上，仅将终局单点评估拓展至全轨迹平均聚合（\(\mathrm{UMAS}_{\mathit{FIX}}\) 对比最强基线），就分别贡献了 +7.32 和 +6.63 的 AUROC 提升；在此基础上引入同行置信度动态加权更新（\(\mathrm{UMAS}\) 对比 \(\mathrm{UMAS}_{\mathit{FIX}}\)），进一步拉升了 +4.61 和 +2.53。这证实了“轨迹结构感知”是解决多智能体 UQ 错位的首要基石。
- 同行离散度决定权重增益：在智能体置信度差异显著的复杂任务上（如 GSM-Hard、MedMCQA），智能体之间经常出现高低置信度碰撞，动态更新带来的增益格外庞大（GSM-Hard 上带来了 +8 到 +13 个点提升）；而在同行置信度高度同质化的任务上，动态更新的边际增益收窄，符合贝叶斯加权的理论预期。
- 卓越的系统扩展性：在智能体数量 \(N \in \{2, 3, 4\}\) 与轮次 \(M \in \{2, 3, 4\}\) 的网格缩放实验，以及从 Llama-3.2 1B 到 Llama 4 Maverick 400B 的 7 种不同参数量级模型测试中，UMAS 始终全面碾压基线，展现出对不同规模与架构的高鲁棒性。
亮点与洞察¶
- 将通信交互图转化为置信度传播场：不再将 MAS 视为黑盒端到端映射，而是将其解构为有向图拓扑，直接利用各阶段已有 logits 追踪不确定性在智能体交互中的演化，思路优雅且符合多智能体运行本质。
- 轻量级零成本落地（Cost-Neutral）：彻底打破了“高质量不确定性量化必须依赖多次采样或外挂判定模型”的技术教条，以纯 CPU 级别、仅 0.143 毫秒的开销实现了超越多重采样 SOTA 10+ 点的效果，具备极高的工程落地价值。
- 开箱即用的置信度度量泛化性：框架核心逻辑与底层使用的置信度指标正交解耦，实验证明无论是接入序列概率 MSP、困惑度 PPL 还是预测熵 PE，UMAS 均能稳定带来系统级增益，未来可无缝继承单智能体 UQ 的最新进展。
局限与展望¶
- 强依赖底层 Logits 可见度：由于必须提取各节点生成的序列对数概率，该方案目前只能应用于开源权重模型或开放 Token Logprobs 权限的商业 API，无法直接用于仅提供最终纯文本回复的强黑盒环境。
- 仅适用于协作性假设：算法设计基于智能体之间善意协同的基础设定，无法防御恶意智能体蓄意伪造置信度的对抗性博弈场景；同时在“提议者-批评者”等非对称角色协议中，难以直接将批评者的置信度独立于其文本语义进行数学映射。
- 无法纠正群体性高置信偏见：若参与协同的所有智能体均陷入了相同的认知盲区、均以极高置信度输出错误答案（Systematic Misconception），同行相对置信度机制将失去判别落差，无法唤醒报警。
相关工作与启发¶
- vs Semantic Entropy (SE) 等多采样方法：SE 等单智能体方法依赖多重采样和双向蕴含聚类，计算开销极其庞大，在长轨迹多智能体上算力难以承受，且终局单一采样破坏了轨迹时序信息；UMAS 仅需单次轨迹推理，成本零增量且全面捕捉演化轨迹。
- vs SAUP / UProp 等智能体 UQ 探索：SAUP 引入隐马尔可夫模型来学习决策步骤权重，但依赖测试域的标注数据进行监督训练；UProp 仅探索了单智能体多步决策链的不确定性传播且需额外采样；UMAS 是免训练、无监督且真正面向多智能体分布式交互图的通用框架。
评分¶
- 新颖性: ⭐⭐⭐⭐ [针对多智能体协同特点构建图谱级动态 UQ，切中行业痛点，机制设计轻巧实用]
- 实验充分度: ⭐⭐⭐⭐⭐ [跨越 2 种 MAS 架构、3 类骨干模型、7 个参数量级与 5 大领域基准，实验极其扎实]
- 写作质量: ⭐⭐⭐⭐⭐ [动机叙述逻辑紧密，问题拆解与消融清晰有力，公式表达节制精炼]
- 价值: ⭐⭐⭐⭐⭐ [完全成本中立且即插即用，为多智能体系统的可靠性评测与高风险场景落地扫清了障碍]