Bayes-Sufficient Compression Is Not Enough: How Does Communication Help Multi-Agent Systems?¶

会议: NeurIPS 2026
arXiv: 2610.03769
代码: https://github.com/Yydc/Communication
领域: 强化学习
关键词: 多智能体系统、通信协议、有界协调、贝叶斯充分压缩、动作闭包

一句话总结¶

本文提出了面向有界接收者的多智能体单步通信理论框架，证明了贝叶斯充分压缩不足以保证接收端可用性，并将通信损失解耦为外化、吸收与动作闭包三阶段，进而设计出自适应协议选择器优化准确率与成本前沿。

研究背景与动机¶

在大语言模型（LLM）驱动的多智能体协作系统中，非对称架构已成为主流范式：上游发送者（Main Agent）通常拥有全局上下文、推理反思或工具调用轨迹等完整信息，而下游执行者（Executor Subagent）受限于上下文窗口、推理预算与延迟要求，仅能在狭窄的局部视图下做出下一步决策。在这种设定下，智能体间的通信协议设计成为系统成败的核心。直觉上，向执行者暴露全部原始上下文会导致巨大的解析与注意力税负，执行者必须在预算耗尽前重新筛选关键线索；然而，若仅发送精简的压缩消息，又极易丢失关键信息或产生执行者难以解析的表层形式错配。

学术界以往对多智能体系统的评测多集中在全流程轨迹的最终胜率或端到端准确率上，这种宏观度量掩盖了单步通信中复杂的因果机制。一个任务的最终失败，究竟源于发送者未能有效压缩上下文、接收者未能提取出消息中的有用信息，还是接收者在正确理解线索后仍执行了错误动作？传统的率失真理论与香农/贝叶斯信息论将“信息充分性”视作终点，假设解码器具备无限计算能力，但这与实际部署中执行者作为有界解码器（受固定提示词、解析器、上下文长度和工具 Schema 约束）的现实存在根本脱节。即使一条消息在统计意义上完全保留了决定最优动作的全部信息，执行者也可能因为格式不兼容或推理负担而崩溃。

针对这一核心矛盾，本文提出“面向接收者的有界协调”（Receiver-Relative Bounded Coordination）框架，将通信的分析基元锚定在单步决策上，严格界定动作充分协调目标与协议税负的权衡关系。核心 idea：将多智能体通信效用形式化为「接收者单步增益减去协议税负」，证明仅满足贝叶斯充分的信息压缩因解码器表层形式敏感性未必最优，并通过外化-吸收-动作闭包三阶段分解与单调跨越门槛，指导推理时自适应协议控制。

方法详解¶

整体框架¶

本文构建的理论与系统管线聚焦于多智能体工作流中的任意单步决策。在共享环境状态 $W_t$ 下，发送者拥有宏观上下文 $C_t$ 并处于状态 $S_t^i = s_t(C_t)$，而接收者仅具备局部视图 $X_t^j$。协议控制机制评估三类典型端点通信模式：无消息的接收者单干模式（RO）、发送有界压缩消息的多智能体通信模式（MA）以及暴露完整上下文的原始模式（SF）。接收者通过受限解码器类 $\Phi_C$ 将输入映射为下一步动作 $A_t^j$。

整个推理评估与控制架构首先定义动作充分目标 $Z_t^\star$，推导出效用-税负恒等式与压缩边界条件；随后通过固定消息回放将损失解耦到吸收与动作闭包层级；最终基于推导出的增益、税负与残差传播规律构建在线协议选择器，根据接收者负担实时路由通信动作。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["任务状态与非对称上下文<br/>发送者全局 Ct / 执行者局部 Xtj"] --> B["通信协议效用与税负核算<br/>增益减去协议税负 Ut = A - tau"]
    B --> C["表征敏感的压缩权衡与贝叶斯充分性<br/>定理2税负节约 vs 定理3可用性失效"]
    C --> D["三阶段损失解耦与固定消息回放<br/>Ltotal = Lext + Labs + Lclose"]
    D --> E["上游能力升级的单调跨越门槛<br/>局部负担 b 过阈值 b* 方显增益"]
    E --> F["推理时自适应协议选择器<br/>评估候选动作 Jt 动态路由"]

关键设计¶

1. 通信协议效用与税负核算：揭示消息净价值的平衡关系

在单步决策中，单纯提供信息并不总能提升性能，因为额外消息会引入解析负担、注意力分散及接口不匹配等负面效应。为量化这一权衡，本文定义动作充分协调目标 $Z_t^\star$，满足条件独立性 $A_t^{j,\star} \perp S_t^i \mid (X_t^j, Z_t^\star)$，即给定局部视图和目标后，发送者状态对最优决策无额外增益。设定执行者的有界解码器类为 $\Phi_C$，在此类下最优风险为 $R_C^\star(\delta)$，而实际部署协议的风险为 $R_\rho(\delta)$（$\delta \in \{0, 1\}$ 表示是否接收消息）。消息的接收者相对增益 $A_{C,\ell}^\star(M_t; Z_t^\star) = R_C^\star(0) - R_C^\star(1)$ 刻画了解码器类可达的理论最大风险降幅；协议税负 $\tau_{\rho,\ell}(M_t) = [R_\rho(1) - R_C^\star(1)] - [R_\rho(0) - R_C^\star(0)]$ 则度量了引入消息后实际模型与类最优表现之间差距的净增量。通过加减项重组，推导出核心核算恒等式： $$U_{\rho,\ell}(M_t; Z_t^\star) = R_\rho(0) - R_\rho(1) = A_{C,\ell}^\star(M_t; Z_t^\star) - \tau_{\rho,\ell}(M_t)$$ 该公式表明通信带来净收益的充要条件是接收端增益严格超越诱发的协议税负。

2. 表征敏感的压缩权衡与贝叶斯充分性：证明信息充分不等于接收端可用

压缩机制的核心在于用更小开销换取关键信息。在对数损失下，对比压缩消息 $M_t = f(C_t)$ 与原始上下文 $C_t$ 的效用差 $\Delta U_{\rm cmp-raw} = U_{\rm cmp} - U_{\rm raw}$，定理 2 给出严格拆解：$\Delta U_{\rm cmp-raw} = \Delta \tau_{\rm raw \to cmp} - \mathcal{I}_{\rm omit} - \Lambda_C(M_t \to C_t)$。其中 $\Delta \tau_{\rm raw \to cmp}$ 为避免暴露原始上下文而节约的协议税负，$\mathcal{I}_{\rm omit} = I(Z_t^\star; C_t \mid X_t^j, M_t)$ 为遗漏的目标信息，而 $\Lambda_C(M_t \to C_t) = \Gamma_C(X_t^j, M_t) - \Gamma_C(X_t^j, C_t)$ 为解码器错配惩罚。定义 $\alpha$-严格贝叶斯充分压缩为满足 $I(Z_t^\star; C_t \mid X_t^j, M_t) = 0$ 且熵满足 $H(M_t) \le \alpha H(C_t)$ 的映射。定理 3 构建反例证明：存在任务与解码器类使得原始上下文能以 0 误差完美决策，但经严格贝叶斯充分压缩后的消息却让执行者遭受至少 $1/2 - \varepsilon$ 的误差（接近随机猜测）。这从理论上确立了表征几何与格式接口对有界执行者的致命影响——即便信息在香农意义下无损，表层形式错配也会彻底摧毁执行效用。

3. 三阶段损失解耦与固定消息回放：精确定位后通信错误源头

针对信息到达接收端后依然执行失败的现象，本文建立了瓶颈分解模型。假设执行者先将 $(X_t^j, M_t)$ 映射到内部表征 $\widehat{Z}_t$，再据此输出物理动作 $A_t^j$，形成条件独立链 $Z_t^\star \to C_t \to M_t \to \widehat{Z}_t \to A_t^j$。定理 4 证明总体协调损失可非负正交分解为三个串联阶段： $$L_{\rm total} = L_{\rm ext} + L_{\rm abs} + L_{\rm close}$$ 其中外化损失 $L_{\rm ext}$ 对应发送端未将 $C_t$ 的目标信息写入 $M_t$；吸收损失 $L_{\rm abs}$ 对应接收端未能将 $M_t$ 中的线索提取至内部状态 $\widehat{Z}_t$；动作闭包损失 $L_{\rm close}$ 对应接收端已正确恢复目标线索（如工件路径）却在生成最终动作类型（如将 edit 误选为 read）时崩塌。为了在实证中消除发送端的随机扰动并精确分离接收端损失，命题 5 提出“固定消息回放”（Fixed-Message Replay）机制：在多接收者评测中冻结同一发送者生成的标准消息，使得 $L_{\rm ext}$ 完全抵消，直接暴露各接收者在吸收与动作闭包上的差异。

4. 上游能力升级门槛与在线自适应协议控制：实现性能与开销的最优权衡

在实际工程中，盲目将发送者升级为更大规模参数的模型往往适得其反。定理 6 证明，对于负担指标为 $b$（如局部条件熵 $H(Z_t^\star \mid X_t^{R_b})$）的接收者族，更强发送者 $s'$ 相比 $s$ 带来的净效用增量 $\Psi_{s,s'}(b) = \Delta A_{R,\ell}(s,s') - \Delta \tau_{R,\ell}(s,s')$ 在满足单调跨越条件时，存在唯一的临界负担阈值 $b^\star$：只有当执行者的局部认知负担超过 $b^\star$ 时，升级发送者所带来的增益才能弥补其更复杂消息表面引入的协议税负。结合跨步残差传播模型 $D_{t+1} = k_t + \lambda_t [D_t - q_t]_+$，本文设计出推理时协议选择器，对候选动作空间 $\mathcal{A}_t \subseteq \{\texttt{skip}, \texttt{compress}(B), \texttt{raw}, \texttt{escalate}(C'), \texttt{refresh}\}$ 计算综合评价值： $$J_t(\alpha) = A_{\Phi_\alpha,\ell}^\star(M_t(\alpha); Z_t^\star) - \tau_{\rho_\alpha,\ell}(M_t(\alpha)) - \eta_c c(\alpha) - \eta_r r_t(\alpha)$$ 在轻量局部任务上主动执行 skip 避免通信税，在表征敏感任务上选用 raw 或对强接收者执行 escalate，在共享状态漂移时执行 refresh。

一个完整示例¶

以软件协同开发中的函数重构为例，主智能体（发送者）检索整个代码仓库，获知待修改文件为 src/parser.py 下的 normalize_args 函数，并知晓其需要添加参数类型检查。在 RO 模式下，执行者未获得该定位信息，在数千个仓库文件中随机盲猜，导致联合决策准确率低下。在 MA 模式下，发送者发送压缩指令。若发送者使用符合执行者工具 Schema 的标准格式 {"target_file": "src/parser.py", "action": "edit"}，执行者精准吸收并闭包执行编辑动作，准确率从 0.633 大幅升至 0.775。然而，若发送者执行了一种虽然数学充分但表层 recoding 的压缩格式（如别名映射），执行者虽在上下文读到了相同信息，但无法触发内部的工具调用模式，导致动作闭包损失激增，错误调用 read 或直接崩溃。自适应选择器在此类上下文中，通过对先验增益与协议税负的快速判定，自主决定直接发送标准格式压缩消息，并规避盲目升级昂贵大模型发送端所造成的过载。

实验关键数据¶

主实验¶

论文在六大多智能体基准（ContextBench、ToolSandbox、$\tau$-bench、BFCL、RepoBench、SWE-bench Lite）上系统评测了 RO、SF（完整上下文）与 MA（压缩通信）的表现。

基准测试 (Benchmark)	接收者模型	协议模式	联合命中率 $h_j$	工件准确率 $h_a$	动作转化率 $h_{\rm action}$	通信增益 $\Delta_{\rm comm}$
ContextBench	Qwen3.5-9B	RO (单干)	0.633	-	-	基线
ContextBench	Qwen3.5-9B	SF (全上下文)	0.294	-	-	-0.339
ContextBench	Qwen3.5-9B	MA (Qwen-80B)	0.775	0.778	0.996	+0.142
ToolSandbox	Qwen3.5-9B	RO (单干)	0.889	-	-	基线
ToolSandbox	Qwen3.5-9B	SF (全上下文)	0.903	-	-	+0.014
ToolSandbox	Qwen3.5-9B	MA (Qwen-80B)	0.653	0.722	0.904	-0.236
$\tau$-bench	Qwen3.5-9B	RO (单干)	0.139	-	-	基线
$\tau$-bench	Qwen3.5-9B	SF (全上下文)	0.167	-	-	+0.028
$\tau$-bench	Qwen3.5-9B	MA (Qwen-80B)	0.139	-	-	0.000
BFCL	Qwen3.5-9B	RO (单干)	0.980	-	-	基线
BFCL	Qwen3.5-9B	MA (Qwen-80B)	0.750	-	-	-0.230
ContextBench	gpt-5.4	RO (单干)	0.600	-	-	基线
ContextBench	gpt-5.4	MA (gpt-5.4)	0.853	0.857	0.995	+0.253
ToolSandbox	gpt-4o-mini	RO (单干)	0.803	-	-	基线
ToolSandbox	gpt-4o-mini	MA (gpt-5.4)	1.000	1.000	1.000	+0.197

消融实验¶

在 ContextBench 上利用固定发送者（DeepSeek-V3.1）生成的消息进行回放评测，精确消融不同接收者在工件吸收（$L_{\rm content}$）与动作闭包（$L_{\rm close}$）上的瓶颈分布。

接收者模型	联合准确率 $h_j$	工件准确率 $h_a$	动作转化率 $h_{\rm action}$	吸收损失 $L_{\rm content}$	闭包损失 $L_{\rm close}$	闭包损失占比
DeepSeek-R1	0.731	0.732	0.989	0.268	0.008	3%
Qwen3.5-9B	0.728	0.728	0.989	0.272	0.008	3%
Llama-70B	0.714	0.714	0.997	0.286	0.002	1%
DeepSeek-V3.1	0.707	0.730	0.977	0.270	0.017	6%
Qwen2.5-7B	0.702	0.702	0.975	0.298	0.018	6%
Qwen3.5-397B-A17B	0.685	0.717	0.926	0.283	0.053	16%
GLM-5	0.382	0.741	0.545	0.259	0.337	57%
MiniMax-M2.5	0.036	0.613	0.053	0.387	0.581	60%

关键发现¶

通信效果呈现截然相反的“符号反转”：同一套 Qwen 通信协议在上下文检索受限的 ContextBench 上带来 +14.2% 的显著提升，但在本地信息自足的 ToolSandbox 上却造成 -23.6% 的断崖式下跌，在 BFCL 上下跌 -23.0%。这证实了当局部信息充足时，外部通信引入的协议税负远大于信息增益。
动作闭包是低能力模型的核心瓶颈：在固定消息回放中，GLM-5 与 MiniMax-M2.5 的工件识别准确率分别达到 74.1% 和 61.3%，说明消息内容已被成功吸收；但其最终动作转化率分别暴跌至 54.5% 和 5.3%，闭包损失占总错误比例近 60%，证明模型并非“看不懂线索”，而是“无法把线索落实为正确的动作调用”。
发送者升级存在严格的单调跨越门槛：在 41 个锚定条件的配对评估中，89.5% 的条件严格符合单一跨越门槛（$b^\star \approx 0.6289$ RO 准确率）。当执行者局部准确率高于此门槛时，升级更强发送者反而引入更高税负；唯有在执行者极度缺乏局部信息的困难任务（如 SWE-bench Lite）上，更强发送者才展现出压倒性增益（+52%）。
自适应协议控制显著改善帕累托前沿：在 ContextBench 静态评测中，推理时选择器以 1,735 tokens/step 实现 73.67% 的准确率，相比全发送（Always-Send）节省了 46.4% 的 Token 开销，仅损失微小精度；在 ToolSandbox 在线评测中，Early-Skip 路径使准确率从 80.56% 跃升至 100%，同时降低 70% 的 Token 开销。

亮点与洞察¶

首次从信息论与有界计算视角严格界定了多智能体通信的有效性边界，打破了“通信必然有益”或“贝叶斯充分即万能”的直觉盲区。
提出的“固定消息回放”（Fixed-Message Replay）是一种极具迁移价值的诊断范式：通过在评测端冻结上游消息，完美消除了发送端的方差与生成偶然性，实现了接收端模型吸收与闭包能力的清晰归因。
揭示了动作闭包崩溃（Action Closure Failure）这一隐藏在 Agent 系统中的普遍缺陷，说明当前许多轻量级 Agent 的短板不在于语义理解与线索抽取，而在于工具调用决策层与提取表征的解耦。

局限与展望¶

理论局限：目前的单步效用理论假设环境状态转移服从简化的残差线性传播模型，对于高度动态、具有复杂回溯与环境反馈的多轮复杂工作流，残差交互的非线性特征尚需进一步刻画。
工程局限：在线协议选择器依赖轻量级 Logit 预测探针与预校准偏移量，在完全闭源且不暴露 Log-probabilities 的商业 API（如部分新版黑盒模型）上，增益代理变量的估计精度可能受到制约。
未来方向：探索针对特定下游解码器架构的“编译器式消息自适应生成”，使发送端不仅优化语义压缩率，更自适应匹配接收端的特定提示词与表征几何。

评分¶

新颖性: ⭐⭐⭐⭐⭐ [首次在多智能体通信中形式化建立表征敏感的压缩界与动作闭包理论]
实验充分度: ⭐⭐⭐⭐⭐ [覆盖六大主流基准，结合固定回放、跨模型家族与理论跨越点精细验证]
写作质量: ⭐⭐⭐⭐⭐ [数学推导严谨自洽，概念界定清晰，实验与理论高度映射]
价值: ⭐⭐⭐⭐⭐ [为多智能体系统的通信开销优化、协同拓扑设计与协议工程提供了坚实的理论指引]