Federated Concept-Based Models: Interpretable models with distributed supervision¶
会议: NeurIPS 2026
arXiv: 2602.04093
OpenReview: https://openreview.net/forum?id=L7HwKQPq8i
代码: https://github.com/francescoTheSantis/F-CMs
领域: 联邦学习
关键词: 联邦学习, 概念模型, 可解释性, 概念干预, 动态架构自适应
一句话总结¶
针对真实联邦场景下概念标注分散且受时空非平稳性影响的痛点，本文提出联邦概念模型（F-CMs），通过图聚合推断全局概念拓扑、动态扩展模型架构与模块化局部参数聚合，在保护隐私的前提下实现了跨机构概念知识共享与鲁棒的可干预推理。
研究背景与动机¶
高风险现实场景（如临床辅助诊断、金融信贷审批与司法辅助量刑）对深度学习系统的透明度和可审计性提出了刚性要求。基于概念的模型（Concept-based Models, CMs）通过将端到端黑盒决策分解为人类可理解的高层语义概念，赋予了系统天然的事后归因和人机协作干预能力。然而，现存概念模型严重依赖大规模、高质量的概念标注。在单中心医疗机构或私有数据源内，专业概念标注的标注成本极其高昂、专家精力有限，极难独立构建起覆盖完备语义空间的集中式数据集。
利用联邦学习（Federated Learning, FL）聚合多中心分布式标注，是在保护原始数据隐私的同时拓展概念监督规模的最具潜力的技术范式。然而，经典联邦学习与概念模型之间存在不可调和的底层架构矛盾：标准 FL 范式普遍预设全体参与方共享一个参数维度固定的静态模型结构，依靠参数加权平均来消化数据异质性；而概念模型的网络拓扑与模块接口直接绑定于所监督的概念集合及其因果/统计依赖图。在跨中心动态协作部署中，客户端往往伴随时间推移陆续加入，其持有的概念子集、病理表型或因果依赖关系不仅高度异质，且随轮次不断漂移。若强行使用固定架构，不仅无法吸收新加入机构带来的新概念，还会因部分机构缺失某些概念监督而在参数聚合时引入严重的梯度噪声。
面对分布式非平稳环境下的概念异质性，本文旨在打破传统联邦学习在静态共享架构上的固步自封。核心 idea：将概念模型解耦为拓扑依赖图、概念编码器与任务解码器的模块化集合，通过最大共识图聚合融合各机构的局部因果知识，并在新概念引入时对受影响模块实施渐进式动态增量扩展与模块级隔离聚合，以极低的重构开销保留历史知识并实现全概念空间的无缝推理。
方法详解¶
整体框架¶
F-CMs 针对联邦学习中客户端动态加入/退出所引发的时空非平稳性，构建了一个持续演进的自适应概念学习流水线。在通信轮次 \(t\) 中，系统维护一个由潜在特征提取器 \(g_\theta\)、概念预测模块族 \(\{h_{\phi, j}\}\) 以及任务解码器 \(f_\psi\) 构成的全局模型 \(\mathbf{w}_t\) 与全局依赖图 \(\mathcal{G}_t\)。当新客户端带来全新的概念集合 \(\mathcal{V}^{(k)}\) 或局部因果图 \(\mathcal{G}^{(k)}\) 时，流程依次执行三个阶段：首先是服务器端的因果图聚合，将多方置信度矩阵合并并消解有向环；其次是动态架构自适应，仅为新增概念或入度改变的节点增设或重连轻量级模块，冻结无关参数；最后是客户端的模块特异性局部训练与服务器端的按需子集聚合，杜绝未标注概念污染梯度。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["分布式客户端局部输入<br/> private dataset & local DAG"] --> B["阶段1：最大共识图聚合<br/>加权置信度合并与环路剪枝"]
B --> C["阶段2：模块化动态架构自适应<br/>新概念增量扩容与热启动"]
C --> D["阶段3：掩码约束模块级局部训练<br/>仅计算有监督概念/任务损失"]
D --> E["阶段4：基于参与度的模块级参数聚合<br/>独立加权更新对应模块与编码器"]
E --> F["具备跨机构概念推理与干预能力的全局 CM"]关键设计¶
1. 基于置信度矩阵的最大共识图聚合：解决跨中心因果结构冲突与对抗扰动 单一客户端受限于局部样本量和非 IID 分布，其局部因果依赖图往往存在边缺失、方向错误甚至潜在的投毒扰动。为在不共享原始数据的前提下提炼出全局一致的有向无环图（DAG），F-CMs 要求各客户端以加权邻接矩阵 \(A^{(k)} \in [0, 1]^{|\mathcal{V}^{(k)}| \times |\mathcal{V}^{(k)}|}\) 的形式表达其对任意变量对 \(V_i, V_j\) 之间依赖的置信度。针对无序变量对 \(\{V_i, V_j\}\)，客户端建立三分类概率分布 \(\{V_i \to V_j, V_j \to V_i, \varnothing\}\)，其中无连接概率显式建模为 \(A_{\varnothing, ij}^{(k)} = 1 - A_{ij}^{(k)} - A_{ji}^{(k)}\)。服务器端根据客户端样本量 \(\alpha_k\) 汇总历史累计观测到的所有参与方置信度： $\([\bar{A}_t]_{ij} = \sum_{k \in \mathcal{K}_{\le t}: V_i, V_j \in \mathcal{V}^{(k)}} \alpha_k A_{ij}^{(k)}\)$ 随后采用严格的最大共识法则裁决边的走向：当且仅当 \([\bar{A}_t]_{ij} = \max\{[\bar{A}_t]_{ij}, [\bar{A}_t]_{ji}, [\bar{A}_t]_{\varnothing, ij}\}\) 时，建立有向边 \(V_i \to V_j\)。若共识图在合并过程中诱发有向环路，算法通过深度优先搜索检测回退边（back-edges）并执行贪心剪枝，以微秒级开销确保输出拓扑满足严格 DAG 约束。
2. 接口驱动的局部架构增量扩展与热启动机制：打破全量重训练的高昂计算瓶颈 在客户端持续加入的非平稳场景下，若采用固定网络架构则无法容纳新概念；若每次遇到新概念即重置并从头训练全网，则会彻底抹除早期客户端积累的表征记忆。F-CMs 利用概念模型天然的模块化解耦特性，将架构更新精确约束在“接口发生变化的局部组件”中。当新概念 \(C_j\) 加入全局变量集 \(\mathcal{V}_t\) 时，潜在编码器 \(g_\theta\) 保持原有参数与维度完全不动；服务端仅针对 \(C_j\) 新实例化一个独立的概念预测模块 \(h_{\phi_t, j}\)；若该新概念为任务节点或已有节点的父节点，则相应扩展下游解码器的输入层连接。对于原有模块的既有连接权重，直接继承历史训练成果；对于连接到新概念节点的扩展权重矩阵，采用零均值或正交热启动初始化。这种按需局部微调使全局受影响的参数比例常年维持在 5% 至 45% 的极低范围，大幅降低了通信开销，并杜绝了灾难性遗忘。
3. 掩码约束的模块级本地优化与子集聚合协议：消除部分监督下的梯度干扰 在实际联邦系统中，每个机构往往仅拥有一小部分概念标签（如部分医院仅标注了胸部浸润，另一部分医院标注了心影扩大）。直接将整体梯度进行经典 FedAvg 会导致未标注概念的随机梯度严重污染共享模型。F-CMs 提出了带掩码的局部目标优化：每个客户端在接收到广播参数后，仅对其实际标注的变量子集 \(\mathcal{V}^{(k)}\) 计算梯度，其余模块及其内部参数强制进入冻结（frozen）状态： $\(F^{(k)}(\mathbf{w}_t; \mathcal{G}_t) = \mathbb{E}_{(x, \mathbf{v}) \sim \mathcal{D}^{(k)}} \left[ \gamma \sum_{C_j \in \mathcal{V}^{(k)} \setminus \{Y\}} \ell_c(\hat{c}_j, c_j) + (1-\gamma) \mathbf{1}_{\{Y \in \mathcal{V}^{(k)}\}} \ell_t(\hat{y}, y) \right]\)$ 在服务端参数聚合阶段，系统摈弃了全网统一的加权平均，转而针对每个概念模块 \(h_{\phi, j}\) 构建独立的更新客户端子集 \(\mathcal{K}_t^j\)。仅收集并平均该子集内各机构返回的局部梯度更新： $\(\phi_{t+1, j} = \sum_{k \in \mathcal{K}_t^j} \beta_j^{(k)} \phi_{t+1, j}^{(k)}, \quad \beta_j^{(k)} = \frac{n^{(k)}}{\sum_{r \in \mathcal{K}_t^j} n^{(r)}}\)$ 这种基于局部标注掩码的精细化聚合机制，从数学上保证了无监督模块不受任何随机漂移干扰，且客户端上行传输仅需上传其所更新的局部模块，极大地节约了上行通信带宽。
损失函数 / 训练策略¶
训练采用两阶段加权损失，超参数 \(\gamma \in [0, 1]\) 调节概念预测损失 \(\ell_c\)（交叉熵）与下游任务损失 \(\ell_t\)（交叉熵或 MSE）的权衡，全篇基准实验统一设定 \(\gamma = 0.8\)。优化器采用 Adam，批量大小设为 512。为使模型在部署阶段具备对人类交互干预的自适应能力，训练循环内引入了 0.8 概率的随机概念真值替换（Concept Intervention During Training），迫使任务解码器学会正确响应并信任来自上游概念节点的显式修正。
实验关键数据¶
主实验¶
论文在五大经典贝叶斯网络基准（bnlearn：Asia、Sachs、Alarm、Insurance、Hailfinder）与两大真实医学影像基准（SIIM-Pneumothorax 气胸分割衍生集、CheXpert 胸部 X 射线数据集）上全面评估了 F-CMs。下表汇总了跨机构各方法在不同网络结构下的下游任务准确率（Task Acc, %）与任务相关概念覆盖率（Concept Coverage, %）：
| 数据集 | 体系 / 模式 | 集中式上限 (Cent.) | 独立本地训练 (Loc.) | 静态联邦基准 (S-F-CMs) | 本文方法 (F-CMs) |
|---|---|---|---|---|---|
| Asia | CBM CEM C2BM |
80.0 ± 1.0 (100%) 80.4 ± 1.1 (100%) 80.3 ± 1.0 (100%) |
47.7 ± 3.8 (46.7%) 67.1 ± 7.4 (46.7%) 66.7 ± 7.1 (46.7%) |
63.5 ± 3.6 (46.7%) 72.8 ± 8.0 (46.7%) 70.4 ± 7.7 (46.7%) |
80.1 ± 0.9 (100%) 80.7 ± 1.0 (100%) 80.4 ± 1.0 (100%) |
| Sachs | CBM CEM C2BM |
77.3 ± 0.9 (100%) 77.3 ± 0.8 (100%) 77.9 ± 1.0 (100%) |
50.1 ± 7.0 (52.0%) 52.2 ± 8.8 (52.0%) 37.3 ± 13.8 (52.0%) |
42.2 ± 12.1 (56.0%) 39.9 ± 15.2 (56.0%) 46.5 ± 15.5 (56.0%) |
75.2 ± 0.9 (100%) 75.7 ± 1.0 (100%) 76.2 ± 1.0 (100%) |
| Alarm | CBM CEM C2BM |
73.9 ± 0.5 (100%) 71.6 ± 0.4 (100%) 72.8 ± 0.5 (100%) |
51.7 ± 7.0 (67.0%) 42.1 ± 11.1 (67.0%) 45.0 ± 8.9 (50.4%) |
57.0 ± 8.0 (71.3%) 56.2 ± 10.9 (71.3%) 57.1 ± 10.4 (51.3%) |
71.0 ± 1.9 (100%) 72.8 ± 0.7 (100%) 73.3 ± 0.5 (100%) |
| Insurance | CBM CEM C2BM |
76.3 ± 1.4 (100%) 76.0 ± 1.2 (100%) 74.8 ± 0.9 (100%) |
30.9 ± 7.6 (72.6%) 40.8 ± 5.3 (72.6%) 22.1 ± 12.1 (70.5%) |
58.4 ± 11.8 (83.2%) 67.0 ± 3.4 (83.2%) 60.1 ± 13.9 (78.9%) |
69.5 ± 0.6 (100%) 71.0 ± 0.5 (100%) 74.2 ± 1.1 (100%) |
| SIIM-Pn. | CBM CEM C2BM |
73.9 ± 0.3 (100%) 73.1 ± 0.7 (100%) 72.8 ± 0.1 (100%) |
44.2 ± 6.2 (59.4%) 62.4 ± 1.4 (59.4%) 53.8 ± 6.2 (59.4%) |
55.8 ± 6.2 (68.8%) 56.8 ± 6.5 (68.8%) 50.0 ± 8.0 (68.8%) |
67.6 ± 1.1 (100%) 68.0 ± 0.1 (100%) 65.6 ± 2.0 (100%) |
| CheXpert | CBM CEM C2BM |
70.7 ± 0.5 (100%) 66.6 ± 0.7 (100%) 69.4 ± 0.7 (100%) |
57.7 ± 4.2 (31.4%) 57.3 ± 4.7 (31.4%) 58.6 ± 4.2 (31.4%) |
67.0 ± 4.2 (34.3%) 54.9 ± 9.2 (34.3%) 61.6 ± 4.9 (34.3%) |
69.2 ± 0.7 (100%) 67.0 ± 0.1 (100%) 66.1 ± 1.3 (100%) |
此外，外部静态联邦基准 FedCBM 与 FCL 由于完全无法应对概念空间的增量扩展，在 CheXpert 上的任务准确率仅分别为 66.1% 和 50.9%，且概念覆盖率锁死在 34.3% 左右；F-CMs 则全面突破并达成 100% 覆盖。
消融与分析实验¶
为验证架构增量调整相比于全量从头重训（Re-initialization）以及无自适应（Static）在非平稳联邦环境下的收敛效率与参数稀疏性，论文测试了新机构加入后模型的参数变动比例与收敛损失，并定量测试了动态架构在差分隐私（DP）约束与客户端缩放下的鲁棒性：
1. 概念漂移自适应的参数变化比例与开销消融：
| 数据集 | CBM 变动参数比例 (%) | CEM 变动参数比例 (%) | CGM 变动参数比例 (%) | C2BM 变动参数比例 (%) | 全量重训基线 (Reinit) |
|---|---|---|---|---|---|
| Asia | 62.55 ± 12.93 | 61.30 ± 11.83 | 32.19 ± 3.17 | 28.56 ± 4.54 | 100% |
| Sachs | 70.00 ± 15.48 | 81.11 ± 18.54 | 43.09 ± 7.05 | 44.82 ± 8.49 | 100% |
| Alarm | 48.44 ± 7.88 | 57.30 ± 8.84 | 45.87 ± 10.04 | 31.06 ± 4.62 | 100% |
| Insurance | 26.90 ± 3.58 | 30.44 ± 4.48 | 19.68 ± 3.39 | 19.24 ± 2.78 | 100% |
| Hailfinder | 19.24 ± 4.21 | 17.80 ± 3.13 | 8.37 ± 1.45 | 12.73 ± 2.05 | 100% |
| SIIM-Pn. | 9.27 ± 1.26 | 21.61 ± 3.01 | 10.29 ± 1.33 | 8.49 ± 1.13 | 100% |
2. 客户端数量规模扩展分析（Asia 数据集，总样本量固定，K 分布至 10~100）：
| 模型架构 | K=10 (任务/概念 Acc %) | K=20 (任务/概念 Acc %) | K=50 (任务/概念 Acc %) | K=100 (任务/概念 Acc %) |
|---|---|---|---|---|
| C2BM | 80.14 ± 2.02 / 91.23 ± 0.81 | 78.16 ± 3.11 / 87.81 ± 2.32 | 80.35 ± 0.72 / 86.44 ± 2.17 | 75.38 ± 3.98 / 86.10 ± 2.42 |
| CEM | 80.58 ± 2.04 / 91.40 ± 0.72 | 80.58 ± 1.11 / 88.59 ± 1.63 | 79.92 ± 1.31 / 87.92 ± 2.01 | 78.80 ± 1.80 / 86.19 ± 1.91 |
| CBM | 79.91 ± 1.98 / 91.52 ± 0.83 | 79.25 ± 1.12 / 91.09 ± 0.61 | 79.54 ± 1.02 / 90.94 ± 0.50 | 78.32 ± 1.33 / 90.54 ± 0.55 |
关键发现¶
- 增量式模块更新击败全量重训：在客户端引入新概念时，从头全量重训练（S-F-CMs Reinit）需要耗费大量通信轮次以消除参数冷启动带来的扰动，导致验证损失产生剧烈的震荡跳跃；而 F-CMs 仅改动 8.49% 到 44.82% 的模块参数，不仅在极短通信轮次内无缝收敛，而且全局最终损失稳定低于重训模型与静态无自适应模型。
- 解锁本地未标注概念的人工干预：传统本地模型和静态联邦基线由于架构中缺失未观测概念节点，无法在下游执行跨概念干预（在干预轨迹图上形成虚线截断）；F-CMs 凭借拓扑补齐，使得任意单中心机构即使此前未采集过该特定概念，也能在推理端利用全局模型接收专家真值注入，且干预增益高度逼近全监督集中式模型。
- 因果图模型在深层拓扑中的可干预性红利：在小型网络（如 Asia）上，由于概念到任务路径短，两部架构（CBM）与图架构（C2BM）表现相近；而在变量依赖复杂的大型网络（Alarm、Hailfinder 与 SIIM-Pn.）中，C2BM 和 CGM 在深层概念干预下的标签恢复精度显著拉开与两部模型的差距。
亮点与洞察¶
- 拓扑与参数的双轨渐进式聚合：将图聚合视为主干决策、参数聚合视为分支更新，巧妙地化解了“网络拓扑如何承载分布式非平稳概念流”的结构性矛盾。
- 因果拓扑图的抗投毒与共识剪枝：将因果结构表示为包含“无连接”选项的三分类概率分布，利用最大共识法则在联邦服务端直接剔除偶发噪声边与恶意反向边，无需泄露节点原始分布即可重建因果图。
- 端到端的概念民主化：使资源匮乏的边缘医疗机构能够借由全局模型，获得对本院原本无法标注的罕见病征/亚表型进行概念级归因与干预纠错的能力。
局限与展望¶
- 既有架构的重连依赖开销：当前的 CBM/C2BM 并非专为动态增长设计，当代币与节点度数极大时，稠密连接依然会引发局部矩阵重塑，未来需探索更为稀疏、原生支持开放接口的类 MoE 联邦概念模型。
- 概念语义空间对齐与命名分歧：目前方法假设跨机构间重合概念的语义定义与名称完全对齐；若不同机构对同一病征定义存在主观分歧，需引入基于多模态大模型的自适应语义实体解析。
- 高级模型反演攻击的新防线：概念层提供了透明的可解释性，但由于概念向量富含高密度的临床语义，可能成为针对性成员推断攻击或属性推断攻击的新入口，需设计针对概念瓶颈特有的差分隐私与扰动机制。
相关工作与启发¶
- vs FedCBM / FCL: 现有联邦概念学习方法依赖无监督概念抽取或静态的概念激活向量（CAV），完全不支持时空动态演化与客户端非平稳漂移，无法动态扩展概念数量；本文原生支持时序非平稳性与因果图拓扑扩展，覆盖率达到 100%。
- vs 传统联邦因果发现 (Federated Causal Discovery): 经典因果发现研究通常预设全部机构拥有相同的全集变量空间，且重点在纯图推断；本文将因果拓扑聚合与深度端到端预测模型融合，实现了结构与权重的协同进化。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次系统性解决非平稳联邦学习下概念模型的动态拓扑演进与模块级稀疏聚合难题。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 5 个标准因果贝叶斯网络与 2 个高难度真实医学影像基准，干预、消融、差分隐私与伸缩性实验完备。
- 写作质量: ⭐⭐⭐⭐⭐ 概念符号定义清晰严密，理论收敛性与工程落地方案浑然一体。
- 价值: ⭐⭐⭐⭐⭐ 为高敏感、高专业门槛的医疗健康与高风险决策场景提供了可落地的隐私保护可解释建模新标杆。