CRAFT: Conflict-Resolved Aggregation for Federated Training

会议: NeurIPS 2026
arXiv: 2605.21317
代码: https://github.com/tum-pbs/CRAFT
领域: 联邦学习
关键词: 联邦学习, 梯度冲突, 几何校正, 客户端公平性, 约束最小二乘

一句话总结

针对非独立同分布（Non-IID）数据导致的客户端梯度方向冲突问题，CRAFT 将联邦聚合重构为锚定动量参考方向的约束最小二乘几何校正问题，通过闭式解消除迭代求解开销，在显著提升全局模型精度的同时大幅收敛客户端性能差距。

研究背景与动机

联邦学习允许多个分散客户端在不共享本地私有数据的前提下协同训练机器学习模型。然而，现实场景中广泛存在的统计异质性（非独立同分布 Non-IID 及样本量不均衡）对联邦优化构成了严峻挑战。传统的加权平均聚合策略（如经典 FedAvg）假设各客户端的局部模型更新能够通过简单线性组合形成有效的全局优化方向。在异质数据分布下，不同客户端由于数据偏置往往产生方向迥异甚至相互对立的梯度更新向量。当服务器盲目对这些更新执行加权平均时，所合成的全局更新向量可能仅对一部分主流客户端有利，却与尾部或特异分布客户端形成钝角冲突（即内积小于零），从而导致尾部客户端在全局步进后本地测试损失上升、精度急剧退化。

这种现象造成了严重的客户端公平性失衡：平均精度的提升往往掩盖了极高的客户端间方差，加剧了“头部客户端性能优异、尾部客户端被牺牲”的极化现象。针对异质性与公平性问题，现有方案主要从优化目标调整、个性化建模或启发式冲突消除切入。例如，正则化与归一化方法（FedProx、FedNova）主要约束本地漂移，但未直接介入服务端的聚合几何冲突；最坏情况优化（AFL）与损失重加权（q-FedAvg）通过调整目标来偏向尾部客户端，但容易在强异质环境下导致收敛极度迟缓；多目标与基于梯度的冲突缓解方法（FedMGDA+、FedFV、FedLF）则尝试通过多目标凸组合或迭代投影消除负内积成分，但通常仅依据当前轮次瞬时梯度从原点重构方向，既丢失了全局优化的连续动量信息，又受限于迭代数值求解器带来的巨大服务端计算开销。

为了从根本上规避启发式规则与从零重构的弊端，本文提出从几何校正的全新视角重新审视联邦聚合。核心 idea：将联邦聚合重构为带无冲突对齐约束的最小范数校正问题，以历史全局更新作为动量参考方向，利用 Moore–Penrose 伪逆解析求出在满足所有活跃客户端正向对齐约束下偏离参考方向最小的全局更新向量。

方法详解

整体框架

CRAFT 在服务端每轮接收到活跃客户端上传的累积参数更新后，不再执行简单的加权平均，而是将其视为一个高维几何约束校正系统。整个框架包含四个核心阶段：首先各活跃客户端基于广播的模型完成本地多步 SGD 训练并上传位移更新；服务端对局部更新向量与上一轮全局更新分别执行归一化，构建对齐约束矩阵及动量参考方向；随后在层级细粒度下独立求解约束最小二乘校正的闭式解，计算出满足与所有活跃客户端正向内积约束且距离参考方向最近的全局更新；最后将各层校正向量拼接后更新全局模型。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["客户端本地训练与更新上传<br/>多步 SGD 计算累积位移"] --> B["无冲突对齐约束构建<br/>局部更新单位化与正向内积约束"]
    B --> C["参考方向锚定与最小几何校正<br/>引入上一轮全局动量作为先验"]
    C --> D["逐层解耦投影求解<br/>分层闭式 Moore-Penrose 伪逆校正"]
    D --> E["数值活跃集门控与全局模型更新<br/>过滤微弱扰动并拼接步进"]

关键设计

1. 无冲突对齐约束构建：将聚合重构为线性等式对齐系统

传统加权平均的致命缺陷在于生成的聚合方向 \(\mathbf{g}_t\) 可能与某些客户端 \(i\) 的更新 \(\mathbf{g}_i^t\) 存在钝角冲突，即 \(\langle \mathbf{g}_i^t, \mathbf{g}_t \rangle < 0\)。一阶泰勒展开表明，负内积会导致客户端 \(i\) 的局部损失函数值增大，进而损伤测试准确率。为确保全局更新能够使所有参与客户端共同受益，CRAFT 对活跃客户端集合 \(\mathcal{S}_t\)（假设大小为 \(m\)）定义单位化向量 \(\mathbf{u}_i^t = \mathcal{U}(\mathbf{g}_i^t) = \mathbf{g}_i^t / (\|\mathbf{g}_i^t\| + \varepsilon)\)，并拼接成约束矩阵 \(\mathbf{U}_t = [\mathbf{u}_1^t, \dots, \mathbf{u}_m^t]^\top \in \mathbb{R}^{m \times d}\)。进而强行施加无冲突对齐等式约束：

\[\mathbf{U}_t \mathbf{g} = \boldsymbol{\rho}_t\]

其中 \(\boldsymbol{\rho}_t = [\rho_1^t, \dots, \rho_m^t]^\top\) 为活跃客户端基于样本量重新归一化的正权重向量。因为 \(\rho_i^t > 0\)，所以任何满足该方程的解 \(\mathbf{g}\) 必然与每个客户端更新保持严格的正向内积对齐，从而在几何上根除了局部冲突。在深度神经网络中，参数维度 \(d\) 远大于单轮抽样客户端数 \(m\)（\(d \gg m\)），矩阵 \(\mathbf{U}_t\) 具有满行秩，因此该欠定线性系统拥有无穷多个可行解。

2. 参考方向锚定与最小几何校正：兼顾时序优化轨迹与闭式解析计算

直接从原点寻找最小范数解（如 PINNs 中的 ConFIG 方法）虽然无冲突，但它完全抛弃了历史优化信息，每次聚合都退化为对当前瞬时抽样客户端的被动妥协，这在客户端部分抽样（Partial Participation）时极易受局部噪声扰动，导致更新向量模长萎缩与轨迹震荡。CRAFT 的关键突破在于将上一轮全局更新的单位化向量作为时序先验参考方向 \(\hat{\mathbf{g}}_t = \mathcal{U}(\mathbf{g}_{t-1})\)（初始轮 \(t=0\) 时取 \(\hat{\mathbf{g}}_0 = \mathbf{0}\)），将聚合目标表述为寻找距离参考方向最近的无冲突解：

\[\min_{\mathbf{g} \in \mathbb{R}^d} \frac{1}{2} \|\mathbf{g} - \hat{\mathbf{g}}_t\|^2 \quad \text{s.t.} \quad \mathbf{U}_t \mathbf{g} = \boldsymbol{\rho}_t\]

令几何校正增量为 \(\boldsymbol{\Delta} = \mathbf{g} - \hat{\mathbf{g}}_t\)，该问题等价转化为最小范数校正问题：\(\min_{\boldsymbol{\Delta}} \frac{1}{2} \|\boldsymbol{\Delta}\|^2\) 受制于 \(\mathbf{U}_t \boldsymbol{\Delta} = \boldsymbol{\rho}_t - \mathbf{U}_t \hat{\mathbf{g}}_t\)。借助 Moore–Penrose 广义逆，可直接推导出唯一的全局闭式解析解：

\[\mathbf{g}_t = \hat{\mathbf{g}}_t + \mathbf{U}_t^\dagger (\boldsymbol{\rho}_t - \mathbf{U}_t \hat{\mathbf{g}}_t)\]

该设计具有深刻的几何意义：若前一轮更新方向 \(\hat{\mathbf{g}}_t\) 恰好已满足本轮所有客户端的正向对齐条件，则校正量为零，完整保留全局动量；若产生冲突，则仅在当前客户端梯度张成的行空间内施加最小欧氏修正。整个求解完全避免了二次规划（QP）或迭代投影算法的高昂复杂度，服务端复杂度仅为 \(\mathcal{O}(d m^2 + m^3)\)。

3. 逐层解耦投影求解：应对网络不同层级特征差异性冲突

在深层神经网络中，浅层特征提取器与深层分类头面临的优化异质性机制截然不同：浅层冲突多源于输入图像域漂移，深层冲突则由标签偏好偏斜主导。若将全网参数展开为单一长向量进行全局对齐，深层的强烈冲突可能误导并压制浅层的有效表征学习。CRAFT 采用分层解耦机制，将神经网络划分为 \(Q\) 个独立层，对每个网络层 \(q \in [Q]\) 独立提取参数切片，并分别构建局部归一化约束矩阵 \(\mathbf{U}_t^q\) 与层级参考方向 \(\hat{\mathbf{g}}_t^q\)。各层独立执行闭式修正：

\[\mathbf{g}_t^q = \hat{\mathbf{g}}_t^q + (\mathbf{U}_t^q)^\dagger (\boldsymbol{\rho}_t - \mathbf{U}_t^q \hat{\mathbf{g}}_t^q)\]

最终将各层的更新向量拼接组装成全局更新 \(\mathbf{g}_t = \mathrm{concat}_{q}(\mathbf{g}_t^q)\)。这种逐层解耦设计赋予了各网络层根据自身参数几何自由校正的灵活性，同时各层伪逆计算高度并行，大幅强化了对 ResNet-56/110 等深层骨干网络的适配能力。

4. 数值活跃集门控与全局模型更新：规避微弱梯度奇异性与稳健步进

在实际训练过程中，部分接近收敛或数据量极少的客户端可能上传范数极其微弱的更新向量 \(\|\mathbf{g}_i^t\| \to 0\)。如果在归一化分母包含微小稳定常数 \(\varepsilon\) 的情况下强行令内积等于固定正常数 \(\rho_i^t\)，根据不等式 \(\|\mathbf{g}\| \ge \rho_i^t (\|\mathbf{g}_i^t\| + \varepsilon) / \|\mathbf{g}_i^t\|\)，当 \(\|\mathbf{g}_i^t\| \to 0\) 时会导致全局更新向量模长被病态放大。为了消除这种数值不稳定性，CRAFT 引入层级活跃集筛选机制：对层 \(q\) 设置范数阈值 \(\tau_q\)（如 \(10^{-6}\)），仅将满足 \(\|\mathbf{g}_{i}^{t,q}\| \ge \tau_q\) 的活跃客户端纳入约束矩阵 \(\mathbf{U}_{t,\mathcal{A}}^q\)，同时对目标权重重新在活跃集内归一化；若某层所有客户端更新均低于阈值，则平滑回退为普通的加权平均。经活跃集过滤与逐层拼接后，服务端以全局学习率完成标准步进 \(\boldsymbol{\theta}_{t+1} = \boldsymbol{\theta}_t - \eta_g \mathbf{g}_t\)。

损失函数 / 训练策略

客户端本地遵循标准经验风险最小化，在每个通信轮次执行 \(K_i\) 步局部 SGD，学习率设置余弦或按轮衰减（默认单轮衰减系数 0.999）。服务端维护更新历史 \(\mathbf{g}_{t-1}\)，学习率搜索范围 \(\eta_g \in \{0.01, 0.1, 1.0\}\)，客户端学习率 \(\eta_l \in \{0.005, 0.01, 0.05, 0.1\}\)。理论收敛性分析证明，在非凸 \(L\)-光滑目标函数与局部多步梯度漂移条件下，当服务端学习率设为 \(\eta_g = \Theta(1/\sqrt{T})\) 时，时间平均梯度平方范数满足 \(\frac{1}{T} \sum_{t=0}^{T-1} \|\nabla F(\boldsymbol{\theta}_t)\|^2 = \mathcal{O}(1/\sqrt{T}) + \mathcal{O}(\eta_l(K_{\max}-1))\)，在局部学习率逐步衰减下完全恢复非凸优化的标准次线性收敛速率 \(\mathcal{O}(1/\sqrt{T})\)。

实验关键数据

主实验

在极强异质性 Dirichlet 分割（\(\alpha=0.1\)）下，针对 1000 个客户端的大规模联邦学习任务（FEMNIST 搭配 MLP，CIFAR-10 搭配 ResNet-20），对平均精度（Mean）、Top 10% 客户端平均精度（Best 10%）、尾部 10% 客户端平均精度（Worst 10%）以及客户端间精度标准差（Std）进行了系统评估。

数据集与模型	算法	Mean (↑)	Best 10% (↑)	Worst 10% (↑)	Std (↓)
FEMNIST & MLP	FedAvg	0.570	0.776	0.305	0.136
FEMNIST & MLP	FedProx	0.565	0.770	0.300	0.135
FEMNIST & MLP	FedNova	0.589	0.804	0.337	0.135
FEMNIST & MLP	FedAvgM	0.655	0.843	0.408	0.125
FEMNIST & MLP	FedFV	0.489	0.742	0.246	0.144
FEMNIST & MLP	ConFIG	0.600	0.801	0.333	0.136
FEMNIST & MLP	CRAFT (本文)	0.706	0.878	0.474	0.115
CIFAR-10 & ResNet-20	FedAvg	0.356	0.727	0.015	0.195
CIFAR-10 & ResNet-20	FedAvgM	0.463	0.871	0.040	0.241
CIFAR-10 & ResNet-20	FedFV	0.421	0.780	0.078	0.194
CIFAR-10 & ResNet-20	FedLF	0.501	0.845	0.149	0.208
CIFAR-10 & ResNet-20	ConFIG	0.525	0.872	0.146	0.211
CIFAR-10 & ResNet-20	CRAFT (本文)	0.806	1.000	0.479	0.159

消融与扩展实验

为全面验证深度网络扩展性，测试了 CIFAR-10 在 ResNet-20、ResNet-56 与 ResNet-110 深度主干网络上的表现；同时验证了将 CRAFT 算子直接即插即用替换个性化联邦学习算法 Ditto 中的加权聚合步骤带来的增益。

实验配置 / 场景	模型 / 算法	Mean 精度 (↑)	Worst 10% (↑)	Std (↓) / 提升幅度
CIFAR-10 深度扩展	ResNet-20 (CRAFT)	0.806	0.479	Std = 0.159（基线 FedAvg 为 0.356 / 0.015 / 0.195）
CIFAR-10 深度扩展	ResNet-56 (CRAFT)	0.823	0.500	Std = 0.154（基线 FedAvg 为 0.362 / 0.016 / 0.196）
CIFAR-10 深度扩展	ResNet-110 (CRAFT)	0.818	0.486	Std = 0.158（基线 FedAvg 为 0.325 / 0.000 / 0.201）
个性化 FL 即插即用	Vanilla Ditto (CIFAR-10)	0.644	-	最佳学习率网格精度基线
个性化 FL 即插即用	Ditto + CRAFT (CIFAR-10)	0.771	-	相比基线相对提升 +19.7%（网格平均提升 +6.0%）
个性化 FL 即插即用	Vanilla Ditto (CIFAR-100)	0.245	-	最佳学习率网格精度基线
个性化 FL 即插即用	Ditto + CRAFT (CIFAR-100)	0.487	-	相比基线相对提升 +98.8%（网格平均提升 +31.9%）

关键发现

• 最难尾部客户端获益最为显著：在 CIFAR-10 & ResNet-20 设置中，传统 FedAvg 与 FedProx 的尾部 10% 客户端平均准确率几乎归零（仅为 0.015），而 CRAFT 跃升至 0.479，相比次优的梯度冲突算法 FedLF（0.149）提升了 221.5%，证明强制正对齐约束有效制止了优势客户端对受损客户端的单向“牺牲”。
• 动量几何先验显著优于零先验投影与加性动量：CRAFT 在 CIFAR-10 上超越了同为线性约束求解的 ConFIG（0.806 vs. 0.525，相对提升 53.5%），同时全面压制了采用加性动量平滑的 FedAvgM（0.806 vs. 0.463）。这表明将动量作为“几何拉紧点”而非简单速度累加，能够最大程度在保持全局优化方向惯性的同时满足当前客户端的无冲突约束。
• 深度扩展越深优势越牢固：当主干网络由 ResNet-20 加深至 ResNet-110 时，几乎所有基线方法都因梯度漂移与多层累积冲突出现了显著的性能退化或停滞（例如 FedAvg 均值从 0.356 跌至 0.325，尾部归零），而 CRAFT 依然稳定在 0.818 的超高准确率，凸显了逐层解耦校正技术在深层模型上的独特价值。

亮点与洞察

• 将聚合视作带先验的最小范数逆问题：打破了过去要么依赖启发式加权平均、要么完全丢弃历史从原点重构方向的二元思维，巧妙利用 Moore–Penrose 逆得到封闭解析解，兼具严格的几何无冲突性与极高的算力效率。
• 动量先验的自校正特性：上一轮全局更新仅作为柔软的几何锚点，每轮依然被硬性投影回当前活跃客户端的无冲突超平面上，使得初始误差或个别轮次的恶意采样偏差不会发生无限制的误差累积，实现了天然的自适应漂移校正。
• 通用的即插即用模块属性：虽然 CRAFT 定位于训练单一共享全局模型，但它与个性化联邦学习（PFL）完全不冲突，在 Ditto 框架下直接无缝替换 backbone 聚合算子即可令 CIFAR-100 准确率翻倍，展现了作为底层几何组件的普适性。

局限与展望

• 参考方向设计相对单一：当前 CRAFT 仅采用上一轮全局更新的一阶归一化向量作为参考锚点，在极高非平稳环境下可能存在短视性，未来可探索多轮指数移动平均（EMA）或自适应动量缓冲机制。
• 对齐目标标量设定依赖样本占比：当前的约束目标标量 \(\rho_i^t\) 仍直接继承自传统数据量比例，尚未根据各客户端的实时损失变化、收敛进度或历史受损程度进行动态博弈加权，未来可设计与自适应公平性目标深度结合的动态权重机制。

相关工作与启发

• vs FedAvg & FedAvgM: FedAvg 仅做简单静态平均，完全无视客户端向量夹角，导致大量钝角冲突；FedAvgM 虽有动量但属于事后加性平滑。CRAFT 则通过约束显式杜绝钝角，将动量转化为几何目标函数中的定位先验。
• vs ConFIG: ConFIG 同样采用 Moore–Penrose 伪逆求解无冲突梯度，但其在原点附近求最小范数解（零先验），每轮从零开始丢失优化历史；CRAFT 以历史更新为参考点做最小几何校正，极大增强了部分参与下的泛化与收敛稳定性。
• vs FedFV & FedLF: FedFV 与 FedLF 采用成对两两消除负内积分量或历史梯度缓存，计算与显存开销沉重且缺乏统一闭式解；CRAFT 通过全局约束矩阵统一处理全员对齐，且无需保存各客户端过往的陈旧梯度。

评分

• 新颖性: ⭐⭐⭐⭐⭐ 首次将联邦聚合重构为带时序动量参考方向的最小范数约束校正几何问题，并给出 closed-form 解。
• 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 1000 规模大客户端场景、深层 ResNet-110 网络、跨模型/数据集、多随机种子分布以及个性化 FL 拓展。
• 写作质量: ⭐⭐⭐⭐⭐ 逻辑结构严丝合缝，几何直觉、矩阵推导与非凸收敛理论完备自洽。
• 价值: ⭐⭐⭐⭐⭐ 兼顾了全局性能与客户端公平性，且算法为闭式计算易于在现实边缘与服务端系统中低成本部署。

相关论文

• [NeurIPS 2026] Federated Learning by Utility-Constrained Stochastic Aggregation for Improving Robustness
• [NeurIPS 2026] Beyond Parameter Aggregation: Semantic Consensus for Federated Fine-Tuning of LLMs
• [CVPR 2026] Personalized Federated Training of Diffusion Models with Privacy Guarantees
• [NeurIPS 2026] Federated Concept-Based Models: Interpretable models with distributed supervision
• [NeurIPS 2026] BLEND: Balancing Personalization vs. Generalization in Federated Vision–Language Models