🤝 联邦学习¶
🧠 NeurIPS2026 · 9 篇论文解读
📌 同领域跨会议浏览: 🎞️ ECCV2026 (2) · 📷 CVPR2026 (19)
🔥 高频主题: 联邦学习 ×8 · 个性化生成 ×2
- Beyond Parameter Aggregation: Semantic Consensus for Federated Fine-Tuning of LLMs
-
提出无须交换模型参数的联邦微调范式 FedCoFiT,通过在共享公开 Prompt 上收集各客户端文本生成行为并在语义向量空间聚类选取共识伪标签反哺本地训练,将通信开销彻底解耦于模型规模(相比 405B 模型的 LoRA 聚合通信量降低达 1006 倍)并天然支持异构架构与黑盒模型。
- BLEND: Balancing Personalization vs. Generalization in Federated Vision–Language Models
-
针对联邦视觉语言模型在客户端非独立同分布数据下个性化与新类泛化难以兼顾的难题,BLEND通过在双塔注入全局共享适配器与本地私有视觉投影适配器,配合动量锚点与融合双损失联合优化,实现了个性化与泛化能力的最优平衡。
- CRAFT: Conflict-Resolved Aggregation for Federated Training
-
针对非独立同分布(Non-IID)数据导致的客户端梯度方向冲突问题,CRAFT 将联邦聚合重构为锚定动量参考方向的约束最小二乘几何校正问题,通过闭式解消除迭代求解开销,在显著提升全局模型精度的同时大幅收敛客户端性能差距。
- Federate the Router: Learning Language Model Routers with Sparse and Decentralized Evaluations
-
本文提出了首个用于大语言模型(LLM)查询路由的联邦学习框架,使各客户端能够在私有查询和稀疏、偏置的模型评估数据不出本地的前提下,协同训练参数化 MLP 路由器与非参数化 K-Means 路由器,显著提升了准确率与推理成本的帕累托前沿。
- Federated Concept-Based Models: Interpretable models with distributed supervision
-
针对真实联邦场景下概念标注分散且受时空非平稳性影响的痛点,本文提出联邦概念模型(F-CMs),通过图聚合推断全局概念拓扑、动态扩展模型架构与模块化局部参数聚合,在保护隐私的前提下实现了跨机构概念知识共享与鲁棒的可干预推理。
- Federated Learning by Utility-Constrained Stochastic Aggregation for Improving Robustness
-
本文提出基于效用约束随机聚合的联邦学习框架 FedUCA,将服务器聚合建模为满足自利客户端个人理性约束的可行性优化问题,并通过狄利克雷采样的候选聚合策略利用琴生间隙创造效用盈余,有效防止跨孤岛联邦学习中由于异质性引发的客户端流失与训练崩溃。
- HERO: A Heterogeneity-Aware Benchmark Library for Federated Continual Learning
-
针对联邦持续学习(FCL)中评测协议混乱、变量耦合严重导致算法对比失真的痛点,HERO 提出了首个解耦任务划分、客户端数据偏斜与任务序列失配的标准化评测基准库,并引入尾部客户端鲁棒性指标揭示出同步与异构场景下算法表现的深刻分化。
- Ripple in Still Water: Zero-Shot Clustering in Federated Learning with Wavelet Scattering Transform
-
Ripple 提出了一种完全脱离训练循环的离线聚类联邦学习框架,利用方差加权主成分原型与小波散射变换提取客户端数据的谱几何特征,并在服务端通过预训练的高斯混合变分自编码器单次前向推理出软聚类权重,以 FedAvg 相同的每轮通信开销实现零样本聚类与个性化。
- SP-CACW: Convergence-Aware Client Weighting for Selfish Personalized Learning
-
针对非 IID 异质联邦学习中目标客户端易受有害协作负迁移的痛点,提出直接最小化目标收敛误差理论上界的客户加权算法 SP-CACW,通过动态权衡梯度偏差与方差并借助在线凸优化实现鲁棒的自私个性化。