Benchmarking Federated Learning & Knowledge Distillation for Point Cloud Classification¶

会议: ECCV 2026
Paper: https://eccv.ecva.net/virtual/2026/poster/3844
PDF: https://media.eventhosts.cc/Conferences/ECCV2026/pdfs/3373.pdf
代码: https://ezharjan.github.io/FLKD3DBenchmark/
领域: 模型压缩
关键词: 联邦学习、知识蒸馏、点云分类、非独立同分布、评测混杂

一句话总结¶

本文通过点云分类的联邦教师—蒸馏目标交叉评测揭示：有标签代理数据可以让仅有 8.50% 准确率的教师产生 92.94% 的学生，因此压缩后的高准确率不一定证明联邦模型学到了可迁移知识。

研究背景与动机¶

点云模型要在多个机构协作训练、再部署到边缘设备时，通常同时面临数据不能集中和模型过大的问题。联邦学习让各客户端本地训练、服务器聚合参数，知识蒸馏则让较小的学生学习大教师的输出或中间表示。这两项技术各自已有丰富算法，但把它们前后连接，并不能自动继承“数据不集中”和“知识有效转移”这两个性质。特别是 PointNet++ 的局部几何特征在类别严重偏斜的客户端上可能学得不同，集中式训练有效的骨干未必能承受参数聚合。

现有评测容易把最后的学生准确率当成整条管线的成功证明，却忽略蒸馏时学生还看到了什么。如果服务器用带真实标签的集中式数据训练学生，分类交叉熵本身就能教会学生分类，即使联邦教师几乎失效也可能得到好结果。因此，本文要补的不是一种更复杂的聚合器，而是一套能够区分教师贡献与代理标签贡献的评测。 ModelNet40 提供较有难度的多类别任务，颅缝早闭头部形状数据则提供集中式准确率接近上限的辅助诊断场景。

作者固定教师和学生架构，让联邦算法、蒸馏目标与教师质量成为主要比较维度，并特别检查每个损失中真实标签的权重。这里的“恢复假象”不是说学生准确率是假的，而是说把这种准确率解释为联邦知识转移可能是错的。 核心思路：同时报告教师质量和学生表现，按蒸馏损失是否保留硬标签监督分组，检验学生到底在跟随教师，还是重新学习集中式代理标签。

方法详解¶

整体框架¶

这是一篇基准与评测诊断论文，没有提出新的点云骨干或联邦聚合算法。输入是带类别标签的三维点集；评测分别运行集中式教师、独立联邦训练、独立蒸馏，以及联邦训练后再蒸馏的组合设置。组合设置首先训练联邦 PointNet++ SSG，选取其最佳检查点并冻结，再在集中式训练数据上训练紧凑学生 SmallPointNet2。最后分别测量教师准确率、学生准确率与模型体积，而不是只留下学生的最终分数。

基准的三个关键选择是固定极端标签偏斜划分、固定教师—学生容量差，以及把蒸馏目标按硬标签权重分组。它们分别控制联邦任务难度、压缩架构和监督信息来源，使不同实验结果能指向不同问题。推理时只使用学生对一个点云输出类别，不需要客户端协作或教师参与。由于核心贡献是实验设计与诊断，而不是新的多模块网络，这里不把通用训练步骤画成方法创新框架图。

关键设计¶

1. 固定标签偏斜划分：主动暴露联邦训练的失效区域

ModelNet40 使用标准预处理划分，训练集有 9,843 个形状，测试集有 2,468 个形状，共 40 类。颅缝早闭数据包含健康对照及三种病理类别，每类 100 个形状，按确定性的分层 80/20 划分得到 320 个训练形状和 80 个测试形状。这些头部形状来自患者统计形状模型的采样实例，不应理解成 400 名独立患者的真实扫描。每个形状统一为 1,024 个点，只使用三维坐标，不使用表面法向。这既固定输入容量，也避免比较中的收益来自额外输入属性。

训练样本先按类别排序，再按顺序切成五个等份，分别交给五个客户端。这样每个客户端主要看到标签空间中的一个局部区域，而不是从全体类别均匀抽样。等份切片的边界可能穿过同一类别，因此“标签偏斜”不应被过度描述为每类严格只属于一个客户端。该设置是刻意选择的极端压力测试，不是一般医院或设备群的数据分布估计。三个随机种子改变初始化、批次顺序和点云增强，但不改变划分，所以标准差反映训练随机性而非机构划分的不确定性。

2. 固定教师—学生容量差：分开比较联邦退化与压缩效果

教师采用 PointNet++ 单尺度分组架构，以三层集合抽象提取逐级局部几何，再接两层分类头。学生保留这种层级结构，但缩窄集合抽象层与分类层，并暴露倒数第二层特征供特征蒸馏使用。 ModelNet40 上教师的参数及缓冲张量占 5.65 MB，学生占 1.44 MB，减少 74.51%。这主要是固定学生架构带来的体积变化，不能算作某个蒸馏损失独有的压缩能力。蒸馏目标的作用是在相同小模型上尽量保住准确率，而不是动态决定网络结构。

联邦端共比较十三种算法，覆盖不同的失效应对机制。 FedAvg 做样本量加权平均，FedProx、SCAFFOLD、FedNova 与 FedDyn 分别通过近端约束、控制变量、更新归一化和动态正则处理客户端漂移。 FedAvgM 及 FedAdam、FedYogi、FedAdagrad 改变服务器更新；FedMedian 使用逐坐标中位数；FedBN 保留本地批归一化统计。 MOON 增加模型对比约束，Ditto 同时学习个性化模型与全局模型。这些方法都在同一教师架构、客户端数量和通信预算下比较，所以可以观察聚合策略是否缓解了当前划分下的退化。不过，个性化算法的全局教师结果不能直接代表其所有客户端个性化模型的部署收益。

3. 按硬标签权重分组：区分知识转移与重新监督训练

蒸馏端包含输出匹配、特征与注意力匹配、关系与对比学习，以及自蒸馏等目标。 Vanilla KD 匹配温度缩放后的类别分布，Logit-MSE 匹配输出数值，Cosine 比较输出方向；DKD 将类别知识进一步解耦。 Feature KD、Attention Transfer、SP 与 RKD 分别利用中间表示、注意力、相似性或样本关系，CRD 使用对比式表示约束。自蒸馏先得到一个紧凑学生，再让它监督最终报告的学生。这些名称代表本文实现的目标配置，不能默认其他论文或代码库的同名目标具有相同的硬标签权重。

真正决定诊断含义的是损失中的监督来源，而不只是目标名称。正文第 4.4 节把共同结构概括为：

\[ \mathcal{L}=w_{\mathrm{CE}}\mathcal{L}_{\mathrm{CE}}(\hat y,y)+\mathcal{L}_{\mathrm{transfer}}. \]

这里第一项使用代理集的真实类别，第二项依赖教师输出或表示；\(w_{\mathrm{CE}}\) 表示硬标签交叉熵的权重。 Vanilla KD、Logit-MSE、Cosine、CRD 与自蒸馏的该权重为 0.5，DKD 为 1.0。 Feature KD、Attention Transfer、SP 与 RKD 则采用 \(1-\alpha-\beta\)，在本文 \(\alpha=\beta=0.5\) 时恰好为零。因此，前一组允许学生直接从标签学习，后一组才在此配置下仅依赖教师；“特征蒸馏天然无标签”并不是普遍结论。

组合阶段故意使用完整的带标签集中式训练集作为代理数据，以放大并定位这条监督旁路。当教师崩溃时，有效的交叉熵监督仍能推动学生拟合类别；去掉硬标签项后，学生必须依赖教师提供的信号。作者据此建议补充移除交叉熵或使用无标签代理集的控制实验。这些建议不能被读作本文已经逐一完成了每个损失的同目标、单变量权重消融；正文的主要证据是不同目标配置之间的分组对照。同样，去掉标签不等于代理点云可以任意集中，也不构成形式化隐私保证。

损失函数 / 训练策略¶

联邦设置固定五个客户端、二十轮通信，每轮本地训练五个 epoch，使用 Adam、学习率 0.001 和批大小 24。集中式教师采用 200 个 epoch 的训练协议；组合蒸馏阶段图示同样为 200 个 epoch、Adam 和学习率 0.001。软目标使用温度 \(T=2.0\)；上述权重设置决定是否保留硬标签项。独立联邦结果报告每次运行在二十轮内的最佳准确率，而不是最后一轮准确率。 ModelNet40 蒸馏与组合表报告训练中的峰值；部分组合运行提前停止，原表以短剑符号标记，不能与完整训练一概等同。

标准化多种子部分共有 504 次训练：ModelNet40 的集中式与十三种联邦配置，以及临床数据的集中式、联邦、十种蒸馏和完整十三乘十组合网格，各运行三个种子。 ModelNet40 的正文蒸馏与组合结果来自另一个聚焦实验轮次，使用单独教师检查点，不能把这些数字当作表 1 的三种子均值。特别是组合表中的 SCAFFOLD 教师仅有 8.50%，而标准化联邦表的均值为 64.26%；两者不是同一实验统计量。正文对补充材料中 ModelNet40 完整网格的描述与主文覆盖范围有口径差异，当前缓存不含该补充材料，本文笔记只据正文可核验结果下结论。

实验关键数据¶

主实验¶

下表选自原文表 1：上述测试划分上的实例准确率，单位为 %，越高越好；数值为三个种子的均值 ± 标准差。它比较独立联邦训练，不是蒸馏后的学生；集中式参考与联邦训练的优化调度也不完全相同。

训练方式	ModelNet40 准确率 ↑	颅缝早闭准确率 ↑	主要观察
集中式教师	92.26 ± 0.04	100.00 ± 0.00	非联邦参考
FedNova	76.32 ± 1.55	50.83 ± 8.04	ModelNet40 最好，但跨数据集排名改变
FedProx	71.04 ± 0.87	75.83 ± 10.63	临床数据最好
FedAvg	58.51 ± 0.25	69.58 ± 2.60	基础加权平均
SCAFFOLD	64.26 ± 3.75	36.67 ± 1.44	不等于聚焦轮次的崩溃检查点
FedAvgM	4.05 ± 0.00	25.00 ± 0.00	在当前设置下接近低水平基线

ModelNet40 最优联邦结果低于集中式 15.94 个百分点，临床最优结果低 24.17 个百分点。独立蒸馏的另一轮实验中，原文表 2 的集中式教师为 92.44%，Attention Transfer 学生为 92.74%，Logit-MSE 为 87.07%。这说明同一紧凑架构并不保证所有损失都成功，也不能仅凭体积缩小判断知识转移是否有效。

消融实验¶

本文主要提供机制分组分析，而不是为每种损失完成严格的单变量消融。下表选自原文表 4，使用颅缝早闭测试集、完整十三教师乘十目标网格，各配置运行三个种子；准确率单位为 %，越高越好。机会水平教师为 FedAvgM，独立准确率 25.00%；最佳教师为 FedProx，独立准确率 75.83%。 \(r\) 是跨十三个教师的学生平均准确率与教师独立准确率之间的 Pearson 相关系数，用于诊断依赖性，不是越高就一定越好。

蒸馏目标	硬标签权重	机会水平教师下学生准确率 ↑	最佳教师下学生准确率 ↑	教师—学生相关系数 \(r\)
Vanilla KD	0.5	97.5	99.6	+0.37
CRD	0.5	100.0	99.6	−0.53
Feature KD	0	27.1	84.2	+0.99
Attention Transfer	0	25.0	83.3	+0.99
SP	0	25.0	82.9	+0.99

表 4 的相关系数保留两位小数；第 4.5 节给出四种纯教师转移目标的更细范围为 0.986–0.990。在 ModelNet40 聚焦实验的表 3 中，SCAFFOLD 教师为 8.50%，Logit-MSE 学生达到 92.94%，相差 84.44 个百分点；原文取一位小数写作 84.4。同一教师下 Feature KD 只有 16.99%，这两个学生格均未标记提前停止；不能将二者差异完全归因于单个系数，因为目标形式也不同。

关键发现¶

高学生准确率与好教师不是同义词：带标签目标能在教师崩溃时重新学习代理标签。
联邦算法排名随数据集改变，不能把 FedNova 或 FedProx 的局部领先写成普遍鲁棒性。
纯教师转移目标更能暴露教师质量，但学生并不必然等于或低于教师准确率；Feature KD 的 84.2% 就高于对应教师的 75.83%。
压缩与通信是不同预算：蒸馏后学生变小，并不消除前一阶段传输完整教师参数的开销。

亮点与洞察¶

把监督来源当成评测变量：不仅比较损失名称，还核对每项是否接触真实标签。这个检查比只看最终排行榜更容易发现指标归因错误。
使用质量跨度大的教师：强教师下多种目标都接近上限，反而看不出监督旁路。加入崩溃检查点后，学生是否真正依赖教师变得可观察。
区分能力与证据：好的学生确实可能有部署价值，但不能因此声称联邦表示已被恢复。诊断对象是成功的原因，而不是否认测得的准确率。

局限与展望¶

作者承认：只研究两套数据、一个极端标签偏斜设置和固定的 PointNet++ 教师—学生对，尚未覆盖更温和异质性、更大真实扫描数据或其他骨干。
作者承认：种子不改变划分，客户端固定为五个、通信固定二十轮，且客户端架构同构；结论不是对全部联邦设置的否定。
阅读判断：临床数据是统计形状模型样本，小测试集且集中式达到 100%，不能据此推断真实多中心临床泛化能力。
阅读判断：主文没有报告与每个组合配置匹配的纯硬标签学生基线，也没有完整的同目标交叉熵开关表；因此“标签掩盖教师失败”的解释很有说服力，但各损失的因果贡献仍需更严控制。
证据边界：缓存包含完整主文方法与实验，不含引用的附录 A–D；逐单元标准差、详细层宽、延迟测量条件与补充网格无法独立核验，约两倍推理加速只能保留为作者报告。
后续评测重点：先补足无标签代理与移除交叉熵的配对控制，并说明代理数据的来源与授权；移除标签本身不等于已经解决隐私问题。

评分¶

新颖性: 3/5 — 算法本身沿用已有方法，价值主要在跨组合评测与监督来源诊断。
实验充分度: 3/5 — 临床完整多种子网格有用，但单骨干、极端划分及 ModelNet40 聚焦轮次限制外推。
写作质量: 3/5 — 核心现象易理解，临床数据性质与不同实验轮次的统计口径需要仔细辨别。
价值: 4/5 — 对任何把联邦训练与带标签蒸馏串联的评测，都提供了直接可执行的审查问题。