Beyond Random Sampling: Distribution-Aware Alignment for Semi-Supervised Medical Image Segmentation¶

会议: ECCV2026
官方论文: 5497
论文: 官方 PDF
代码: https://github.com/ywher/DAA4SSMIS
领域: 医学图像
关键词: 半监督医学图像分割、分布感知选样、语义记忆库、复制粘贴、渐进训练

一句话总结¶

本文先用冻结视觉基础模型与密度加权 K-Center 选择值得标注的病例，再通过语义记忆库和渐进式复制粘贴训练分割器，在 PROMISE 仅标注 2 个病例时达到 87.3% DSC，但收益同时包含选样与训练策略的改变。

研究背景与动机¶

半监督医学图像分割常把少量已标注影像和大量未标注影像视为同分布数据，再用伪标签或一致性学习利用后者。这个假设在标注充分时比较合理，但当预算缩小到几个病例，随机选择可能反复落在相似的解剖形态或采集条件上。此时问题不只是标签数量少，而是已标注集合缺少能代表其他数据簇的结构参照。即使采用 UniMatch V2 这类较强基线，模型也可能用局部经验为未覆盖区域生成错误伪标签。

复制粘贴能把可靠标注带入未标注图像，但医学图像的前景通常很小，当前小批次未必包含足够可用的病灶块。直接随机混合容易让背景占主导，而在训练初期大量使用伪标签，又会把尚未学好的边界反复强化。本文因此不把“怎么选标注数据”和“选完后怎么训练”割裂处理，而把稀疏标注集与未标注集之间的差异看成需要缓解的分布缺口。这里的源域和目标域分别指已标注集与未标注集，并不意味着实验专门设置了跨医院域适应。

作者的切入点是先改善监督信号的覆盖，再改善监督信号在数据之间的传播。 核心 idea：用分布感知选样建立有代表性的标注锚点，再用前景感知的历史记忆和由易到难的分支启用顺序，把这些锚点转化为更可靠的半监督训练。

方法详解¶

整体框架¶

输入是可供筛选的医学影像训练池和固定标注预算；输出是对新影像预测像素级掩码的分割网络。离线阶段进行“分布感知选样”，在冻结 DINOv2 特征空间挑出待标注样本；完成标注后，其余影像作为未标注数据。在线阶段用“记忆引导复制粘贴”生成训练样本，并用“渐进分支启用”控制监督、混合和未标注分支的出现时机。三条分支是同一教师—学生框架中的训练数据路径，不是推理时需要集成的三个独立分割器。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["训练影像池与标注预算"] --> B["分布感知选样"]
    B --> C["标注选中影像<br/>其余保留为未标注"]
    C --> D["记忆引导复制粘贴"]
    D --> E["渐进分支启用"]
    E --> F["教师—学生训练<br/>输出分割模型"]

教师通过学生参数的指数移动平均更新，负责生成未标注区域的伪标签。分割器采用 DINOv2-Small 编码器和 DPT 解码器；离线选样时冻结特征提取器，不等于在线分割训练也冻结编码器。选样、记忆检索和渐进日程属于训练准备或训练阶段，部署时无需重新运行这些机制。所谓“无推理开销”指相对分割基线没有这些模块带来的额外开销，而不是模型推理本身不需要计算。

关键设计¶

1. 分布感知选样：让有限标注覆盖不同结构，而不是只覆盖随机抽中的局部

选样首先需要一个不依赖当前少量标签、又能比较解剖结构的表示空间。作者从冻结视觉基础模型的四个中间层提取 patch token，各层先做空间全局平均，再沿通道拼接并进行 L2 归一化。使用 DINOv2-Small 时，每层 384 维，四层构成 1536 维切片描述符。它保留的是不同层次的纹理与语义统计，而不是把完整空间 token 网格原封不动送入选样器。相较仅取最后一层或 CLS token，这样可以同时利用较局部的形态线索与较全局的组织语义。

对于三维病例，作者不把所有切片直接平均成一个向量，因为小结构可能被大量无关切片稀释。其病例序列归一化采用结构居中策略，取体积中央固定数量的切片，形成统一长度的病例特征张量。这使选择单位仍然是患者病例，而非互不关联的单张切片；但不意味着已经完成解剖配准。它也隐含中央区域更可能包含目标的假设，边缘病变是否会被忽略需要另行验证。正文没有给出固定切片数及短体积处理的完整实现，不能据此补造插值或填充规则。

在该空间里，Density-K-Center 用局部密度修正传统 K-Center 的覆盖策略。纯粹追求离已有样本最远的位置，可能优先选中孤立噪声；只追求密集区域，又可能反复选择相似病例。本文用 20 个近邻估计局部密度，把权重限制在 0.3 到 1.0，让稀疏区域受到软惩罚，而不是被彻底剔除。第一个锚点选在距离全局特征均值最远的位置，之后逐步选择密度加权覆盖距离最大的候选，直到用完标注预算。因此它既关注尚未覆盖的区域，也倾向于让一个标注代表更多邻近数据。

这是标注之前的一次性筛选，不是训练若干轮后反复请求新标签的在线主动学习。如果实际项目的标注集早已固定，就不能不加说明地宣称仍可获得论文的完整选样收益。此外，首个锚点采用最远均值初始化，不应把密度惩罚描述成对每一步、每个异常样本都有硬性过滤保证。缓存中的密度映射与贪心选择公式存在提取乱码；这里依据第 3.2 节文字说明机制，不复原无法核对的精确公式。

2. 记忆引导复制粘贴：用历史前景补足当前小批次的语义供给

在线训练将图像均匀划成 \(7\times7\) 个块，以复制粘贴构造不同监督来源的样本。已标注分支只在已标注集内部增强，未标注分支在未标注集内部使用教师伪标签增强，混合分支则执行已标注与未标注数据之间的双向复制粘贴。这三条路径分别提供可靠监督、未标注数据利用和跨集合的中间训练样本。分布对齐主要通过这些训练样本及损失发生，不能误读成另加一个显式对抗域分类器。

关键困难是小批次可能根本没有合适的前景块。 MCP 将历史图像块分别放入前景和背景记忆子库，条目保存像素、掩码、类别概率、平均置信度和源图像标识。前景与背景分开更新，可以避免数量占优的背景持续挤掉少数病灶或器官块。达到容量上限后，混合淘汰策略一半采用先进先出以保持新鲜度，一半移除最低置信度条目以抑制劣质监督。正文设置记忆容量参数为 1024；不把这一简写进一步推断成未说明的具体显存占用。

增强时，以 0.2 的概率使用记忆检索，其余情况从当前小批次随机取块，避免完全依赖历史内容。检索先考虑前景或背景身份，再比较目标块与候选源块的类别概率分布，选择 KL 散度最小的候选。来自前景库的病灶块也可以替换背景区域，用来增加训练中真正含目标的混合样本。所以“语义一致”不是强制每次都以背景替背景，而是利用类别条件和概率分布约束来源选择。

这与仅按空间位置随机切块的区别，是把过去见过的少数前景变成当前训练仍可访问的监督资源。不过，类别分布接近并不等价于解剖位置、形状或成像风格必然兼容；论文的语义检索不构成几何合理性的保证。正文的 KL 检索公式同样提取不完整，无法核实 KL 两个参数的方向及完整候选约束，因此不写出一个假定方向的公式。

3. 渐进分支启用：先学可靠监督，再接触混合样本与纯伪标签样本

即使记忆检索找到了更合适的块，早期教师仍可能输出错误掩码。若一开始就开放全部路径，噪声会同时进入未标注分支、混合图像和历史记忆，使模型更难建立可靠起点。作者把总训练周期前 10% 作为渐进区间：前半段仅启用已标注分支，后半段加入混合分支，之后启用全部分支。按总周期换算，就是约前 5% 只学可靠标注，5%—10% 开始跨集合混合，10% 之后再全面使用未标注分支。这是一种固定时间日程，不是根据置信度自动检测阶段切换。

每条激活分支组合 Dice 与交叉熵损失，真实标注区域权重为 1.0，伪标签区域为 0.5。前者缓解类别不平衡并关注区域重合，后者提供像素级类别约束；对伪标签降权则减少不确定监督的影响。所有分支启用后，其分支级损失等权相加，区域内部的真实标签与伪标签权重仍有区别。应区分“分支等权”和“所有像素同权”，两者不是同一件事。

损失函数 / 训练策略¶

实现使用 AdamW，权重衰减 0.01，编码器学习率 \(5\times10^{-6}\)，解码器学习率 \(2\times10^{-4}\)，并按多项式衰减。输入统一为 \(518\times518\)，已标注与未标注小批次保持平衡，在两张 RTX 4090 上训练；实现说明还列出 OHEM。正文未完整展开 OHEM 与各分支损失的组合细节，也未给出所有复现所需的训练周期与 EMA 参数。三维数据仍按二维切片训练，推理后把切片预测拼回病例体积进行评价。

实验关键数据¶

主实验¶

论文覆盖四个二维数据集和两个三维数据集；下表只保留与同为 DINOv2-S 编码器的 UniV2 比较。 BUSI 的训练/测试划分为 623/157 张，PMTCXR 为 2379/290 张；PROMISE 的训练/验证/测试为 35/5/10 例，ACDC 为 70/10/20 例。 DSC 越高越好，差值为百分点，表内分数来自原文表 1、表 2。

数据集及标注预算	UniV2 DSC（%）↑	本文 DSC（%）↑	差值
PROMISE，1/16，2 例	82.0	87.3	+5.3
ACDC，1/20，3 例	88.6	90.4	+1.8
BUSI，1/16，39 张	74.6	79.8	+5.2
PMTCXR，1/16，149 张	47.6	52.9	+5.3

BUSI 同一预算下，HD95 从 UniV2 的 48.8 降至 36.2，减少 12.6 像素（表 2），说明收益不只体现在区域重合。评价前预测会缩放到 ACDC 的 \(256\times256\) 或其他数据集的 \(224\times224\)，边界误差必须连同这一口径解读。这些比较控制了编码器类别，却同时改变了标注样本选择与训练过程，因此不是对 MCP 单模块的公平隔离实验。

消融实验¶

下表选自表 3，在 BUSI 的 1/16 标注预算、同一 623/157 训练/测试划分下逐项添加组件。 CP 是基本三分支复制粘贴，MB 是语义记忆库，Prog. 是渐进启用，SS 是分布感知选样；边界指标越低越好。

配置	DSC（%）↑	ASD ↓	HD95 ↓
UniV2 基线	74.62	36.66	48.78
+ CP	75.58	32.29	44.17
+ CP + MB	77.35	29.13	40.75
+ CP + MB + Prog.	78.06	31.30	40.05
仅 + SS	78.06	30.55	40.92
+ CP + MB + Prog. + SS	79.80	27.00	36.20

关键发现¶

记忆库在 CP 基础上带来 1.77 个 DSC 百分点，支持历史前景检索的作用，但不能据此宣称它是所有设置下唯一最重要的组件。
完整在线 MCP 与单独选样都达到 78.06% DSC，组合达到 79.80%，比单独 MCP 高 1.74 个百分点；两类改动有互补证据。
加入渐进日程后 DSC 上升，但 ASD 从 29.13 变为 31.30；“每个模块改善所有指标”不符合表 3。
表 5 的 DKC 默认配置并非每个预算、每项指标都优于 K-Center；作者按多个低标注预算的平均表现确定默认配置。

亮点与洞察¶

将标注对象选择纳入算法，而不是仅改模型结构。在标注极少时，一个覆盖新结构的病例可能比对相似病例反复增强更重要。
前景/背景分库解决的是记忆资源分配问题，而不只是增加缓存容量。其价值在于让少数目标在跨批次混合时仍然可被检索。
先混合、后纯未标注的日程，把可靠掩码作为进入伪标签学习的过渡。它容易接入现有训练框架，但仍需要通过具体数据验证启用时间。

局限与展望¶

作者明确指出：目前三维数据逐切片处理，未来希望扩展到直接体积分割和自适应记忆管理；训练有额外开销，推理没有新增模块开销。
阅读判断：选样需要访问尚未决定标注对象的训练池；固定历史标注集、罕见边缘病灶或基础模型表示不适合的模态，可能削弱该策略的适用性。
证据边界：主表没有报告多随机种子置信区间，因此不能把单次点估计解读成稳定性的统计证明；图中更广覆盖也不等于临床群体覆盖已获验证。
复现缺口：本地缓存包含完整主文方法和实验，但不含单独补充材料；若干公式提取损坏，病例长度处理与完整算法伪代码不能独立核实，故未补写。
资源状态：代码链接来自正文的未来发布声明，未联网验证仓库当前是否开放；不把给出链接等同于代码已经可运行。

评分¶

新颖性: 3.5/5 — 选样、记忆增强与课程日程的结合有针对性，基础组件并非全新。
实验充分度: 4/5 — 六数据集与组件、采样、混合策略分析较完整，但统计波动与补充实现仍有空缺。
写作质量: 3.5/5 — 主线清楚，部分实现依赖补充材料；本地文本公式损坏不作为作者写作缺陷。
价值: 4/5 — 对能主动规划标注预算的医学分割项目有实用价值，不能直接外推为临床有效性结论。