跳转至

AdaBridge-SR: Adaptive Bridge Matching for Real-World Image Super-Resolution

会议: ECCV 2026
Paper: https://eccv.ecva.net/virtual/2026/poster/5676
PDF: https://media.eventhosts.cc/Conferences/ECCV2026/pdfs/12179.pdf
代码: https://github.com/W-JG/AdaBridge-SR
领域: 图像超分辨率 / 图像生成
关键词: 桥匹配、空间随机性、时间重参数化、潜空间恢复、感知失真权衡

一句话总结

AdaBridge-SR 根据退化输入预测“哪里加噪、何时进入高随机性阶段”,用同一套权重实现确定性一步超分辨率和随机少步细化,在 RealSR 上以一步取得 25.2152 dB PSNR、两步取得 0.6847 MANIQA,但增加步数仍需付出保真度代价。

研究背景与动机

真实图像超分辨率并不是把所有位置都变得更锐利。画面里可能同时存在仍然可信的文字轮廓、平坦背景和已经失去细节的砖墙:前两者更需要保留输入结构,后者才需要生成先验补出合理纹理。多步扩散模型能够生成细节,但空间上均匀的噪声可能一起扰动本来正确的结构;一步方法把恢复压缩成直接映射,速度快,却减少了探索模糊纹理的随机性。

桥匹配把生成过程的两端直接设为退化图像和干净图像,比从纯噪声出发更贴近恢复任务。不过,标准布朗桥仍采用统一噪声幅度和固定时间安排:所有位置接受同等扰动,噪声方差在同一时间达到峰值。空间异质性之外,不同图片整体退化程度也不相同,仅有空间权重不能决定一张图片应该在恢复过程的什么时候投入更多生成能力。

本文因此把随机性拆成空间和时间两个输入相关的控制量,而不是简单增加一个后处理锐化模块。核心 idea:让退化潜变量同时决定局部噪声幅度与桥过程的时间重参数化,再以干净端点预测统一一步恢复和少步随机细化,使生成能力随位置和退化程度分配。

方法详解

整体框架

输入低质量图像先经 VAE 编码,得到退化潜变量。自适应桥控制器 ABC 从它预测空间随机性图和时间扭曲指数;时空自适应桥 ST-ABM 在退化端点与干净端点之间构造带局部噪声的中间潜变量,由去噪骨干直接预测干净端点,最后通过 VAE 解码回图像。

训练与推理的关键差异是干净端点来自哪里:训练时有配对真值;推理时首先做一次确定性预测,之后把上一次预测当作动态干净端点。一步模式直接返回首次预测,不调用 ABC;少步模式才计算控制量,并在后续各步复用。因此,“同一模型支持两种模式”不意味着一步模式也执行了随机桥细化。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    Input["退化图像<br/>VAE 编码"] --> Controller["自适应桥控制器"]
    Controller --> Bridge["时空自适应桥"]
    Target["训练:真值潜变量"] --> Bridge
    Bridge --> Endpoint["端点预测与<br/>动态细化"]
    Input -->|一步模式直接预测| Endpoint
    Endpoint -->|少步推理:上一轮端点| Bridge
    Endpoint --> Output["VAE 解码<br/>高分辨率图像"]

关键设计

1. 自适应桥控制器:从同一个退化输入预测空间与时间控制量

ABC 是一个基于 ResNet 的轻量网络,接收退化潜变量,使用两个预测头输出空间图 \(M\) 与时间指数 \(p\)。空间图每个位置只有一个权重,跨潜变量通道广播:权重小的位置少受随机扰动,权重大的位置允许更多纹理探索。图预测头使用 sigmoid、均值归一化和截断,以稳定尺度并避免退化成全零或全一;时间头通过有界 sigmoid 仿射变换把指数限制在正数区间。正文没有给出该区间端点和图归一化的完整实现常数,不能仅凭示意图补齐。

时间控制不是根据内容动态增加网络调用次数,而是改变给定步数下各步落在桥上的位置。基础时间比例为 \(s\in[0,1]\),内在时间变成 \(\tau=s^p\)。当 \(p<1\) 时,同一个基础时间对应更大的内在时间,高方差阶段更早出现;\(p>1\) 则使其后移。作者以此让严重退化输入更早进入随机探索,让轻度退化输入延后细化。它控制的是轨迹上的位置与采样分配,不是直接预测每张图的最优步数。

2. 时空自适应桥:把局部扰动和时间安排显式分离

普通桥在两个端点间线性插值,再叠加中间强、两端弱的高斯扰动。本文保留这种端点一致性,却把全局噪声改为空间图加权的噪声,并把固定时间换成控制器输出的内在时间。记退化与干净潜变量分别为 \(z_0,z_1\),全局噪声幅度为 \(\beta\),训练桥的核心关系为:

\[ au=s^p,\qquad z_\tau=(1-\tau)z_0+\tau z_1+\beta M\odot\sqrt{\tau(1-\tau)}\,\epsilon, \qquad \epsilon\sim\mathcal N(0,I). \]

这对应原文式 (13)。缓存抽取损坏了部分加号、括号和公式尾部;上式仅按该式相邻文字明确描述的“端点插值加空间调制高斯噪声”整理记号,不补充缺失超参数,精确排版以原 PDF 为准。在两个端点处噪声消失,因而不会破坏桥的起止约束;在同一时间,某位置的条件噪声方差与该处 \(M^2\) 成正比,而不是与 \(M\) 成正比,因为图控制的是幅度。

空间图趋近零时,随机项消失;空间图较大时,局部过程允许随机探索。时间重参数化则同时改变插值系数和噪声包络的位置,不能把它误解为只调整噪声强度。原文通过内在时间下的桥 SDE 解释这一点,再说明时间变换同时缩放漂移和扩散。这个连续时间解释提供了建模依据,但实际少步算法采用下述端点重建递推,并非直接照搬一个通用 SDE 数值求解器。

3. 端点预测与动态细化:每次预测完整结果,再用预测重建下一座桥

骨干网络输出的是干净端点估计,不是让读者另行积分的速度场。训练时,从包含 \(s=0\) 的离散时间集合采样;当 \(s=0\) 时,中间潜变量就是退化潜变量,这使同一个模型可以学习从输入直接恢复。推理预算为 \(N=1\) 时,只做这次端点预测和解码,既不需要采样噪声,也不需要控制器输出。

当 \(N>1\) 时,ABC 只运行一次。第 \(k=2,\ldots,N\) 步取 \(s_k=(k-1)/N\)、\(\tau_k=s_k^p\),把训练桥中的真值端点替换成上一轮预测 \(\hat z_1^{(k-1)}\),保留原始退化潜变量作为另一端,再加入当步高斯噪声。去噪骨干处理这个重建的中间潜变量,输出新的完整端点。这里每轮都重新锚定原始输入,而不是只在上一张生成结果上继续加噪;但预测端点也可能携带错误,所以这种锚定不能保证彻底消除幻觉。

一个完整示例

考虑输入同时含有仍然清晰的标牌边缘和模糊的墙面纹理,这只是机制示例,不是额外实验样本。一步模式把输入编码、预测一次干净潜变量并解码,流程结束。两步模式保留首次预测,额外运行 ABC,第二步基础时间为 \(s_2=1/2\),实际混合比例为 \((1/2)^p\);标牌附近若得到较小的空间权重,扰动便较弱,墙面附近较大的权重则允许更多随机纹理探索。

如果整张图退化严重,较小的 \(p\) 会使第二步更靠近当前预测端点;若退化较轻,较大的 \(p\) 会让同一步更靠近原始输入。随后骨干再次预测完整干净端点,而不是把带噪中间结果直接当作最终图片。具体空间权重和指数必须由网络输出,本例不虚构它们的数值。

损失函数 / 训练策略

控制器不是完全无监督地发现“哪里可靠”。空间监督先计算退化与真值潜变量之间逐位置、跨通道平均的绝对残差,再除以该样本残差图的空间均值加 \(\delta\),截断到 \([0,1]\) 后作为目标图,用 SmoothL1 监督 \(M\);其中 \(\delta=10^{-6}\)。这样强调的是图像内部的相对困难程度,而不是把不同图像的绝对误差直接作为同一尺度的标签。超过均值的残差会被截断,因此它不是精细排序所有高不确定区域的概率估计。

时间监督另算全局平均潜空间绝对残差,并维护批次平均残差的 EMA。当前样本残差除以 EMA 加 \(\delta\) 后截断到 \([0,2]\),作为相对退化强度,再线性反向映射到允许的指数区间:退化越重,目标指数越小;用 SmoothL1 监督预测指数。配对干净潜变量只在训练时用于构造这些监督信号,推理时控制器仅看退化输入。

总目标由恢复损失、加权空间图损失和加权时间损失组成。恢复损失包含像素重建、感知与对抗项,按 OMGSR 的监督设置对齐;缓存正文未给出两个控制损失权重、EMA 衰减系数和完整恢复损失系数,故不把它们写成可直接复现的配置。

模型基于 SD2.1-base,在 VAE 编码器和 U-Net 中训练 LoRA,秩分别为 16 和 32,同时训练 ABC。训练使用 LSDIR 与 Real-ESRGAN 复杂合成退化,AdamW 学习率 \(5\times10^{-5}\)、batch size 1、梯度累积 4,在四张 RTX 4090 上训练 8000 步。该 batch size 的分布式语义未在正文展开,不额外推算有效总 batch size。

实验关键数据

主实验

评估采用四倍超分辨率,RealSR、DRealSR 与合成 DIV2K-Val 遵循 StableSR 协议。PSNR、SSIM 在 YCbCr 的 Y 通道上计算,LPIPS 衡量有参考感知距离;MUSIQ、MANIQA、CLIPIQA+ 是无参考质量指标。以下摘录原文表 1 的清晰行,PSNR、MANIQA 越高越好,LPIPS 越低越好。

数据集 方法 步数 PSNR / dB LPIPS MANIQA
RealSR SeeSR 50 25.1478 0.3007 0.6450
RealSR OSEDiff 1 25.1511 0.2920 0.6335
RealSR Ours-S1 1 25.2152 0.2818 0.6546
RealSR Ours-S2 2 24.8815 0.2881 0.6847
DRealSR OSEDiff 1 27.9220 0.2967 0.5898
DRealSR Ours-S1 1 28.2226 0.2969 0.6073
DRealSR Ours-S2 2 27.8302 0.3103 0.6436
DIV2K-Val OSEDiff 1 23.7235 0.2942 0.6131
DIV2K-Val Ours-S1 1 23.9717 0.2926 0.6210
DIV2K-Val Ours-S2 2 23.5063 0.2954 0.6556

一步模型在这三个数据集的表 1 比较中取得最高 PSNR,但不是所有指标都第一:DRealSR 的 LPIPS 略逊于 OSEDiff。RealSR 从一步变两步,MANIQA 从 0.6546 升至 0.6847,同时 PSNR 从 25.2152 降至 24.8815,LPIPS 从 0.2818 升至 0.2881。它提供的是同一模型的可调工作点,而非消除了感知与失真的权衡。

RealLQ250 没有干净参考,表 2 只能检验无参考质量。Ours-S2 的 MANIQA 为 0.6218,高于 HYPIR 的 0.6075;但 CLIPIQA+ 为 0.7071,低于 HYPIR 的 0.7195。这些结果不能证明生成纹理与真实场景细节一致。

消融实验

以下摘录原文表 3,所有配置均为两步推理。空间列对应 \(M\),时间列对应 \(p\);关闭两者表示均匀噪声与固定时间安排。

空间控制 时间控制 RealSR PSNR RealSR LPIPS RealSR MANIQA DRealSR PSNR DRealSR LPIPS DRealSR MANIQA
关闭 关闭 24.6818 0.2893 0.6853 27.4918 0.3122 0.6424
关闭 开启 24.5748 0.3007 0.6886 27.4454 0.3375 0.6503
开启 关闭 24.6160 0.2906 0.6873 27.4471 0.3244 0.6463
开启 开启 24.8815 0.2881 0.6847 27.8302 0.3103 0.6436

联合控制在两组数据上具有这四种配置中最高 PSNR 和最低 LPIPS,却不具有最高 MANIQA。仅时间控制使 DRealSR LPIPS 从 0.3122 恶化到 0.3375,联合空间控制后才降到 0.3103;因此证据更准确地支持“联合控制改善保真度与感知质量的折中”,而不是“两个模块分别都带来全指标提升”。表 1 与表 3 对完整模型 RealSR SSIM、MUSIQ 的末位数字略有不同,本笔记不混用这些列。

关键发现

  • 步数分析覆盖 \(N=1\) 到 \(4\):RealSR LPIPS 从 0.2818 变为 0.3138,MUSIQ 从图中约 67.62 升至约 70.28;增加调用次数改善无参考感知分数,却使有参考距离变差。
  • 原文表 4 在四步设置下比较全局噪声幅度:\(\beta=0\) 时 RealSR / DRealSR LPIPS 为 0.3284 / 0.3744,采用 \(\beta=0.005\) 时为 0.3138 / 0.3548。适量噪声优于完全无噪,但该四步结果不能冒充两步消融。
  • 原文表 5 的 RTX 4090、\(512\times512\) 单图延迟为一步 96.38 ms、两步 162.49 ms;ABC 只占两步中的 1.77 ms,即 1.09%。这是控制器开销低,不是第二次骨干推理免费。

亮点与洞察

  • 把“在哪里生成”和“何时生成”分成两个可监督控制量,使空间异质性与图像级退化程度各有对应机制。相较仅给噪声乘掩码,时间重参数化也改变了中间样本的插值位置。
  • 干净端点预测把直接恢复和迭代细化接在同一参数化下。训练包含零时间输入,少步推理又复用预测端点,因此无需为不同预算分别维护权重。
  • 消融显示单独加入控制量可能让指标向错误方向移动。可迁移的实验原则是同时报告模块交互、参考误差和无参考质量,而不是只展示最有利的感知分数。

局限与展望

  • 论文未单列系统性的失败案例或局限讨论。本文以下判断来自方法与实验边界,不冒充作者已验证的结论。
  • 潜空间残差是可用的困难度代理,却不是经过校准的真实不确定性;它可能混合纹理复杂度、编码误差与退化强度。均值归一化再截断还会压平高残差区域间的差异,可进一步检验其与实际恢复错误的相关性。
  • 训练依赖 LSDIR 加合成退化,RealLQ250 又只有无参考指标。对分布外退化、文字准确率以及多次随机采样的输出稳定性,仍需要更直接的评估。
  • 连续时间桥提供了理论解释,但推理使用预测端点的离散递推。正文没有给出这种替换后精确采样目标分布的保证,不能把桥端点约束等同于真实细节恢复保证。
  • 控制器超参数、EMA 设置与损失系数在当前缓存正文中披露不完整;核心组件表也没有重复实验方差。代码链接来自论文正文,此次未联网验证其可访问性或实现一致性。

相关工作与启发

  • 对比 SeeSR、DiffBIR、SUPIR:这些多步扩散恢复方法利用生成先验和条件引导;本文直接连接退化与干净分布,并以空间图限制局部随机性。步数少是明确优势,但不同系统的步数不能直接换算成同比例加速。
  • 对比 OSEDiff、HYPIR:一步路线强调直接映射的低延迟;AdaBridge-SR 同样保留一步入口,却用可选动态桥细化提供更高感知分数的工作点。表中结果不支持它在所有指标上同时领先。
  • 对比 ResShift、UPSR:前者也是退化到干净分布的输运路线;按本文讨论,UPSR 已用空间不确定性调制随机性,但时间安排固定。AdaBridge-SR 的区别是把输入相关时间控制与空间控制联合学习,而不是首次在恢复中使用局部随机性。
  • 可检验的延伸:在文字或结构精确性敏感的恢复中,可以增加针对这些区域的错误统计,测试控制图是否真的对应可靠结构;这是后续研究建议,不是本文已完成的实验。

评分

  • 新颖性:4/5。空间随机性与输入条件时间重参数化的联合设计清晰,但桥匹配和局部噪声控制已有先例。
  • 实验充分度:4/5。涵盖四个测试集、组件交互、步数、噪声幅度与延迟;仍缺采样方差及更直接的语义保真评估。
  • 写作质量:4/5。理论到实现主线明确,但不能从当前缓存完整恢复若干训练细节,少量表格末位数字也不一致。
  • 价值:4/5。同一模型提供低延迟和更高感知质量的可选模式,部署价值明确,但不是无代价的全面提升。