Stabilizing Real-World Visual Active Tracking with Action-Smooth Test-Time Adaptation¶

会议: ECCV 2026
论文: ECCV 原文
领域: 机器人/具身智能
关键词: 视觉主动跟踪、测试时自适应、强化学习、动作平滑正则化、具身智能

一句话总结¶

针对视觉主动跟踪在实物部署中面临的视觉域迁移和干扰物混淆问题，本文提出首个针对 VAT 的测试时自适应框架 VATA，通过 Critic 价值最大化筛选可信测试样本更新 BN 层，并引入动作平滑正则化约束突变控制指令，使实体无人机跟踪成功率从 20% 飙升至 80%。

研究背景与动机¶

视觉主动跟踪（Visual Active Tracking, VAT）要求具身智能体通过主动控制自身相机或平台位姿，在动态 3D 环境中连续稳定地伴随目标移动，是机器人导航、安防监控和无人机跟拍的核心基础。相比仅在静态视频上做被动边界框回归的被动跟踪，VAT 处于闭环感知与控制的交互回路中，对环境动态性要求极高。当前主流的强化学习（RL）端到端 VAT 方法将视觉感知与动作控制整合在一个网络内，具备极高的推理速度与轻量化优势，然而几乎所有模型都仅在 UnrealCV、Webots 或 Habitat 等仿真器中完成训练与评估，一旦直接迁移部署到物理真实世界，跟踪性能往往迅速崩溃。

这种仿真到真实（Sim-to-Real）性能雪崩的核心矛盾主要来自两个维度：一是严重的视觉域迁移（Visual Domain Shift），物理世界的真实纹理、光照剧变和传感器噪声与仿真环境存在巨大差距，使策略感知出现严重混淆；二是复杂的干扰物分布漂移（Target Distribution Shift），物理场景中普遍存在大量外观相似的人体或移动障碍物，而仿真场景的干扰分布过于单一。为了避免为每个全新真实场景繁琐标注真实数据的不可行开销，测试时自适应（Test-Time Adaptation, TTA）成为解决无监督域迁移的理想路径。然而，经典 TTA 方法（如 TENT、EATA、TARL）依赖模型预测输出的熵（Entropy）来评估置信度并执行熵最小化更新，而在真实 VAT 任务中，智能体在严重丢失目标时依然会表现出极高的过度自信（输出熵几乎不变），导致传统 TTA 引入海量噪声样本反向污染模型；与此同时，传统方法缺乏对连续运动物理规律的建模，在面对外观相似的干扰物时极易诱发控制突变与剧烈晃动。

本文的切入角度是重新审视具身连续控制的评价信标与物理运动学守恒。作者发现，RL 架构中的 Critic 价值评估在成功跟踪与目标丢失之间展现出极大的敏感区分度，而在物理世界中目标的运动具有惯性连续性与速度上限，最优跟踪策略的动作变化量必然存在数学上界。核心 idea：构建面向视觉主动跟踪的测试时自适应方法 VATA，利用判别力强的 Critic 价值最大化筛选高置信测试样本以更新批归一化（BN）层消除视觉漂移，并基于物理运动连续性引入动作平滑正则化约束异常突变动作，从而在无监督测试流中实现鲁棒的抗干扰与实物跟踪稳定。

方法详解¶

整体框架¶

VATA 在智能体执行在线测试交互的过程中运行。对于每个时间步接收到的真实相机 RGB 观测，当前 Actor 网络预测控制动作，Critic 网络评估状态或动作的预期价值。随后，系统结合 Critic 价值的阈值门控判断是否激活价值最大化损失，同时利用滑窗动作缓存计算当前旋转动作与历史运动趋势的偏离度，若超差则激活动作平滑惩罚。最终将两项无监督损失加权合成总目标，仅对网络中的批归一化（Batch Normalization）层仿射参数执行轻量在线梯度更新。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["实时观测图像 s_t"] --> B["Actor 策略网络 π_θ"]
    B --> C["输出控制动作 a_t"]
    A & C --> D["Critic 价值评估网络 Q_θc"]
    D --> E["Critic 价值最大化<br/>高价值测试样本筛选与损失 L_val"]
    C --> F["滑窗历史动作缓存 H_t"]
    F & C --> G["动作平滑正则化<br/>角速度突变检测与惩罚 L_smooth"]
    E & G --> H["总适应目标 L_total"]
    H --> I["在线梯度反传更新<br/>仅更新批归一化 (BN) 仿射参数"]
    I --> J["输出平滑控制指令至物理云台/机器人底盘"]

关键设计¶

1. Critic 价值最大化：替代传统预测熵的高判别力自适应信标 传统分类与决策 TTA 方法普遍基于模型预测熵最小化，假设高置信度样本对应低熵。然而实验统计揭示，VAT 策略在失去目标时依然输出极低熵，熵值在跟踪成功与失败之间的差异仅有 3.4% ~ 3.8%，导致熵最小化机制失效并盲目过拟合错误轨迹。相比之下，强化学习训练的 Critic 价值在目标丢失时会暴跌 66%（例如在 DAT 基准上从 9.12 跌至 3.10），具备卓越的判别能力。针对域外测试环境下价值评估整体偏低但成功样本依然呈现局部高值的特性，设计阈值 $Q_0$ 门控过滤可信样本，并执行价值最大化。对于连续控制任务，针对 Actor 输出动作最大化其动作价值： $$ \mathcal{L}{val}^{cont}(\theta) = - \mathbb{I}}(Q_t) \cdot \mathbb{E{s_t}\left[ Q(s_t, \pi\theta(s_t)) \right] $$ 而对于离散控制任务，则对状态价值执行无监督期望最大化： $$ \mathcal{L}{val}^{disc}(\theta) = - \mathbb{I}\left[ Q(s_t) \right] $$ 该设计仅利用可信交互片段回传梯度，从感知特征层面拉齐域外测试表征与仿真训练分布，消除光照与纹理漂移。}(Q_t) \cdot \mathbb{E}_{s_t

2. 动作平滑正则化：基于物理运动连续性约束干扰物突变 在现实场景中，相似外观的人体或物体（Distractor）常导致视觉感知产生瞬时混淆，使跟踪器朝干扰物急转。作者从物理运动学出发提出理论支撑（命题 1）：假定现实中目标的物理轨迹 $x_T(t)$ 连续可微且速率受物理上限约束 $\|\dot{x}_T(t)\| \le v_{max}$，在最优跟踪策略 $\pi^*$ 满足局部 Lipschitz 连续（常数 $L$）时，最优动作的时间导数满足 $|\dot{a}^*(t)| \le L \cdot v_{max}$。该结论证明最优控制动作的时间变化率存在严格上界，任何超出物理约束的剧烈控制突变均被界定为由于干扰误判导致的非理性动作。

针对干扰物主要诱发相机机头剧烈偏航的特性，算法维护长度为 $K$ 的旋转动作滑窗历史缓存 $H_t = \{r_{t-K}, \dots, r_{t-1}\}$，以滑窗均值 $\bar{r}_t = \frac{1}{K}\sum_{i=1}^K r_{t-i}$ 代表运动趋势惯性，并结合归一化因子 $\sigma$ 量化当前步旋转控制的突变量： $$ d_t = \frac{r_t - \bar{r}t}{\sigma} $$ 当突变幅度 $|d_t|$ 突破安全阈值 $\delta$ 时激活单侧截断的平滑惩罚： $$ \mathcal{L}(|d_t| - \delta) $$ 通过在测试时惩罚剧烈转向，阻止跟踪器被路过干扰物带偏，迫使其保持对原始运动目标的持续锁定。}(\theta) = \text{ReLU

3. 轻量化批归一化参数自适应与通用扩展 为了平衡在线实时性并避免破坏预训练阶段学到的复杂控制先验，整个自适应过程将总损失定义为： $$ \mathcal{L}{total} = \lambda_v \mathcal{L} $$ 在每个适应周期中，仅对网络内部卷积/线性层后挂载的批归一化（Batch Normalization）层缩放因子 } + \lambda_s \mathcal{L}_{smooth$\gamma$ 与偏置因子 $\beta$ 进行微调，冻结骨干网络与控制投影头。同时，该动作平滑约束具备强通用性，不仅能无缝作用于强化学习 Actor-Critic 架构，亦能直接推广到基于模仿学习（IL）与扩散规划的 VAT 框架（如 TrackVLA/Open-TrackVLA），通过对新规划多步航迹与前序规划残余航迹的欧氏位移做正则化，修正扩散轨迹生成异常。

实验关键数据¶

主实验¶

论文在 UnrealCV、DAT 和 EVT-Bench 仿真基准以及实物 DJI Tello 无人机平台上，全面对比了原生基线（EVT / GC-VAT）及经典 TTA 方案（TENT, EATA, COME, TARL）。

UnrealCV 包含干扰物场景对比（源自原文 Table 1）

方法 (Method)	Parking Lot (2D) SR ↑	UrbanCity (4D) SR ↑	ComplexRoom (4D) SR ↑	平均成功率 (Average SR) ↑	平均累积回报 (Average AR) ↑
EVT (基线)	0.64	0.86	0.86	0.79	292
TENT	0.48	0.76	0.74	0.66	248
EATA	0.66	0.88	0.86	0.80	316
COME	0.68	0.89	0.88	0.82	321
TARL (前次最优)	0.70	0.88	0.88	0.82	320
VATA (本文)	0.74	0.90	0.92	0.85	336

EVT-Bench 挑战性任务基准与实物四旋翼无人机对比（源自原文 Table 3 & Table 7）

评估平台 / 任务	评测指标 (Metric)	原生基线 (EVT)	TARL (SOTA TTA)	VATA (本文)	相对提升幅度
EVT-Bench (STT 单目标)	成功率 SR (%) ↑	24.3	26.7	30.5	相对 TARL +14.2%
EVT-Bench (DT 干扰跟踪)	成功率 SR (%) ↑	3.4	6.8	11.2	相对 TARL +64.7%
EVT-Bench (AT 混淆跟踪)	成功率 SR (%) ↑	17.6	20.6	25.4	相对 TARL +23.3%
EVT-Bench 全任务平均	平均成功率 SR (%) ↑	15.1	18.0	22.4	相对 TARL +24.4%
真实 DJI Tello 无人机 (10 场景)	跟踪成功率 TSR ↑	0.20 (2/10)	0.30 (3/10)	0.80 (8/10)	相对基线提升 4×

消融实验¶

论文在 UnrealCV 模拟器下对两大核心模块进行了系统消融（源自原文 Table 4 与 Table 6）。

配置 (Version)	Parking Lot (2D) SR ↑	UrbanCity (4D) SR ↑	ComplexRoom (4D) SR ↑	平均成功率 (Average SR) ↑	平均累积回报 (Average AR) ↑	说明
完整模型 (Ours)	0.74	0.90	0.92	0.85	336	完整结合价值最大化与动作平滑
去掉价值最大化 (w/o $\mathcal{L}_{val}$)	0.66	0.87	0.87	0.80	299	成功率骤降 5.9%，视觉域适应失效
去掉平滑正则化 (w/o $\mathcal{L}_{smooth}$)	0.70	0.88	0.89	0.82	323	成功率下降 3.5%，受干扰物影响显著
原始基线 (EVT)	0.64	0.86	0.86	0.79	292	未执行测试时自适应

此外，在模仿学习框架 Open-TrackVLA 上的扩展实验表明，施加该动作平滑约束后，在 EVT-Bench DT 任务中的成功率 SR 从 11.6% 大幅跃升至 16.9%（相对提升达 45.7%），证明该正则项对不同范式具备通用适应性。

关键发现¶

Critic 价值在失真与失败场景中具备天然自洽性：消融数据显示剔除 $\mathcal{L}_{val}$ 后性能跌幅最大（SR 从 0.85 跌至 0.80），证明了在具身控制策略中，价值函数对测试集样本置信度的评估远比分类层熵值可信，直接解决了传统 TTA 误将失真样本视作确定样本进行灾难性微调的痛点。
干扰物是实物部署的致命瓶颈：在 EVT-Bench DT 任务中，原生 EVT 成功率仅有 3.4%，而引入动作平滑正则化后直升至 11.2%；在实物部署中，无平滑约束的方案几乎每次遇到路过行人都会错误转向，而 VATA 实现了 80% 的实物连续跟踪闭环。
超参数平稳区间宽阔：敏感性分析表明，当 $Q_0 \in [5, 10, 20]$ 且 $\delta \in [0.1, 0.2, 0.3]$ 变化时，累积回报波动率低于 3.3%，算法对超参调优鲁棒。

亮点与洞察¶

颠覆了以预测熵为主导的具身 TTA 思维定势：指出了强化学习端到端策略在目标丢失时依然输出高置信度（低熵）动作的假象，创新性地以 Critic 价值作为自监督检验信标，为具身智能闭环系统的测试时自适应指明了新指标路线。
严密融合物理世界动力学先验与在线正则化：利用连续体运动学速度上限推导控制量导数上限，以简洁高效的滑窗 ReLU 惩罚项抑制机头剧烈抽搐，无需重构或增设繁琐的检测过滤网络。
高度轻量且易于工业级部署：仅微调 BN/LN 仿射参数，在搭载 RTX 3090 的地面站上配合 Wi-Fi 传输达到 30 FPS 的闭环控制速率，实现了真正的无监督 Sim-to-Real 即插即用部署。

局限与展望¶

长期遮挡下的轨迹恢复能力缺失：作者在实物测试（第 4 组室外测试）中坦承，当被跟踪目标经历长时段严重遮挡后，纯无监督 TTA 缺乏基于长程时空记忆的历史航迹预测机制，智能体容易彻底失去目标。
仅在旋转轴施加平滑，未建模复杂加减速耦合：目前的动作平滑仅显式约束了偏航角速度突变，若目标在 3D 纵深方向急剧变速或骤停，线速度控制仍可能出现欠平滑现象。
未来方向：探索在无外部监督的前提下，引入轻量时空拓扑记忆或生成式扩散回放机制，以处理长程遮挡下的目标主动重定位。

评分¶

新颖性: ⭐⭐⭐⭐☆ (首次在 VAT 领域引入 TTA 范式，以 Critic 代替熵并基于物理连续性构建平滑正则化)
实验充分度: ⭐⭐⭐⭐⭐ (覆盖 3 个仿真基准、消融敏感度完备，包含真机无人机 10 组实景部署)
写作质量: ⭐⭐⭐⭐⭐ (动机逻辑环环相扣，从经验观察到数学命题推导完整连贯)
价值: ⭐⭐⭐⭐⭐ (为具身端到端控制的 Sim-to-Real 落地提供了即插即用、开箱即用的工业参考方案)