跳转至

SOAR: Regression-based LiDAR Relocalization for UAVs

会议: NeurIPS 2026
arXiv: 2602.13267
OpenReview: https://openreview.net/forum?id=cdxdVJjpkZ
代码: 待开源(论文承诺开源)
领域: 自动驾驶
关键词: 无人机重定位、LiDAR定位、场景坐标回归、局部滑动窗口注意力、无Softmax注意力

一句话总结

针对无人机在大偏航角旋转、高度剧烈变化及不规则飞行轨迹下现有车载LiDAR重定位算法失效的难题,SOAR提出了基于坐标无关点云序列化与保局部性滑动窗口注意力的场景坐标回归框架,摆脱显式地图存储并在真实无人机基准上实现米级定位精度。

研究背景与动机

在低空经济快速发展的背景下,无人机(UAV)广泛应用于地形探测、城市巡检与应急救援等任务。在城市峡谷或复杂空域等GNSS拒止环境中,无人机极易因卫星信号遮挡或多径效应导致定位失效。LiDAR凭借对光照变化和恶劣天气的高鲁棒性,成为实现精确位姿估计的关键传感器。然而,传统的LiDAR里程计与SLAM方案在长时导航中不可避免地受到累积漂移的影响;而依赖预建三维点云地图的显式匹配与检索方法,则面临巨大的高精度三维地图存储开销与高昂的机载通信带宽压力,严重受限于无人机有限的算力与载荷资源。

隐式无地图(Map-free)场景坐标回归(SCR)方法通过神经网络隐式记忆场景先验,直接从单帧点云预测各点的世界坐标并结合RANSAC解算6-DoF位姿,在自动驾驶车辆场景中展现出优异性能。然而,将车载SCR方法直接迁移至无人机平台时,性能会出现灾难性骤降。这一失败的核心矛盾在于:无人机飞行作业涉及任意的六自由度位姿变化(特别是俯仰和全范围偏航角偏转)、多变的飞行轨迹与高度差导致的时空重叠率极低(通常处于0-40%的极低重叠区间),以及空中稀疏点云分布对局部几何判别力的严苛要求。现有的车载方法高度依赖地平面先验与固定的行进方向,在面对无人机的自由旋转与高度跳变时,其绝对空间坐标特征提取机制会发生严重畸变与表征崩塌。

本文的切入角度是:解耦全局绝对几何变换与局部相对几何结构,使特征初始化与局部注意力机制对全局偏航角旋转及垂直高度平移具备内在不变性,同时通过受控的局部序列建模保留高辨识度的局部几何线索。核心 idea:通过坐标无关点云序列化剔除对全局XYZ坐标的敏感性,结合基于相对距离与俯仰角的保局部性滑动窗口注意力以及无Softmax设计,构建对偏航旋转与飞行高度稳健的无人机场景坐标回归重定位框架。

方法详解

整体框架

SOAR接收单帧未经配准的机载原始点云 \(\mathbf{P}_t \in \mathbb{R}^{N \times 3}\) 作为输入,输出无人机在全局坐标系下的6-DoF位姿变换矩阵 \(\mathbf{T}^* \in \mathrm{SE}(3)\)。整个流程主要由两部分协同完成:首先通过坐标无关点云序列化(CIPCS)消除对绝对空间坐标的直接依赖并构建空间填充曲线序列,随后送入多级保局部性滑动窗口注意力(LoSWAtt)模块提取兼具局部几何判别力与全局偏航/高度鲁棒性的隐式表征,最后通过线性回归头预测点的三维世界场景坐标并经由RANSAC求解最优刚体变换。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入查询点云 Pt"] --> B["坐标无关点云序列化 (CIPCS)<br/>常数特征替代XYZ + 希尔伯特/莫顿曲线排序"]
    B --> C["保局部性滑动窗口注意力 (LoSWAtt)<br/>局部窗口 (2k+1) 线性复杂度"]
    C --> D["无Softmax首层注意力设计<br/>直接加权残差避免同质输入注意力崩塌"]
    D --> E["偏航与高度不变相对位置编码<br/>投影距离 r 与俯仰角 theta 偏置"]
    E --> F["场景坐标多层感知机回归头<br/>预测稠密世界坐标 Y'"]
    F --> G["RANSAC 位姿估计<br/>解算最优 6-DoF 全局位姿 T*"]

关键设计

1. 坐标无关点云序列化(CIPCS):消除全局变换漂移对特征初始化的干扰
在无人机复杂自由的飞行轨迹中,机载坐标系下相同几何物体的绝对XYZ数值会随飞机的俯仰、偏航及高度发生剧烈跳变。直接将原始坐标送入多层感知机(MLP)会导致网络难以泛化至未见过的观测航向。为此,CIPCS彻底剥离点云的原始绝对XYZ坐标,将输入特征统一初始化为恒定常数 \(C=1\)。通过共享的多层感知机将常数升维后,进行体素化降采样(默认体素大小为0.3m),并将体素中心按具有优异空间局部保持特性的希尔伯特(Hilbert)与莫顿(Morton)空间填充曲线进行序列化展开。这种设计将特征表征学习的重心从易受扰动的绝对空间坐标转移到点云固有的结构拓扑关系上,从输入源头消除了绝对偏航与高程偏移对特征初始化的直接冲击。

2. 保局部性滑动窗口注意力(LoSWAtt):线性复杂度下的局部不变几何表征建模
无人机单帧LiDAR扫描通常包含海量点云(降采样后仍常超万点),全局自注意力具有平方复杂度 \(\mathcal{O}(n^2 C)\),在资源受限的无人机机载端无法满足实时推理要求。LoSWAtt利用空间填充曲线将三维空间邻域高效投影到一维序列的连续性,定义大小为 \(2k+1\) 的局部滑动窗口。对索引为 \(i\) 的中心点,其局部输入特征集合定义为: $$ \mathbf{F}i^w = {\mathbf{f}}, \dots, \mathbf{fi, \dots, \mathbf{f}} $$ 通过限制注意力计算仅在窗口内发生,将计算复杂度从 \(\mathcal{O}(n^2 C)\) 大幅降至严格线性的 \(\mathcal{O}((2k+1)n C)\)。同时,局部窗口有效约束了结构关联范围,使得特征提取紧密聚焦于局部刚性结构,极大减轻了无人机非刚性航线视角扭曲带来的表征畸变。

3. 偏航与高度不变相对位置编码:利用相对距离与仰角注入几何辨识度
为了在注意力计算中补充被常数特征抹去的几何空间鉴别力,同时保持对机体朝向的不敏感性,LoSWAtt引入了局部几何元(Local Geometric Token)作为位置偏置。对于窗口内的任意点 \(j \in s_i\),计算其相对于窗口中心点 \(i\) 的水平投影欧氏距离 \(r_j\) 与俯仰角 \(\theta_j\): $$ r_j = |(\mathbf{p}_j - \mathbf{p}i)}|_2, \quad \theta_j = \arctan\left(\frac{z_j - z_i}{|(\mathbf{p}_j - \mathbf{pi)\right) $$ 由于 }|_2\(r_j\) 仅依赖两点间的水平相对位移,天然对三维平移和偏航角具有绝对不变性;而 \(\theta_j\) 描述的是两点相对于水平面的仰角差,完全独立于无人机在航向角(Yaw)上的任意偏转,且仅与垂直相对高度差有关。将该几何对经过小型MLP映射为位置偏置键矩阵 \(\mathbf{K}_2\),与中心点投射的查询向量 \(\mathbf{Q}_2\) 相乘后作为附加偏置项注入注意力打分中,赋予了编码器卓越的偏航与高度鲁棒性。

4. 无Softmax首层注意力设计:避免同质化输入导致的注意力过平滑与特征崩塌
常数初始化虽然消除了坐标敏感性,但带来了一个隐蔽而致命的问题:经过共享MLP投影后,所有点的初始特征内容矩阵高度同质化(\(\operatorname{Var}(\mathbf{Q}_i) \to 0\)),导致内容注意力得分 \(\mathbf{Q}\mathbf{K}^\top / \sqrt{D}\) 趋于常数。如果在首层使用标准Softmax归一化,由于输入差值微弱,Softmax会将权重强制压缩为均匀分布 \(A_{ij} \approx \frac{1}{|s_i|}\),导致输出特征退化为邻域平均池化 \(\mathbf{f}_i' \approx \operatorname{mean}(\mathbf{V})\),造成严重的特征过平滑与表征崩塌。SOAR巧妙地在第一层LoSWAtt中移除Softmax归一化: $$ \mathbf{f}_i' = \left(\frac{\mathbf{Q}\mathbf{K}^\top}{\sqrt{D}} + \frac{\mathbf{Q}_2 \mathbf{K}_2^\top}{\sqrt{D_2}}\right) \mathbf{V} $$ 取消归一化后,包含相对几何变化的几何位置项 \(\mathbf{Q}_2 \mathbf{K}_2^\top\) 以无损的线性加和形式直接作用于特征聚合,打破了同质初始特征的对称性,从而在不依赖绝对坐标的前提下,成功激发出具有高度局部几何区分度的特征表征。后续各层特征具备多样性后再恢复使用标准Softmax进行稳定建模。

损失函数 / 训练策略

SOAR模型采用端到端方式训练。场景坐标回归网络使用多层感知机输出预测的世界坐标 \(\mathbf{Y}' = \{\mathbf{y}_i'\}_{i=1}^N\),训练目标为最小化预测坐标与真实三维全局坐标 \(\mathbf{y}_i^*\) 之间的平均 \(\mathcal{L}_1\) 距离: $$ \mathcal{L}{L1} = \frac{1}{N} \sum_i^*|_1 $$ 网络采用 Adam 优化器,学习率设为 0.002,批大小为 120。在测试阶段,通过预测的三维对应关系集合 }^N |\mathbf{y}_i' - \mathbf{y\((\mathbf{P}_t, \mathbf{Y}')\),利用置信度为 0.999、内点阈值为 0.6m 的 RANSAC 算法求解最小二乘能量函数,迭代计算最终的 6-DoF 全局位姿 \(\mathbf{T}^*\)。

实验关键数据

主实验

论文在现有的无人机基准 UAVScenes 以及团队自建的极具挑战性的大规模多轨迹无人机数据集 UAVLoc 上进行了全面评测。在 UAVScenes 上,阈值设为 5m/5° 成功率;在 UAVLoc 上,基线方法因高度变化与极低轨迹重叠率普遍出现严重漂移,而 SOAR 在各个复杂场景中均刷新了性能纪录。

| 数据集 / 序列 | 指标 (Thr.=5m, 5°) | SOAR (本文) | RALoc (ICCV'25) | SGLoc+RA (CVPR'23) | 提升/领先幅度 | |---|---|---|---|---| | UAVScenes (HKairport_3) | 成功率 (SR) / 平均误差 (Mean) | 96.26% / 1.06m, 1.46° | 88.09% / 1.97m, 2.24° | 85.24% / 3.69m, 2.30° | +8.17% / -0.91m | | UAVScenes (HKisland_3) | 成功率 (SR) / 平均误差 (Mean) | 92.91% / 1.03m, 1.85° | 90.54% / 1.81m, 2.24° | 29.19% / 6.85m, 3.16° | +2.37% / -0.78m | | UAVScenes (AMtown_3) | 成功率 (SR) / 平均误差 (Mean) | 91.57% / 1.34m, 2.68° | 63.78% / 11.93m, 7.11° | 80.88% / 9.43m, 5.24° | +10.69% / -8.09m | | UAVScenes (AMvalley_3) | 成功率 (SR) / 平均误差 (Mean) | 88.82% / 2.14m, 2.15° | 20.31% / 13.32m, 5.37° | 79.23% / 9.60m, 7.75° | +9.59% / -7.46m | | UAVLoc (Laboratory_3) | 成功率 (SR) / 平均误差 (Mean) | 95.98% / 1.34m, 1.13° | 59.90% / 9.68m, 7.33° | 47.59% / 13.66m, 11.54° | +36.08% / -8.34m | | UAVLoc (Laboratory_4) | 成功率 (SR) / 平均误差 (Mean) | 87.34% / 2.18m, 1.89° | 51.48% / 10.78m, 9.67° | 33.33% / 11.46m, 12.30° | +35.86% / -8.60m | | UAVLoc (Campus_3) | 成功率 (SR) / 平均误差 (Mean) | 90.48% / 2.48m, 2.75° | 55.37% / 12.83m, 11.87° | 15.16% / 30.23m, 28.95° | +35.11% / -10.35m | | UAVLoc (Town_3) | 成功率 (SR) / 平均误差 (Mean) | 96.01% / 1.52m, 1.48° | 58.98% / 9.52m, 3.00° | 24.77% / 15.52m, 9.98° | +37.03% / -8.00m | | UAVLoc (Road_3) | 成功率 (SR) / 平均误差 (Mean) | 89.97% / 3.80m, 2.92° | 18.77% / 26.03m, 15.14° | 29.16% / 24.20m, 22.70° | +60.81% / -20.40m | | UAVLoc 全局平均 (Average) | 成功率 (SR) / 平均误差 (Mean) | 91.96% / 2.26m, 2.03° | 48.90% / 13.77m, 9.40° | 26.00% / 19.01m, 17.09° | +43.06% / -11.51m |

消融实验

论文在 UAVScenes 的 AMvalley 以及 UAVLoc 的 Laboratory_3 与 Laboratory_4 序列上对各核心模块进行了系统的消融分析,度量指标为平移与旋转平均误差(Mean Error [m, °])。

配置 AMvalley 平均误差 Lab_3 平均误差 Lab_4 平均误差 说明
Full Method (完整模型) 2.14m, 2.15° 1.34m, 1.13° 2.18m, 1.89° 完整 SOAR 模型方案
(1) 将常数特征替换回绝对 XYZ 5.31m, 4.25° 26.06m, 19.93° 16.28m, 12.51° 丧失全局航向和高度平移不变性,误差急剧扩大
(2) 首层保留标准 Softmax 212.13m, 105.11° 156.21m, 117.44° 158.32m, 108.09° 导致严重的注意力过平滑与特征表征崩溃,模型完全失效
(3) 将 LoSWAtt 替换为 PTv3 98.75m, 65.32° 138.19m, 64.28° 164.21m, 71.25° 通用点云骨干难以捕获针对空中大位姿变化的局部不变几何
(4) 去除 LoSWAtt 位置编码 196.58m, 108.72° 165.92m, 116.57° 168.76m, 123.99° 缺乏相对距离和仰角指导,无法解耦几何特征辨识度

关键发现

  • 无Softmax首层设计是避免特征崩塌的核心支柱:消融表明,如果首层保留 Softmax,平均定位误差会恶化至 150 米以上,这强力印证了理论分析——在常数初始特征下,Softmax 导致的注意力权重均匀化会抹杀一切空间线索,造成灾难性的过平滑。
  • 空间重叠率分布与定位鲁棒性强相关:在重叠率仅为 0–40% 的极端航线偏差区域,现有车载重定位算法成功率几乎归零(误差突破 30 米),而 SOAR 依然能将中位数定位误差控制在 1 米左右,展现出对非受控不规则航线的极高适应能力。
  • 模型体量压缩比达到两个数量级:相比显式维护几 GB 的大规模稠密点云地图,SOAR 将整个场景的全局几何隐式压缩为仅 35.7 MB 的神经网络权重,单帧点云推理仅耗时约 18–26ms,全面满足低空边缘嵌入式平台的计算与存储限制。

亮点与洞察

  • 从机制上解耦绝对位姿扰动与局部结构刚性:通过常数特征初始化剥离坐标敏感性,并仅由相对距离 \(r\) 与仰角 \(\theta\) 构筑相对几何位置编码,以极其优雅的形式达成了对偏航角与垂直高度平移的内在不变性。
  • 无Softmax注意力破解均匀初始特征的表达陷阱:巧妙洞察到自注意力在均一输入下易发生概率退化的数学本质,用线性无Softmax首层保留了几何偏置的未归一化多样性,为无坐标点云特征初始化提供了极具价值的设计示范。
  • 真实无人机双向基准的构建填补学术空白:自建的 UAVLoc 包含了4个真实大型场景和13条具有大幅度升降高、偏航旋转的不规则航线,有效弥补了过往模拟器合成数据或单向刚性航线评测的失真问题。

局限与展望

  • 对全 6-DoF 大幅度翻滚与俯仰(Roll/Pitch)的理论等变性尚不完备:当前局部几何元主要针对水平偏航旋转与高程平移设计,当无人机经历剧烈机动出现大幅度俯仰或滚转机动时,仰角计算会受到投影失真影响。未来需探索全 SO(3) 空间下的连续等变表征。
  • 超低空间重叠率极端工况下的几何退化风险:当测试航线偏离训练覆盖范围导致重叠率低于 20% 时,地物竖直立面严重遮挡,几何约束不足仍会导致误匹配。引入长程全局上下文聚合或外部轻量拓扑先验(如开源道路拓扑)将是可行的强化方向。
  • 场景特异性训练带来的跨场景泛化限制:模型参数当前需针对每个特定场景独立训练。探索基于海量空中点云的多场景自监督几何预训练,有望降低单场景全量微调对密集标注的依赖。

相关工作与启发

  • vs SGLoc (CVPR'23) & RALoc (ICCV'25):SGLoc 奠定了 LiDAR 场景坐标回归的基础,RALoc 则针对地面车载车辆优化了水平旋转感知;但它们均建立在小范围偏航与恒定高程假设之上,在无人机大角度偏航与高度剧烈变化时陷入失效。SOAR 针对空中飞行工况提出 CIPCS 与无 Softmax LoSWAtt,在低空场景成功率相比 RALoc 实现了超过 40% 的跨越式提升。
  • vs PIN-SLAM (TRO'24) & KISS-ICP (RAL'23):基于里程计与隐式场的 SLAM 方法在大尺度高动态飞行中面临严重的累积漂移,在高速场景甚至完全跟踪丢失;SOAR 专注于单帧绝对全局重定位,彻底摆脱了时间连续性依赖与累积误差困扰。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次系统性解决无人机大角度偏航与高度剧烈变化下的无地图场景坐标回归难题,无Softmax设计立意独到。
  • 实验充分度: ⭐⭐⭐⭐⭐ 涵盖现有公开基准与自建多场景、多高度真实无人机数据集,消融全面,度量细致。
  • 写作质量: ⭐⭐⭐⭐⭐ 动机阐述清晰,数学推导完备,问题链条论证严密。
  • 价值: ⭐⭐⭐⭐⭐ 为低空经济中无人机在 GNSS 拒止环境下的无地图自主导航与轻量化机载部署提供了高价值的技术路径。