🎞️ ECCV2024 论文汇总¶
868篇ECCV2024论文解读,涵盖图像生成(119篇)、人体理解(70篇)、重建与渲染(61篇)、自动驾驶(61篇)、语义分割(53篇)、视频理解(51篇)、多模态 VLM(46篇)、图像恢复(33篇)等 46个方向。每篇含一句话总结、核心思想、方法详解、实验结果与局限性分析,5分钟读懂一篇论文核心思想。
💡 LLM Reasoning (1)¶
- Controllable Navigation Instruction Generation with Chain of Thought Prompting
-
提出 C-Instructor,利用 LLM 的思维链提示实现风格和内容可控的导航指令生成,通过 CoTL(带地标的思维链)、STMT(空间拓扑建模)和 SMT(混合风格训练)三大机制,在四个室内外导航数据集上全面超越已有方法。
🦾 LLM Agent (3)¶
- VideoAgent: A Memory-augmented Multimodal Agent for Video Understanding
-
提出 VideoAgent,一个记忆增强的多模态 Agent,通过构建结构化记忆(temporal memory 存储事件描述 + object memory 存储物体跟踪状态)并利用 4 个工具与记忆交互,零样本完成长视频问答任务,在 NExT-QA 上平均 +6.6%、EgoSchema 上 +26.0%,接近 Gemini 1.5 Pro 的性能。
- Agent3D-Zero: An Agent for Zero-shot 3D Understanding
-
Agent3D-Zero 提出一个基于 VLM 的零样本 3D 场景理解 Agent 框架,通过鸟瞰图上的 Set-of-Line 视觉提示引导 VLM 主动选择观察视角,并综合多视角图像进行 3D 推理,在 ScanQA 等任务上超越了需要微调的 3D-LLM 方法。
- HYDRA: A Hyper Agent for Dynamic Compositional Visual Reasoning
-
(注:基于摘要的简要笔记)提出 HYDRA,一种多阶段动态组合式视觉推理框架,通过规划器(Planner)、强化学习认知控制器(RL Agent)和推理器(Reasoner)三模块协作,实现可靠且渐进式的视觉推理,在 RefCOCO/RefCOCO+、OK-VQA、GQA 等多个数据集上取得 SOTA。
🔒 安全 (19)¶
- CLIP-Guided Generative Networks for Transferable Targeted Adversarial Attacks
-
提出 CGNC,利用 CLIP 文本编码器为条件生成网络注入目标类别语义信息,结合交叉注意力模块和 masked fine-tuning,大幅提升多目标/单目标定向对抗攻击的黑盒迁移成功率。
- One-stage Prompt-based Continual Learning
-
提出 OS-Prompt 框架,通过直接使用 ViT 中间层 token embedding 作为 prompt query(而非额外的 query ViT 前向传播),将 Prompt-based Continual Learning 的计算成本降低约 50%,并通过 Query-Pool Regularization (QR) loss 补偿表征能力损失,在 CIFAR-100、ImageNet-R、DomainNet 上超越 CodaPrompt 约 1.4%。
- Towards Multi-modal Transformers in Federated Learning
-
提出 FedCola 框架,通过互补本地训练和协作聚合两个策略,在联邦学习中实现多模态 Transformer 的跨模态知识迁移,无需公共数据即可弥合单模态与多模态客户端之间的差距。
- MAGR: Manifold-Aligned Graph Regularization for Continual Action Quality Assessment
-
提出 MAGR 方法,通过流形对齐投影器和 Intra-Inter-Joint 图正则化器,解决持续动作质量评估(CAQA)中特征回放导致的旧特征与当前特征流形不对齐问题,在四个数据集上显著超越现有基线。
- Noise-Assisted Prompt Learning for Image Forgery Detection and Localization
-
本文提出 CLIP-IFDL,一种基于 CLIP 的图像篡改检测与定位模型,通过实例感知的双流提示学习和伪造增强噪声适配器来弥补 CLIP 在篡改检测领域的提示缺失和伪造感知不足问题,将 CLIP 的开放世界泛化能力迁移到篡改检测任务中。
- Preventing Catastrophic Overfitting in Fast Adversarial Training: A Bi-level Optimization Perspective
-
从双层优化视角分析快速对抗训练中灾难性过拟合的成因,提出 FGSM-PCO 方法,通过自适应融合历史与当前对抗样本并配合定制正则化损失,有效防止并纠正内层优化崩溃。
- Bi-TTA: Bidirectional Test-Time Adapter for Remote Physiological Measurement
-
提出 Bi-TTA 框架,首次将 Test-Time Adaptation 引入远程光电容积脉搏波 (rPPG) 任务,通过时空一致性自监督先验和前瞻-回溯双向适应策略,在推理时仅用无标注单实例数据即可完成模型域适应。
- Fisher Calibration for Backdoor-Robust Heterogeneous Federated Learning
-
本文提出Self-Driven Fisher Calibration(SDFC),利用Fisher信息度量参数对不同分布的重要程度差异,在异质联邦学习场景中有效区分恶意后门客户端并进行参数校准,突破了现有防御方法依赖数据同质性和恶意节点少数假设的局限。
- Any Target Can Be Offense: Adversarial Example Generation via Generalized Latent Infection
-
提出 GAKer,首个可泛化到未知目标类别的定向对抗攻击生成器,通过在 UNet 中间层注入目标特征(latent infection)+ 余弦距离损失替代交叉熵实现类别无关训练,在未知类上的攻击成功率比 HGN 高 14.13%。
- SkyMask: Attack-Agnostic Robust Federated Learning with Fine-Grained Learnable Masks
-
提出 SkyMask,利用参数级可学习二值掩码在服务器端检测恶意客户端模型更新,实现攻击无关的鲁棒联邦学习,在恶意客户端占比高达 80% 时仍能有效防御。
👻 幻觉检测 (2)¶
- BEAF: Observing BEfore-AFter Changes to Evaluate Hallucination in Vision-Language Models
-
BEAF提出"前-后对比"的幻觉评估范式:通过图像编辑移除物体后观察VLM回答的变化,引入TU/IG/SB/ID四个变化感知指标,揭示了传统文本轴评估无法发现的幻觉行为。
- LiDAR-Event Stereo Fusion with Hallucinations
-
提出将LiDAR稀疏深度点与事件立体相机融合的首个框架,通过在事件堆叠表示(VSH)或原始事件流(BTH)中"幻觉"(插入虚构事件)来弥补事件相机在无运动/无纹理区域的信息缺失,大幅提升事件立体匹配精度。
📊 LLM 评测 (19)¶
- Spherical Linear Interpolation and Text-Anchoring for Zero-shot Composed Image Retrieval
-
提出 Slerp-based ZS-CIR 方法,通过球面线性插值(Slerp)直接融合 VLP 模型的图像和文本嵌入构造组合查询表示,配合 Text-Anchored-Tuning (TAT) 用 LoRA 微调图像编码器缩小模态间隙,在 CIRR/CIRCO/FashionIQ 上达到 SOTA。
- OGNI-DC: Robust Depth Completion with Optimization-Guided Neural Iterations
-
提出 OGNI-DC,通过"优化引导的神经迭代"(OGNI)框架,结合 ConvGRU 迭代精炼深度梯度场和可微深度积分器(DDI)来实现深度补全,同时达到 SOTA 精度和强泛化能力。
- PetFace: A Large-Scale Dataset and Benchmark for Animal Identification
-
构建了包含13个动物科、319个品种、257,484个个体(超100万张图像)的大规模动物面部识别数据集PetFace,并建立了已见个体重识别和未见个体验证两套基准测试,为动物非侵入式自动识别提供基础设施。
- SIGMA: Sinkhorn-Guided Masked Video Modeling
-
本文提出 SIGMA,通过引入投影网络将 masked video modeling 的重建目标从像素级升级为可学习的深层特征聚类分配,利用 Sinkhorn 算法的最优传输实施高熵正则化避免坍缩,在 10 个数据集 3 个 benchmark 上全面超越 VideoMAE 等 SOTA 方法。
- ColorMNet: A Memory-based Deep Spatial-Temporal Feature Propagation Network for Video Colorization
-
提出 ColorMNet,一种基于记忆机制的时空特征传播网络,通过预训练大视觉模型引导的特征提取(PVGFE)、基于记忆的特征传播(MFP)和局部注意力(LA)三个模块,在显著降低 GPU 显存消耗(仅需 1.9G)的同时实现了优于 SOTA 的视频上色效果。
- Distribution Alignment for Fully Test-Time Adaptation with Dynamic Online Data Streams
-
提出分布对齐(DA)损失将测试时特征分布拉回源域分布,配合域偏移检测机制,在非 i.i.d. 动态数据流和连续域偏移场景下大幅超越现有 TTA 方法。
- Gradient-Regularized Out-of-Distribution Detection
-
提出 GReg/GReg+,通过正则化 OOD 评分函数的输入梯度范数来学习评分流形的局部平滑性,并结合基于能量评分的聚类采样策略选取高信息量辅助样本,在 CIFAR 和 ImageNet OOD 检测基准上取得 SOTA。
- Eliminating Warping Shakes for Unsupervised Online Video Stitching
-
定义了视频拼接中的"warping shake"新问题(图像拼接扩展到视频时非重叠区域的时域抖动),提出StabStitch首个无监督在线视频拼接框架,通过拼接轨迹生成与平滑同时实现视频拼接和稳定,达到实时28.2ms/帧。
- Learn from the Learnt: Source-Free Active Domain Adaptation via Contrastive Sampling and Visual Persistence
-
提出 LFTL(Learn from the Learnt)框架,通过对比主动采样(CAS)和视觉持久性引导适应(VPA)两个核心模块,在无源数据、极少量目标标注(≤5%)的条件下实现高效域适应,在 VisDA-C 上仅用 1% 标注即达到 87.4% 准确率。
- EvSign: Sign Language Recognition and Translation with Streaming Events
-
首次构建面向连续手语识别(CSLR)和手语翻译(SLT)任务的事件相机基准数据集 EvSign,并提出基于稀疏Transformer的高效框架,在仅0.34% FLOPs和44.2%参数量下达到与SOTA RGB方法可比或更优的性能。
📚 预训练 (8)¶
- Prompting Language-Informed Distribution for Compositional Zero-Shot Learning
-
本文提出 PLID 方法,利用 LLM 生成的句子级类别描述构建语言知识驱动的高斯分布,配合视觉-语言原语分解和随机 logit 融合,在组合零样本学习(CZSL)任务上取得 SOTA。
- DragAPart: Learning a Part-Level Motion Prior for Articulated Objects
-
DragAPart 提出了一种以拖拽为交互接口的图像生成器,能够响应部件级别的交互(如开关抽屉/门),而非仅仅移动整个物体。通过新的合成数据集 Drag-a-Move、多分辨率拖拽编码和域随机化策略,模型在仅用合成数据训练的情况下能良好泛化到真实图像和未见类别。
- Plan, Posture and Go: Towards Open-Vocabulary Text-to-Motion Generation
-
本文提出 PRO-Motion 分治框架,将文本到动作生成分解为三个阶段:LLM 驱动的动作规划(Plan)、基于脚本的姿态扩散生成(Posture)、以及全身平移旋转估计(Go),通过降低各阶段的复杂度实现了开放词汇的高质量动作生成。
- I Can't Believe It's Not Scene Flow!
-
揭示现有场景流方法在行人等小目标上的灾难性失败被现有评估指标所掩盖,提出类别感知且速度归一化的Bucket Normalized EPE评估协议,以及一个简单但SOTA的TrackFlow基线(检测器+跟踪器生成场景流),在行人运动描述上实现1.5倍提升。
- Scaling Backwards: Minimal Synthetic Pre-training?
-
提出 1p-frac——仅用单个分形图像的微小扰动即可实现与 ImageNet-1k 级别可比的预训练效果,挑战了"预训练需要大规模数据集"的常规认知,揭示预训练本质可能更接近权重初始化而非视觉概念学习。
- Cross-Domain Learning for Video Anomaly Detection with Limited Supervision
-
提出弱监督跨域学习(CDL)框架,通过不确定性驱动的伪标签机制将无标注外部视频整合到训练中,显著提升视频异常检测的跨域泛化能力。
- PreLAR: World Model Pre-training with Learnable Action Representation
-
本文提出PreLAR,在无动作标签的视频上进行世界模型预训练时,通过从相邻帧编码隐式动作表示并设计动作-状态一致性损失来弥合无动作预训练与有动作微调之间的差距,显著提升了下游视觉控制任务的样本效率。
- Learning to Obstruct Few-Shot Image Classification over Restricted Classes
-
提出 Learning to Obstruct (LTO) 算法,通过类似 MAML 的元学习方式修改预训练 backbone 参数,使其成为特定受限类别的"差初始化",从而阻碍少样本分类方法在受限类上的微调效果,同时保持其他类别的正常性能。
💬 LLM 其他 (11)¶
- AdaCLIP: Adapting CLIP with Hybrid Learnable Prompts for Zero-Shot Anomaly Detection
-
在CLIP中同时引入静态(全局共享)和动态(逐图生成)两种可学习提示,用辅助异常检测数据训练后,在14个工业+医学异常检测数据集上实现零样本SOTA,核心在于"任务级+实例级"双层自适应的混合提示设计。
- FunQA: Towards Surprising Video Comprehension
-
构建了大规模反直觉视频问答基准 FunQA(4.3K 视频、312K QA 对),覆盖幽默/创意/魔术三类令人惊讶的视频,并提出 FunMentor 智能体通过多轮对话增强 VLM 的反常识推理能力。
- Zero-Shot Object Counting with Good Exemplars (VA-Count)
-
提出 VA-Count,一种基于视觉关联的零样本物体计数框架,通过 Grounding DINO 驱动的样例增强模块和对比学习噪声抑制模块,为任意类别建立高质量样例与图像间的鲁棒视觉关联。
- PromptIQA: Boosting the Performance and Generalization for No-Reference Image Quality Assessment via Prompts
-
提出 PromptIQA,通过少量"图像-分数对"(ISP)作为 prompt 的方式,使 NR-IQA 模型训练完成后无需微调即可自适应适配新的质量评估需求,在 12 个数据集、5 类 IQA 任务上均达到 SOTA 性能和泛化能力。
- FreestyleRet: Retrieving Images from Style-Diversified Queries
-
提出首个风格多样化查询图像检索(Style-Diversified QBIR)任务及数据集DSR,设计了轻量即插即用的FreestyleRet框架,通过Gram矩阵提取查询的纹理/风格特征,构建风格空间并以此初始化prompt token,使冻结的视觉编码器能适配文本、草图、低分辨率、艺术画等多种查询风格的检索。
- RoadPainter: Points Are Ideal Navigators for Topology Transformer
-
提出 RoadPainter,通过先回归车道中心线点再利用实例 mask 精炼的两阶段策略,结合混合注意力机制和真实-虚拟车道分离策略,在 OpenLane-V2 数据集上实现 SOTA 的拓扑推理性能。
- Propose, Assess, Search: Harnessing LLMs for Goal-Oriented Planning in Instructional Videos
-
VidAssist提出"提议-评估-搜索"三步框架,利用LLM作为知识库和评估工具,结合广度优先搜索算法,在教学视频的目标导向规划任务中以零/少样本方式超越全监督SOTA,few-shot在COIN上比全监督VLaMP高+7.7% SR。
- Cultural Value Differences of LLMs: Prompt, Language, and Model Size
-
本文使用 Hofstede 文化维度问卷系统性地研究 LLM 表达文化价值观的行为模式,发现提示语言(中文 vs 英文)和模型规模对文化价值差异的影响远大于模型架构差异和问题顺序变化。
- APL: Anchor-based Prompt Learning for One-stage Weakly Supervised Referring Expression Comprehension
-
本文提出锚框提示学习方法 APL,通过设计锚框提示编码器(APE)生成位置、颜色、类别三类判别性提示,动态融入锚框特征以丰富视觉语义,再配合文本重构损失和视觉对齐损失实现精确的视觉-语言对齐,在四个 REC 基准上超越现有弱监督方法(如 RefCOCO 上比 RefCLIP 高 6.44%)。
- Reprojection Errors as Prompts for Efficient Scene Coordinate Regression
-
本文提出 EGFS(Error-Guided Feature Selection)机制,利用低重投影误差区域作为 SAM 的 point prompts 扩展为语义掩码,迭代地筛选可靠训练样本,在 Cambridge Landmarks 和 Indoor6 数据集上以更小模型和更少训练时间超越现有无 3D 信息依赖的 SCR 方法。
📖 NLP 理解 (1)¶
- SLIMER: Show Less, Instruct More - Enriching Prompts with Definitions and Guidelines for Zero-Shot NER
-
SLIMER 通过在提示中注入实体定义和标注指南来增强 LLM 的零样本命名实体识别能力,仅用 391 个实体类别训练即可在从未见过的实体标签上达到与使用 13000+ 实体类别训练的 SOTA 方法相当的性能。
🗣️ 对话系统 (1)¶
- BI-MDRG: Bridging Image History in Multimodal Dialogue Response Generation
-
提出 BI-MDRG 框架,通过桥接图像历史信息来增强多模态对话中文本回复的图像 grounding 能力和连续图像回复中物体的一致性。
🔍 信息检索/RAG (3)¶
- OneRestore: A Universal Restoration Framework for Composite Degradation
-
提出 OneRestore,一种基于 Transformer 的通用图像复原框架,通过场景描述符引导的交叉注意力机制和复合退化复原损失,能在单一模型中自适应地处理低光照、雾、雨、雪及其任意组合的复合退化场景,并支持文本/视觉双模式的可控复原。
- Multi-Label Cluster Discrimination for Visual Representation Learning
-
提出多标签聚类判别方法 MLCD,通过为每张图像分配多个聚类伪标签并设计消歧多标签分类损失,在 LAION-400M 上预训练的 ViT 在 linear probe、zero-shot 分类和检索任务上全面超越 OpenCLIP、FLIP 和 UNICOM。
- Towards Open-Ended Visual Recognition with Large Language Model
-
提出 OmniScient Model (OSM)——一个基于冻结 CLIP-ViT + 可训练 MaskQ-Former + 冻结 LLM (Vicuna-7B) 的生成式 mask 分类器,将视觉识别从"从预定义词表中选择类别"转变为"直接生成类别名称",消除了训练和测试时对预定义词表的依赖,在 COCO 全景分割上超越 DaTaSeg +4.3 PQ。
💻 代码智能 (1)¶
- DreamStruct: Understanding Slides and User Interfaces via Synthetic Data Generation
-
提出利用代码生成合成结构化视觉数据(幻灯片和UI),用于训练理解模型,减少人工标注需求。
🎨 图像生成 (119)¶
- Pixel-Aware Stable Diffusion for Realistic Image Super-Resolution and Personalized Stylization
-
提出 PASD(Pixel-Aware Stable Diffusion),通过像素感知交叉注意力(PACA)模块使扩散模型在像素级感知图像局部结构,结合退化去除模块和可调噪声调度,实现了真实图像超分辨率和个性化风格化的统一框架,只需替换底座模型即可切换风格。
- ZipLoRA: Any Subject in Any Style by Effectively Merging LoRAs
-
ZipLoRA 提出了一种廉价高效的 LoRA 合并方法,通过学习逐列合并系数并最小化列间余弦相似度,实现了将独立训练的主题 LoRA 和风格 LoRA 无超参数合并,在扩散模型中生成"任意主题 × 任意风格"的个性化图像。
- MotionLCM: Real-time Controllable Motion Generation via Latent Consistency Model
-
提出 MotionLCM,首次将一致性蒸馏引入人体运动生成领域,在运动潜在空间中实现单步/少步推理的实时运动生成(~30ms/序列),并通过 Motion ControlNet 实现潜在空间中的实时可控运动生成。
- Implicit Style-Content Separation using B-LoRA
-
提出 B-LoRA,通过分析 SDXL 架构发现仅联合训练两个特定 transformer block 的 LoRA 权重(Block 4 控制内容、Block 5 控制风格)即可隐式实现单张图片的风格-内容分离,支持风格迁移、文本风格化、一致风格生成等多种任务。
- ZigMa: A DiT-style Zigzag Mamba Diffusion Model
-
ZigMa 提出了一种 DiT 风格的 Zigzag Mamba 扩散模型,通过异构逐层锯齿形扫描方案保持空间连续性,以零参数/显存开销实现优于 Mamba 基线的生成质量,同时相比 Transformer 具备线性复杂度优势。
- TextDiffuser-2: Unleashing the Power of Language Models for Text Rendering
-
TextDiffuser-2 利用两个语言模型分别进行布局规划和布局编码,实现了更灵活、更自动化、更多样化的视觉文本渲染,在保持文本准确性的同时大幅提升了字体风格多样性。
- DiffiT: Diffusion Vision Transformers for Image Generation
-
提出 DiffiT(Diffusion Vision Transformer),通过引入时间依赖多头自注意力(TMSA)机制,让自注意力在去噪过程的不同阶段动态调整行为,在ImageNet-256上以比DiT/MDT少16-20%的参数量达到了1.73的SOTA FID分数。
- ReNoise: Real Image Inversion Through Iterative Noising
-
提出 ReNoise 迭代重噪方法改进扩散模型的图像反演质量,通过在每个反演步骤多次应用 UNet 并平均预测来提升轨迹估计精度,尤其适用于少步扩散模型(SDXL Turbo、LCM)。
- RingID: Rethinking Tree-Ring Watermarking for Enhanced Multi-Key Identification
-
本文深入分析了 Tree-Ring 水印方法的鲁棒性来源(发现分布偏移是其验证任务中意外的隐藏助力),揭示其在多密钥识别任务中的严重缺陷,并提出 RingID——一种多通道异构水印框架,通过离散化、无损嵌入和更圆环形设计,将2048个密钥的识别准确率从0.07提升至0.82。
- DreamDiffusion: High-Quality EEG-to-Image Generation with Temporal Masked Signal Modeling and CLIP Alignment
-
本文提出 DreamDiffusion,利用时序掩码信号建模对EEG编码器进行大规模预训练学习鲁棒的脑电表征,再通过CLIP图像编码器提供额外监督将EEG-文本-图像空间对齐,最终借助预训练的Stable Diffusion从脑电信号直接生成高质量图像,实现便携低成本的"思维转图像"。
🎬 视频生成 (15)¶
- Evaluating Text-to-Visual Generation with Image-to-Text Generation
-
提出VQAScore,利用VQA模型替代CLIP来评估文本-视觉生成质量,在复杂组合性提示上大幅超越CLIPScore,并发布GenAI-Bench基准。
- SV3D: Novel Multi-view Synthesis and 3D Generation from a Single Image using Latent Video Diffusion
-
提出SV3D,将图像到视频扩散模型适配为多视图合成和3D生成,利用视频模型的泛化能力和多视图一致性,并引入显式相机控制。
- PhysDreamer: Physics-Based Interaction with 3D Objects via Video Generation
-
利用视频生成模型中隐含的物理动力学先验,为静态3D高斯对象估计空间变化的杨氏模量材料场,从而实现物理合理的交互式3D动力学合成。
- DragAnything: Motion Control for Anything using Entity Representation
-
提出DragAnything,利用扩散模型的隐空间特征作为实体表征(Entity Representation)来实现实体级运动控制,解决了现有轨迹驱动方法仅拖拽像素而无法精确控制目标对象运动的问题,在VIPSeg上实现SOTA的FVD/FID指标,用户研究中运动控制投票超出DragNUWA 26%。
- FreeInit: Bridging Initialization Gap in Video Diffusion Models
-
发现视频扩散模型存在训练-推理初始化差异(训练时低频信息泄露导致初始噪声具有时序相关性,而推理时使用无相关的高斯噪声),提出 FreeInit 通过迭代精炼初始噪声的时空低频成分来弥合该差异,显著提升视频生成的时序一致性。
- MOFA-Video: Controllable Image Animation via Generative Motion Field Adaptions in Frozen Image-to-Video Diffusion Model
-
提出 MOFA-Video,通过设计多个领域感知运动场适配器(MOFA-Adapter)为冻结的视频扩散模型(SVD)添加可控运动能力,支持手绘轨迹、人脸关键点等多种控制信号及其组合,实现开放域可控图像动画。
- VFusion3D: Learning Scalable 3D Generative Models from Video Diffusion Models
-
提出利用预训练视频扩散模型(EMU Video)作为多视图数据引擎,通过微调使其生成3D一致的多视图视频,从而构建约300万合成数据训练前馈式3D生成模型VFusion3D,实现从单张图片秒级生成3D资产,用户偏好率超过90%。
- RealViformer: Investigating Attention for Real-World Video Super-Resolution
-
本文系统研究了空间注意力和通道注意力在真实世界视频超分辨率(RWVSR)中的行为差异,发现通道注意力对退化伪影更鲁棒但会导致特征冗余,据此提出了带有改进通道注意力(ICA)和通道注意力融合(CAF)模块的 RealViformer,以更少的参数和更快的速度达到 SOTA。
- DreamMotion: Space-Time Self-Similar Score Distillation for Zero-Shot Video Editing
-
提出基于分数蒸馏(Score Distillation)的零样本视频编辑框架DreamMotion,通过时空自相似性正则化在注入目标外观的同时保持原始视频的结构和运动完整性,适用于级联和非级联视频扩散模型。
- Exploring Pre-trained Text-to-Video Diffusion Models for Referring Video Object Segmentation
-
本文首次探索预训练文本到视频(T2V)扩散模型的视觉特征用于视频理解任务,提出 VD-IT 框架,通过文本引导的图像投影和视频特定噪声预测两项关键设计,从固定的 T2V 扩散模型中提取具有优越时序语义一致性的视觉特征,在 R-VOS 四大基准上超越了使用判别式预训练视频骨干网络(如 Video Swin Transformer)的 SOTA 方法。
🧩 多模态 VLM (46)¶
- MMBench: Is Your Multi-modal Model an All-Around Player?
-
提出 MMBench——一个包含 3217 道多选题、覆盖 20 个细粒度能力维度的双语(英/中)视觉语言模型评测基准,并设计了 CircularEval 循环评测策略和基于 LLM 的选项提取机制,显著提升了评测的鲁棒性和公平性。
- ShareGPT4V: Improving Large Multi-Modal Models with Better Captions
-
ShareGPT4V 构建了一个120万条高质量描述性caption数据集(由GPT4-Vision生成100K种子 + Share-Captioner扩展至1.2M),通过在预训练和SFT两阶段使用该数据集训练LLaVA架构的模型ShareGPT4V-7B,在11个多模态benchmark中9个取得最优,证明了高质量caption是LMM模态对齐的关键瓶颈。
- MathVerse: Does Your Multi-modal LLM Truly See the Diagrams in Visual Math Problems?
-
提出MathVerse——一个包含2612道视觉数学题目(转化为6个版本共15K测试样本)的多模态数学推理评测基准,通过系统性地调控文本与图像中的信息分配来检验MLLM是否真正"看懂"了数学图表,并提出CoT评估策略进行细粒度推理过程评分,揭示了大多数MLLM严重依赖文本而非视觉图表进行数学推理。
- BLINK: Multimodal Large Language Models Can See but Not Perceive
-
提出BLINK——一个包含14个经典计算机视觉感知任务的多模态评测基准(3807道选择题),这些任务人类可以"眨眼间"解决(95.7%准确率),但最强的GPT-4V仅达51.26%(仅高于随机猜测13.17%),揭示了当前MLLM在核心视觉感知能力上的严重缺失。
- MM1: Methods, Analysis & Insights from Multimodal LLM Pre-training
-
Apple 系统性地消融了 MLLM 构建的三大轴(架构、数据、训练),得出关键设计准则:图像分辨率 > 模型大小 > 训练数据;VL 连接器类型影响甚微;caption/interleaved/text-only 三类数据的精细混合至关重要,最终构建了 3B-30B dense 和最高 64B MoE 的 MM1 模型族,在 few-shot 预训练评测上达到 SOTA。
- AdaShield: Safeguarding Multimodal Large Language Models from Structure-based Attack via Adaptive Shield Prompting
-
提出AdaShield框架,通过精心设计的静态防御提示(AdaShield-S)和基于LLM的自适应迭代优化框架(AdaShield-A),在不微调MLLM或训练额外模块的前提下,有效防御结构化越狱攻击,将攻击成功率从75%以上降至15%以下并保持正常任务性能。
- Eyes Closed, Safety On: Protecting Multimodal LLMs via Image-to-Text Transformation
-
提出ECSO(Eyes Closed, Safety On),一种无需训练的MLLM保护方法,通过检测自身响应的安全性,并将不安全查询中的图像自适应转换为文本描述,从而恢复预对齐LLM的内在安全机制,在MM-SafetyBench上实现最高71.3%的安全性提升,且不损害常规性能。
- Nymeria: A Massive Collection of Multimodal Egocentric Daily Motion in the Wild
-
Nymeria 是目前世界最大的野外人体运动数据集(300 小时、264 名参与者),首次提供同步定位的多设备多模态自我中心数据(Project Aria 眼镜+腕带+动捕服),并配套 310.5K 句层次化运动语言描述。
- Towards Open-ended Visual Quality Comparison
-
本文提出 Co-Instruct,首个面向开放式视觉质量比较的大型多模态模型,通过从两种"弱监督源"(LLM合并的单图描述 + GPT-4V伪标签)构建562K指令微调数据集,实现比 GPT-4V(其教师模型)更高的多图质量比较准确率,并提出首个多图比较基准 MICBench。
- Vary: Scaling up the Vision Vocabulary for Large Vision-Language Models
-
提出 Vary 方法,通过生成并融合新的视觉词汇表(vision vocabulary)来扩展 LVLM 的视觉感知能力,使模型在保持原有通用能力的同时,获得文档级 OCR、图表理解等细粒度视觉感知新能力。
🧠 VLM Reasoning (1)¶
- NavGPT-2: Unleashing Navigational Reasoning Capability for Large Vision-Language Models
-
NavGPT-2通过将冻结LLM的隐层表征作为视觉-语言特征输入拓扑图导航策略网络,在保留LLM可解释性导航推理能力的同时,消除了基于LM的智能体与VLN专用模型之间的性能差距,并展现出优异的数据效率。
⚡ VLM Efficiency (4)¶
- Groma: Localized Visual Tokenization for Grounding Multimodal Large Language Models
-
Groma提出了将定位能力嵌入视觉tokenization过程的新范式——通过region proposer发现感兴趣区域并编码为region token,使MLLM无需依赖LLM输出坐标或外部模块即可实现高精度的referring和grounding,同时利用GPT-4V+visual prompting构建了首个视觉-文本双prompt的grounded chat数据集Groma Instruct。
- IVTP: Instruction-Guided Visual Token Pruning for Large Vision-Language Models
-
IVTP提出在大型视觉语言模型的推理过程中,利用文本指令(instruction)信息动态评估各视觉token的重要性并剪枝冗余token,实现与任务相关的自适应视觉信息压缩,在大幅减少计算量的同时保持甚至提升模型性能。
- Bad Students Make Great Teachers: Active Learning Accelerates Large-Scale Visual Understanding
-
提出 ClassAct/ActiveCLIP 方法,利用小型廉价代理模型为数据点计算"可学习性"评分来优先选择训练数据,使大规模视觉分类器和多模态模型分别减少46%和51%的训练更新量,且总计算量节省高达25%,是首个在大规模预训练中实现计算正收益的主动学习方法。
- Quantized Prompt for Efficient Generalization of Vision-Language Models
-
将量化误差视为一种正则化噪声,对VLM的可学习prompt进行极低比特量化(最低1-bit),在大幅减少存储开销(最高16倍压缩)的同时显著提升模型在未见类别上的泛化能力,QCoOp仅需0.26KB即超越大量SOTA方法。
🎵 音频/语音 (8)¶
- ControlLLM: Augment Language Models with Tools by Searching on Graphs
-
提出 ControlLLM 框架,通过在预构建的工具图(Tool Graph)上进行图搜索(Thoughts-on-Graph)来规划多模态工具调用,显著提升了复杂任务中工具选择和参数赋值的准确性。
- Label-Anticipated Event Disentanglement for Audio-Visual Video Parsing
-
提出 LEAP(Label semantic-based Projection)解码范式,利用事件类别的标签文本嵌入作为语义锚点,通过跨模态注意力机制将音频/视觉隐特征中潜在重叠的事件语义解耦到独立的标签嵌入中,配合基于 EIoU 的音视觉语义相似度损失,在 AVVP 任务上取得 SOTA。
- Beat-It: Beat-Synchronized Multi-Condition 3D Dance Generation
-
提出 Beat-It 框架,通过将节拍条件从音乐中解耦并设计层次化多条件融合机制,实现了节拍同步且关键帧可控的 3D 舞蹈生成,在 AIST++ 上大幅领先现有方法。
- Action2Sound: Ambient-Aware Generation of Action Sounds from Egocentric Videos
-
提出 AV-LDM,通过在训练时引入同一视频不同时间段的音频作为环境音条件,隐式解耦前景动作声和背景环境音,结合检索增强生成(RAG)在推理时选择合适的环境音条件,在 Ego4D 和 EPIC-KITCHENS 上大幅超越已有方法。
- Listen to Look into the Future: Audio-Visual Egocentric Gaze Anticipation
-
提出 CSTS(Contrastive Spatial-Temporal Separable)音视频融合方法,首次将音频信号引入第一人称注视预测任务,通过空间和时间分离融合模块分别建模音视频的空间共现和时序相关性,并用后融合对比学习增强表示,在 Ego4D 和 Aria 数据集上超越 SOTA。
- Siamese Vision Transformers are Scalable Audio-Visual Learners
-
提出AVSiam框架,使用单个共享权重的ViT backbone同时处理音频和视觉输入,结合多比例随机掩码策略和对比+重建双目标预训练,以极低成本(比MAViL快28.9倍)在音视觉分类和检索上达到SOTA性能。
- CoLeaF: A Contrastive-Collaborative Learning Framework for Weakly Supervised Audio-Visual Video Parsing
-
提出 CoLeaF 双分支学习框架,通过事件感知对比学习显式优化跨模态上下文的整合,在弱监督音视频解析任务上平均提升 1.9% F-score。
- Latent-INR: A Flexible Framework for Implicit Representations of Videos with Discriminative Semantics
-
提出 Latent-INR 框架,通过为视频每帧学习一个隐式 latent code 并结合 hypernetwork 进行低秩权重调制,将视频 INR 的空间与时间建模解耦,在保持压缩性能的同时赋予表征语义判别能力,支持检索、视频插帧和任意分辨率推理等多种下游任务。
🧊 重建与渲染 (61)¶
- 3D Reconstruction of Objects in Hands without Real World 3D Supervision
-
提出HORSE框架,通过从野外视频中提取多视角2D mask监督(以手部姿态作为物体姿态代理)和从合成3D形状集合中学习2D切片对抗形状先验,训练occupancy网络从单张RGB图像重建手持物体3D形状,在不使用任何真实世界3D标注的情况下,在MOW数据集上超越使用3D监督的方法11.6%。
- 3DEgo: 3D Editing on the Go!
-
3DEgo将传统三阶段3D编辑流程(COLMAP位姿估计→未编辑场景初始化→迭代编辑更新)压缩为单阶段框架:先用自回归噪声混合模块对视频帧进行多视角一致的2D编辑,再用COLMAP-free的3DGS从编辑后帧直接重建3D场景,速度提升约10倍且支持任意来源视频。
- 3iGS: Factorised Tensorial Illumination for 3D Gaussian Splatting
-
3iGS 用基于张量分解的连续入射光照场替代 3DGS 中每个高斯体独立优化的球谐系数,结合可学习 BRDF 特征和轻量神经渲染器来建模出射辐射,在保持实时渲染速度的同时显著提升了镜面反射等视角依赖效果的渲染质量。
- A Compact Dynamic 3D Gaussian Representation for Real-Time Dynamic View Synthesis
-
将3DGS中的位置和旋转参数建模为时间的函数(位置用Fourier逼近、旋转用线性逼近),使动态场景的存储复杂度从O(TN)降低到O(LN),在D-NeRF/DyNeRF/HyperNeRF三个数据集上实现了与NeRF方法匹敌的渲染质量,同时保持118+ FPS的实时渲染速度。
- A Probability-guided Sampler for Neural Implicit Surface Rendering
-
提出一种概率引导的光线采样器(Probability-guided Sampler),在3D图像投影空间中建模概率密度函数来指导光线采样朝向感兴趣区域,同时设计了包含近表面和空白空间两个分量的新型表面重建损失,可作为插件集成到现有神经隐式表面渲染器中,显著提升重建精度和渲染质量。
- Analysis-by-Synthesis Transformer for Single-View 3D Reconstruction
-
提出Analysis-by-Synthesis Transformer(AST),在统一框架中通过Shape Transformer和Texture Transformer分别建模像素到形状和像素到纹理的关系,仅使用2D标注就能实现高质量的网格重建和纹理生成,在CUB-200-2011和ShapeNet上超越已有方法。
- Analytic-Splatting: Anti-Aliased 3D Gaussian Splatting via Analytic Integration
-
通过使用条件 logistic 函数解析近似高斯信号在像素窗口上的积分,替代 3DGS 的像素中心点采样,实现无混叠的 3D 高斯泼溅,在多尺度渲染上超越 Mip-Splatting。
- BAD-Gaussians: Bundle Adjusted Deblur Gaussian Splatting
-
首次将运动模糊物理成像模型引入 3D Gaussian Splatting 框架,联合优化场景 Gaussian 参数与曝光时间内的相机运动轨迹,从模糊图像中恢复清晰 3D 场景并实现实时渲染。
- BeNeRF: Neural Radiance Fields from a Single Blurry Image and Event Stream
-
提出 BeNeRF,仅从单张模糊图像及其对应的事件流(event stream)联合恢复神经辐射场与相机运动轨迹,无需多视角输入或已知位姿,即可实现高质量去模糊与新视角合成。
- CaesarNeRF: Calibrated Semantic Representation for Few-Shot Generalizable Neural Rendering
-
提出 CaesarNeRF,在可泛化 NeRF(GNT)基础上引入场景级语义表征,通过相机位姿校准(特征旋转对齐到目标视角)和序列细化(跨 Transformer 层逐步更新全局特征),在 1-view 设置下 PSNR 比 GNT 提升 1.74dB(LLFF),且可即插即用地增强 IBRNet、MatchNeRF 等其他基线。
🧊 3D 生成与编辑 (26)¶
- AEDNet: Adaptive Embedding and Multiview-Aware Disentanglement for Point Cloud Completion
-
提出AEDNet,通过自适应点云嵌入与多视角感知解耦(AED)模块,在编码器和解码器中分别对点云进行全局嵌入和局部解耦,利用从单位球面生成的3D视点从外部观察点云,实现了对3D对象几何的全面理解,在MVP和PCN数据集上达到SOTA。
- AnimatableDreamer: Text-Guided Non-rigid 3D Model Generation and Reconstruction with Canonical Score Distillation
-
提出 AnimatableDreamer,通过 Canonical Score Distillation (CSD) 技术,从单目视频提取骨骼和运动后生成文本引导的可动画化 3D 非刚体模型,在生成质量和时序一致性上全面超越现有方法。
- ComboVerse: Compositional 3D Assets Creation Using Spatially-Aware Diffusion Guidance
-
提出ComboVerse,一个组合式3D资产生成框架:先将包含多个物体的输入图像分解并独立重建为单物体3D模型,再通过空间感知的Score Distillation Sampling (SSDS)引导物体的位置、缩放和旋转参数优化,实现高质量多物体组合3D资产创建,在CLIP Score和人类评估中均显著优于现有方法。
- Compress3D: a Compressed Latent Space for 3D Generation from a Single Image
-
提出一种高度压缩的 triplane 潜空间自编码器,配合两阶段扩散模型(先生成 shape embedding 再生成 triplane latent),仅需 7 秒即可从单张图像生成高质量 3D 资产,且训练数据和时间远少于同类方法。
- CRM: Single Image to 3D Textured Mesh with Convolutional Reconstruction Model
-
提出卷积重建模型 CRM,利用 triplane 与六个正交视图之间的空间对齐先验,用 U-Net 替代 Transformer 直接从六视图映射到 triplane,结合 FlexiCubes 端到端训练,10 秒内从单张图像生成高保真纹理网格,训练成本仅为 LRM 的 1/8。
- DreamDissector: Learning Disentangled Text-to-3D Generation from 2D Diffusion Priors
-
提出DreamDissector框架,通过Neural Category Field和Deep Concept Mining将包含多物体交互的text-to-3D NeRF解耦为独立的带纹理网格,实现物体级别的3D编辑控制。
- DreamScene360: Unconstrained Text-to-3D Scene Generation with Panoramic Gaussian Splatting
-
提出DreamScene360,利用全景图像作为中间表示,结合GPT-4V自精炼机制和全景3D高斯溅射技术,实现从文本到沉浸式360°3D场景的快速生成。
- DreamView: Injecting View-specific Text Guidance into Text-to-3D Generation
-
提出DreamView,通过自适应文本引导注入模块,将视角特定的文本描述和全局文本描述协同注入扩散模型,实现可定制化且多视角一致的文本到3D生成。
- External Knowledge Enhanced 3D Scene Generation from Sketch
-
提出SEK框架,结合手绘草图和外部物体关系知识库作为扩散模型的条件,通过知识增强图推理和频谱滤波器,端到端地同时生成3D室内场景的布局和物体几何形状。
- FlashTex: Fast Relightable Mesh Texturing with LightControlNet
-
提出LightControlNet——一种光照感知的ControlNet变体,结合两阶段纹理优化pipeline,能在约4分钟内为3D网格生成高质量、可重光照的PBR纹理,速度比现有方法快3-10倍。
🧊 3D 表示与场景理解 (20)¶
- 3×2: 3D Object Part Segmentation by 2D Semantic Correspondences
-
提出了一种无需训练的3D物体部件分割方法3-By-2,利用扩散模型(DIFT)的2D语义对应关系从已标注2D数据集或少量3D标注对象中迁移部件标签到3D,在zero-shot和few-shot设置下均达到SOTA。
- Bi-directional Contextual Attention for 3D Dense Captioning
-
提出 BiCA,通过双向上下文注意力机制将 instance query 和 context query 解耦并行解码,解决了 3D 密集描述中定位与描述生成之间的目标冲突,在 ScanRefer 和 Nr3D 两个基准上取得 SOTA。
- Click-Gaussian: Interactive Segmentation to Any 3D Gaussians
-
提出Click-Gaussian,通过学习两级粒度(粗/细)的可区分3D特征场,结合全局特征引导学习(GFL)解决跨视角mask不一致问题,实现每次点击仅需10ms的实时3D高斯交互式分割,速度比现有方法快15-130倍,同时显著提升分割精度。
- CloudFixer: Test-Time Adaptation for 3D Point Clouds via Diffusion-Guided Geometric Transformation
-
本文提出CloudFixer,首个针对3D点云的测试时输入适应方法,通过预训练扩散模型引导的几何变换参数优化,将分布偏移的测试点云变换回源域,同时避免了扩散模型的反向传播,实现了不到1秒的单实例适应速度。
- DG-PIC: Domain Generalized Point-In-Context Learning for Point Cloud Understanding
-
提出 DG-PIC,首个在统一模型中同时处理多领域多任务的点云理解框架,通过双层次源域原型估计和测试时特征平移机制,在不更新模型的情况下提升对未知域的泛化能力。
- Dual-level Adaptive Self-Labeling for Novel Class Discovery in Point Cloud Segmentation
-
提出双层自适应自标注方法,通过半松弛最优传输处理类别不平衡问题,并结合区域级表示增强点级分类器的学习,在点云分割中实现高效的新类发现。
- FlashSplat: 2D to 3D Gaussian Splatting Segmentation Solved Optimally
-
将3D高斯溅射的2D-to-3D分割问题建模为整数线性规划,利用alpha混合的线性性质得到闭式最优解,仅需30秒完成优化,比现有方法快50倍。
- Gaussian Grouping: Segment and Edit Anything in 3D Scenes
-
为 3D Gaussian Splatting 中的每个高斯学习 16 维 Identity Encoding 实现实例级分组,使用 SAM + DEVA 视频跟踪生成多视图一致的 2D 伪标签做监督,在 LERF-Mask 开放词汇分割上 mIoU 达 69-77%(超 LERF 2 倍+),全景分割超 Panoptic Lifting 4.9% mIoU 且 14× 更快,同时支持 3D 物体移除/修复/着色/风格迁移等多种编辑。
- GPSFormer: A Global Perception and Local Structure Fitting-Based Transformer for Point Cloud Understanding
-
提出GPSFormer,通过全局感知模块(GPM)学习短程和长程依赖关系,并利用Taylor级数启发的局部结构拟合卷积(LSFConv)精确建模局部几何信息,在ScanObjectNN上以2.36M参数达到95.4%准确率,超越所有监督学习和预训练方法。
- Heterogeneous Graph Learning for Scene Graph Prediction in 3D Point Clouds
-
提出 3D-HetSGP 框架,将3D场景图预测建模为异构图学习问题,通过两阶段的异构图结构学习(HGSL)和异构图推理(HGR),解决了现有同构全连接图方法中不加区分的消息传递导致的次优性能问题。
🧊 深度、法线与立体 (11)¶
- Binomial Self-compensation for Motion Error in Dynamic 3D Scanning
-
提出二项式自补偿(BSC)算法,通过对运动受影响的相位序列按二项式系数加权求和,无需任何中间变量即可指数级消除四步相位移轮廓术中的运动误差,实现与相机帧率相同的高精度动态3D扫描。
- Diffusion Models for Monocular Depth Estimation: Overcoming Challenging Conditions
-
利用text-to-image扩散模型(ControlNet/T2I-Adapter)将简单场景图像转化为保持同一3D结构的恶劣条件图像,通过自蒸馏微调现有单目深度估计网络,统一解决恶劣天气和非朗伯表面等分布外挑战。
- DiffusionDepth: Diffusion Denoising Approach for Monocular Depth Estimation
-
本文首次将扩散去噪过程引入单目深度估计任务,通过在潜在深度空间中执行视觉条件引导的迭代去噪,并提出自扩散机制解决稀疏GT深度的模式崩塌问题,在KITTI和NYU-Depth-V2上达到SOTA性能。
- FutureDepth: Learning to Predict the Future Improves Video Depth Estimation
-
提出FutureDepth,通过未来预测网络(F-Net)学习运动线索和重建网络(R-Net)学习多帧对应关系,将隐式的运动和场景特征注入深度解码器,在NYUDv2、KITTI、DDAD、Sintel四个数据集上达到SOTA精度和时序一致性,且推理效率显著优于现有视频深度方法。
- GeoWizard: Unleashing the Diffusion Priors for 3D Geometry Estimation from a Single Image
-
本文提出GeoWizard,一个基于Stable Diffusion先验的几何估计基础模型,通过几何切换器(Geometry Switcher)实现单一模型联合预测深度和法线,并通过场景分布解耦策略(Scene Distribution Decoupler)消除混合场景布局的歧义,在零样本深度和法线基准上达到SOTA。
- High-Precision Self-Supervised Monocular Depth Estimation with Rich-Resource Prior
-
提出RPrDepth,在训练阶段利用多帧/高分辨率等"富资源"模型的特征和预测作为先验,通过先验深度融合模块和富资源引导损失,使仅用低分辨率单张图像推理的模型达到甚至超过多帧高分辨率模型的深度估计精度。
- Improving Domain Generalization in Self-Supervised Monocular Depth Estimation via Stabilized Adversarial Training
-
提出 SCAT 框架,通过缩放深度网络(SDN)降低 UNet 跳跃连接对扰动的敏感性,并引入冲突梯度手术(CGS)解决对抗增强导致的双重优化冲突,首次将对抗数据增强成功应用于自监督单目深度估计以提升跨域泛化能力。
- ProDepth: Boosting Self-Supervised Multi-Frame Monocular Depth with Probabilistic Fusion
-
提出一种概率融合框架 ProDepth,通过辅助解码器推断动态区域不确定性,以加权几何均值自适应融合单帧和多帧深度概率分布来修正代价体中的错误匹配代价,并配合不确定性感知的损失重加权策略,在自监督多帧单目深度估计中取得 SOTA。
- SEDiff: Structure Extraction for Domain Adaptive Depth Estimation via Denoising Diffusion Models
-
提出 SEDiff,首次利用扩散模型提取域不变的结构信息,通过结构一致的风格迁移消除合成数据与真实数据之间的域差距,实现了高性能的域自适应单目深度估计。
- SpectraM-PS: Spectrally Multiplexed Photometric Stereo Under Unknown Spectral Composition
-
提出一种无需物理模型约束的光谱复用光度立体方法(SpectraM-PS),在光源光谱组成完全未知的条件下,通过数据驱动的方式从单张RGB图像中恢复表面法线,实现了传统多次拍摄光度立体到单次拍摄的突破。
🧊 几何匹配与定位 (18)¶
- 3D Congealing: 3D-Aware Image Alignment in the Wild
-
3D Congealing将一组语义相似的无标注互联网图像对齐到共享的3D canonical空间,通过结合预训练扩散模型的SDS指导获得3D形状 + DINO语义特征匹配估计位姿和坐标映射,无需模板、位姿标注或相机参数。
- 3D Single-Object Tracking in Point Clouds with High Temporal Variation
-
HVTrack首次探索高时间变化场景下的3D单目标跟踪,通过相对位姿感知记忆模块(RPM)、基础-扩展特征交叉注意力(BEA)和上下文点引导自注意力(CPA)三个模块,分别解决点云形状剧变、相似物体干扰和背景噪声问题,在KITTI-HV 5帧间隔下比SOTA提升11.3%/15.7% Success/Precision。
- 6DGS: 6D Pose Estimation from a Single Image and a 3D Gaussian Splatting Model
-
提出6DGS,通过反转3DGS渲染流程——从椭球体表面均匀发射光线(Ellicell),利用注意力机制将光线与目标图像像素绑定,再用加权最小二乘闭式求解相机位姿,无需迭代和初始位姿,在真实场景上旋转精度提升12%、平移精度提升22%,达到15fps近实时性能。
- A Direct Approach to Viewing Graph Solvability
-
本文对视图图(Viewing Graph)可解性问题提出了一种比以往更直接的新形式化方法,引入了新概念用于理解实际 SfM 图的可解性,并给出了更高效的不可解情况检测与分解算法。
- CG-SLAM: Efficient Dense RGB-D SLAM in a Consistent Uncertainty-Aware 3D Gaussian Field
-
提出CG-SLAM,基于一致性和几何稳定性优化的不确定性感知3D高斯场,实现高效稠密RGB-D SLAM,在定位精度和建图质量上均达到SOTA,跟踪速度最高15Hz。
- Deep Patch Visual SLAM
-
基于 DPVO 视觉里程计系统,通过高效的邻近回环检测和经典回环检测机制,将其扩展为完整的 SLAM 系统 DPV-SLAM,在单 GPU 上实现实时、高精度、低显存的单目视觉 SLAM。
- Equi-GSPR: Equivariant SE(3) Graph Network Model for Sparse Point Cloud Registration
-
提出基于SE(3)等变图神经网络的稀疏点云配准方法Equi-GSPR,通过等变消息传播、低秩特征变换(LRFT)和隐式特征空间相似度匹配,在室内外数据集上以低模型复杂度实现SOTA配准性能。
- Event-based Mosaicing Bundle Adjustment
-
提出 EMBA,首个针对纯旋转事件相机的光度 Bundle Adjustment 方法,利用线性化事件生成模型将问题形式化为正则化非线性最小二乘优化,并利用法方程矩阵的块对角稀疏结构设计高效求解器,同时优化相机旋转轨迹和全景梯度图。
- FastCAD: Real-Time CAD Retrieval and Alignment from Scans and Videos
-
提出FastCAD,通过对比学习嵌入空间蒸馏和直接参数预测,实现50ms内完成场景中所有物体的CAD模型检索与对齐,比现有方法快50倍且精度更优。
- GaussReg: Fast 3D Registration with Gaussian Splatting
-
首次探索3D Gaussian Splatting场景之间的配准问题,提出粗到精的GaussReg框架——粗阶段利用点云配准方法估计初始变换,精阶段通过渲染图像提取体积特征进行精细对齐,速度比HLoc快44倍且精度可比。
🎯 目标检测 (31)¶
- YOLOv9: Learning What You Want to Learn Using Programmable Gradient Information
-
YOLOv9 提出可编程梯度信息 (PGI) 和广义高效层聚合网络 (GELAN) 来解决深度网络中的信息瓶颈问题,在 MS COCO 上以更少参数和计算量全面超越现有实时目标检测器,从零训练即可超过使用大数据集预训练的方法。
- DAMSDet: Dynamic Adaptive Multispectral Detection Transformer
-
DAMSDet 提出一种基于 DETR 架构的动态自适应红外-可见光目标检测方法,通过模态竞争 Query 选择(为每个目标动态选择主导模态特征作为初始 query)和多光谱可变形交叉注意力(在多语义层级上自适应采样和聚合双模态特征),同时解决互补信息融合和模态未对齐两大挑战,在 4 个公开数据集上显著超越 SOTA。
- Portrait4D-v2: Pseudo Multi-View Data Creates Better 4D Head Synthesizer
-
提出一种利用伪多视角视频来训练前馈式单图4D头部合成器的新学习范式:先用合成数据学一个3D头部合成器将单目视频转为多视角,再利用伪多视角视频通过跨视角自重演学习4D合成器,避免了对3DMM的过度依赖,在重建保真度、几何一致性和运动控制精度上大幅超越先前方法。
- Towards Natural Language-Guided Drones: GeoText-1652 Benchmark with Spatial Relation Matching
-
构建了首个自然语言引导的无人机地理定位基准 GeoText-1652(276K bbox-text 对,316K 描述),并提出 blending spatial matching 方法通过 grounding loss + spatial relation loss 实现区域级空间关系匹配,文本检索 Recall@10 达到 31.2%。
- TAPTR: Tracking Any Point with Transformers as Detection
-
TAPTR 将 Tracking Any Point (TAP) 任务重新建模为类 DETR 的检测问题,将每个跟踪点表示为包含位置和内容的 point query,通过多层 Transformer 解码器逐层优化,结合 cost volume 和滑动窗口特征更新策略,在 TAP-Vid 基准上达到 SOTA 且推理速度更快。
- BAM-DETR: Boundary-Aligned Moment Detection Transformer for Temporal Sentence Grounding in Videos
-
提出边界对齐的时刻检测 Transformer(BAM-DETR),用 anchor-boundary 三元组 \((p, d_s, d_e)\) 替代传统的 center-length 二元组 \((c, l)\) 来建模时刻,配合双路径解码器和基于质量的排序机制,有效解决了中心模糊导致的定位不精确问题。
- Visible and Clear: Finding Tiny Objects in Difference Map
-
SR-TOD 首次将图像自重建机制引入目标检测,发现重建差异图与微小目标之间的强相关性,并设计差异图引导的特征增强(DGFE)模块,在自建反无人机数据集 DroneSwarms 和 VisDrone2019、AI-TOD 上均取得显著提升。
- Self-supervised Feature Adaptation for 3D Industrial Anomaly Detection
-
提出 LSFA(Local-to-global Self-supervised Feature Adaptation)框架,通过模态内特征紧凑性优化(IFC)和跨模态局部到全局一致性对齐(CLC)两个自监督策略对预训练特征进行任务导向适配,在 MVTec-3D AD 上取得 97.1% I-AUROC,超越 SOTA +3.4%。
- Adaptive Bounding Box Uncertainties via Two-Step Conformal Prediction
-
本文提出一种两步共形预测框架用于多目标检测的不确定性量化:第一步生成类别标签的共形预测集合以处理分类错误,第二步基于集成和分位数回归生成自适应的边界框不确定性区间,在保证覆盖率的同时提供实际可用的紧致预测区间。
- GRA: Detecting Oriented Objects Through Group-Wise Rotating and Attention
-
提出轻量级的 Group-wise Rotating and Attention (GRA) 模块,通过将卷积核分组旋转并施加分组空间注意力,在参数量减少近 50% 的同时超越了此前 SOTA 方法 ARC,在 DOTA-v2.0 上取得新的最优性能。
✂️ 语义分割 (53)¶
- Rotary Position Embedding for Vision Transformer
-
本文系统研究了将 RoPE(Rotary Position Embedding)从1D语言模型扩展到2D视觉任务的方法,提出 RoPE-Mixed(混合可学习频率)替代传统的 Axial 频率分配,在 ViT 和 Swin Transformer 上实现了显著的分辨率外推性能提升,在 ImageNet 分类、COCO 检测和 ADE20k 分割上均带来一致增益。
- SCLIP: Rethinking Self-Attention for Dense Vision-Language Inference
-
发现 CLIP 的密集预测失败源于自注意力导致的空间位置错位问题,提出 Correlative Self-Attention (CSA) 机制——仅修改最后一层自注意力的计算方式(无需训练),将 CLIP 的零样本语义分割从 14.1% 平均 mIoU 提升至 38.2%,超越所有已有方法。
- ControlNet++: Improving Conditional Controls with Efficient Consistency Feedback
-
提出 ControlNet++,通过像素级循环一致性损失显式优化条件可控生成质量:用预训练判别模型从生成图像中提取条件并与输入条件对齐,并设计高效单步去噪 reward 策略避免多步采样的巨大显存开销,在分割掩码、边缘、深度等多种条件控制下显著提升可控性(如分割 mIoU +11.1%)。
- VISA: Reasoning Video Object Segmentation via Large Language Models
-
提出 ReasonVOS 新任务和 VISA 模型,利用多模态 LLM 的世界知识推理能力实现基于隐式文本查询的视频目标分割与跟踪。
- Frequency-Spatial Entanglement Learning for Camouflaged Object Detection
-
提出频率-空间纠缠学习(FSEL)框架,通过在频率域和空间域之间进行纠缠学习(entanglement learning),利用全局频率特征弥补空间特征的局部性和敏感性限制,在三个COD基准上超越21个SOTA方法。
- DreamLIP: Language-Image Pre-training with Long Captions
-
通过 MLLM 为 30M 图像生成长文本描述,提出动态子描述采样的多正样本对比学习和子描述特定分组损失,实现细粒度视觉-语言对齐,仅用 30M 数据在检索和语义分割上达到甚至超越 CLIP 400M 的性能。
- SiLC: Improving Vision Language Pretraining with Self-Distillation
-
提出SiLC框架,在CLIP式图文对比学习中加入局部到全局的自蒸馏,显著提升密集预测任务(检测、分割)的性能,同时改善分类和检索。
- ReMamber: Referring Image Segmentation with Mamba Twister
-
本文首次将 Mamba 架构引入指称图像分割(RIS)任务,提出 Mamba Twister 模块通过通道扫描和空间扫描的"扭转"机制实现高效的视觉-语言特征融合,在 RefCOCO/RefCOCO+/G-Ref 三个基准上取得了超越 Transformer 方法的竞争性结果,同时保持线性计算复杂度。
- Diffusion Models for Open-Vocabulary Segmentation
-
本文提出 OVDiff,利用预训练的文本到图像扩散模型为任意文本类别生成支持图像集,从中提取多层次原型(类级、实例级、部件级),结合背景原型实现无训练的开放词汇语义分割,在 PASCAL VOC 上超越先前方法 10% 以上。
- DenseNets Reloaded: Paradigm Shift Beyond ResNets and ViTs
-
重新审视 DenseNet 的密集拼接连接(concatenation shortcut),通过系统性现代化改造(加宽减深、现代化 block、扩大中间维度、更多 transition 层等),提出 RDNet(Revitalized DenseNet),在 ImageNet-1K 上超越 Swin Transformer、ConvNeXt、DeiT-III,证明了拼接连接作为一种被低估的范式具有强大潜力。
🖼️ 图像恢复 (33)¶
- MambaIR: A Simple Baseline for Image Restoration with State-Space Model
-
本文首次将 Mamba(选择性状态空间模型)引入底层图像修复任务,通过设计残差状态空间块(RSSB)中的局部卷积增强和通道注意力机制,解决了 vanilla Mamba 在 2D 图像上的局部像素遗忘和通道冗余问题,在图像超分辨率和去噪任务上以线性复杂度实现了与 Transformer 方法相当甚至更优的性能(SR 上超过 SwinIR 0.45dB)。
- BrushNet: A Plug-and-Play Image Inpainting Model with Decomposed Dual-Branch Diffusion
-
提出 BrushNet,一种即插即用的双分支扩散模型图像修复架构,通过将遮罩图像特征提取与图像生成解耦到独立分支,实现逐层像素级特征注入,在图像质量、遮罩区域保持和文本对齐三方面全面超越已有方法。
- Restoring Images in Adverse Weather Conditions via Histogram Transformer
-
提出 Histoformer,一种基于直方图自注意力机制的高效 Transformer,通过将空间特征按像素强度排序分箱(bin),在箱内和箱间执行自注意力,实现动态范围的空间注意力以高效处理天气退化像素,配合动态范围卷积和 Pearson 相关性损失,在去雪/去雨雾/去雨滴三大任务上统一建模并达到 SOTA。
- BAMM: Bidirectional Autoregressive Motion Model
-
提出 BAMM(双向自回归运动模型),通过统一生成掩码建模和自回归建模的混合注意力掩码策略,在一个框架中同时实现高质量运动生成、自适应长度预测和零样本运动编辑,在 HumanML3D 和 KIT-ML 上全面超越 SOTA。
- Seeing the Unseen: A Frequency Prompt Guided Transformer for Image Restoration
-
提出 FPro,通过频域视角的 prompt learning 指导图像复原:使用 Gated Dynamic Decoupler 将特征解耦为低频/高频分量,再通过 Dual Prompt Block(HPM + LPM)分别对两个频带注入可学习 prompt 并与解码器特征交互,在去雨、去雨滴、去摩尔纹、去模糊、去雾 5 个任务上全面超越 SOTA。
- Contourlet Residual for Prompt Learning Enhanced Infrared Image Super-Resolution
-
针对红外图像超分辨率的特殊挑战,提出 CoRPLE 框架,利用 Contourlet 变换进行多尺度多方向的红外频谱残差增强,并引入基于视觉语言模型的提示学习范式来捕获红外图像的固有特征,在红外 SR 任务上达到 SOTA 性能。
- Teaching Tailored to Talent: Adverse Weather Restoration via Prompt Pool and Depth-Anything Constraint
-
提出 T3-DiffWeather,一种基于 diffusion 的 all-in-one 恶劣天气恢复框架,通过 prompt pool 让网络自主组合 sub-prompts 构建实例级 weather-prompts 来建模多样化天气退化,同时利用 Depth-Anything 特征约束 general prompts 来建模场景信息,仅需 2 步采样即达到 SOTA,计算量仅为 WeatherDiffusion 的 1/52。
- Towards Real-world Event-guided Low-light Video Enhancement and Deblurring
-
本文首次提出事件相机引导的低光视频增强与去模糊联合任务,构建了基于分光棱镜的真实世界数据集 RELED,并设计了包含事件引导可变形时序对齐 (ED-TFA) 和频谱滤波跨模态增强 (SFCM-FE) 两个核心模块的端到端框架,在 PSNR 上比此前最佳方法提升 1.2dB 以上。
- Raindrop Clarity: A Dual-Focused Dataset for Day and Night Raindrop Removal
-
提出了一个大规模真实世界雨滴去除数据集 Raindrop Clarity,包含15,186组高质量图像对/三元组,首次涵盖雨滴聚焦(清晰雨滴+模糊背景)和夜间雨滴两种现有数据集缺失的场景。
- Efficient Diffusion Transformer with Step-wise Dynamic Attention Mediators
-
发现 Diffusion Transformer 中 query-key 交互存在显著冗余(尤其在去噪早期),提出 Attention Mediator 机制将注意力复杂度降至线性,并设计逐步动态调整策略,在 SiT-XL/2 上实现 SOTA FID 2.01,同时减少计算量。
🛰️ 遥感 (6)¶
- ConGeo: Robust Cross-View Geo-Localization Across Ground View Variations
-
提出 ConGeo,一种模型无关的单视图+跨视图对比学习框架,通过强制同一地点不同地面视角变体之间的特征一致性,使单一模型即可在任意朝向和任意视场角(FoV)下实现鲁棒的跨视图地理定位。
- Masked Angle-Aware Autoencoder for Remote Sensing Images
-
提出 MA3E,在 MAE 预训练中显式引入角度变化(通过 scaling center crop 构建旋转裁剪),并用最优传输损失自动分配重建目标,使模型感知遥感目标的多样角度,学习旋转不变表示。
- Cross-Platform Video Person ReID: A New Benchmark Dataset and Adaptation Approach
-
构建首个地面-无人机跨平台视频行人重识别数据集G2A-VReID,并提出VSLA-CLIP方法,通过视觉-语义对齐和参数高效的Video Set-Level-Adapter将CLIP适配到视频ReID任务。
- Weakly-Supervised Camera Localization by Ground-to-Satellite Image Registration
-
提出首个弱监督的地面-卫星图像配准定位方法,通过卫星-卫星自监督训练旋转估计器、对比学习训练平移估计器,在无需精确GT姿态标签的条件下实现最佳跨区域泛化能力,超越大多数全监督SOTA方法。
- Adapting Fine-Grained Cross-View Localization to Areas without Fine Ground Truth
-
针对细粒度跨视角定位模型在新区域部署时精度下降的问题,提出基于知识自蒸馏的弱监督学习方法——通过模式化伪GT生成、粗粒度监督和离群值过滤三个策略,仅使用目标区域的地面-航拍图像对(无需精确GT),即可在VIGOR和KITTI上将定位误差降低12%~20%。
- Learning Representations of Satellite Images From Metadata Supervision
-
本文提出了 SatMIP(Satellite Metadata-Image Pretraining),将卫星图像的元数据(如时间、地理位置、传感器信息等)表示为文本描述,通过图像-元数据对比学习任务在共享嵌入空间中对齐图像和元数据,学习到既包含视觉特征又编码语义信息的卫星图像表征,并进一步提出 SatMIPS(结合图像自监督和元数据监督),在多个遥感下游任务上超越了 SimCLR 等纯视觉自监督方法。
🧑 人体理解 (70)¶
- Motion Mamba: Efficient and Long Sequence Motion Generation
-
本文提出 Motion Mamba,首次将选择性状态空间模型(Mamba)引入人体运动生成任务,通过层次化时序 Mamba(HTM)和双向空间 Mamba(BSM)两个核心模块,在 HumanML3D 上实现 FID 降低50%(0.473→0.281),同时推理速度提升4倍(0.217s→0.058s)。
- FoundPose: Unseen Object Pose Estimation with Foundation Features
-
FoundPose 利用冻结的 DINOv2 基础模型提取 patch 描述子,通过 bag-of-words 模板检索和 kNN 匹配建立 2D-3D 对应关系,无需任何任务特定训练即可实现未见物体的 6D 位姿估计,在 BOP 基准上显著超越现有 RGB 方法。
- EDTalk: Efficient Disentanglement for Emotional Talking Head Synthesis
-
提出基于正交可学习基向量的高效解耦框架 EDTalk,将人脸动态分解为嘴型、头部姿态和情感表情三个独立潜空间,同时支持视频驱动和音频驱动的情感说话人头像生成。
- CoMo: Controllable Motion Generation Through Language Guided Pose Code Editing
-
提出 CoMo,通过将动作序列分解为语义明确的 pose code(如"左膝微弯"),实现基于文本的可控动作生成与基于 LLM 的零样本动作编辑。
- Large Motion Model for Unified Multi-Modal Motion Generation
-
提出 Large Motion Model (LMM),首个以动作为中心的多模态统一动作生成基础模型,通过构建包含 10 个任务、16 个数据集、320K 序列的 MotionVerse 基准,设计支持身体部位感知的 ArtAttention 机制,以及结合随机帧率/掩码的预训练策略,实现跨任务的高质量动作生成。
- Multi-Memory Matching for Unsupervised Visible-Infrared Person Re-Identification
-
提出 Multi-Memory Matching(MMM)框架用于无监督可见光-红外行人重识别,通过跨模态聚类(CMC)、多记忆学习与匹配(MMLM)和软聚类级对齐损失(SCA)三个模块建立可靠的跨模态对应关系,在 SYSU-MM01 上 Rank-1 达到 61.6%,RegDB 上 Rank-1 达到 89.7%。
- FreeMotion: A Unified Framework for Number-free Text-to-Motion Synthesis
-
提出FreeMotion框架,通过条件概率分解将多人运动联合分布递归拆解为单人条件运动生成,首次实现任意人数的文本驱动运动合成,并支持多人空间控制。
- Wear-Any-Way: Manipulable Virtual Try-on via Sparse Correspondence Alignment
-
提出 Wear-Any-Way 框架,基于双 U-Net 扩散模型构建强基线实现高保真虚拟试穿,并通过稀疏对应对齐(Sparse Correspondence Alignment)引入点控制机制,支持用户通过点击和拖拽精确操控穿着方式(如卷袖子、开合外套、塞衣角等),在标准试穿和可操控试穿两个维度均达到 SOTA。
- 3D Hand Pose Estimation in Everyday Egocentric Images
-
通过系统研究裁剪输入、相机内参感知位置编码(KPE)、辅助监督(手部分割+抓握标签)和多数据集联合训练这四个实践,提出WildHands系统,在仅用ResNet50和少量数据的条件下,实现了对野外第一人称图像中3D手部姿态的鲁棒估计,零样本泛化超过FrankMocap全部指标且与10倍大的HaMeR竞争。
- Diffusion Model is a Good Pose Estimator from 3D RF-Vision
-
提出mmDiff,一种基于扩散模型的毫米波雷达人体姿态估计框架,通过全局-局部雷达上下文提取和结构-运动一致性约束,有效应对雷达点云稀疏、噪声大和信号不一致的挑战,显著超越现有SOTA。
📹 视频理解 (51)¶
- VideoMamba: State Space Model for Efficient Video Understanding
-
将 Mamba 的选择性状态空间模型创新性地适配到视频领域,提出纯 SSM 架构的 VideoMamba,以线性复杂度实现高效的时空上下文建模,在短视频和长视频理解任务上均展现出优越性能。
- SEA-RAFT: Simple, Efficient, Accurate RAFT for Optical Flow
-
SEA-RAFT 通过混合拉普拉斯损失(MoL)、直接回归初始光流和刚性流预训练三项改进,在保持简洁架构的同时实现了 SOTA 精度,并比现有方法快 2.3× 以上。
- Tracking Meets LoRA: Faster Training, Larger Model, Stronger Performance
-
LoRAT 首次将 LoRA 引入视觉目标跟踪,通过解耦位置编码(共享空间 + 独立类型嵌入)和纯 MLP 检测头两个 LoRA-友好设计,使得在实验室级资源上训练 ViT-g 骨干的跟踪器成为可能,在 LaSOT 上达到 0.762 SUC(新 SOTA),最轻变体 LoRAT-B-224 以 209 FPS 运行。
- Local All-Pair Correspondence for Point Tracking
-
本文提出LocoTrack,通过局部4D相关性体(local 4D correlation)实现视频中任意点的全对应匹配,结合轻量级相关性编码器和长度可泛化的Transformer,在所有TAP-Vid基准测试上达到最高精度,同时比SOTA方法快近6倍。
- DINO-Tracker: Taming DINO for Self-Supervised Point Tracking in a Single Video
-
提出DINO-Tracker,将预训练DINOv2的语义特征与测试时单视频优化相结合,通过Delta-DINO残差微调和多源自监督损失实现长程稠密点追踪,在自监督方法中达到SOTA且可媲美有监督追踪器,尤其在长期遮挡场景中大幅领先。
- Goldfish: Vision-Language Understanding of Arbitrarily Long Videos
-
提出 Goldfish 框架,通过将长视频分割为短 clip 并利用基于文本相似度的检索机制选取与问题最相关的 top-k 片段,实现对任意长度视频的高效理解,同时提出 MiniGPT4-Video 短视频模型和 TVQA-long 长视频评测基准。
- R²-Tuning: Efficient Image-to-Video Transfer Learning for Video Temporal Grounding
-
提出 R²-Tuning,通过在冻结 CLIP 的后几层反向递归附加轻量 R² Block(仅 1.5% 总参数),实现查询调制的空间池化和粗到细的时序精炼,在 6 个 VTG 基准 3 个任务上以 2.7M 参数超越了需要额外时序骨干网络的 SOTA 方法。
- Vamos: Versatile Action Models for Video Understanding
-
提出 Vamos 框架,以大语言模型作为推理器,灵活统一视觉嵌入和通用文本描述作为视频表征,发现纯文本表征在多个视频理解基准上一致性地取得竞争甚至更优性能,并设计 Token Bottleneck Model 实现可解释证据选择与 5 倍推理加速。
- EgoPoser: Robust Real-Time Egocentric Pose Estimation from Sparse and Intermittent Observations Everywhere
-
提出 EgoPoser,仅从头显设备的头部和手部稀疏且间歇性追踪信号中,鲁棒地估计全身姿态,通过全局运动分解、真实视野建模、SlowFast时序融合和体型感知优化四大核心设计,在大规模真实场景中实现SOTA性能,推理速度超600fps。
- Benchmarks and Challenges in Pose Estimation for Egocentric Hand Interactions with Objects
-
基于 HANDS23 挑战赛(AssemblyHands + ARCTIC 数据集),系统性地对第一人称视角下手-物体交互的 3D 姿态估计方法进行了基准测试和深入分析,揭示了畸变校正、高容量 Transformer 和多视角融合的有效性,以及快速运动、遮挡和窄视角下物体重建等仍未解决的挑战。
🚗 自动驾驶 (61)¶
- OccWorld: Learning a 3D Occupancy World Model for Autonomous Driving
-
OccWorld 提出在 3D 占用空间中学习世界模型,用 VQ-VAE 对 3D occupancy 进行 token 化,再通过 GPT 风格的时空生成 Transformer 自回归预测未来场景演化和自车轨迹,在 nuScenes 上无需实例和地图标注即可实现有竞争力的规划性能。
- GaussianFormer: Scene as Gaussians for Vision-Based 3D Semantic Occupancy Prediction
-
提出以物体为中心的 3D 语义高斯表示替代传统密集体素,用一组稀疏的 3D 语义高斯描述场景并通过高斯到体素的 splatting 生成占用预测,在性能可比的情况下将内存消耗降低 75%-82%。
- Reason2Drive: Towards Interpretable and Chain-Based Reasoning for Autonomous Driving
-
构建 Reason2Drive 基准数据集(600K+ 视频-文本对,覆盖感知-预测-推理链式任务),提出 ADRScore 评估链式推理正确性的新指标,并设计 Prior Tokenizer + Instructed Vision Decoder 框架增强 VLM 的目标级感知和推理能力,在自动驾驶推理任务上显著超越所有基线。
- GraphBEV: Towards Robust BEV Feature Alignment for Multi-Modal 3D Object Detection
-
针对多模态BEV融合中LiDAR与相机标定误差导致的特征错位问题,提出GraphBEV框架,通过LocalAlign(基于KD-Tree的邻域深度图匹配)和GlobalAlign(可学习偏移量全局对齐)两个模块,在nuScenes上达到70.1% mAP(超BEVFusion 1.6%),在噪声错位场景下超BEVFusion 8.3%。
- Fully Sparse 3D Occupancy Prediction
-
提出 SparseOcc,首个完全稀疏的 3D 占用预测网络,通过稀疏体素解码器和掩码引导的 Mask Transformer 实现高效占用预测,并设计了 RayIoU 评价指标解决传统 mIoU 的深度方向不一致惩罚问题。
- MapTracker: Tracking with Strided Memory Fusion for Consistent Vector HD Mapping
-
将在线向量高精地图构建重新定义为追踪任务,通过双表示(BEV栅格+道路元素向量)的步进式记忆缓冲区融合机制实现时间一致的高精地图重建,在nuScenes和Argoverse2上分别以76.1和76.9 mAP大幅超越现有方法。
- UniTraj: A Unified Framework for Scalable Vehicle Trajectory Prediction
-
UniTraj 构建了一个统一多数据集(nuScenes、Argoverse 2、WOMD)、多模型(AutoBot、MTR、Wayformer)和多评估策略的车辆轨迹预测框架,揭示模型跨数据集泛化能力显著下降,但通过扩大数据规模和多样性可大幅提升性能,合并训练在 nuScenes 排行榜达到第 1 名。
- NeuroNCAP: Photorealistic Closed-Loop Safety Testing for Autonomous Driving
-
提出 NeuroNCAP,一个基于 NeRF 渲染的真实感闭环自动驾驶安全测试框架,受 Euro NCAP 碰撞避免协议启发设计三类安全关键场景(静止/正面/侧面碰撞),揭示当前 SOTA 端到端规划器(UniAD、VAD)在闭环安全场景中严重失败——碰撞率高达 88-92%——尽管其感知模块准确运行。
- Safe-Sim: Safety-Critical Closed-Loop Traffic Simulation with Diffusion-Controllable Adversaries
-
Safe-Sim 提出了一个基于扩散模型的闭环安全关键仿真框架,通过在扩散去噪过程中引入对抗项和部分扩散(Partial Diffusion)机制,实现了对抗车辆行为类型(碰撞角度、相对速度、碰撞类型)的细粒度控制,在 nuScenes 和 nuPlan 上验证了对多种 planner 的有效评估能力。
- Stream Query Denoising for Vectorized HD-Map Construction
-
提出 Stream Query Denoising (SQD) 策略,通过对前一帧 GT 添加噪声并训练网络恢复当前帧 GT 来增强流式 HD 地图构建中的时序一致性建模,在 nuScenes 和 Argoverse2 上全面超越 StreamMapNet。
🤖 机器人/具身智能 (14)¶
- GraspXL: Generating Grasping Motions for Diverse Objects at Scale
-
提出 GraspXL,一个基于强化学习的抓取动作生成框架,仅用58个物体训练即可泛化到50万+未见物体,同时支持多运动目标(抓取区域、朝向、手腕旋转、手部位置)控制和多种灵巧手平台。
- QUAR-VLA: Vision-Language-Action Model for Quadruped Robots
-
首次提出四足机器人视觉-语言-动作(QUAR-VLA)范式,构建 259K episode 的多任务数据集 QUARD 和基于预训练多模态大模型的 QUART 模型,实现感知、导航、全身操作等多任务统一控制。
- See and Think: Embodied Agent in Virtual Environment
-
提出 STEVE,一个基于视觉感知、语言指令和代码动作三大组件的 Minecraft 开放世界具身智能体,通过 STEVE-21K 数据集微调 LLaMA-2 并结合视觉编码器和技能数据库,在科技树解锁和方块搜索任务上大幅超越现有方法。
- Prioritized Semantic Learning for Zero-shot Instance Navigation
-
提出Prioritized Semantic Learning (PSL)方法,通过语义增强的Agent架构、优先语义训练策略和语义扩展推理方案,显著提升零样本目标/实例导航中Agent的语义感知能力,在ObjectNav和新提出的InstanceNav任务上实现SOTA。
- SemGrasp: Semantic Grasp Generation via Language Aligned Discretization
-
提出SemGrasp方法,设计层次化VQ-VAE将抓取姿态离散为"方向-方式-精修"三个语义token,然后微调多模态大语言模型(MLLM)在统一语义空间中融合物体、抓取与语言,实现根据自然语言指令生成物理合理且语义一致的人类抓取姿态。
- An Economic Framework for 6-DoF Grasp Detection
-
提出EconomicGrasp框架,通过发现密集监督中的歧义问题(ambiguity problem)是性能与资源矛盾的根源,设计经济监督范式(保留所有视角但裁剪角度/深度)和焦点表示模块(交互式抓取头+复合评分),在GraspNet-1Billion上以1/4训练时间、1/8内存成本超越SOTA约3AP。
- ReALFRED: An Embodied Instruction Following Benchmark in Photo-Realistic Environments
-
提出 ReALFRED 基准,使用 150 个真实世界 3D 扫描的多房间可交互环境替代 ALFRED 的合成单房间场景,提供 30,696 条自由格式语言指令,揭示了现有具身指令跟随方法在真实环境中性能显著下降的问题。
- LLM as Copilot for Coarse-Grained Vision-and-Language Navigation
-
本文提出VLN-Copilot框架,让视觉语言导航智能体在粗粒度(简短模糊)指令下遇到困惑时主动向LLM求助,LLM作为副驾驶实时生成细粒度导航指导,在两个粗粒度VLN数据集上显著提升导航成功率。
- AFF-ttention! Affordances and Attention models for Short-Term Object Interaction Anticipation
-
提出 STAformer 架构和两个基于 affordance 的模块(环境 affordance 数据库 + 交互热点),将第一人称视频中的短期物体交互预测(STA)在 Ego4D 和 EPIC-Kitchens 上提升了 30-45% 的相对性能。
- Learning Cross-Hand Policies of High-DOF Reaching and Grasping
-
提出一种两阶段层次化框架,通过语义关键点和交互等分面(IBS)作为手型无关的状态表示,结合Transformer策略网络和手型特定的适配模型,实现了灵巧抓取策略在不同高自由度机械手之间的零样本迁移。
🎮 强化学习 (3)¶
- Octopus: Embodied Vision-Language Programmer from Environmental Feedback
-
提出 Octopus,一个具身视觉-语言编程模型,通过生成可执行代码来连接高层规划与底层操控,并引入 Reinforcement Learning with Environmental Feedback (RLEF) 训练方案来提升决策质量。
- Visual Grounding for Object-Level Generalization in Reinforcement Learning
-
利用视觉语言模型 (MineCLIP) 的 visual grounding 能力生成目标物体的 confidence map,通过奖励设计和任务表征两条路径将 VLM 知识迁移到强化学习中,实现对未见物体和指令的零样本泛化。
- AdaGlimpse: Active Visual Exploration with Arbitrary Glimpse Position and Scale
-
提出AdaGlimpse,利用Soft Actor-Critic强化学习从连续动作空间中选择任意位置和尺度的glimpse,结合弹性位置编码的ViT编码器实现多任务(重建/分类/分割)的主动视觉探索,以仅6%像素超越了使用18%像素的SOTA方法。
🎁 推荐系统 (1)¶
- AID-AppEAL: Automatic Image Dataset and Algorithm for Content Appeal Enhancement and Assessment Labeling
-
首次提出图像内容吸引力评估(ICAA)任务,区别于传统美学评估(IAA),设计了一套自动化数据集生成 + 吸引力估计 + 吸引力增强的完整 pipeline,用 Stable Diffusion + Textual Inversion 实现零人工标注的大规模数据集构建。
🔄 自监督/表示学习 (19)¶
- Exemplar-Free Continual Representation Learning via Learnable Drift Compensation
-
提出可学习漂移补偿(LDC),通过训练一个前向投影器将旧特征空间映射到新特征空间,在无需存储旧样本的情况下有效补偿类原型的语义漂移,首次实现了无样本半监督持续学习。
- MarineInst: A Foundation Model for Marine Image Analysis with Instance Visual Description
-
本文提出MarineInst,一个面向海洋图像分析的基础模型,能够同时输出实例掩码和语义描述;并构建了MarineInst20M——迄今最大的海洋图像数据集(2000万张),支持从图像级场景理解到区域级实例理解的多层次海洋视觉分析任务。
- InfMAE: A Foundation Model in the Infrared Modality
-
提出 InfMAE——首个红外模态基础模型,构建了 30 万张红外图像数据集 Inf30,设计信息感知掩码策略和多尺度编码器,在红外语义分割、目标检测和小目标检测三个下游任务上超越现有方法。
- PosFormer: Recognizing Complex Handwritten Mathematical Expression with Position Forest Transformer
-
提出位置森林 Transformer(PosFormer),通过将数学表达式的 LaTeX 序列编码为位置森林结构,显式建模符号间的层级与位置关系,并设计隐式注意力校正模块,在不增加推理开销的前提下,在单行/多行/复杂表达式数据集上全面超越 SOTA。
- Efficient Image Pre-Training with Siamese Cropped Masked Autoencoders
-
提出CropMAE——用同一图像的两个随机裁剪视图替代视频帧对来训练孪生掩码自编码器,在98.5%的极高掩码率下仅用2个可见patch即可学习物体边界感知表征,训练速度比SiamMAE提升最高23.8倍,同时在视频传播任务上达到竞争性能。
- ViC-MAE: Self-Supervised Representation Learning from Images and Video with Contrastive Masked Autoencoders
-
ViC-MAE 将对比学习和掩码自编码器统一到一个框架中,通过把短视频片段当作增强视角(而非把图像重复为视频),在图像和视频下游任务上同时取得优秀表现——ImageNet-1K top-1 达 87.1%(超越 OmniMAE +2.4%),SSv2 达 75.9%。
- PromptCCD: Learning Gaussian Mixture Prompt Pool for Continual Category Discovery
-
提出PromptCCD框架,利用高斯混合模型(GMM)作为提示池,实现在无标签数据流中的持续新类别发现,同时缓解灾难性遗忘。
- COHO: Context-Sensitive City-Scale Hierarchical Urban Layout Generation
-
提出基于图掩码自编码器 (GMAE) 的城市级 2.5D 布局生成方法,通过规范图表示捕获建筑-街区-社区的多层语义上下文,结合优先级调度的迭代采样,在 330 个美国城市上实现了兼具真实感、语义一致性和正确性的大规模城市布局生成。
- Adaptive Multi-head Contrastive Learning
-
本文提出AMCL(Adaptive Multi-head Contrastive Learning),通过多个投影头产生不同特征视角,配合基于MLE推导的自适应温度机制为每对样本独立加权,有效解决了多种数据增强下正负样本相似度分布重叠的问题,一致提升SimCLR、MoCo和Barlow Twins的性能。
- SCPNet: Unsupervised Cross-modal Homography Estimation via Intra-modal Self-supervised Learning
-
提出 SCPNet,通过模内自监督学习(intra-modal self-supervised learning)、相关性网络和一致性特征图投影三个关键组件的协同,首次在卫星-地图等大模态差距数据集上实现了有效的无监督跨模态单应性估计,MACE 比监督方法 MHN 低 14%。
📐 优化/理论 (2)¶
- Fine-Grained Scene Graph Generation via Sample-Level Bias Prediction
-
提出样本级偏置预测方法 SBP,通过 Bias-Oriented GAN 利用物体对 union region 的上下文信息预测样本特异性纠偏向量,将粗粒度关系修正为细粒度关系,在 VG/GQA/VG-1800 上相比数据集级纠偏方法平均提升 5.6%/3.9%/3.2% 的 Average@K。
- Handling the Non-smooth Challenge in Tensor SVD: A Multi-objective Tensor Recovery Framework
-
提出基于可学习张量核范数的多目标张量恢复框架 (MOTC),通过引入可学习酉矩阵替代固定变换来解决 t-SVD 方法在非光滑张量数据上的性能退化问题,并通过多目标优化有效利用张量各维度的低秩性。
🔗 因果推理 (4)¶
- Understanding Physical Dynamics with Counterfactual World Modeling
-
本文提出反事实世界建模(Counterfactual World Modeling, CWM),通过时序分解的遮蔽策略训练视频掩码预测器,并设计"反事实提示"机制从单一预训练模型中无需微调即可提取光流、分割、关键点等多种视觉结构,在物理动力学理解任务Physion基准上达到最优性能。
- Distill Gold from Massive Ores: Bi-level Data Pruning towards Efficient Dataset Distillation
-
提出双层数据剪枝策略 BiLP,通过经验损失静态剪枝和基于因果效应 (ITE) 的动态剪枝,高效选择对数据集蒸馏最有价值的真实样本,以即插即用方式一致性提升现有蒸馏方法性能并降低计算开销。
- Integrating Markov Blanket Discovery into Causal Representation Learning for Domain Generalization
-
提出 CMBRL 框架,在隐空间中发现马尔可夫毯(Markov Blanket)特征——目标变量的最小充分统计量——代替现有方法中仅选择因果/反因果变量的做法,构建不变预测机制实现跨域泛化。
- Learning Chain of Counterfactual Thought for Bias-Robust Vision-Language Reasoning
-
本文提出了反事实偏差鲁棒推理数据集(CoBRa)和反事实思维链方法(CoCT),通过构造编辑后的知识图谱和图像内容来评估和缓解大型视觉语言模型(LVLM)中的知识偏差,使模型能够逐步推理而非依赖偏见知识,在需要知识偏差下推理的任务上显著优于现有方法。
🔬 可解释性 (6)¶
- EgoExo-Fitness: Towards Egocentric and Exocentric Full-Body Action Understanding
-
提出 EgoExo-Fitness 数据集,包含同步的第一人称和第三人称健身视频,提供两级时间边界标注和创新性的可解释动作评判标注(技术关键点验证、自然语言评论、质量评分),并构建五个基准任务。
- PLOT: Text-based Person Search with Part Slot Attention for Corresponding Part Discovery
-
提出 PLOT 框架,利用基于 Slot Attention 的 Part Discovery Module 自动发现跨模态(图像-文本)对应的人体部件,结合 Text-based Dynamic Part Attention(TDPA)动态调整各部件重要性,无需部件级标注即可在三个 benchmark 上全面超越 SOTA。
- Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models
-
本文发现 Concept Bottleneck Models (CBMs) 中人工干预效率低下的原因在于干预时各概念独立处理、忽视了概念间关联,提出了一个轻量级的 Concept Intervention Realignment Module (CIRM),在干预后自动重新对齐相关概念的预测值,将达到目标性能所需的干预次数最多减少 70%。
- DetailSemNet: Elevating Signature Verification through Detail-Semantic Integration
-
提出DetailSemNet用于离线签名验证,通过Detail-Semantics Integrator将特征解耦为细节和语义两个分支分别处理,并引入基于EMD的局部结构匹配,在多个多语言签名数据集上取得SOTA。
- POA: Pre-training Once for Models of All Sizes
-
POA 提出在自监督自蒸馏框架中引入弹性学生分支,通过参数共享和随机子网络采样,一次预训练即可同时产出上百个不同大小的预训练模型(如从 ViT-L 直接提取 ViT-S/B),各子网络在 k-NN、线性探测和下游任务上均达到 SOTA 水平。
- SINDER: Repairing the Singular Defects of DINOv2
-
揭示DINOv2特征图中高范数缺陷token的根源是网络权重的主左奇异向量(singular defect),并提出SINDER——仅需小数据集微调奇异值即可修复缺陷,同时保持特征质量。
📦 模型压缩 (24)¶
- Isomorphic Pruning for Vision Models
-
提出 Isomorphic Pruning,通过将网络子结构建模为图并按图同构性分组,在同构组内独立排序剪枝,解决异构子结构间重要性不可比的问题,在 ViT 和 CNN 上均取得优于专门设计的剪枝方法的效果。
- AdaLog: Post-Training Quantization for Vision Transformers with Adaptive Logarithm Quantizer
-
提出自适应对数底量化器AdaLog,通过可搜索的对数底替代固定log₂/log√2量化器来处理ViT中post-Softmax和post-GELU激活的幂律分布,并设计快速渐进组合搜索(FPCS)策略高效确定量化超参,在极低比特(3/4-bit)下显著优于现有ViT PTQ方法。
- Is Retain Set All You Need in Machine Unlearning? Restoring Performance of Unlearned Models with Out-Of-Distribution Images
-
提出 SCAR(Selective-distillation for Class and Architecture-agnostic unleaRning),一种无需保留集的近似遗忘算法,通过 Mahalanobis 距离引导遗忘样本特征向量向最近错误类分布迁移,并利用 OOD 图像蒸馏保持模型性能。
- UNIC: Universal Classification Models via Multi-teacher Distillation
-
提出UNIC框架,通过改进的多教师蒸馏策略(包括梯形投影器和教师丢弃技术),将多个互补预训练模型的知识融合到单一学生模型中,实现跨任务的通用分类。
- Improving Knowledge Distillation via Regularizing Feature Direction and Norm
-
提出 ND 损失函数,通过同时对齐学生特征方向至教师类均值方向并鼓励学生产生大范数特征,显著提升了现有知识蒸馏方法在 ImageNet、CIFAR100 和 COCO 上的性能。
- Adaptive Compressed Sensing with Diffusion-Based Posterior Sampling
-
本文提出 AdaSense,利用预训练扩散模型的零样本后验采样能力来量化重建不确定性,从而自适应地选择最优测量矩阵,在人脸图像、MRI 和 CT 等多个领域实现了无需额外训练的自适应压缩感知,性能超越非自适应方法甚至基于 PCA 的最优非自适应方案。
- Adversarially Robust Distillation by Reducing the Student-Teacher Variance Gap
-
本文提出了一种基于特征分布统计对齐的对抗鲁棒知识蒸馏方法,通过减小 student 和 teacher 模型在对抗样本和干净样本之间的特征方差差距(variance gap)来提升 student 模型的对抗鲁棒性,发现鲁棒精度与方差差距存在强负相关线性关系。
- Auto-DAS: Automated Proxy Discovery for Training-free Distillation-aware Architecture Search
-
本文提出 Auto-DAS,一个基于进化算法的自动化代理发现框架,用于免训练的蒸馏感知架构搜索(DAS),通过在由学生内在统计量和师生交互统计量构成的搜索空间中自动发现最优代理指标,避免了手工设计代理的局限性,在 ResNet、ViT、NAS-Bench-101/201 等多种架构和搜索空间上达到了 SOTA 的排序相关性和搜索精度。
- Bidirectional Stereo Image Compression with Cross-Dimensional Entropy Model
-
提出双向对称的立体图像压缩框架 BiSIC,采用 3D 卷积联合编解码器和跨维度熵模型,在 PSNR 和 MS-SSIM 上均超越传统标准和已有学习方法,同时消除了单向方法中左右视图压缩质量不平衡的问题。
- Improving Zero-Shot Generalization for CLIP with Variational Adapter
-
提出 Prompt-based Variational Adapter (PVA),通过变分适配器将 base 和 novel 类别样本在隐空间中分离,采用分治策略分别处理,结合残差连接增强 novel 类别的迁移能力,在广义零样本学习和跨数据集迁移学习基准上达到 SOTA。
🕸️ 图学习 (4)¶
- Synchronous Diffusion for Unsupervised Smooth Non-Rigid 3D Shape Matching
-
提出同步扩散正则化方法用于无监督非刚性3D形状匹配,核心思想是"在两个形状上同步地扩散同一函数应产生一致输出",通过这一简单而高效的正则化可以显著提升现有深度功能映射方法的匹配平滑性,在FAUST、SCAPE、TOPKIDS等多个数据集上达到SOTA。
- Confidence Self-Calibration for Multi-Label Class-Incremental Learning
-
针对多标签类增量学习(MLCIL)中部分标签导致的过度自信预测和假阳性错误问题,提出 Confidence Self-Calibration (CSC) 框架,通过类增量图卷积网络(CI-GCN)校准标签关系 + 最大熵正则化校准置信度,在 MS-COCO 和 VOC 上大幅超越 SOTA。
- GKGNet: Group K-Nearest Neighbor Based Graph Convolutional Network for Multi-Label Image Recognition
-
提出首个全图卷积多标签识别模型 GKGNet,通过 Group KNN 机制动态构建标签与图像区域间的图结构,在 MS-COCO 和 VOC2007 上以更低计算量取得 SOTA。
- SENC: Handling Self-collision in Neural Cloth Simulation
-
提出 SENC,通过基于 Global Intersection Analysis (GIA) 的自碰撞损失和自碰撞感知图神经网络,首次在自监督神经布料模拟中有效解决布料自碰撞问题。
📈 时间序列 (3)¶
- OmniSat: Self-Supervised Modality Fusion for Earth Observation
-
提出OmniSat统一框架,通过模态特异编码器+跨模态对比自监督预训练,将多光谱时序(S2)、SAR时序(S1)、高分辨率单时相(SPOT/Aerial)等异构遥感数据融合为统一表示,在语义分割和作物分类上超越所有单模态和多模态基线。
- Multi-person Pose Forecasting with Individual Interaction Perceptron and Prior Learning
-
本文提出 IAFormer(Interaction-Aware Pose Forecasting Transformer),通过设计交互感知模块(IPM)来评估每个人与事件的交互程度,并引入交互先验学习模块(IPLM)来积累高频交互模式的先验知识,从而实现语义层面的多人姿态预测,在多个多人场景数据集上显著超越现有方法。
- Semantically Guided Representation Learning For Action Anticipation
-
提出 S-GEAR 框架,通过学习视觉动作原型并利用语言模型的语义关联来引导原型之间的几何关系,使模型理解动作间的语义互联性,从而提升动作预测性能,在 Epic-Kitchens 55/100、EGTEA Gaze+、50 Salads 四个基准上取得 SOTA 或极具竞争力的结果。
🏥 医学图像 (28)¶
- Radiative Gaussian Splatting for Efficient X-ray Novel View Synthesis
-
提出 X-Gaussian,首个将 3D 高斯泼溅(3DGS)应用于 X 射线新视角合成的框架,通过设计辐射高斯点云模型(替代球谐函数)和角度位姿长方体均匀初始化策略(替代 SfM),在性能上超越 SOTA NeRF 方法 6.5 dB 的同时,实现 73× 推理加速和仅 15% 的训练时间。
- I-MedSAM: Implicit Medical Image Segmentation with Segment Anything
-
提出 I-MedSAM,将 SAM 的强泛化能力与隐式神经表示(INR)的连续空间预测优势结合,通过频率适配器增强边界高频信息、不确定性引导采样精细化分割,仅用 1.6M 可训练参数即超越现有离散和隐式方法。
- Alternate Diverse Teaching for Semi-supervised Medical Image Segmentation
-
提出 AD-MT(Alternate Diverse Mean Teacher),通过随机周期性交替更新两个教师模型 + 基于熵的冲突调和策略,在半监督医学分割中解决 confirmation bias 问题,在 ACDC/LA/Pancreas 上全面超越 SOTA。
- GTP-4o: Modality-Prompted Heterogeneous Graph Learning for Omni-Modal Biomedical Representation
-
提出基于异构图的全模态生物医学表征学习框架 GTP-4o,通过异构图嵌入显式建模跨模态关系,利用图提示机制补全缺失模态,并设计知识引导的层次化跨模态聚合,在胶质瘤分级和生存预测任务上取得SOTA。
- TIP: Tabular-Image Pre-training for Multimodal Classification with Incomplete Data
-
提出 TIP 框架,通过掩码表格重建、图像-表格匹配和对比学习三种自监督任务,对表格数据和图像进行联合预训练,学习对不完整表格数据鲁棒的多模态表征,用于下游分类任务。
- UMBRAE: Unified Multimodal Brain Decoding
-
提出UMBRAE,通过通用脑编码器将fMRI信号与图像特征对齐后送入冻结的MLLM,实现多模态脑解码(描述、定位、检索、视觉重建),并创新性地引入跨被试训练策略,使单一模型服务多个被试且优于单被试模型。
- OphNet: A Large-Scale Video Benchmark for Ophthalmic Surgical Workflow Understanding
-
构建了OphNet——目前最大规模的眼科手术视频基准数据集(2278个视频、285小时、66种手术类型、102种手术阶段、150种精细操作),支持手术类型识别、阶段识别、时序定位和阶段预测四大任务,其规模约为现有最大手术工作流分析基准的20倍。
- RadEdit: Stress-Testing Biomedical Vision Models via Diffusion Image Editing
-
提出 RadEdit,一种基于扩散模型的医学图像编辑方法,通过引入 edit mask 和 keep mask 的双重掩码机制,打破数据中的虚假关联(spurious correlations),生成高质量的合成测试集来压力测试(stress-test)生物医学视觉模型对数据集偏移的鲁棒性。
- Improving Medical Multi-modal Contrastive Learning with Expert Annotations
-
提出 eCLIP,通过整合放射科专家的眼动注视热力图作为额外监督信号,结合 mixup 增强和课程学习策略,在不修改 CLIP 核心架构的前提下增强医学多模态对比学习的表征质量。
- Unleashing the Power of Prompt-driven Nucleus Instance Segmentation
-
提出 PromptNucSeg 框架,通过训练一个 prompter 自动生成细胞核中心点 prompt,并微调 SAM 进行逐核分割,同时引入相邻核作为 negative prompt 解决重叠核分割问题,无需复杂后处理即在三个 benchmark 上达到 SOTA。
🧬 计算生物 (1)¶
- SparseSSP: 3D Subcellular Structure Prediction from Sparse-View Transmitted Light Images
-
提出 SparseSSP,一种混合维度拓扑的高效框架,通过 Z 轴深度到通道变换将 3D 亚细胞结构预测转化为 2D 网络任务,最多减少 87.5% 的成像频次同时保持领先精度。
⚛️ 物理/科学计算 (1)¶
- Robust Fitting on a Gate Quantum Computer
-
首次在真实门量子计算机(IonQ Aria)上实现鲁棒拟合:提出用于一维 \(\ell_\infty\) 可行性检验的量子电路,填补了 Bernstein-Vazirani(BV)电路计算 Boolean influence 的关键空缺,并展示如何将一维 influence 累积到高维非线性模型(如基础矩阵估计)。
🌍 地球科学 (1)¶
- Semi-supervised Video Desnowing Network via Temporal Decoupling Experts and Distribution-Driven Contrastive Regularization
-
提出首个半监督视频去雪框架 SemiVDN,通过物理先验引导的时序解耦专家模块和分布驱动的对比正则化,利用无标签真实雪景视频缩小合成-真实域差距,在合成与真实数据集上均超越现有方法。
📡 信号/通信 (6)¶
- Defect Spectrum: A Granular Look of Large-Scale Defect Datasets with Rich Semantics
-
本文构建了 Defect Spectrum 数据集,在四个工业基准之上提供精细的、语义丰富的、大规模的多类缺陷标注(125种缺陷类别,3518+1920张),并提出两阶段扩散生成器 Defect-Gen 在少样本条件下合成高质量多样性缺陷图像,合成数据将缺陷分割 mIoU 最高提升 9.85。
- RAW-Adapter: Adapting Pre-trained Visual Model to Camera RAW Images
-
提出 RAW-Adapter,通过输入级适配器(可学习 ISP 阶段)和模型级适配器(ISP 中间特征注入骨干网络),以极小参数量(0.2-0.8M)将 sRGB 预训练模型高效适配到 Camera RAW 图像,在正常光/暗光/过曝等多种光照条件下的检测和分割任务上达到 SOTA。
- PYRA: Parallel Yielding Re-Activation for Training-Inference Efficient Task Adaptation
-
本文提出 PYRA,通过并行生成解耦的自适应调制权重并以 re-activation 策略调节待合并 token 的特征,实现了 Vision Transformer 在下游任务适配时同时兼顾训练效率(仅调 0.4% 参数)和推理效率(约 1.7-3.2 倍加速),性能与不压缩的 PEFT 方法持平甚至更优。
- Optimizing Illuminant Estimation in Dual-Exposure HDR Imaging
-
本文提出从双曝光 HDR 图像对中提取一种简洁的双曝光特征(DEF),并基于此构建了两个超轻量级光源估计器 EMLP 和 ECCC,在仅使用几百到几千个参数的情况下即可达到或超越需要数十万参数的先前方法的性能。
- QueryCDR: Query-based Controllable Distortion Rectification Network for Fisheye Images
-
提出QueryCDR网络,通过可学习查询机制(DLQM)和两种可控调制模块(CCMB/CAMB),首次实现不同畸变程度的鱼眼图像在不重训的情况下进行高质量可控矫正。
- Unsupervised Exposure Correction
-
提出首个无监督曝光校正(UEC)方法,利用ISP管线自由生成的多曝光序列让图像互为ground truth进行训练,设计仅含19K参数的像素级变换函数保留图像细节,在曝光校正和下游边缘检测上超越有监督SOTA。
👥 社会计算 (2)¶
- Distribution-Aware Robust Learning from Long-Tailed Data with Noisy Labels
-
提出 DaSC 框架,通过分布感知的类中心估计(DaCC)和置信度感知的对比学习(SBCL + MIDL),同时解决长尾分布和噪声标签的联合问题,在 CIFAR 和真实噪声数据集上达到 SOTA。
- GRACE: Graph-Based Contextual Debiasing for Fair Visual Question Answering
-
提出 GRACE(GRAph-based Contextual DEbiasing),一种基于图结构的上下文去偏方法,通过无监督上下文图学习和基于图的多样化 in-context example 选择,解决知识增强 VQA 系统中大语言模型继承的数据偏差问题。
📂 其他 (46)¶
- FisherRF: Active View Selection and Mapping with Radiance Fields Using Fisher Information
-
本文提出FisherRF,利用Fisher信息直接量化辐射场(Radiance Fields)模型参数的观测信息量,通过最大化期望信息增益(Expected Information Gain)选择最优视角,在视角选择、主动建图和不确定性量化三个任务上均达到SOTA,且通过稀疏性利用和自定义CUDA核实现了70 fps的视角评估速度。
- Improving Point-based Crowd Counting and Localization Based on Auxiliary Point Guidance
-
提出辅助点引导 (APG) 策略和隐式特征插值 (IFI) 模块,通过在真值点附近显式生成辅助正负样本来稳定 point-based 人群计数方法中 proposal-target 匹配过程的不稳定性,在多个数据集上取得 SOTA。
- Docling Technical Report
-
Docling 是一个开源的 PDF 文档转换工具,集成了基于 DocLayNet 的布局分析模型和 TableFormer 表格结构识别模型,可在普通硬件上高效地将 PDF 转换为结构化的 JSON 或 Markdown 格式。
- An Incremental Unified Framework for Small Defect Inspection
-
提出增量统一框架IUF,首次将增量学习集成到统一重建式缺陷检测方法中,通过目标感知自注意力(OASA)建立语义边界、语义压缩损失(SCL)压缩非主要语义空间、以及基于SVD的权重更新策略保护旧对象特征,在MVTec-AD和VisA上实现图像级和像素级的SOTA增量缺陷检测性能。
- ET: The Exceptional Trajectories - Text-to-Camera-Trajectory Generation with Character Awareness
-
提出首个从真实电影中提取的相机-角色轨迹数据集 E.T.(115K 样本,11M 帧),以及基于扩散模型的 Director 方法,能根据文本描述和角色轨迹生成复杂的相机运动轨迹,同时设计了 CLaTr 对比嵌入用于轨迹生成质量评估。
- Foster Adaptivity and Balance in Learning with Noisy Labels
-
提出SED方法,通过自适应且类别平衡的样本选择与重加权机制来应对标签噪声问题,在无需预定义阈值等先验知识的前提下,在合成和真实噪声数据集上取得SOTA性能。
- ADMap: Anti-disturbance Framework for Vectorized HD Map Construction
-
本文提出 ADMap 框架,通过多尺度感知颈部(MPN)、实例交互注意力(IIA)和矢量方向差异损失(VDDL)三个模块,从实例间和实例内两个层面级联式监控点序列预测过程,有效缓解了矢量化高精地图构建中的点序列抖动/锯齿问题,在 nuScenes 和 Argoverse2 上取得了 SOTA 性能。
- AttnZero: Efficient Attention Discovery for Vision Transformers
-
本文提出 AttnZero,首个自动发现高效注意力模块的框架,通过构建包含六类计算图和丰富算子的搜索空间、利用进化算法进行多目标搜索,自动发现了适用于多种 ViT 的线性注意力公式,在 DeiT/PVT/Swin/CSwin 上分别达到 74.9%/78.1%/82.1%/82.9% 的 ImageNet top-1 准确率,并构建了包含 2000 种注意力变体的 Attn-Bench-101 基准。
- Auto-GAS: Automated Proxy Discovery for Training-Free Generative Architecture Search
-
本文提出 Auto-GAS,首个面向生成模型(GAN)的免训练架构搜索框架,通过自动发现并优化零成本代理指标来替代传统训练式搜索,实现 110 倍搜索加速,同时保持与训练式方法相当的生成质量。
- PartCraft: Crafting Creative Objects by Parts
-
提出 PartCraft,首次实现了基于部件选择的文本到图像生成控制——用户可以从不同物体中"挑选"各部件(如鸟的头、翅膀、身体),模型将它们自然地组合为一个全新且结构合理的创意物体。