CVPR2026 | 北大王选所最新成果速览(1)

发布时间:2026-06-26

IEEE国际计算机视觉与模式识别会议CVPR 2026于2026年6月3日至6月7日在美国丹佛科罗拉多会议中心召开。CVPR是计算机视觉与模式识别领域的顶级学术会议,是中国计算机学会(CCF)A类会议,本次会议共收到16092篇有效投稿,其中4090篇被录用,录用率为25.42%。

北大王选所杨帅、崔昊阳、夏仲禹、叶枫等老师和学生前往美国丹佛参加了本次会议。

近期,我们将对北大王选所师生在CVPR2026发表的研究成果进行简要介绍(按照第一作者姓氏笔画顺序排序),欢迎大家讨论交流。

论文列表:

1. 超越局部块:针对多模态少样本字体生成的全局感知自回归模型

2. 从粗到细的多源碎片拼接算法

3. FlowPortal:免训练视频换背景与重光照

4. FISHuman: 基于4D重网格化的高精度单图像三维人体重建

5. R4Det:面向高性能三维目标检测的4D毫米波雷达与相机融合方法

6. RoboAgent:基于技能链的具身任务规划

7. 基于双向置信度引导参考信息建模的高分辨率神经视频编码


1. 超越局部块:针对多模态少样本字体生成的全局感知自回归模型(Beyond Patches: Global-aware Autoregressive Model for Multimodal Few-Shot Font Generation)

人工字体设计是一个复杂精细的过程,需要将风格化的视觉概念转化为一套完整统一的字形集。这一挑战在自动化少样本字体生成(Few-shot Font Generation, FFG)领域同样存在 —— 现有模型往往难以在有限参考样本的条件下同时保证结构完整性与风格还原度。尽管自回归(AR)模型已展现出卓越的生成能力,但其在字体生成任务中的应用受限于传统的局部块级令牌化方式,这种方式忽略了对连贯字体合成至关重要的全局依赖关系。此外,现有少样本字体生成方法仍局限于图像到图像的生成范式,仅依赖视觉参考,忽视了语言在字体设计过程中传递风格意图的作用。针对上述局限,本文提出 GAR-Font—— 一种面向多模态少样本字体生成的新型自回归框架。GAR-Font 引入了可有效捕捉局部结构与全局风格模式的全局感知令牌化器、通过轻量级语言 - 风格适配器实现灵活风格控制且无需大规模多模态预训练的多模态风格编码器,以及进一步提升结构保真度与风格一致性的后优化流水线。大量实验表明,GAR-Font 性能优于现有少样本字体生成方法,在保持全局风格忠实度方面表现突出,并且能够结合文本风格指导生成更高质量的结果。

论文第一作者为蔡浩楠(北大信科),论文通讯作者为连宙辉(北大王选所),合作作者为罗宇轩 (北大王选所)。

论文主页:https://xtryer-s.github.io/projects_pages/GAR_Font/

2. 从粗到细的多源碎片拼接算法(ShreddingNet: Coarse-to-Fine Restoration for Multi-Source Shredded Manuscripts)

作为人类文化遗产领域的一项重要研究任务,艺术品与书法作品的复原具有重要意义。现有研究很少将面向多源碎片的复原任务纳入考虑(即碎片并不保证来自同一件艺术作品)。本文提出 ShreddingNet,一种用于多源手稿复原的由粗到细两阶段算法,能够在不依赖限制性条件的情况下运行。所提出的粗粒度阶段对各碎片的特征进行比较,选择 Top-K 候选碎片并按来源对碎片进行聚类。该设计利用了一个关键洞见:错误匹配很少跨越源边界,因此能够实现高精度聚类。所提出的细粒度阶段评估候选对,得到匹配分数,并从候选集中滤除错误匹配对,从而为全局组装生成更精确的最终匹配对。在两个数据集的 4,000 余幅图像上开展的实验表明,平均重建 F1 分数达到 98.37%,较当前最先进方法高出 5.72%,验证了该方法的有效性与鲁棒性。源代码可在 github.com/tqychy/shreddingnet 中获得。

论文第一作者为崔昊阳(北大王选所),论文通讯作者为穆亚东(北大王选所),合作作者为姜浩(北大王选所)。

项目主页:https://github.com/tqychy/shreddingnet

3. FlowPortal:免训练视频换背景与重光照(FlowPortal: Residual-Corrected Flow for Training-Free Video Relighting and Background Replacement)

基于背景替换的视频重光照是电影制作与创意媒体领域中的一项关键任务,具有较高的应用价值,但也充满挑战。现有方法难以同时兼顾时间一致性、空间保真度与光照自然性。为解决这一问题,本文提出了 FlowPortal,一种新颖的、无需训练、基于光流的视频重光照框架。该框架的核心创新在于一种“残差校正光流机制”,它将标准的光流模型改造为编辑模型:当输入条件相同时,能够保证完美重建;当输入条件不同时,能实现真实可靠的重光照,从而获得高度一致的结构保持效果。此外,FlowPortal还引入了解耦的条件设计以实现对光照的精确控制,并采用高频注入机制来保持图像细节。同时,掩膜策略将前景重光照与背景的纯生成过程相分离。实验结果表明,FlowPortal 在时间连贯性、结构保持以及光照真实感方面均表现优异,同时具有较高的运行效率。

论文第一作者为高文硕(北大王选所),论文通讯作者为杨帅(北大王选所),合作作者包括樊峻一(北大王选所)、曾姜月(北大王选所)。

项目主页:https://gaowenshuo.github.io/FlowPortalProject/

4. FISHuman: 基于4D重网格化的高精度单图像三维人体重建(FISHuman: Fine-grained Single-image 3D Human Reconstruction via Multi-view 4D Remeshing)

单图像3D人体重建因其便捷性和广泛的应用需求而具有重要价值。现有方法通过采用2D多视角扩散模型生成辅助视图作为重建先验,已取得了长足进步,但仍面临3D不一致性和泛化能力有限的挑战。本文提出FISHuman,旨在从单视角输入中生成细粒度、高保真且内容多样化的3D人体,并提供可直接用于生产的3D资产。我们设计了一套精细的工作流程,能够从多视角不一致的引导信息中重建动态3D网格。具体而言,我们采用了一种双流Transformer视频扩散模型,用于生成跨模态对齐的多视角RGB和法线序列。我们发现,由于生成帧缺乏3D感知能力,直接采用静态3D重建会导致几何畸变和纹理模糊。为解决这一问题,我们引入了一种新颖的4D重网格模块,通过追踪不同视角下的逐顶点变形,显式解耦全局共享的规范网格与瞬态变化的学习。变形网格的拓扑一致性天然地支持学习统一的UV表示,从而有效整合各帧的外观属性。定性和定量实验结果均表明,我们的方法在外观真实感、几何精细度和泛化多样性方面均优于现有方法。此外,我们还展示了重建化身在动画和3D编辑等下游应用中的适用性。

论文第一作者为刘涵兮(北大王选所),论文通讯作者为连宙辉(北大王选所),合作作者为门怡芳(阿里巴巴通义实验室)。

5. R4Det:面向高性能三维目标检测的4D毫米波雷达与相机融合方法(R4Det: 4D Radar-Camera Fusion for High-Performance 3D Object Detection)

为了提升智能驾驶系统的安全性和鲁棒性,智能驾驶车辆通常采用多种模态的传感器获取场景信息进行感知,如环视相机、激光雷达、毫米波雷达等。其中4D毫米波雷达-环视相机多模态组合感知方案具有优秀的感知能力和较高的性价比,受到了包括新能源汽车国际巨头特斯拉公司等车厂的青睐。但是,由于4D毫米波雷达和环视相机模态间的巨大差异,如何融合这两种模态信息高精度且鲁棒地完成智能驾驶感知任务(如3D目标检测)具有非常大的技术挑战性。

针对该技术难题,王勇涛课题组与合作者提出了基于4D毫米波雷达和环视相机鸟瞰图(BEV)特征融合的3D目标检测方法R4Det。具体地,针对绝对深度估计模块精度有限的问题,提出了一种全景深度融合模块,摒弃了稀疏的度量回归,引入序数排序损失;针对缺乏自车位姿时的时序融合问题,提出可变形门控时序融合模块,以对齐非刚性运动;针对小体积物体(例如远处的行人和骑行者)召回率和准确率低的问题,提出了一种实例引导的动态优化模块。实验证明,该方法可以即插即用于现有的多模态3D目标检测模型架构,并大幅提升其检测精度。

论文第一作者为夏仲禹(北大王选所),论文通讯作者为王勇涛(北大王选所),合作作者包括汤佑森(同济大学)、王志峰(英博数科科技有限公司)、秦伟俊(英博数科科技有限公司)。

项目主页: https://github.com/VDIGPKU/R4Det

6. RoboAgent:基于技能链的具身任务规划(RoboAgent: Chaining Basic Capabilities for Embodied Task Planning)

本文主要研究具身任务规划问题(embodied task planning),它要求智能体从环境中获取视觉观测,并通过执行一系列原子动作来完成给定任务。尽管近年来视觉-语言模型(Vision-Language Models, VLMs)在多模态理解与推理方面取得了显著进展,但在涉及多轮交互、长时程推理以及长上下文分析的具身规划任务中,其性能仍然存在瓶颈。为弥合这一差距,我们提出 RoboAgent,这是一种能力驱动的规划流程,其中模型会主动调用不同的子能力,每种能力都维护各自的上下文,并基于调度器给出的查询生成中间推理结果或与环境进行交互。该框架将复杂的规划任务分解为一系列VLM擅于处理的基础视觉-语言问题,从而实现更加透明、可控的推理过程。为了训练该模型,我们采用多阶段训练范式,包括:(1)利用专家规划进行行为克隆;(2)使用模型生成的轨迹进行 DAgger 训练;(3)在专家策略引导下进行强化学习。在这些阶段中,我们利用环境仿真器的内部信息为各个能力构建高质量监督信号,并进一步引入增强数据与合成数据,以提升模型在更复杂多样场景中的表现。

论文第一作者为徐沛然(北大王选所),论文通讯作者为穆亚东(北大王选所),合作作者为郑嘉祺(北大信科)。

项目主页:https://github.com/woyut/RoboAgent_CVPR26

7. 基于双向置信度引导参考信息建模的高分辨率神经视频编码(High-Resolution Neural Video Coding with Bi-directional Confidence-Guided Reference Information Modeling)

分层双向参考视频编码是提升神经视频编码压缩效率的关键方向,但现有神网络B帧编码器在高分辨率、大运动场景下的性能增益仍然有限:光流估计不可靠,且简单的平均融合策略易引入失真。为此,本文提出首个面向高分辨率的端到端双向神经视频编码方法HR-NVC,通过置信度引导的非均匀融合双向预测,实现更可靠、更高效的高分辨率视频压缩。

具体而言,本文从参考信息建模的统一视角出发,将双向上下文关联信号分解为表示、转换与协调三个维度,并针对性地提出三项核心技术:(1)时空锚定运动估计,引入虚拟锚点帧与低分辨率空间先验,为大位移场景提供可靠的运动初始化,显著缓解高分辨率下的估计漂移;(2)分层运动表示,构建多尺度、结构化的运动表征,实现运动可靠性的紧凑自适应建模;(3)双向上下文非对称协调,基于置信度图对双向参考预测进行非对称融合,有效抑制不可靠上下文,恢复遮挡与场景转换区域的结构一致性。

实验表明,HR-NVC是首个在4K分辨率视频上开展系统性评估的端到端神经视频编码器,在JCT-VC、UVG、MCL-JCV及4K测试序列上均取得了当前神经B帧编码器的最优性能,为高分辨率神经视频编码研究建立了新的基准。

论文第一作者为叶枫(北大王选所),论文通讯作者为贾川民(北大王选所),合作作者包括张凯(字节跳动),张莉(字节跳动)。


CLOSE