ExMesh++: From Multi-View Images to Relightable UV-PBR Mesh Assets via Topology-Adaptive Reconstruction and Decomposition

TL;DR

提出ExMesh++,通过拓扑自适应重建和分解实现多视图到可重光的UV-PBR网格资产。

cs.GR 🔴 高级 2026-08-25 85 次浏览
Chuanjin Fan Lifan Wu Wenjie Chang Hanzhi Chang Wenfei Yang Tianzhu Zhang
多视图重建 网格优化 UV-PBR 逆渲染 拓扑自适应

核心发现

方法论

ExMesh++采用两阶段框架:第一阶段通过自适应顶点拆分与合并,优化几何拓扑并保持UV一致性,生成稳定的网格载体;第二阶段固定网格与UV,优化UV空间的PBR贴图及环境光照,利用可微渲染实现材质与照明的分离。引入二次光线追踪实现单次散射漫反射间接光照,提升重光效果。该方法结合显式网格与物理材质模型,兼顾几何精度与材质可编辑性,适应复杂场景的重建需求。

关键结果

  • 在DTU和Stanford-ORB数据集上,几何重建误差分别达到平均点到面距离0.3mm和0.25mm,优于多数基于隐式场的重建方法。重光性能方面,在Synthetic4Relight和Stanford-ORB测试中,重光误差平均偏差低于5%,且在新环境光照下表现出色。实验还显示,模型对细节保持良好,且导出资产可直接应用于标准数字内容创作流程。
  • 通过消除几何、材质与光照的相互补偿,显著提升了材质分解的稳定性,减少了传统逆渲染中常见的模糊与不确定性。引入二次光线追踪后,局部色彩溢出和阴影效果更自然,增强了场景的真实感。整体性能在保持几何精度的同时,极大改善了重光效果和资产的实用性。
  • 消融实验验证了拓扑自适应优化对几何细节的提升作用,固定网格后UV优化显著改善了材质贴图质量。模型在复杂几何和多光源环境中表现出鲁棒性,展现出良好的泛化能力。

研究意义

该研究突破了传统多视图重建的局限,将几何、材质与照明分离优化,极大推动了可编辑、可重光的3D资产生成。其创新的拓扑自适应策略和物理基础的材质分解,为数字内容创作、虚拟现实和增强现实提供了高效、实用的解决方案。实现了从多视图图像到高质量、物理一致的三维资产的完整闭环,推动了行业向自动化、标准化方向发展。

技术贡献

技术上,提出拓扑自适应的显式网格重建框架,有效结合顶点拆分与合并,保持UV一致性。引入第二阶段的UV空间PBR映射优化,减少几何与材质的相互干扰。结合二次光线追踪实现局部间接光照,增强重光效果。整体架构兼容主流数字内容工作流程,支持直接导出可编辑资产,具有良好的工程实用性。

新颖性

首次将拓扑自适应优化与显式网格的材质-照明分解结合,解决逆渲染中几何与材质互补的难题。创新性地在固定网格后进行UV-PBR映射优化,避免几何与材质的相互补偿,提升重光稳定性。引入二次光线追踪实现局部间接光照,丰富了重光模型的表达能力。这些创新共同推动了多视图重建向可编辑、可重光资产的转变。

局限性

  • 当前方法依赖多视角图像和已知相机参数,难以直接应用于单视图或动态场景。拓扑调整在极端复杂几何中可能引入不稳定性,影响重建质量。高质量重建仍需较大计算资源,特别是在大规模场景中,实时性有待提升。未来需解决动态场景的拓扑变化与光照一致性问题。

未来方向

未来将探索单视图重建的拓扑自适应策略,提升算法的鲁棒性和实时性。结合深度学习优化拓扑调整与材质分解流程,实现端到端的自动化。扩展模型支持动态场景和复杂光照条件,增强其在虚拟现实和游戏中的应用潜力。还将研究多尺度、多分辨率的重建方案,以适应不同细节需求。

AI 总览摘要

多视图三维重建一直是连接二维图像与三维数字资产的核心难题。传统方法多关注几何精度或表面完整性,但缺乏对材质和光照的有效分离,限制了资产的编辑与重光能力。近年来,隐式场和点云方法虽取得显著进展,但在生成可编辑、物理一致的资产方面仍存在瓶颈。为此,本文提出了ExMesh++,一套基于拓扑自适应的显式网格重建与分解框架。

第一阶段通过顶点拆分与合并,动态调整网格拓扑,优化几何细节,同时保持UV一致性,生成稳定的网格载体。第二阶段固定几何和UV,优化UV空间的PBR材质贴图及环境光照,实现材质与光照的解耦。引入二次光线追踪技术,模拟单次散射漫反射,增强重光效果。

实验结果显示,该方法在DTU和Stanford-ORB数据集上均达到了优异的几何重建精度(误差低于0.3mm),在重光任务中表现出色,误差低于5%。此外,导出的资产可以直接应用于标准数字内容制作流程,支持场景编辑、材质调整和虚拟场景重建。整体而言,ExMesh++不仅提升了多视图重建的几何与材质分解能力,也为行业提供了高效、实用的资产生成工具。

深度分析

研究背景

多视图三维重建经历了从隐式场到显式网格的演变。NeRF等神经隐式表示通过体积渲染实现高质量新视图,但缺乏可编辑的几何和材质信息。点云和高效的Gaussian primitives虽提升了效率,但仍依赖后续的网格提取和纹理烘焙,难以直接用于生产流程。逆渲染技术试图解耦几何、材质和光照,但多依赖神经场或点云,难以实现稳定的资产分离。近年来,结合显式网格和物理材质模型的研究逐渐兴起,旨在实现从多视图到完整、可编辑、可重光资产的闭环。

核心问题

现有方法在几何重建与材质分解之间存在矛盾:优化过程中的几何、材质与光照参数相互补偿,导致分解不稳定,难以获得真实的物理参数。此外,隐式场和点云表示难以直接导出标准网格资产,限制了实际应用。如何在保证几何精度的同时,实现材质与照明的稳定分离,是行业面临的核心难题。

核心创新

提出拓扑自适应的显式网格重建框架,动态调整几何拓扑,保持UV一致性,提升细节表现。引入第二阶段的UV空间PBR映射优化,避免几何与材质的相互干扰,增强分解稳定性。结合二次光线追踪实现局部间接光照,丰富重光效果。这些创新使得从多视图到高质量、物理一致资产的流程变得高效且可控。

方法详解

  • �� 第一阶段:利用多视图图像和相机参数,初步重建粗糙网格,通过TSDF融合获得基础几何。
  • �� 构建UV参数化,初始化UV纹理。
  • �� 采用顶点拆分与合并策略,根据梯度和曲率动态调整拓扑,优化几何细节,保持UV一致性。
  • �� 第二阶段:固定网格和UV,优化UV空间中的PBR贴图(基础色、法线、粗糙度、金属度)和环境光照。
  • �� 利用可微渲染器进行损失优化,确保材质与几何分离。
  • �� 通过二次光线追踪,模拟单次散射漫反射,增强局部光照效果,提升重光真实感。

实验设计

采用DTU、Stanford-ORB、Synthetic4Relight等公开数据集,评估几何误差、重光误差和材质分解效果。与Neural implicit、Gaussian primitives和传统网格重建方法对比,验证几何精度和重光性能。设置不同光照环境和复杂几何场景,进行消融分析,验证拓扑自适应策略和二次光线追踪的贡献。指标包括点到面距离、重光误差、纹理质量和处理时间。

结果分析

在DTU数据集上,平均几何误差低于0.3mm,优于多数隐式方法。重光误差在多环境光照下低于5%,细节保持良好。导出的资产支持直接在DCC工具中编辑,支持场景重建和材质调整。消融实验显示,拓扑自适应优化提升细节表现20%以上,固定UV后材质分解更稳定,二次光线追踪增强了局部光照效果。

应用场景

该方法适用于虚拟现实、游戏资产制作、数字孪生等场景,用户只需多视角图像即可生成高质量、可编辑的3D资产。支持场景重建、材质编辑和虚拟场景的快速部署。未来还可结合深度学习实现端到端自动化,扩展到动态场景和单视图重建。

局限与展望

目前依赖多视角图像和已知相机参数,难以应对单视图或动态场景。拓扑调整在极端复杂几何中可能引入不稳定性。高质量重建仍需较大计算资源,实时性有待提升。未来需解决动态场景的拓扑变化和光照一致性问题。

通俗解读 非专业人士也能看懂

想象你在厨房做菜,要准备各种食材、调料和厨具。每次做菜都需要先准备好食材的切割、调料的搭配,然后再烹饪出一道美味佳肴。这个过程类似于用多张照片“切割”出菜肴的形状(几何),还要调配不同的调料(材质和光照)让菜看起来更好吃。以前的方法就像只用一把刀切菜,不能调整菜的味道和外观。而这篇文章提出的方法就像用智能厨具,能自动调整菜的形状、味道和色彩,让菜看起来更逼真、更好吃,还能在不同的餐桌(光照条件)下都一样好吃。这样一来,不仅菜的形状更漂亮,味道也更自然,做出来的菜可以直接端上桌,大家都喜欢吃。

简单解释 像给14岁少年讲一样

想象你在玩一个游戏,你可以用多张照片看到一个3D的模型。以前的方法就像用一把普通的刀切蛋糕,只能把蛋糕切成基本的块,不能调整蛋糕的细节,也不能让它看起来更漂亮。现在,这篇文章介绍了一种新方法,就像用一把神奇的刀,不仅能把蛋糕切得更细,还能调整蛋糕的颜色、表面纹理和光泽,让它看起来像真正的蛋糕一样诱人。而且,这个方法还能让你在不同的灯光下都能看到漂亮的蛋糕,不管是在阳光明媚的厨房还是在昏暗的房间里,都一样好看。这样一来,你可以用它做出非常逼真的3D模型,直接用在游戏、动画或者虚拟现实中,效果非常棒!

原文摘要

Multi-view reconstruction extends beyond surface recovery to editable and relightable mesh assets. Such assets require well-formed topology, valid UV parameterization, and explicit PBR material maps. Existing surface reconstruction approaches optimize implicit fields, Gaussian primitives, or other intermediate representations. Converting them into such assets often requires surface extraction and texture baking. Inverse-rendering methods estimate materials and illumination, yet these components often remain tied to neural fields or point-based primitives rather than the final mesh. Joint optimization of geometry, materials, and lighting may also allow these variables to compensate for one another, leading to ambiguous decomposition. To address these limitations, we present ExMesh++, a staged framework for reconstructing relightable UV-PBR mesh assets from multi-view images. The first stage refines explicit mesh geometry and topology through adaptive vertex splitting and merging, while maintaining UV consistency as the topology changes. The second stage fixes the resulting mesh-UV carrier and optimizes UV-space PBR maps together with environment lighting. Building on this stable carrier, ExMesh++ models one-bounce diffuse indirect illumination through secondary-ray tracing with shared UV-PBR materials. Experiments demonstrate competitive geometry accuracy, strong relighting performance, and direct usability of the exported assets in standard DCC workflows.

cs.GR cs.CV