奇妙世界 – 由多伦多大学、Snap及UCLA联手开发的单一视角三维场景创建技术

AI工具3个月前发布 ainav
143 0

Wonderland指的是一个奇妙的地方。

由多伦多大学、Snap及UCLA的研究人员共同开发的Wonderland技术,能够基于单一图像创建出高品质且覆盖广泛的三维场景,并支持对相机路径进行调整。这项技术证实了在扩散模型的基础之上构建三维重建系统是可行的,从而实现了高效的三维环境生成,代表了单视图3D场景合成领域的重大进步。通过融合视频扩散算法和大规模3D重构机制,Wonderland克服了传统3D建模方法中常见的视角扭曲问题,并能实现精细的视觉角度管理和多角度视频内容创作。

神奇乐园的核心特性

  • 制作视频借助单一图像及相机条件信息,Wonderland能够精确调控视点以生成视频,并确保所产视频具备与三维几何结构高度一致的质量。该技术展现出强大的适应能力,支持追踪多样化的复杂路径,并兼容多种风格的源图像输入。
  • 三维环境创建利用单一图像,并借助于LaLRM技术,Wonderland具备创建出精细且辽阔的三维环境的能力,支持深入探索及构建高品质的大范围3D空间。
  • 零样本三维场景创造基于单一图像的输入,Wonderland能够实现高效的3D场景正向重构,并且其在多个标准数据集中的3D场景重构效果超越了当前的方法。
  • 广泛适用的场景生产能力:Wonderland能够快速创建多样化的复杂环境,并且所生成的三维空间展现出极高的几何统一性和广泛的适用性,甚至可以应对非目标领域内的场景挑战。

奇境背后的科技机制

  • 融合了视频传播模型和三维重构技术的方法:通过引入全新的方法,Wonderland验证了在扩散模型的隐空间中构建三维重建模型的有效性,并实现了快速且高效的三维场景创作。该系统能够依据预设的摄像机路径精准地合成视频内容,在生成多视角细节的同时确保三维视觉的一致性和准确性。
  • 双重路径相机操控系统通过运用ControlNet与LoRA组件,Wonderland能够在视频制作时精准操控多种摄像机视点的变化,这极大地改善了多角度视频输出的质量、空间一致性及固定元素的表现。
  • 基于大型潜在变量的三维重构模型(LaLRM)Wonderland巧妙地运用了名为LaLRM的三维重构模型,该模型能够直接从视频生成模型输出的数据中复原出三维场景,这一过程称为前馈重构。为了提升训练效率,采用了分步训练的方法来转化视频数据中的信息为三维高斯点云(3D Gaussian Splatting, 3DGS),这种方式极大地减少了内存占用并缩短了重建所需的时长。
  • 从单一图片跃进至三维空间的革命性突破以往的三维重建方法通常需要依靠多个角度的数据或是针对每个场景进行独立优化,并且在应对复杂背景或非可见部分时常常会出现准确性问题。而Wonderland系统则利用视频合成技术和大型三维建模技术相结合,显著提升了大规模三维环境构建的速度和质量。
  • 在视频传播的模型里融入三维感知能力。Wonderland 在视频潜空间里融入了由相机位置和姿态调控带来的多种视觉角度数据,确保了三维一致性的维持。

Wonderland项目的所在位置

  • 官方网站项目访问该研究项目的网站: https://snap-research.github.io/wonderland/ 获取更多信息。
  • 关于arXiv上的科技学术文章在学术论文数据库中可以找到这份文件,其链接为:https://arxiv.org/pdf/2412.12091,该文献提供了深入的研究内容。

Wonderland的使用情境

  • 建筑创作于建筑策划行业之中,Wonderland具备生成高精度3D构型与环境的能力,这极大地助力了设计者及委托方对建筑构思进行更为生动且直觉化的诠释与呈现。
  • 虚拟实境(VR)技术于虚拟现实行业之中,Wonderland具备创建广泛多样3D环境的能力,能够带给用户极致的沉浸感受,并且非常适合应用于如虚拟旅行及教育培训等多个领域。
  • 电影与电视视觉效果通过运用Wonderland的技术,能够创建出高品质的3D环境与影片内容,从而在影视作品中实现更为真实的视觉效果及背景设定。
  • 制作电子游戏在游戏制作行业中,利用Wonderland能够加速创建游戏内的环境与场景,从而增强开发效率及提升作品品质。
  • 商务展示公司能够利用Wonderland制作吸引人的产品展示,并设立虚拟店铺或线上展会,从而向顾客提供一个独特的购物经历。
  • 展示虚拟商品示例电子设备生产商能够创建虚拟展示平台,使顾客在购置之前就能够探索产品各个方面的特性,涵盖外形设计、硬件规格及软件运用等内容。
© 版权声明

相关文章