电话

17709168119

开云网址·(中国)官方网站神经网络辐射场NeRF如何重塑SLAM?

标签: 2024-07-02 

  开云网址·(中国)官方网站神经网络辐射场NeRF如何重塑SLAM?同时定位与建图(SLAM)是计算机视觉和机器人领域的交叉学科。它解决了使机器能够自主导航并逐步构建未知环境地图的挑战,同时确定自己的位置和姿态。对SLAM的需求已经扩展到各种领域,包括机器人、自动驾驶汽车、增强现实(AR)、无人机、医疗应用等。

  SLAM效果的衡量标准通常包括:全局一致性开云网址、稳健的相机跟踪、精确的表面建模、实时性能、未观察区域的准确预测、大型场景的可扩展性以及对噪声数据的鲁棒性。

  最早人工设计的特征几何的SLAM算法实时性和可扩展性还不错,但面临着强光照、光照变化和动态/低纹理环境的挑战,在这些场景下性能不理想。后来SLAM结合深度学习方法,利用了深度神经网络强大的特征提取能力,在具有挑战性的条件下效果明显。但这是有代价的,该方法依赖大量训练数据和准确的真值,这限制了它们推广到未知场景的能力。此外,几何方法和基于深度学习的方法都遇到了离散表面表示(如点云,体素哈希,体素网格,八叉树)的限制,带来了一些问题,比如稀疏的3D重建,有限的空间分辨率和重建过程中的失真等。

  神经辐射场(Neural Radiance Fields, NeRF)的出现是一场技术革命,正在重塑SLAM系统。相比以前的方法有几个优点,包括连续表面建模,降低内存要求,改进噪声/异常值处理,增强对遮挡或稀疏观测的填充和场景建图能力。而且它们有可能产生更稠密、更紧凑的地图。

开云网址·(中国)官方网站神经网络辐射场NeRF如何重塑SLAM?(图1)

  SLAM技术在移动智能体的未知环境自主定位建图和导航方面起到了核心作用,随着技术的飞速发展,总结最近10年,SLAM领域的研究经历的重大发展,包括:

  全网首个理论+实践课程《快速上手基于NeRF的SLAM:理论与实践》第②期重磅上线%新内容)!有早鸟立减100优惠,限额30个不要浪费任何一次技术红利

  1什么是NeRF-based SLAM?2020年NeRF横空出世,获得ECCV2020最佳论文荣誉提名,随后神经辐射场方法的文章如雨后春笋般出现。NeRF最初用来在给定相机视角的条件下,渲染出该视角下的合成的新图像开云网址,

  既估计相机位姿又对环境进行重建的NeRF技术,即NeRF-based SLAM。NeRF这几年太火了!席卷计算机视觉领域,几大顶会顶刊每年有大量的文章发表,SLAM学术界的顶级研究机构也纷纷从传统方法的研究转向NeRF based SLAM方法。

  2为什么学习NeRF-based SLAM?将深度学习与传统几何融合是SLAM发展的趋势。过去我们看到SLAM中一些单点的模块,被神经网络所替代,比如特征提取(SuperPoint), 特征匹配(SuperGlue), 回环(NetVlad)等。

  无论是隐式还是显式的环境表达都可以进行微分,即可以对map进行full-dense优化(传统SLAM基本无法优化dense map,通常只能优化有限数量的特征点或者对map进行覆盖更新)。

  NeRF 不仅在学术界非常火爆,很多知名企业也在积极利用NeRF来开发产品。比如上海人工智能实验室联合香港中文大学和上海市测绘院发布全球首个城市级NeRF实景三维大模型“书生·天际”

开云网址·(中国)官方网站神经网络辐射场NeRF如何重塑SLAM?(图2)

  基于以上问题,计算机视觉life联和哈尔滨工业大学汪博士,对目前最新的知名的NeRF SLAM开源框架并进行了详细的解读和代码讲解。

  全网首个理论+实践的NeRF SLAM课程《快速上手基于NeRF的SLAM:理论与实践》第②期。

  基于3D Gaussian Splatting的SLAM:理论与实践》等课程开云网址。第一期的学员对课程做出了极高的评价,下图是课程答疑群的交流和部分评价

  课程《快速上手基于NeRF的SLAM:理论与实践》第②期重磅上线%新内容)!有早鸟立减100优惠,限额30个

  新增了近40%的内容(均为全网独家),并且加量不加价2、根据第一期学员反馈,新增了热度较高的

推荐新闻