单目摄像头实现3D识别SFM(Structure from Motion)技术

2018-11-12 17:45:23 ADAS 464

通过单眼摄像头复原3D模型
  为了能够通过单眼摄像头实现3D识别,SfM(Structure from Motion)的技术。采用的方法是,移动摄像头的位置,获得视点不同的多个图像,然后对这些图像加以比较,从而复原拍摄对象的三维(3D)模型。对于车载摄像头,只要车辆移动就能获得视点不同的多个图像,因此可以使用SfM制作车辆周边的简易3D模型。

      获得的3D模型如何应用不是由芯片来决定的,而是取决于开发者。比如,可以组合使用由多个车载摄像头获得的图像生成的360度图像,从而提高驾驶辅助的精度等。上述一系列的图像识别处理利用VGA和全高清(1920×1080像素)车载摄像头就能实现,无需专门选择某种摄像头。


1. Bundler简介

Bundler是一个采用C和C++开发的称为sfm(struct-from-motion)的系统,它能够利用无序的图片集合(例如来自网络的图片)重建出3D的模型。最早的版本被用在Photo Tourism的项目上。项目的官方网站在此:http://phototour.cs.washington.edu/

Bundler的输入是一些图像、图像特征以及图像匹配信息,输出则是一个根据这些图像反应的场景的3D重建模型,伴有少量识别得到的相机以及场景几何信息。系统借用一个由Lourakis 和Argyros提供的称为Sparse Bundle Adjustment的开发包的修改版,一点一点递增地重建出图像场景。Bundler已经成功的应用在许多网络相册系统,尤其是一些建筑相册里。

Bundler 的源代码可以在这里下载:

http://phototour.cs.washington.edu/bundler/

其最新的版本为:bundler-v0.4-source.zip

2. Bundler的编译

下载到Bundler的源代码之后,我们首先要对其进行编译。在bundler-v0.4-source\vc++\文件夹下有Visual Studio2005创建的工程Bundler.sln,当然我们也可以使用更高的版本进行编译。

在编译过程中,我们会遇到以下问题,解决方法转自:

http://www.adas.cc/program/319-cn.html

编译f2c时,会给出无法找到#include"sysdep1.h"文件的错误。进入f2c的目录,将sysdep1.h0文件名修改为sysdep1.h即可。

同时将signal1.h0文件名修改为signal1.h。再次编译f2c库时,会提示无法找到#include"arith.h"文件的错误,同时在f2c目录下并没有名字为arith.h的文件,这时可以新建一个arith.h文件,在文件里添加如下内容即可:

#define IEEE_8087
#define Arith_Kind_ASL 1
#define Long int
#define Intcast (int)(long)
#define Double_Align
#define X64_bit_pointers
#define QNaN0 0x0
#define QNaN1 0xfff80000

这时,编译f2c,便成功了。


接下来编译keyMatchFull和Bundler项目,一切顺利。

为了进行获得稠密的三围重建效果,利用Bundler提供的Bundle2PMVS和RadialUndistort工具,生成稠密重建PMVS软件所需的参数。

编译Bundlr2PMVS时,在Bundle2PMVS.cpp文件中会出现“未知的标识符mkdir”的错误。在文件的开头添加#include

同时将mkdir替换为_mkdir,如下所示:

//mkdir(output_path,0770);

_mkdir(output_path);

至此,Bundle2PMVS编译成功。


编译RadialUndistort时,在RadialUndistort.cpp文件中会出现“无法识别的标识符index”。

原先的代码如下所示:

//char *space = index(buf, ' ');
//if (space) *space = 0;

将其替换为:

std::string str(buf);
int space_pos = str.find(' ');
str.at(space_pos) = 0;

files.push_back(str);

至此,RadialUndistort编译成功。


3. Bundler的运行

编译完成后,需要将bundler-v0.4-source\vc++\Debug\目录下的Bundler.exe,KeyMatchFull.exe, RadialUndistort.exe, Bundle2PMVS.exe, jpeg.dll,ann_1.1_char.dll文件统统考到bundler-v0.4-source\bin\目录下。

在成功执行Bundler前,我们需要做几步准备工作:

(转自http://www.cnblogs.com/weizhoupan/archive/2011/03/05/Intro_on_Bundler.html

1.下载和安装Cygwin。Cygwin是许多自由软件的集合,最初由Cygnus Solutions开发,用于各种版本的Microsoft Windows上,运行UNIX类系统。由于Bundler默认是通过在Unix环境下执行shell脚本来启动Bundler的,因为在Windows环境下需要安装Cygwin以执行shell脚本。

要下载cygwin,直接在setup.exe上点右键“另存为”即可。也可以复制右边这个地址:http://cygwin.com/setup.exe

cygwin的安装比较简单,可以参考这篇教程:

http://www.programarts.com/cfree_ch/doc/help/UsingCF/CompilerSupport/Cygwin/Cygwin1.htm

但要注意一点,Bundler程序中会使用perl、python来进行一些预处理,因此在安装过程中需要把Devel、Perl、Python三个组件库都选上。另外还有ImageMagick这个库,用来处理图片。

下载安装的时间比较久,需要等待一段时间。安装过程中一些杀毒软件(比如360)可能会提示一些安全警告,无视即可。

2.下载特征检测器。Bundler推荐使用SIFT来进行特征提取,可以到SIFT的作者David Lowe的主页上下载他提供的SIFT Demo作为我们的检测器。

下载页面为: http://www.cs.ubc.ca/~lowe/keypoints/ 

或者直接点击右边的下载地址下载:SIFTdemo program (Version 4, July 2005)访问密码 7ea2

下载完成后,解压该文档,将目录下的siftWin32.exe文件拷贝到BASE_PATH\bin目录中。

3.准备图片。将要进行分析处理的图片放到一个目录里,比如BASE_PATH\Pictures\中(下面也统一以Pictures代替图片目录)。作为例子,Bundler自己也提供了两套图片,分别放在BASE_PATH\examples\ET和BASE_PATH\examples\kermit中。

4.下面对运行Bundler的脚本文件进行修改:

把RunBundler.sh文件中BASE_PATH=$(dirname $(which $0)); 一句等号后边的东西替换为Bundler的根目录,也就是RunBundler.sh文件所在的目录,记得加双引号。如BASE_PATH="E:/SDK/bundler-v0.4-source";。

然后把ToSift.sh文件中BIN_PATH设为bin目录,如BIN_PATH="E:/SDK/bundler-v0.4-source/bin"。

5.这下就大功告成了!!

打开Cygwin,cd定位到Bundler根目录下,然后输入下面的命令测试一下例子的图片:

./RunBundler.sh examples/ET


4. 后续工作

Bundler输出的文件大多以“bundle_*.out”的形式来命名,我们称之为“bundle文件”。缺省命令下,Bundler在每张图片经过分析和注册(register)后都会输出一个相应的bundle文件用来保存当前的状态信息,并以“bundle_.out”的形式命名。当所有的文件都注册后,Bundler就会输出一个最终的文件“bundle.out”。另外,每一回合结束时还会紧接着生成一些后缀名为“ply”的文件,这些文件包含的是经过重建后的相机和点的信息。

这些ply文件可以通过使用专用的查看器scanalyze来查看,地址为:http://graphics.stanford.edu/software/scanalyze/

当然也可以通过meshlab来查看,下载地址为:http://meshlab.sourceforge.net/

利用Bundler可以得到较为稀疏的点云(pointclouds)数据。如果需要得到更密集的点,可以使用Yasutaka Furukawa博士写的另外一个非常强大的软件包,称为PMVS2,

下载:http://grail.cs.washington.edu/software/pmvs/

一种比较常见的途径是使用Bundler来得到相机参数,然后使用Bundle2PMVS程序,将生成结果转换为PMVS2的输入,然后使用PMVS2来得到更密集的点云。另外,读者们可能会对另外一个同样由Furukawa博士开发的实用工具——CMVS感兴趣,CMVS是一个场景聚类程序,在使用PMVS2前可以使用它来进行一些预处理,

下载:http://grail.cs.washington.edu/software/cmvs/


如何编译安装Bundlerhttp://www.adas.cc/program/320-cn.html

Bundler的安装和配置http://www.adas.cc/program/319-cn.html