图像立体匹配方法、双目视觉设备与流程

文档序号:14873557发布日期:2018-07-07 03:02阅读:178来源:国知局

本发明涉及图像处理技术领域,尤其涉及一种图像立体匹配方法、双目视觉设备。



背景技术:

立体匹配(stereomatching)是一种从平面图像中恢复深度信息的技术,同时也是计算机视觉理论和应用的基础。双目立体匹配系统通过模拟人眼视觉感知原理,使用两台数字摄像机安装在同一水平线上,从不同视点图像中找到匹配的对应点。它被广泛应用于工业生产自动化、流水线控制、无人驾驶汽车(测距,导航)、安防监控、遥感图像分析、机器人智能控制等方面。

虽然目前有很多国内外学者对这个领域进行了深入研究,有很多成熟的立体匹配方法,但是这些方法一方面,对噪声比较敏感,得到的视差图会出现前景膨胀效应,且对小物体的处理上也表现出明显的不足。另一方面,这些方法多采用传统的滑动窗口的方法,大大增大了运行时间。除此之外,很多方法并没有对视差图进行优化处理,即使有也只是使用效率比较低的doublecheck进行处理,对精度和速度不能做到两者兼顾。



技术实现要素:

本发明就是针对上述问题,提供了一种图像立体匹配方法,包括如下步骤:对拍摄得到的第一图像中的参考像素点和第二图像中的多个待匹配像素点做立体匹配代价计算,以确定所述参考像素点与各个所述待匹配像素点的匹配代价值;其中,所述第一图像和第二图像是对同一场景从双目视觉设备的不同摄像头拍摄得到的图像;从多个所述待匹配像素点中筛选出参考像素点的匹配点;根据匹配代价曲线判断筛选出的匹配点是否稳定,并将不稳定的匹配点替换以得到视差图。

可选的,立体匹配代价计算所采用的方法是改进的ncc算法。

可选的,所述对拍摄得到的第一图像中的参考像素点和第二图像中的多个待匹配像素点做立体匹配代价计算,以确定所述参考像素点与各个所述待匹配像素点的匹配代价值包括:

采用改进的滑动窗口遍历所述第一图像和第二图像;

按照adaptivewindow算法对经由所述滑动窗口获取所述第一图像和第二图像中的像素点进行筛选,以获得第一图像中的参考像素点和第二图像中的多个待匹配像素点;

采用ncc算法对所述参考像素点和多个待匹配像素点做立体匹配代价计算,以确定所述参考像素点与各个所述待匹配像素点的匹配代价值。

可选的,对所述第二图像当前所采用的滑动窗口的范围是基于在所述第一图像中对前一个像素计算得到的视差值来确定。

可选的,从多个所述待匹配像素点中筛选出参考像素点的匹配点包括:选取计算得到的匹配代价值最大的待匹配像素点作为所述参考像素点的匹配点。

可选的,所述根据匹配代价曲线判断筛选出的匹配点是否稳定,并将不稳定的匹配点替换以得到视差图包括:

根据匹配代价曲线的峰值的约束条件来判断筛选出的匹配点是否稳定;

采用中值滤波算法将不稳定的匹配点替换,以得到视差图。

本发明实施例还提供了一种双目视觉设备,包括:双目视觉摄像头,用于拍摄图像;图像处理器和存储器,所述存储器存储有程序指令,在所述图像处理器执行所述程序指令时,进行如下操作:

对拍摄得到的第一图像中的参考像素点和第二图像中的多个待匹配像素点做立体匹配代价计算,以确定所述参考像素点与各个所述待匹配像素点的匹配代价值;其中,所述第一图像和第二图像是对同一场景从双目视觉设备的不同摄像头拍摄得到的图像;

从多个所述待匹配像素点中筛选出参考像素点的匹配点;

根据匹配代价曲线判断筛选出的匹配点是否稳定,并将不稳定的匹配点替换以得到视差图。

与现有技术相比,本发明技术方案至少具有以下有益效果:

本发明实施例通过融合了adaptivewindow的ncc(normalizedcrosscorrelation)算法对拍摄到的第一图像(参考图像)和第二图像(目标图像)进行立体匹配代价计算来确定参考像素点与各个所述待匹配像素点的匹配代价值,由于adaptivewindow是将滑动窗口内像素值与该窗口中心像素值差异大于一定阈值的像素点舍弃,不参与基于ncc算法的立体匹配代价计算,从而有效地改善了视差图的前景膨胀效应,提高了运行效率。

进一步,在筛选出参考像素点的匹配点之后,再根据匹配代价曲线判断筛选出的匹配点是否稳定,并将不稳定的匹配点替换以得到视差图,提高了视差图的求取速度。其中采用中值滤波的方法去除不稳定的匹配点,不仅提升了视差图的精度,同时又能保留视差图的边缘细节。

附图说明

图1是本发明实施例的一种图像立体匹配方法的流程示意图;

图2a是本发明实施例中匹配代价曲线只有一个峰值和两个差值较大峰值的示意图;

图2b是本发明实施例中匹配代价曲线有三个或多个峰值的示意图。

具体实施方式

为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施方式做详细的说明。

如图1所示的是本发明实施例的一种图像立体匹配方法的流程示意图。参考图1,所述图像立体匹配方法包括如下步骤:

步骤s1:对拍摄得到的第一图像中的参考像素点和第二图像中的多个待匹配像素点做立体匹配代价计算,以确定所述参考像素点与各个所述待匹配像素点的匹配代价值;其中,所述第一图像和第二图像是对同一场景从双目视觉设备的不同摄像头拍摄得到的图像;

步骤s2:从多个所述待匹配像素点中筛选出参考像素点的匹配点;

步骤s3:根据匹配代价曲线判断筛选出的匹配点是否稳定,并将不稳定的匹配点替换,以得到视差图。

本发明实施例主要应用于对采用双目视觉设备拍摄得到的图像进行立体匹配以得到视差图,从而获得被拍摄场景的深度信息。

如步骤s1所述,对拍摄得到的第一图像中的参考像素点和第二图像中的多个待匹配像素点做立体匹配代价计算,以确定所述参考像素点与各个所述待匹配像素点的匹配代价值。

在本实施例中,采用双目视觉设备拍摄图像,对同一场景从该双目视觉设备的不同摄像头(即从不同角度)获取到的第一图像和第二图像,其中将所述第一图像作为参考图像、所述第二图像作为目标图像。

本步骤中,采用改进的ncc(normalizedcrosscorrelation,归一化互相关匹配法)算法。它是基于统计学计算两组样本数据相关性的算法,其取值范围为[-1,1]之间。对于图像来说,每个像素点都可以看成是彩色图像的rgb数值(或者灰度图像的灰度值),这样整幅图像就可以看成是一个样本数据的集合,如果它有一个子集与另外一个样本数据相互匹配,则它的ncc值为1,表示相关性很高;如果值为-1,则表示完全不相关。

具体地,首先,采用改进的滑动窗口遍历所述第一图像和第二图像。其中,所采用的滑动窗口的范围可以实际不同的图像做调整,并且对于所述第二图像当前所采用的滑动窗口的范围是基于在所述第一图像中对前一个像素计算得到的视差值来确定。在实际应用中,对于参考图像来说,滑动窗口的滑动范围是每次向后滑动一个像素点,而对于目标图像来说,它每次的滑动范围都是不一样的,且在参考图像滑动一个像素点时,目标图要相应滑动多个像素点,其具体滑动的范围是根据在参考图像中对前一像素计算得到的视差值来确定。

然后,按照adaptivewindow算法对经由所述滑动窗口获取所述第一图像和第二图像中的像素点进行筛选,以获得第一图像中的参考像素点和第二图像中的多个待匹配像素点。其中,adaptivewindow算法是将滑动窗口内像素值与该窗口中心像素值差异大于一定阈值的像素点舍弃,舍弃的像素点将不参与ncc算法的计算,这样有效的改善了视差图的前景膨胀效应。

采用ncc算法对所述参考像素点和多个待匹配像素点做立体匹配代价计算,以确定所述参考像素点与各个所述待匹配像素点的匹配代价值。

ncc算法采用的计算公式如下:

其中wp为以像素p=(px,py)为中心的匹配窗口,i1为第一图像(即参考图像)滑动窗口内的像素点,i2为第二图像(即目标图像)滑动窗口内的像素点,d为待选的视差范围。

所述第一图像上的参考像素点对应所述第二图像上的d+1个待匹配像素点。且参考像素点与待匹配像素点满足极线约束(即这些像素点都在同一水平线上)。

每个参考像素点都会相应地计算得到d+1个匹配代价值,其中d的值是由所述第一图像中前一个参考像素点计算得到的视差值来确定,具体取值范围计算公式为:

d=[0,dp-1]

其中,dp-1为前一个参考像素点的视差值。

如步骤s2所述,从多个所述待匹配像素点中筛选出参考像素点的匹配点。具体地,由于采用ncc算法计算得到的匹配代价值的取值范围为[-1,1],它的取值代表两组数据的相似度,数值越大,相关性越高,反之越小。

因此,在对每个参考像素点对应的d+1个匹配代价值进行筛选时,采用的是选取计算得到的匹配代价值最大的待匹配像素点作为所述参考像素点的匹配点,计算公式为:

d=argmaxcd(p)

如步骤s3所述,根据匹配代价曲线判断筛选出的匹配点是否稳定,并将不稳定的匹配点替换,以得到视差图。

为了提高匹配的准确度,进一步筛选步骤s2中获得的不稳定(或者说错误)匹配点。如背景技术中所述,为了改进传统筛选不稳定匹配点的方法,即doublecheck(分别以左图为参考图,右图为目标图,以及右图为参考图,左图为目标图计算视差,找出两种方法中视差求取不一致的点即为不稳定的匹配点),在低纹理区域的局限性,同时提高匹配的效率,本实施例中提出了一种根据ncc算法得到的匹配代价曲线的走势来筛选不稳定的匹配点。

具体地,通过判断匹配代价曲线的峰值的约束条件(例如个数)来判断筛选出的匹配点是否稳定,若该匹配代价曲线只有一个峰值(如图2a所示的(1)),或该匹配代价曲线有两个差值较大峰值(如图2a所示的(2)),具有这样曲线的匹配点可判定为稳定点,否则判定为不稳定点(如图2b所示)。需要说明的是,在图2a和图2b中,匹配代价曲线的横坐标代表视差的取值范围,纵坐标代表采用ncc算法计算得到的匹配代价值。

然后,采用中值滤波算法将不稳定的匹配点替换,以得到视差图。

本领域技术人员理解,中值滤波算法是以某像素点的邻域图像区域中的像素值的排序为基础,将像素邻域内灰度的中值代替该像素点的值。该方法在去除不稳定的匹配点的同时,又能保留视差图的边缘细节。

具体地,所述中值滤波算法的具体滤波过程如下:首先,按强度值大小排列滑动窗口内的像素点;然后,选择经过排序的像素点集合的中间值作为不稳定的匹配点的新值,从而实现去除不稳定的匹配点效果。

本发明实施例还提供了一种双目视觉设备,该双目视觉设备包括:双目视觉摄像头,用于拍摄图像;图像处理器和存储器,所述存储器存储有程序指令,在所述图像处理器执行所述程序指令时,执行如上述方法实施例中的各项操作,以实现对图像进行立体匹配的过程,从而得到图像的视差图。

综上所述,本技术方案通过融合了adaptivewindow的ncc(normalizedcrosscorrelation)算法对拍摄到的第一图像(参考图像)和第二图像(目标图像)进行立体匹配代价计算来确定参考像素点与各个所述待匹配像素点的匹配代价值,由于adaptivewindow是将滑动窗口内像素值与该窗口中心像素值差异大于一定阈值的像素点舍弃,不参与基于ncc算法的立体匹配代价计算,从而有效地改善了视差图的前景膨胀效应,提高了运行效率。

进一步,在筛选出参考像素点的匹配点之后,再根据匹配代价曲线判断筛选出的匹配点是否稳定,并将不稳定的匹配点替换以得到视差图。其中采用中值滤波的方法去除不稳定的匹配点,不仅提升了视差图的准确性,同时又能保留视差图的边缘细节。

本发明虽然已以较佳实施例公开如上,但其并不是用来限定本发明,任何本领域技术人员在不脱离本发明的精神和范围内,都可以利用上述揭示的方法和技术内容对本发明技术方案做出可能的变动和修改,因此,凡是未脱离本发明技术方案的内容,依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化及修饰,均属于本发明技术方案的保护范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1