一种障碍物检测方法、装置及终端与流程

文档序号:15638243发布日期:2018-10-12 21:44阅读:129来源:国知局

本发明涉及图像处理技术领域,尤其涉及一种障碍物检测方法、装置及终端。



背景技术:

在一些特殊的监控应用(例如,高危险区域监控)中,需要对障碍物进行检测。现有障碍物检测主要通过单一摄像头拍摄监控区域的彩色图像,再基于彩色图像中的色彩信息构建背景模型,将新采集图像中像素点的色彩信息与背景模型中对应像素点的色彩信息进行比对,找到色彩差异较大的像素点,再基于色彩差异较大的像素点识别障碍物。若障碍物色彩与背景色彩差异不大,则会出现漏报警的现象,因此,该检测方法的准确度不高。



技术实现要素:

本发明为了解决现有障碍物检测准确度不高的问题,提供一种障碍物检测方法、装置及终端,用以提升障碍物检测的准确度。

为实现上述发明目的,本发明提供了如下技术方案:

第一方面,本发明提供一种障碍物检测方法,所述方法包括:

对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图;

对所述第一视差图进行障碍物检测,得到第一障碍物框,以及对待检测的第二视差图进行障碍物检测,得到第二障碍物框;

基于所述第一障碍物框和所述第二障碍物框的重合面积,确定所述第二障碍物框的重合概率;

若所述重合概率小于概率阈值,确定所述第二障碍物框对应障碍物为目标障碍物。

可选的,所述对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图,包括:

获取第一视差点的视差值的均值和标准差,所述第一视差点为所述多帧视差图中位于同一位置上的视差点;

基于所述均值和标准差,确定所述第一视差点的视差值的有效范围;

基于落入所述有效范围的第一视差点的视差值,确定第二视差点的视差值,所述第二视差点为所述第一视差图中与所述第一视差点对应同一位置上的视差点。

可选的,所述基于所述第一障碍物框和所述第二障碍物框的重合面积,确定所述第二障碍物框的重合概率,包括:

若所述第一障碍物框的视差值与所述第二障碍物框的视差值的差值的绝对值小于第一视差阈值,确定所述第一障碍物框与所述第二障碍物框的重合面积;

基于与所述第二障碍物框相关的重合面积,以及所述第二障碍物框的自身面积,确定所述第二障碍物框的重合概率。

第二方面,本发明还提供一种障碍物检测方法,所述方法包括:

对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图;

若所述第一视差图中的第三视差点的视差值与待检测的第二视差图中的第四视差点的视差值的差值的绝对值大于第二视差阈值,保留所述第四视差点的视差值,其中,所述第三视差点为以第五视差点为中心的窗口内的任一视差点,所述第五视差点为所述第一视差图中与所述第四视差点对应同一位置上的视差点;

基于所述第二视差图中保留下来的第四视差点的视差值进行障碍物检测,得到目标障碍物。

可选的,所述对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图,包括:

获取第一视差点的视差值的均值和标准差,所述第一视差点为所述多帧视差图中位于同一位置上的视差点;

基于所述均值和标准差,确定所述第一视差点的视差值的有效范围;

基于落入所述有效范围的第一视差点的视差值,确定第二视差点的视差值,所述第二视差点为所述第一视差图中与所述第一视差点对应同一位置上的视差点。

第三方面,本发明提供一种障碍物检测装置,所述装置包括:

融合单元,用于对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图;

检测单元,用于对所述第一视差图进行障碍物检测,得到第一障碍物框,以及对待检测的第二视差图进行障碍物检测,得到第二障碍物框;

处理单元,用于基于所述第一障碍物框和所述第二障碍物框的重合面积,确定所述第二障碍物框的重合概率;

确定单元,用于若所述重合概率小于概率阈值,确定所述第二障碍物框对应障碍物为目标障碍物。

可选的,

所述融合单元,具体用于获取第一视差点的视差值的均值和标准差,所述第一视差点为所述多帧视差图中位于同一位置上的视差点;基于所述均值和标准差,确定所述第一视差点的视差值的有效范围;基于落入所述有效范围的第一视差点的视差值,确定第二视差点的视差值,所述第二视差点为所述第一视差图中与所述第一视差点对应同一位置上的视差点。

可选的,

所述处理单元,具体用于若所述第一障碍物框的视差值与所述第二障碍物框的视差值的差值的绝对值小于第一视差阈值,确定所述第一障碍物框与所述第二障碍物框的重合面积;基于与所述第二障碍物框相关的重合面积,以及所述第二障碍物框的自身面积,确定所述第二障碍物框的重合概率。

第四方面,本发明还提供一种障碍物检测装置,所述装置包括:

融合单元,用于对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图;

保留单元,用于若所述第一视差图中的第三视差点的视差值与待检测的第二视差图中的第四视差点的视差值的差值的绝对值大于第二视差阈值,保留所述第四视差点的视差值,其中,所述第三视差点为以第五视差点为中心的窗口内的任一视差点,所述第五视差点为所述第一视差图中与所述第四视差点对应同一位置上的视差点;

检测单元,用于基于所述第二视差图中保留下来的第四视差点的视差值进行障碍物检测,得到目标障碍物。

可选的,

所述融合单元,具体用于获取第一视差点的视差值的均值和标准差,所述第一视差点为所述多帧视差图中位于同一位置上的视差点;基于所述均值和标准差,确定所述第一视差点的视差值的有效范围;基于落入所述有效范围的第一视差点的视差值,确定第二视差点的视差值,所述第二视差点为所述第一视差图中与所述第一视差点对应同一位置上的视差点。

第五方面,本发明提供一种障碍物检测终端,包括摄像头组件、处理器以及机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令,所述处理器被所述机器可执行指令促使:实现上述障碍物检测方法。

第六方面,本发明提供一种机器可读存储介质,所述机器可读存储介质内存储有机器可执行指令,所述机器可执行指令被处理器执行时实现上述障碍物检测方法。

由以上描述可以看出,本发明基于视差图(具有深度信息)检测目标障碍物,可有效区分颜色相近而深度不同的障碍物,因此,可有效提升障碍物检测的准确度。同时,在具体检测过程中,由于采用物体建模方式,即从多帧视差图融合后的第一视差图中检测障碍物(得到第一障碍物框)的方式,使后续在基于障碍物框(待检测的第二视差图中的第二障碍物框与第一障碍物框)检测目标障碍物时,具有较强的抗干扰能力,即在图像纹理发生变化而导致物体局部视差不一致时,若物体整体视差分布不变,则该物体对应障碍物框基本不变,从而不会对检测结果产生较大影响。此外,由于障碍物框通常对应较大尺寸物体,因此,可有效排除视差噪点的影响。

附图说明

为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1是本发明实施例示出的一种障碍物检测方法流程图;

图2是本发明实施例示出的一种基于单个视差点的视差融合示意图;

图3是本发明实施例示出的一种基于多帧稀疏视差图进行视差融合的示意图;

图4a是本发明实施例示出的一种第一视差图的示意图;

图4b是本发明实施例示出的一种第二视差图的示意图;

图4c是本发明实施例示出的另一种第二视差图的示意图;

图5是本发明实施例示出的另一种障碍物检测方法流程图;

图6是本发明实施例示出的基于视差点比对的示意图;

图7是本发明实施例示出的基于视差点比对后的效果图;

图8是本发明实施例示出的障碍物检测终端的结构示意图;

图9是本发明实施例示出的一种障碍物检测逻辑的结构示意图;

图10是本发明实施例示出的另一种障碍物检测逻辑的结构示意图。

具体实施方式

这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。

在本发明使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本发明和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解,尽管在本发明可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本发明范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。

本发明提供一种障碍物检测方法,参见图1,为本发明障碍物检测方法的一个实施例流程图,该实施例对障碍物检测的过程进行描述。

步骤101,对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图。

本发明利用双目相机拍摄同一区域的左、右图像,对左、右图像进行像素匹配,确定基准图(左图像和右图像中一个为基准图,另一个为匹配图)中每一个像素点的视差值,即得到基准图对应的视差图。以下描述中,将视差图中的点称为视差点。

在连续获取多帧视差图后,对多帧视差图进行视差图融合,得到融合后的第一视差图。具体为,在一种可选的实施方式中,获取第一视差点的视差值的均值和标准差,该第一视差点为多帧视差图中位于同一位置上的视差点;基于获取的均值和标准差,确定第一视差点的视差值的有效范围,例如,可利用高斯分布确定视差值的有效范围为[μ-3σ,μ+3σ],其中,μ为均值,σ为标准差;基于落入该有效范围的第一视差点的视差值,确定第二视差点的视差值,该第二视差点为第一视差图中与第一视差点对应同一位置上的视差点,例如,可对多帧视差图中同一位置落入有效范围的第一视差点的视差值取中值,作为第一视差图中对应位置上的第二视差点的视差值。

参见图2,为基于单个视差点的视差融合示意图。其中,虚线框代表获取的同一区域的多帧视差图,以12帧视差图为例,12帧视差图中同一位置(x,y)的视差点a1~a12,对应视差值记为d1~d12,假设d1~d12分别为34、30.2、34.1、33.9、29.8、34.2、33.8、30.4、34.3、29.6、33.7、84,则上述视差值的均值μ为34.5,标准差σ为15.6,根据[μ-3σ,μ+3σ]得到位置(x,y)处视差点的视差值的有效范围为[-12.3,81.3],可知,除视差点a12以外,其余视差点a1~a11的视差值均落入有效范围,选取视差点a1~a11的视差值的中值30,作为融合后视差图(右侧实线框)中位置(x,y)处视差点a的视差值(d=30)。从该融合过程可以看出,本发明通过多帧视差图融合,可有效去除视差噪点(未落入有效范围的视差点的视差值),提升融合后视差图的准确度。

参见图3,为基于多帧稀疏视差图进行视差图融合的示意图。稀疏视差图为基于物体特征(边缘轮廓、特征点、特征线等)提取的视差图,物体的有效视差点较少(仅在物体边缘轮廓和纹理清晰的区域有有效视差点),因此,基于稀疏视差图的视差融合的运算量较小,可提升融合效率。图3左侧为多帧稀疏视差图,采用前述视差融合方法对多帧稀疏视差图中的每一个视差点进行视差融合,并对融合后的视差图进行膨胀处理后,可得到图3右侧所示融合后的稀疏视差图(第一视差图)。

步骤102,对所述第一视差图进行障碍物检测,得到第一障碍物框,以及对待检测的第二视差图进行障碍物检测,得到第二障碍物框。

障碍物检测可采用现有技术实现,在此不再赘述。以下将第一视差图中的障碍物框记为第一障碍物框,第二视差图中的障碍物框记为第二障碍物框。

步骤103,基于所述第一障碍物框和所述第二障碍物框的重合面积,确定所述第二障碍物框的重合概率。

具体为,若第一障碍物框的视差值与第二障碍物框的视差值的差值的绝对值小于第一视差阈值,说明第一障碍物框和第二障碍物框距离相机的距离(景深)基本相同,或者说,第一障碍物框和第二障碍物框在景深方向上的距离较近,有可能为同一障碍物框,则计算第一障碍物框和第二障碍物框的重合面积;若第一障碍物框的视差值与第二障碍物框的视差值的差值的绝对值大于或等于第一视差阈值,说明第一障碍物框和第二障碍物框在景深方向上的距离相差较远,不可能为同一障碍物框,则无需计算第一障碍物框和第二障碍物框的重合面积,或者说,第一障碍物框和第二障碍物框的重合面积为0。其中,第一视差阈值与第二障碍物框的视差值呈正相关关系。

需要补充说明的是,本发明中障碍物框的视差值可根据障碍物框内障碍物所包含的各视差点的视差值确定,例如,取障碍物的各视差点的视差值的均值作为障碍物对应障碍物框的视差值。

参见图4a,为本发明实施例示出的一种第一视差图的示意图;图4b为本发明实施例示出的一种第二视差图的示意图。图4a包括4个障碍物框,分别为障碍物框a1(da,xa,ya,wa,ha)、障碍物框b1(db,xb,yb,wb,hb)、障碍物框c1(dc,xc,yc,wc,hc)、障碍物框d1(dd,xd,yd,wd,hd);图4b包括5个障碍物框,分别为障碍物框a2(da,xa,ya,wa,ha)、障碍物框b2(db,xb,yb,wb,hb)、障碍物框c2(dc,xc,yc,wc,hc)、障碍物框d2(dd,xd,yd,wd,hd)、障碍物框e2(de,xe,ye,we,he)。其中,di代表障碍物框的视差值;xi代表障碍物框的横坐标;yi代表障碍物框的纵坐标;wi代表障碍物框的宽度;hi代表障碍物框的高度;i=a,b,c,d,e。

以e2为例,计算e2与图4a中各障碍物框的重合面积。若e2与a1的视差值的差值的绝对值|de-da|<dt(第一视差阈值),则计算e2与a1的重合面积,从图4a和图4b中可以看出,障碍物框a1和障碍物框a2为同一障碍物框(位置相同、视差值相同),因此,为了使e2与a1的重合区域更直观,将e2与a2的重合区域(图4b中左侧阴影区域)标记为ea,对应重合面积记为sea;同理,若e2与b1的视差值的差值的绝对值|de-db|<dt,则计算e2与b1的重合面积,将e2与b1的重合区域(对应e2与b2的重合区域,即图4b中右侧阴影区域)标记为eb,对应重合面积记为seb;若e2与c1的视差值的差值的绝对值|de-dc|<dt,则计算e2与c1的重合面积,从图中可以看出,e2与c1没有重合区域,因此,重合面积为0;若e2与d1的视差值的差值的绝对值|dd-dc|>dt,则不计算重合区域,或者,重合区域为0。

基于上述确定出的与第二视差图中第二障碍物框相关的重合面积,以及第二障碍物框的自身面积,确定第二障碍物框的重合概率。如图4b所示,与e2相关的重合区域包括ea和eb,对应重合面积为sea和seb,e2的自身面积记为se,则重合概率p可为(sea+seb)/se。

步骤104,若所述重合概率小于概率阈值,确定所述第二障碍物框对应障碍物为目标障碍物。

例如,若概率阈值为50%,图4b中e2的重合概率p为25%,则e2对应障碍物为目标障碍物。

参见图4c,为本发明实施例示出的另一种第二视差图的示意图。其中,虚线框对应图4a中的b1,由于b1对应障碍物晃动或轻微位移,导致在第二视差图中的位置发生变化(图4c中b2对应位置),但该轻微的晃动或位移通常不会产生较大的视差变化,即|db2-db|<dt,b1和b2的重合度较高,即重合面积较大,如图4c中阴影区域所示,该阴影区域对应重合面积记为sbb,b2与图4a中其它障碍物框的重合面积为0,因此,b2对应重合概率p为sbb/sb,其中,sb为b2的自身面积,该重合概率大于概率阈值,因此,b2对应障碍物不会被检测为目标障碍物。可见,本发明具有较强的抗干扰能力,不会由于树木等物体的轻微晃动或位移而导致误报警。

需要补充说明的是,由于视差与距离(景深)相关,因此,本步骤中基于视差的比对可替换为基于景深的比对,重合面积也可基于物体在三维空间的宽、高计算,在此不做限定。

从以上描述可以看出,本发明基于视差图(具有深度信息)检测目标障碍物,可有效区分颜色相近而深度不同的障碍物,因此,可有效提升障碍物检测的准确度。同时,由于采用基于物体(障碍物框)建模的方式,在图像纹理发生变化导致物体局部视差不一致的情况下,若物体整体视差分布不变,该物体对应障碍物框基本不变,因此,具有较强的抗干扰能力。此外,基于障碍物框(对应尺寸较大物体)的检测方式,还可有效排除视差噪点的影响。

本发明还提供一种障碍物检测方法,参见图5,为本发明障碍物检测方法的另一个实施例流程图,该实施例对障碍物检测的过程进行描述。

步骤501,对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图。

对多帧视差图中的视差点执行如下融合操作:

获取第一视差点的视差值的均值和标准差,该第一视差点为多帧视差图中位于同一位置上的视差点;基于获取的均值和标准差,确定第一视差点的视差值的有效范围;基于落入有效范围的第一视差点的视差值,确定第二视差点的视差值,该第二视差点为第一视差图中与第一视差点对应同一位置上的视差点。具体参见前述步骤101的描述,在此不再赘述。

步骤502,若所述第一视差图中的第三视差点的视差值与待检测的第二视差图中的第四视差点的视差值的差值的绝对值大于第二视差阈值,保留所述第四视差点的视差值。

其中,第三视差点为以第五视差点为中心的窗口内的任一视差点,而第五视差点为第一视差图中与第四视差点对应同一位置上的视差点。

也就是说,若第三视差点的视差值与第四视差点的视差值的差值的绝对值大于第二视差阈值,说明第四视差点不是第一视差图中原有视差点,可能是目标障碍物的视差点,因此,保留该第四视差点的视差值;若第三视差点的视差值与第四视差点的视差值的差值的绝对值小于或等于第二视差阈值,说明第四视差点的视差值与第一视差图中视差点的视差值接近,为第一视差图中原有视差点的可能性极大,因此,标记该第四视差点为无效视差点。

如图6所示,第二视差图600中的视差点q1对应第一视差图610中的视差点q2,第一视差图610中的虚线框为以q2为中心的窗口,视差点k为窗口内的任一视差点,若q1的视差值(记为dq)与k的视差值(记为dk)的差值的绝对值|dq-dk|>dl(第二视差阈值),则保留q1点的视差值dq;若|dq-dk|<dl,则将q1标记为无效视差点。

参见图7,以稀疏视差图为例,对第二视差图700和第一视差图710执行上述视差点比对,由于第二视差图700中左侧长方形对应视差点与第一视差图710中对应位置的视差点的视差值接近,因此,被标记为无效视差点(无效视差点在图中不显示);而第二视差图700中右侧菱形对应视差点,在第一视差图710对应位置找不到视差值接近的视差点,因此,保留该菱形区域对应视差点的视差值,如图720所示,可见,第二视差图720已过滤掉在第一视差图710中存在的视差点。

步骤503,基于所述第二视差图中保留下来的第四视差点的视差值进行障碍物检测,得到目标障碍物。

基于保留下来的第四视差点进行障碍物检测,即可得到目标障碍物,在此不再赘述。

从本实施例的描述可以看出,本实施例基于第一视差图和第二视差图中视差点的视差值比对,可有效区分颜色相近而视差不同的障碍物,从而避免颜色相近障碍物的漏检问题,提升障碍物检测的准确度。

图8为本发明提供的一种障碍物检测终端的硬件结构示意图。该终端8包括处理器801、存储有机器可执行指令的机器可读存储介质802、摄像头组件804。其中,处理器801与机器可读存储介质802可经由系统总线803通信。并且,通过读取并执行机器可读存储介质802中与障碍物检测逻辑对应的机器可执行指令,处理器801可执行上文描述的障碍物检测方法。

本文中提到的机器可读存储介质802可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,机器可读存储介质可以是:ram(radomaccessmemory,随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等),或者类似的存储介质,或者它们的组合。

摄像头组件804用于采集图像,该摄像头组件804可以包括至少两个摄像头,该至少两个摄像头可以分别为双目摄像头的左摄像头和右摄像头。

如图9所示,从功能上划分,上述障碍物检测逻辑可以包括融合单元901、检测单元902、处理单元903以及确定单元904,其中:

融合单元901,用于对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图;

检测单元902,用于对所述第一视差图进行障碍物检测,得到第一障碍物框,以及对待检测的第二视差图进行障碍物检测,得到第二障碍物框;

处理单元903,用于基于所述第一障碍物框和所述第二障碍物框的重合面积,确定所述第二障碍物框的重合概率;

确定单元904,用于若所述重合概率小于概率阈值,确定所述第二障碍物框对应障碍物为目标障碍物。

可选的,

所述融合单元901,具体用于获取第一视差点的视差值的均值和标准差,所述第一视差点为所述多帧视差图中位于同一位置上的视差点;基于所述均值和标准差,确定所述第一视差点的视差值的有效范围;基于落入所述有效范围的第一视差点的视差值,确定第二视差点的视差值,所述第二视差点为所述第一视差图中与所述第一视差点对应同一位置上的视差点。

可选的,

所述处理单元903,具体用于若所述第一障碍物框的视差值与所述第二障碍物框的视差值的差值的绝对值小于第一视差阈值,确定所述第一障碍物框与所述第二障碍物框的重合面积;基于与所述第二障碍物框相关的重合面积,以及所述第二障碍物框的自身面积,确定所述第二障碍物框的重合概率。

如图10所示,从功能上划分,上述障碍物检测逻辑可以包括融合单元1001、保留单元1002以及检测单元1003,其中:

融合单元1001,用于对获取的同一区域的多帧视差图进行视差图融合,得到第一视差图;

保留单元1002,用于若所述第一视差图中的第三视差点的视差值与待检测的第二视差图中的第四视差点的视差值的差值的绝对值大于第二视差阈值,保留所述第四视差点的视差值,其中,所述第三视差点为以第五视差点为中心的窗口内的任一视差点,所述第五视差点为所述第一视差图中与所述第四视差点对应同一位置上的视差点;

检测单元1003,用于基于所述第二视差图中保留下来的第四视差点的视差值进行障碍物检测,得到目标障碍物。

可选的,

所述融合单元1001,具体用于获取第一视差点的视差值的均值和标准差,所述第一视差点为所述多帧视差图中位于同一位置上的视差点;基于所述均值和标准差,确定所述第一视差点的视差值的有效范围;基于落入所述有效范围的第一视差点的视差值,确定第二视差点的视差值,所述第二视差点为所述第一视差图中与所述第一视差点对应同一位置上的视差点。

本发明还提供一种包括机器可执行指令的机器可读存储介质,例如图8中的机器可读存储介质802,所述机器可执行指令可由障碍物检测终端中的处理器801执行,以实现以上描述的障碍物检测方法。

以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1