地面检测方法、装置及设备与流程

文档序号:15146599发布日期:2018-08-10 20:31阅读:333来源:国知局

本申请涉及辅助驾驶技术领域,特别涉及一种地面检测方法、装置及设备。



背景技术:

在自动驾驶的地面检测系统中,通常采用固定在车辆上的立体相机采集的图像用以检测地面的障碍物、坡度等。其中,立体相机包括两个沿水平方向具有一定的间隔,且倾斜角和焦距都相同的摄像头。

通常,地面检测系统包括立体相机和处理模块,相关技术中的地面检测方法为:立体相机的两个摄像头在同一时刻采集车辆前进方向上的两张图像,并将两张图像传输至处理模块;处理模块根据两张图像通过立体匹配算法得到视差图;将视差图横向投影获得v视差图;根据v视差图中的像素点拟合得到一条具有斜率的直线,该直线为地面相关线,通过地面相关线推导出地面的倾斜度和立体相机的相机姿态,和/或,将地面相关线作为地面,将位于地面相关线上方或下方的像素点构成的竖直的直线作为障碍物,判断车辆前进方向上是否具有障碍物。

由于v视差图中的像素点较多,且像素点的分布不均匀,因此通过拟合v视差图中的像素点得到的地面相关线在某些情况下并不准确,与实际的地面情况并不相符,例如根据拟合得到的地面相关线推导得出的相机高度可能会过高,不符合车辆正常运行情况。



技术实现要素:

本申请实施例提供了一种地面检测方法、装置及设备用以解决相关技术中,通过拟合v视差图中的像素点得到的地面相关线在某些情况下并不准确,与实际的地面情况并不相符的问题。所述技术方案如下:

一方面,提供了一种地面检测方法,所述方法包括:

在v视差图的像素点中获取候选地面点;

在第一对应关系中查询与所述候选地面点对应的参考地面相关线,将所述候选地面点对应的参考地面相关线作为候选地面相关线;

在所述候选地面相关线中确定目标地面相关线;

其中,所述第一对应关系包括所述像素点和所述参考地面相关线的对应关系,所述参考地面相关线是根据有效的相机姿态计算得到的直线。

在一个可选的实施例中,所述在第一对应关系中查询与所述候选地面点对应的参考地面相关线之前,还包括:

根据所述有效的相机姿态计算得到所述参考地面相关线的截距和斜率;

根据所述截距和所述斜率获得所述参考地面相关线;

计算所述像素点至所述参考地面相关线之间的距离;

将所述距离小于第一距离阈值的像素点和参考地面相关线建立所述第一对应关系。

在一个可选的实施例中,所述第一对应关系中还包括所述像素点和对应的所述参考地面相关线之间的距离,所述在所述候选参考地面相关线中确定目标地面相关线,包括:

在所述第一对应关系中查询所述候选地面点与所述候选地面相关线之间的第一距离;

根据所述第一距离计算所述候选地面相关线的累积距离,所述累积距离为任意一条候选地面相关线与所有候选地面点之间的第一距离的累积值;

将所述累积距离最小的候选地面相关线确定为所述目标地面相关线。

在一个可选的实施例中,所述第一对应关系中还包括所述像素点和对应的所述参考地面相关线之间的置信概率,所述在所述候选地面相关线中确定目标地面相关线,包括:

在所述第一对应关系中查询所述候选地面点与所述候选地面相关线之间的置信概率;

根据所述置信概率计算所述候选地面相关线的累积置信概率投票值;所述累积置信概率投票值为任意一条候选地面相关线与所有候选地面点之间的置信概率的累积值;

将所述累积置信概率投票值最大的候选地面相关线确定为所述目标地面相关线。

在一个可选的实施例中,所述方法还包括:

在第二对应关系中查询所述目标地面相关线对应的目标相机姿态,所述第二对应关系包括所述参考地面相关线和所述有效相机姿态的对应关系。

在一个可选的实施例中,所述在第二对应关系中查询所述目标地面相关线对应的目标相机姿态,包括:

在所述第二对应关系中查询所述目标地面相关线对应的目标相机倾斜角;

和/或,

在所述第二对应关系中查询所述目标地面相关线对应的目标相机高度。

在一个可选的实施例中,所述在第一对应关系中查询与所述候选地面点对应的参考地面相关线,将所述候选地面点对应的参考地面相关线作为候选地面相关线,包括:

在所述第一对应关系中查询与所述候选地面点对应的参考地面相关线,将所述候选地面点对应的参考地面相关线作为第一候选地面相关线;

在所述第二对应关系中查询所述第一候选地面相关线对应的候选相机倾斜角;将所述候选相机倾斜角位于参考相机倾斜角的预设角度差值范围内的第一候选地面相关线作为所述候选地面相关线,所述参考相机倾斜角为所述v视差图的上一帧v视差图的目标相机倾斜角;和/或,在所述第二对应关系中查询所述第一候选地面相关线对应的候选相机高度;将所述候选相机倾斜角位于参考相机高度的预设高度差值范围内的第一候选地面相关线作为所述候选地面相关线,所述参考相机高度为所述上一帧v视差图的目标相机高度。

在一个可选的实施例中,所述在v视差图的像素点中获取候选地面点,包括:

在所述第一对应关系中查询所述像素点至参考线之间的第二距离,将所述第二距离小于第二距离阈值的像素点作为所述候选地面点;所述参考线是所述v视差图的上一帧v视差图的目标地面相关线。

一方面,提供了一种地面检测装置,所述装置包括:

获取单元,用于在v视差图的像素点中获取候选地面点;

查询单元,用于在第一对应关系中查询与所述候选地面点对应的参考地面相关线,将所述候选地面点对应的参考地面相关线作为候选地面相关线;

处理单元,用于在所述候选地面相关线中确定目标地面相关线;

其中,所述第一对应关系包括所述像素点和所述参考地面相关线的对应关系,所述参考地面相关线是根据有效的相机姿态计算得到的直线。

一方面,提供了一种地面检测设备,所述设备包括处理器和存储器,所述存储器中存储有至少一条指令,所述指令由所述处理器加载并执行以实现如上述的地面检测方法。

本申请实施例提供的技术方案带来的有益效果至少为:

通过在第一对应关系中查询得到候选地面相关线,在候选地面相关线中确定目标地面相关线,由于第一对应关系中的候选地面相关线是预先根据有效的相机姿态计算得到的直线,所以解决了相关技术中通过拟合v视差图中的像素点得到的地面相关线在某些情况下并不准确,与实际的地面情况并不相符的技术问题,提高了地面检测的准确度。

附图说明

为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1是本申请一个示例性实施例提供的地面检测系统的结构框图;

图2是本申请一个示例性实施例提供的立体相机的相机姿态示意图;

图3a是本申请一个示例性的实施例提供的v视差图的示意图;

图3b是本申请一个示例性实施例提供的视差图以及由该视差图转换的v视差图;

图4是本申请一个示例性实施例提供的地面检测方法的方法流程图;

图5是本申请一个示例性实施例提供的参考地面相关线随相机倾斜角变化的示意图;

图6是本申请一个示例性实施例提供的参考地面相关线随相机高度变化的示意图;

图7是本申请一个示例性实施例提供的第二对应关系的表格的示意图;

图8是本申请一个示例性实施例提供的地面检测方法的方法流程图;

图9是本申请一个示例性实施例提供的地面检测方法的方法流程图;

图10是本申请一个示例性实施例提供的地面检测装置的结构框图;

图11是本申请一个示例性实施例提供的地面检测设备的结构框图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。

首先,对本申请实施例中涉及的若干个名词进行解释:

视差(parallax):是从具有一定距离的两个位置观察同一个目标所产生的方向差异。从目标看两个位置之间的夹角,叫做这两个位置的视差角,两个位置之间的距离称作基线。

视差图(disparitymap):视差图是指以一副图像为基准图像,结合对照图像生成的用于表示这两幅图像之间的差别的图,视差图中的每个点的元素值为该点的视差值。其中,每个点的视差值可以由该点在基准图像中的横坐标与该点在对照图像中的横坐标之间的差值得到。示意性的,由立体相机的左摄像头采集得到第一图像,右摄像头采集得到第二图像。以第一图像为基准图像,第二图像作为对照图像,点p在第一图像中的坐标为(5,3),点p在第二图像中的坐标为(2,3),则可以认为该点p在由第一图像和第二图像得到的视差图中的元素值为5和2之间的差值,即为3。视差图中的某点坐标以(u,v)表示,其中u为横坐标,v为纵坐标;点(u,v)处的视差值用d(u,v)表示。

v视差图(v-disparitymap):是视差图的横向投影,可以将v视差图形象地理解为视差图从v坐标方向观看的侧视图。在v视差图中,地面呈现为具有一定斜率的直线,该直线被称为地面相关线(groundcorrelationline),而地面上的障碍物在v视差图中呈现为竖直的直线。

请参考图1,其示出了本申请一个示例性实施例提供的地面检测系统的结构框图,如图所示,地面检测系统包括立体相机110和处理模块120,其中,立体相机110包括左摄像头111和右摄像头112。

左摄像头111包括第一镜头和第一传感器,右摄像头112包括第二镜头和第二传感器;左摄像头111和右摄像头112固定在车辆上,具有相同的相机倾斜角θ和相同的相机高度h,左摄像头111和右摄像头112的镜头之间的基线距离为b,左摄像头111和右摄像头112的焦距都为f,因此,立体相机110的倾斜角为θ,高度为h,基线距离为b,焦距为f,立体相机110的相机姿态参数包括相机倾斜角θ和/或相机高度h。

立体相机110,用于通过左摄像头111和右摄像头112在同一时刻拍摄两张图像,并将两张图像传输至处理模块120。

处理模块120,用于根据两张图像通过立体匹配算法得到视差图;根据视差图得到v视差图;在v视差图的像素点中获取n个候选地面点,n≥2;根据n个候选地面点获取n个候选地面点对应的m条参考地面相关线,m≥1;在m条参考地面相关线中确定目标地面相关线,将目标地面相关线作为地面。

请参考图2,其示出了本申请一个示例性实施例提供的立体相机的相机姿态示意图,如图所示,左摄像头111和右摄像头112的具有相同的相机倾斜角θ,左摄像头111和右摄像头112具有相同的相机高度h,立体相机110的相机姿态参数包括相机倾斜角θ和/或相机高度h。

由于立体相机固定在车辆上,当车辆在地面上行驶时,例如,由于地面凸凹不平会导致立体相机的相机倾斜角θ和相机高度h发生变化,即立体相机的相机姿态通常会发生变化。

以第一镜头的光心为原点建立左视图坐标系,左视图坐标系包括三个坐标轴:xcl轴、ycl轴和zcl轴,其中,zcl轴和世界坐标系的zw轴的夹角为相机倾斜角θ。

以第二镜头的光心为原点建立右视图坐标系,右视图坐标系包括三个坐标轴:xcr轴、ycr轴和zcr轴,其中,zcr轴和世界坐标系的zw轴的夹角为相机倾斜角θ。

根据左视图坐标系和右视图坐标系以及立体相机的相关参数定义一个参考点p(图中未示出)的视差值为:

d=xcl-xcr=f*b/z

其中,d为视差值,xcl为参考点p在左视图中的xcl轴的坐标,xcr为参考点p在右视图中的xcr轴的坐标,f为立体相机的焦距,b为基线距离,z为参考点p到立体相机焦平面的距离。

图3a是v视差图的示意图,如图所示,地面在v视差图中呈现为具有一定斜率和截距的直线,即地面相关线301,地面相关线301上方的像素点302表示位于地面上的障碍物。

如图3b左侧所示,视差图中每个像素点对应一个视差值,例如,在像素点300所在的第一行第六列的位置的视差值为5;v视差图的行数和其对应的视差图相等,列数为其对应的与视差图中的最大视差值加1相对应。例如,图3b中,左侧的视差图为6行,则对应的v视差图中的行数也为6,6列,v视差图中的视差值的最大值为5,因此该视差图对应的v视差图为6行6列的列数为6(其中,第1列表示视差值为0,第6列表示视差值为5,即,视差图中的最大视差值),。v视差图中每个点的取值由该点所在的行中,每个视差值的点的个数,以及该点所在的列决定,第1列对应视差值为0的点的个数,第2列对应视差值为1的点的个数,第3列对应视差值为2的点的个数,以此类推,如:第1行第1列的点的取值由视差图的第1行中视差值为0的点的个数确定。以其中,v视差图中的一个像素点310为例,该像素点所在的第一行1行第六第6列的位置对应的值2,代表在对应的视差图中,第1一行中视差值为5的个数为2。

请参考图4,其示出了本申请一个示例性实施例提供的地面检测方法的方法流程图,该方法应用于地面检测系统中,地面检测系统包括如图1所示的立体相机110和处理模块120,该方法包括:

步骤401,在v视差图的像素点中获取n个候选地面点。

地面检测系统从v视差图中的像素点中获取n个候选地面点。由于v视差图中的像素点不仅仅包括地面,还包括障碍物,因此地面检测系统需要从v视差图中的像素点中预测地面对应的像素点作为候选地面点,其中,n≥2。

可选的,地面检测系统从v视差图的底部向上获取预定行数内的像素点作为候选地面点。

示例性的,由于地面相关线有效的斜率和截距不会高于一个预定的数值,若v视差图中的像素点高于该预定的数值,则表示该像素点不是地面点,因此可根据预定的数值设置预定的行数,从v视差图的底部向上获取预定行数内的像素点作为候选地面点。例如,若预定的行数为3,v视差图的行数为6,则从v视差图的底部向上获取第六行至第三行的所有像素点作为候选地面点。

步骤402,在第一对应关系中查询与候选地面点对应的参考地面相关线,将候选地面点对应的参考地面相关线作为候选地面相关线。

地面检测系统根据n个候选地面点,在第一对应关系中查询与n个候选地面点的m条地面相关线,将该m条参考地面相关线作为候选地面相关线,其中,m≥1。

参考地面相关线是根据立体相机的有效相机姿态参数计算得到的。立体相机的有效相机姿态参数是符合实际情况的相机姿态参数,例如,根据车辆运行时固定在车辆上的立体相机的相机高度的实际取值范围,和/或相机倾斜角的实际取值范围作为计算条件,计算得到所有符合计算条件的参考地面相关线。

第一对应关系包括v视差图中每个像素点和参考地面相关之间的对应关系,第一对应关系可以是像素点和对应的参考地面相关线之间的映射,也可以是像素点和对应的参考地面相关线的表格。

可选的,可通过计算像素点至参考地面相关线之间的距离,将距离小于第一距离阈值的像素点和参考地面相关线建立第一对应关系,其中,第一距离阈值是一个较小的阈值。

可选的,在第一对应关系中查询像素点至参考线之间的第二距离,将第二距离小于第二距离阈值的像素点作为所述候选地面点。

示例性的,地面检测系统根据该帧v视差图之前的一帧v视差图中获得的地面相关线作为参考线,在第一对应关系中查询像素点和参考线之间的第二距离,将第二距离小于第二距离阈值的像素点作为候选地面点,其中,参考线是参考地面相关线中的一条。

步骤403,在候选地面相关线中确定目标地面相关线。

地面检测系统在m条候选地面相关线中确定目标地面相关线,将目标地面相关线作为地面进行检测。

可选的,地面检测系统可通过获取m条候选地面相关线和n个候选地面点之间的距离,通过计算每条候选地面相关线的累积距离,将累积距离最小的候选地面相关线作为目标地面相关线。

可选的,地面检测系统可通过获取m条候选地面相关线和n个候选地面点之间的置信概率,通过计算每条候选地面相关线的累积置信概率投票值,将累积置信概率投票值最大的候选地面相关线作为目标地面相关线。

综上所述,本申请实施例中,通过在第一对应关系中查询得到候选地面相关线,在候选地面相关线中确定目标地面相关线,由于第一对应关系中的候选地面相关线是预先根据有效的相机姿态计算得到的直线,所以解决了相关技术中通过拟合得到的地面相关线在某些情况下与实际的地面情况并不相符的技术问题,提高了地面检测的准确度。

在一个可选的实施例中,参考地面相关线是根据立体相机的有效的相机姿态参数计算得到的,其中,有效的相机姿态参数指的是立体相机在符合实际情况的相机姿态下对应的相机姿态参数。例如,车辆实际运行中上下颠簸的高度差为0.1米,若立体相机在水平面上的高度为h0,则有效的相机高度为:

h0-0.1≤h≤h0+0.1

无效的相机高度为:

h<h0-0.1和h>h0+0.1

水平的地面在世界坐标系下可以描述为:

yw=h,其中,h为立体相机的高度,yw为世界坐标系的yw轴坐标。

水平的地面相关线在v视差图中可表示为:

其中,d为视差值,b为基线距离,θ为倾斜角,h为立体相机的高度,v为v视差图中的横坐标值。

则水平的地面相关线的斜率为:截距为

倾斜的地面在世界坐标系中可以描述为:

zw=ωyw+γ,

其中,ω为倾斜的地面的斜率,γ为倾斜的地面的截距,zw为世界坐标系中的zw轴坐标。

则倾斜面的地面相关线在v视差图中可表示为:

则倾斜的地面相关线的斜率为:

截距为:

由上述公式可知,在v视差图中,地面相关线的斜率和截距和立体相机的相机倾斜角、立体相机的相机高度、立体相机的焦距、立体相机的基线距离以及地面坡度相关,因此,可根据预设的立体相机的相机参数(焦距、基线距离等)计算并记录在各个不同的有效的相机倾斜角、有效的相机高度以及符合实际情况的地面坡度情况下的参考地面相关线。

如图5所示,其示出了参考地面相关线随相机倾斜角的变化的示意图,参考地面相关线的截距随倾斜角正向变大(由区域a至区域b的方向)而增大,参考地面相关线的截距随倾斜角反向变大(由区域a至区域c的方向)而减小;如图6所示,其示出了参考地面相关线随相机高度的变化的示意图,参考地面相关线的斜率随相机高度变小(由区域d至区域e的方向)而减小,参考地面相关线的斜率随相机高度变大(由区域d至区域f的方向)而增大。

针对标定的立体相机,可预先计算不同相机倾斜角、相机高度以及地面坡度对应的参考地面相关线的斜率和截距,构建第二对应关系。其中,相机高度、相机倾斜角以及地面坡度的取值范围和精度可根据实际情况定义,可选择固定精度,也可根据高度或倾斜角的具体数值选择自适应精度。

第二对应关系可在立体相机安装并标定后一次性计算并永久保存,也可在每次相机开启或程序初始化时,根据立体相机的相机参数是否发生改变重新计算并保存。

第二对应关系可以采用记录表表格形式,也可以采用映射表形式,或采用数据库存储等,可以采用一张表表格记录,也可以采用两张或多张表格记录。地面相关线记录表第二对应关系中的每个元素可记录参考地面相关线的斜率和、截距、相机高度、相机倾斜角以及地面坡度信息。

如图7所示,其示出了本申请一个示例性的实施例提供的地面相关线记录表第二对应关系的表格,该地面相关线记录表表格以相机倾斜角参考地面相关线的斜率和相机高度截距为索引,每个表格元素700中包括相机倾斜角、参考地面相关线的斜率相机高度和地面坡度、截距以及地面坡度,可根据参考地面相关线斜率、截距和地面坡度在第二对应关系的表格中获取相机倾斜角、相机高度以及地面坡度。

请参考图8,示出了本申请一个示例性实施例提供的地面检测方法的方法流程图,该方法应用于地面检测系统中,地面检测系统包括如图1所示的立体相机110和处理模块120,该方法包括:

步骤801,在v视差图的像素点中获取候选地面点。

地面检测系统从v视差图中的像素点中获取n个候选地面点。由于v视差图中的像素点不仅仅包括地面,还包括障碍物,因此地面检测系统需要从v视差图中的像素点中预测地面对应的像素点作为候选地面点,其中,n≥2。

可选的,地面检测系统从v视差图的底部向上获取预定行数内的像素点作为候选地面点。

可选地,v视差图是视差图的横向投影,视差图是由立体相机在同一时刻采集到的不同图像合成的。

示例性的,由于地面相关线有效的斜率和截距不会高于一个预定的数值,若v视差图中的像素点高于该预定的数值,则表示该像素点不是地面点,因此可根据预定的数值设置预定的行数,从v视差图的底部向上获取预定行数内的像素点作为候选地面点。例如,若预定的行数为3,v视差图的行数为6,则从v视差图的底部向上获取第六行至第三行的所有像素点作为候选地面点。

步骤802,在第一对应关系中查询与候选地面点对应的参考地面相关线,将候选地面点对应的参考地面相关线作为第一候选地面相关线。

地面检测系统根据n个候选地面点,在第一对应关系中查询n个候选地面点对应的m条参考地面相关线,将该m条参考地面相关线作为第一候选地面相关线,其中,m≥1。

参考地面相关线是根据立体相机的有效相机姿态参数计算得到的。立体相机的有效相机姿态参数是符合实际情况的相机姿态参数,例如,根据车辆运行时固定在车辆上的立体相机的相机高度的实际取值范围,和/或相机倾斜角的实际取值范围作为计算条件,计算得到所有符合计算条件的参考地面相关线。

第一对应关系v视差图中每个像素点和参考地面相关之间的对应关系,第一对应关系可以是像素点和对应的参考地面相关线之间的映射,也可以是像素点和对应的参考地面相关线的表格。通过计算像素点至参考地面相关线之间的距离,将距离小于第一距离阈值的像素点和参考地面相关线建立第一对应关系,其中,第一距离阈值是一个较小的阈值,参考线是参考地面相关线中的一条。

距离的计算函数为距离代价函数,距离代价函数可以是欧式距离、马氏距离、切比雪夫距离中的至少一种,该距离代价函数也可以是采用上述任一种距离的一阶范数、二阶范数、welsh函数或huber函数。

可选的,在第一对应关系中查询像素点至参考线之间的第二距离,将第二距离小于第二距离阈值的像素点作为所述候选地面点。

示例性的,地面检测系统根据该帧v视差图之前的一帧v视差图中获得的地面相关线作为参考线,在第一对应关系中查询像素点和参考线之间的第二距离,将第二距离小于第二距离阈值的像素点作为候选地面点,其中,参考线是参考地面相关线中的一条。

步骤803a,在第二对应关系中查询第一候选地面相关线对应的候选相机倾斜角。

地面检测系统在第二对应关系中查询m条第一候选地面相关线对应的m个候选相机倾斜角。

示例性的,第二对应关系包括参考地面相关线和对应的有效相机姿态的对应关系,其中,有效相机姿态包括有效相机倾斜角和/或有效相机高度。

步骤804a,将候选相机倾斜角位于参考相机倾斜角的预设角度差值范围内的第一候选地面相关线作为候选地面相关线。

示例性的,预设角度差值为δθ,地面检测系统根据上一帧v视差图的目标地面相关线对应的参考相机倾斜角θ1,获取m个候选相机倾斜角在[θ1-δθ,θ1+δθ]范围内l个候选相机倾斜角,将该l个候选倾斜角对应的l条第一候选地面相关线作为候选地面相关线。

步骤803b,在第二对应关系中查询第一候选地面相关线对应的候选相机高度。

地面检测系统在第二对应关系中查询m条第一候选地面相关线对应的m个候选相机高度。

步骤804b,将候选相机倾斜角位于参考相机高度的预设高度差值范围内的第一候选地面相关线作为候选地面相关线。

示例性的,预设的高度差值为δh,地面检测系统在根据上一帧v视差图的目标地面相关线对应的参考相机高度h1,获取m个候选相机高度在[h1-δh,h1+δh]范围内的l个候选相机高度,将该l个候选相机高度对应的l条第一候选地面相关线作为候选地面相关线。

地面检测系统可以执行步骤803a、步骤804a或执行步骤803b、804b;或,先执行步骤803a、步骤804a,再执行步骤803b、804b;或,先执行步骤803b、步骤804b,再执行步骤803a、804a。

步骤805,在第一对应关系中查询候选地面点与候选地面相关线之间的第一距离。

地面检测系统在第一对应关系中查询n个候选地面点与l条候选地面相关线之间的第一距离。

步骤806,根据第一距离计算候选地面相关线的累积距离。

地面检测系统根据n个候选地面点与l条候选地面相关线之间的第一距离计算候选地面相关线的累积距离,其中,累积距离为累积距离代价函数。

可选的,地面检测系统计算第i条候选地面相关线和n个候选地面点之间的欧式距离二阶范数作为累积距离。

示例性的,地面检测系统通过以下公式计算第i条候选地面相关线和n个候选地面点之间的欧式距离二阶范数:

其中,cost(i)为第i条候选地面相关线的累积距离,dj为第j个候选地面点对应的视差值,kj为第i条候选地面相关线的斜率,vj为第j个候选地面点在v视差图中的值,bi为第i条候选地面相关线的截距。

可选的,地面检测系统计算第i条候选地面相关线和n个候选地面点之间的欧式距离一阶范数作为累积距离。

示例性,地面检测系统通过以下公式计算第i条候选地面相关线和n个候选地面点之间的欧式距离一阶范数:

其中,cost(i)为第i条候选地面相关线的累积距离,dj为第j个候选地面点对应的视差值,ki为第i条候选地面相关线的斜率,vj为第j个候选地面点在v视差图中的值,bi为第i条候选地面相关线的截距。

步骤807,将累积距离最小的候选地面相关线确定为目标地面相关线。

在计算得到l条候选地面相关线中每条候选地面相关线的累积距离后,地面检测系统将累积距离最小的候选地面相关线确定为目标地面相关线。

步骤808,在第二对应关系中查询目标地面相关线对应的目标相机姿态。

示例性的,地面检测系统在第二对应关系中查询目标地面相关线对应的目标相机倾斜角;和/或,在第二对应关系中查询目标地面相关线对应的目标相机高度。

综上所述,本申请实施例中,通过在第一对应关系中查询得到候选地面相关线,在候选地面相关线中确定目标地面相关线,由于第一对应关系中的候选地面相关线是预先根据有效的相机姿态计算得到的直线,所以解决了相关技术中通过拟合v视差图中的像素点得到的地面相关线在某些情况下并不准确,与实际的地面情况并不相符的技术问题,提高了地面检测的准确度。

进一步的,本申请实施例中,通过根据上一帧v视差图的目标相机姿态,在预设的相机倾斜角区间和/或预设的相机高度区间内获得候选地面相关线,减小了地面检测系统的运算量,提高了地面检测的速度。

进一步的,本申请实施例中,通过计算每条候选地面相关线的累积距离,将累积距离最小的作为目标地面相关线,提高了获取目标地面相关线的准确度,进而提高了地面检测的准确度。

请参考图9,示出了本申请一个示例性实施例提供的地面检测方法的方法流程图,该方法应用于地面检测系统中,地面检测系统包括如图1所示的立体相机110和处理模块120,该方法包括:

步骤901,在v视差图的像素点中获取候选地面点。

地面检测系统从v视差图中的像素点中获取n个候选地面点。由于v视差图中的像素点不仅仅包括地面,还包括障碍物,因此地面检测系统需要从v视差图中的像素点中预测地面对应的像素点作为候选地面点,其中,n≥2。

可选的,地面检测系统从v视差图的底部向上获取预定行数内的像素点作为候选地面点。

示例性的,由于地面相关线有效的斜率和截距不会高于一个预定的数值,若v视差图中的像素点高于该预定的数值,则表示该像素点不是地面点,因此可根据预定的数值设置预定的行数,从v视差图的底部向上获取预定行数内的像素点作为候选地面点。例如,若预定的行数为3,v视差图的行数为6,则从v视差图的底部向上获取第六行至第三行的所有像素点作为候选地面点。

步骤902,在第一对应关系中查询与候选地面点对应的参考地面相关线,将候选地面点对应的参考地面相关线作为第一候选地面相关线。

地面检测系统根据n个候选地面点,在第一对应关系中查询n个候选地面点对应的m条参考地面相关线,将该m条参考地面相关线作为第一候选地面相关线,其中,m≥1。

在一个可选的实施例中,参考地面相关线是根据立体相机的有效相机姿态参数计算得到的。立体相机的有效相机姿态参数是符合实际情况的相机姿态参数,例如,根据车辆运行时固定在车辆上的立体相机的相机高度的实际取值范围,和/或相机倾斜角的实际取值范围作为计算条件,计算得到所有符合计算条件的参考地面相关线。

第一对应关系包括v视差图中每个像素点和参考地面相关之间的对应关系,第一对应关系可以是像素点和对应的参考地面相关线之间的映射,也可以是像素点和对应的参考地面相关线的表格。通过计算像素点至参考地面相关线之间的距离,将距离小于第一距离阈值的像素点和参考地面相关线建立第一对应关系。可选的,第一距离阈值是一个较小的阈值,参考线是参考地面相关线中的一条。

距离的计算函数为距离代价函数,距离代价函数可以是欧式距离、马氏距离、切比雪夫距离中的至少一种,该距离代价函数也可以是采用上述任一种距离的一阶范数、二阶范数、welsh函数或huber函数。

可选的,在第一对应关系中查询像素点至参考线之间的第二距离,将第二距离小于第二距离阈值的像素点作为所述候选地面点。

示例性的,地面检测系统根据该帧v视差图之前的一帧v视差图中获得的地面相关线作为参考线,在第一对应关系中查询像素点和参考线之间的第二距离,将第二距离小于第二距离阈值的像素点作为候选地面点,其中,参考线是参考地面相关线中的一条。

步骤903a,在第二对应关系中查询第一候选地面相关线对应的候选相机倾斜角。

地面检测系统在第二对应关系中查询m条第一候选地面相关线对应的m个候选相机倾斜角。

示例性的,第二对应关系包括参考地面相关线和对应的有效相机姿态的对应关系,其中,有效相机姿态包括有效相机倾斜角和/或有效相机高度。

步骤904a,将候选相机倾斜角位于参考相机倾斜角的预设角度差值范围内的第一候选地面相关线作为候选地面相关线。

示例性的,预设角度差值为δθ,地面检测系统根据上一帧v视差图的目标地面相关线对应的参考相机倾斜角θ1,获取m个候选相机倾斜角在[θ1-δθ,θ1+δθ]范围内l个候选相机倾斜角,将该l个候选倾斜角对应的l条第一候选地面相关线作为候选地面相关线。

步骤903b,在第二对应关系中查询第一候选地面相关线对应的候选相机高度。

地面检测系统在第二对应关系中查询m条第一候选地面相关线对应的m个候选相机高度。

步骤904b,将候选相机倾斜角位于参考相机高度的预设高度差值范围内的第一候选地面相关线作为候选地面相关线。

示例性的,预设的高度差值为δh,地面检测系统在根据上一帧v视差图的目标地面相关线对应的参考相机高度h1,获取m个候选相机高度在[h1-δh,h1+δh]范围内的l个候选相机高度,将该l个候选相机高度对应的l条第一候选地面相关线作为候选地面相关线。

地面检测系统可以执行步骤903a、步骤904a或执行步骤903b、904b;或,先执行步骤903a、步骤904a,再执行步骤903b、904b;或,先执行步骤903b、步骤904b,再执行步骤903a、904a。

步骤905,在第一对应关系中查询候选地面点与候选地面相关线之间的置信概率。

本实施例中,第一对应关系中还包括像素点和参考地面相关线之间的置信概率,地面检测系统在第一对应关系中查询n个候选地面点与l条候选地面相关线之间的置信概率,其中,置信概率的计算函数可以是图5实施例中的距离代价函数。

步骤906,根据置信概率计算候选地面相关线的累积置信概率投票值。

地面检测系统根据n个候选地面点与l条候选地面相关线之间的置信概率计算候选地面相关线的累积置信概率投票值。

地面检测系统将第i条候选地面相关线与第j个候选地面点之间的置信概率作为投票权重,统计每个候选地面点对每条候选地面相关线的累积置信概率投票,其中,i≥1,j≥1。

示例性的,地面检测系统通过以下公式计算n个候选地面点对第i条候选地面相关线累积置信概率投票值:

其中,vote(i)为第i条候选地面相关线的累积置信概率投票值,(vj,dj)代表第j个候选地面点,第j个候选地面点为v视差表中第vj行视差值为dj的点,ρi是第j个候选地面点对第i条候选地面相关线的置信概率,是第j个候选地面点中视差值为dj的数量

步骤907,将累积置信概率投票最大的参考地面相关线确定为目标地面相关线。

在计算得到l条候选地面相关线中每条候选地面相关线的累积置信概率投票值后,地面检测系统将累积置信概率投票值最大的候选地面相关线确定为目标地面相关线。

步骤908,在第二对应关系中查询目标地面相关线对应的目标相机姿态。

示例性的,地面检测系统在第二对应关系中查询目标地面相关线对应的目标相机倾斜角;和/或,在第二对应关系中查询目标地面相关线对应的目标相机高度。

综上所述,本申请实施例中,通过在第一对应关系中查询得到候选地面相关线,在候选地面相关线中确定目标地面相关线,由于第一对应关系中的候选地面相关线是预先根据有效的相机姿态计算得到的直线,所以解决了相关技术中通过拟合v视差图中的像素点得到的地面相关线在某些情况下并不准确,与实际的地面情况并不相符的技术问题,提高了地面检测的准确度。

进一步的,本申请实施例中,通过根据上一帧v视差图的目标相机姿态,在预设的相机倾斜角区间和/或预设的相机高度区间内获得候选地面点对应的候选地面相关线,减小了地面检测系统的运算量,提高了地面检测的速度。

进一步的,本申请实施例中,通过计算每条候选地面相关线的累积置信概率投票,将累积置信概率投票最大的作为目标地面相关线,提高了获取目标地面相关线的准确度,进而提高了地面检测的准确度。

请参考图10,示出了本申请一个示例性实施例提供的地面检测装置的结构框图,该装置应用于图1所示的处理模块120中,该装置包括获取单元1010、查询单元1020以及处理单元1030:

获取单元1010,用于在v视差图的像素点中获取候选地面点。

查询单元1020,用于在第一对应关系中查询与候选地面点对应的参考地面相关线,将候选地面点对应的参考地面相关线作为候选地面相关线。

处理单元1030,用于在候选地面相关线中确定目标地面相关线。

其中,第一对应关系包括像素点和参考地面相关线的对应关系,参考地面相关线是根据有效的相机姿态计算得到的直线。

在一个可选的实施例中,

处理单元1030,用于根据有效的相机姿态计算得到参考地面相关线的截距和斜率;根据截距和斜率获得参考地面相关线;计算像素点至参考地面相关线之间的距离;将距离小于第一距离阈值的像素点和参考地面相关线建立第一对应关系。

在一个可选的实施例中,

查询单元1020,还用于在第一对应关系中查询候选地面点与候选地面相关线之间的第一距离。

处理单元1030,还用于根据第一距离计算候选地面相关线的累积距离,累积距离为任意一条候选地面相关线与所有候选地面点之间的第一距离的累积值;将累积距离最小的候选地面相关线确定为目标地面相关线。

在一个可选的实施例中,第一对应关系中还包括像素点和对应的参考地面相关线之间的置信概率;

查询单元1020,还用于在第一对应关系中查询候选地面点与候选地面相关线之间的置信概率;

处理单元1030,还用于根据置信概率计算候选地面相关线的累积置信概率投票值,累积置信概率投票值为任意一条候选地面相关线与所有候选地面点之间的置信概率的累积值;将累积置信概率投票值最大的候选地面相关线确定为目标地面相关线。

在一个可选的实施例中,

查询单元1020,还用于在第二对应关系中查询目标地面相关线对应的目标相机姿态,第二对应关系包括参考地面相关线和有效相机姿态的对应关系。

在一个可选的实施例中,

查询单元1020,还用于在第二对应关系中查询目标地面相关线对应的目标相机倾斜角;和/或,在第二对应关系中查询目标地面相关线对应的目标相机高度。

在一个可选的实施例中,

查询单元1020,还用于在第一对应关系中查询与候选地面点对应的参考地面相关线。

获取单元1010,还用于将候选地面点对应的参考地面相关线作为第一候选地面相关线。

查询单元1020,还用于在第二对应关系中查询第一候选地面相关线对应的候选相机倾斜角。

获取单元1010,还用于将候选相机倾斜角位于参考相机倾斜角的预设角度差值范围内的第一候选地面相关线作为候选地面相关线,参考相机倾斜角为v视差图的上一帧v视差图的目标相机倾斜角。

和/或,

查询单元1020,还用于在第一对应关系中查询与候选地面点对应的参考地面相关线。

获取单元1010,还用于将候选地面点对应的参考地面相关线作为第一候选地面相关线。

查询单元1020,在第二对应关系中查询第一候选地面相关线对应的候选相机高度。

获取单元1010,还用于将候选相机倾斜角位于参考相机高度的预设高度差值范围内的第一候选地面相关线作为候选地面相关线,参考相机高度为上一帧v视差图的目标相机高度。

在一个可选的实施例中,

查询单元1020,还用于在第一对应关系中查询像素点至参考线之间的第二距离。

获取单元1010,还用于将第二距离小于第二距离阈值的像素点作为候选地面点;参考线是v视差图的上一帧v视差图的目标地面相关线。

请参考图11,示出了本申请一个示例性实施例提供的地面检测设备的结构框图,该设备应用于图1所示的处理模块120中,该设备包括:处理器1110以及存储器1120。

处理器1110可以是中央处理器(英文:centralprocessingunit,cpu),网络处理器(英文:networkprocessor,np)或者cpu和np的组合。处理器801还可以进一步包括硬件芯片。上述硬件芯片可以是专用集成电路(英文:application-specificintegratedcircuit,asic),可编程逻辑器件(英文:programmablelogicdevice,pld)或其组合。上述pld可以是复杂可编程逻辑器件(英文:complexprogrammablelogicdevice,cpld),现场可编程逻辑门阵列(英文:field-programmablegatearray,fpga),通用阵列逻辑(英文:genericarraylogic,gal)或其任意组合。

存储器1120通过总线或其它方式与处理器1110相连,存储器1120中存储有至少一条指令、至少一段程序、代码集或指令集,上述至少一条指令、至少一段程序、代码集或指令集由处理器1110加载并执行以实现如图4、图8、图9实施例中的地面检测方法。存储器1120可以为易失性存储器(英文:volatilememory),非易失性存储器(英文:non-volatilememory)或者它们的组合。易失性存储器可以为随机存取存储器(英文:random-accessmemory,ram),例如静态随机存取存储器(英文:staticrandomaccessmemory,sram),动态随机存取存储器(英文:dynamicrandomaccessmemory,dram)。非易失性存储器可以为只读存储器(英文:readonlymemoryimage,rom),例如可编程只读存储器(英文:programmablereadonlymemory,prom),可擦除可编程只读存储器(英文:erasableprogrammablereadonlymemory,eprom),电可擦除可编程只读存储器(英文:electricallyerasableprogrammableread-onlymemory,eeprom)。非易失性存储器也可以为快闪存储器(英文:flashmemory),磁存储器,例如磁带(英文:magnetictape),软盘(英文:floppydisk),硬盘。非易失性存储器也可以为光盘。

本申请还提供一种计算机可读存储介质,所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现上述方法实施例提供的地面检测方法。

可选地,本申请还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述各方面所述的地面检测方法。

应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。

上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。

以上所述仅为本申请的较佳实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1