车辆碰撞的预警方法及装置与流程

文档序号:12601360阅读:872来源:国知局
车辆碰撞的预警方法及装置与流程

本发明涉及车载终端设备技术领域,具体而言,本发明涉及一种车辆碰撞的预警方法以及车辆碰撞的预警装置。



背景技术:

目前,随着汽车智能化的发展,汽车辅助驾驶技术成为了技术研发人员的主要研究方向之一。这种技术能够在用户驾驶汽车时向用户提供必要的信息和/或警告,以避免车辆碰撞、车辆偏离道路等危险情况的发生。随着汽车智能化的进一步发展,甚至希望可以通过辅助驾驶技术来实现车辆无人驾驶。对于辅助驾驶技术而言,尤为重要的技术问题是如何及时准确地对即将发生的车辆碰撞情况进行有效预警。

在现有技术中,可以通过激光雷达进行前车距离检测,并根据检测结果对可能即将发生车辆碰撞的情况进行预警,然而,这种方式所需要的硬件设备价格极其昂贵,普通用户很难配备激光雷达装备,另外,安装激光雷达装备的过程复杂,还存在改变车辆的外观的可能性。此外,现有技术中还存在基于视觉的车辆碰撞预警方案,其中该类方案又分为双目和单目方案,现有的基于单目的车辆碰撞预警方案的缺点主要包括对确定较精确的前车与本车的相对距离的算法精确度的要求较高;而基于双目的车辆碰撞预警方案的缺点主要包括计算过程需要计算视差图,而计算视差图的算法较为复杂,目前的终端设备硬件无法支持实时的计算。

因此,需要提供一种能够有效实时提供报警服务的车辆碰撞预警方案。



技术实现要素:

为克服上述技术问题或者至少部分地解决上述技术问题,特提出以下技术方案:

本发明的一个实施例提出了一种车辆碰撞的预警方法,包括:

判断第一行车图像信息中的车辆行进方向上是否存在障碍物;

若存在,则基于第一行车图像信息对障碍物进行关键点检测,并根据检测到的关键点确定障碍物的第一质心相对距离;

基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,并根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离,第二行车图像信息为第一行车图像信息之后获取到的图像;

根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,并根据车辆预碰撞时间进行碰撞预警操作。

优选地,判断第一行车图像信息中的车辆行进方向上是否存在障碍物,包括:

检测第一行车图像信息中是否存在障碍物;

若存在,则确定障碍物的位置;

基于第一行车图像信息来检测车辆的行进方向,并根据检测结果判断障碍物的位置是否处于车辆的行进方向上。

优选地,根据检测到的关键点确定障碍物的第一质心相对距离,包括:

将检测到的关键点按照预定的划分规则进行划分,并分别确定划分区域中的关键点;

分别对划分区域中的关键点进行质心计算,并根据多个质心计算结果确定障碍物的第一质心相对距离。

优选地,将检测到的关键点按照预定的划分规则进行划分,包括:

将检测到的关键点按照障碍物所在的图像区域进行划分。

优选地,分别确定划分区域中的关键点,包括:

选取各划分区域中的预定数量的关键点;

其中,分别对划分区域中的关键点进行质心计算,包括:

分别对划分区域中已选取的预定数量的关键点进行质心计算。

优选地,基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,包括:

基于第一行车图像信息中已选取的预定数量的关键点,通过预定的图像跟踪算法对第二行车图像信息中相应的关键点进行跟踪值计算;

将跟踪值大于预定跟踪阈值对应的关键点确定为待跟踪关键点;

其中,根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离,包括:

根据待跟踪关键点来确定障碍物的第二质心相对距离。

优选地,根据待跟踪关键点来确定障碍物的第二质心相对距离,包括:

针对各划分区域,对待跟踪关键点相应的跟踪值进行排序,并提取各划分区域中排序前预定数量的关键点;

分别基于各划分区域中的提取到的关键点进行质心计算,并根据质心计算结果确定障碍物的第二质心相对距离。

优选地,关键点包括FAST、ORB和Harris特征点中的至少一种。

优选地,根据车辆预碰撞时间进行碰撞预警操作,包括:

若判断车辆预碰撞时间小于预定的预警时间阈值,则进行碰撞预警操作。

本发明的另一实施例提出了一种车辆碰撞的预警装置,包括:

判断模块,用于判断第一行车图像信息中的车辆行进方向上是否存在障碍物;

检测模块,用于当判断第一行车图像信息中的车辆行进方向上存在障碍物时,基于第一行车图像信息对障碍物进行关键点检测,并根据检测到的关键点确定障碍物的第一质心相对距离;

跟踪模块,用于基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,并根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离,第二行车图像信息为第一行车图像信息之后获取到的图像;

预警模块,用于根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,并根据车辆预碰撞时间进行碰撞预警操作。

优选地,判断模块包括:

障碍物检测单元,用于检测第一行车图像信息中是否存在障碍物;

位置确定单元,用于当检测第一行车图像信息中存在障碍物时,确定障碍物的位置;

检测及判断单元,用于基于第一行车图像信息来检测车辆的行进方向,并根据检测结果判断障碍物的位置是否处于车辆的行进方向上。

优选地,检测模块包括:

区域划分单元,用于将检测到的关键点按照预定的划分规则进行划分,并分别确定划分区域中的关键点;

距离计算单元,用于分别对划分区域中的关键点进行质心计算,并根据多个质心计算结果确定障碍物的第一质心相对距离。

优选地,区域划分单元用于将检测到的关键点按照障碍物所在的图像区域进行划分。

优选地,区域划分单元用于选取各划分区域中的预定数量的关键点;

其中,距离计算单元用于分别对划分区域中已选取的预定数量的关键点进行质心计算。

优选地,跟踪模块包括:

跟踪值计算单元,用于基于第一行车图像信息中已选取的预定数量的关键点,通过预定的图像跟踪算法对第二行车图像信息中相应的关键点进行跟踪值计算;

关键点确定单元,用于将跟踪值大于预定跟踪阈值对应的关键点确定为待跟踪关键点;

距离确定单元,用于根据待跟踪关键点来确定障碍物的第二质心相对距离。

优选地,距离确定单元包括:

关键点提取子单元,用于针对各划分区域,对待跟踪关键点相应的跟踪值进行排序,并提取各划分区域中排序前预定数量的关键点;

距离确定子单元,用于分别基于各划分区域中的提取到的关键点进行质心计算,并根据质心计算结果确定障碍物的第二质心相对距离。

优选地,关键点包括FAST、ORB和Harris特征点中的至少一种。

优选地,预警模块用于当判断车辆预碰撞时间小于预定的预警时间阈值时,进行碰撞预警操作。

本发明的技术方案解决了如何能够可靠且实时地对可能即将发生车辆碰撞事故进行预警操作的问题。其中,若判断第一行车图像信息中的车辆行进方向上存在障碍物,则基于第一行车图像信息对障碍物进行关键点检测,并根据检测到的关键点确定障碍物的第一质心相对距离,通过上述操作步骤可以确定障碍物的关键点连接后的线段长度;基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,并根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离,通过上述步骤相应地可以确定运动后障碍物的关键点连接后的线段长度;根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,并根据车辆预碰撞时间进行碰撞预警操作,将运动前与运动后障碍物的关键点连接后的线段长度进行比较以判断本车与障碍物的相对距离。根据上述方法判断确定的本车与障碍物的相对距离精准度较高,故而根据相对距离确定的车辆预碰撞时间亦精准度较高,因此可以提高对即将发生车辆碰撞情况的预警操作的准确率。另外,本发明方案采用的算法复杂度较低,从而终端设备硬件设备可支持实时计算处理,进而为驾驶员的人身安全提供了可靠的保障。

本发明附加的方面和优点将在下面的描述中部分给出,这些将从下面的描述中变得明显,或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:

图1为本发明一个实施例的车辆碰撞的预警方法的流程示意图;

图2为本发明另一实施例的车辆碰撞的预警装置的结构示意图。

具体实施方式

下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能解释为对本发明的限制。

本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。

本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。

本技术领域技术人员可以理解,这里所使用的“终端”、“终端设备”既包括无线信号接收器的设备,其仅具备无发射能力的无线信号接收器的设备,又包括接收和发射硬件的设备,其具有能够在双向通信链路上,进行双向通信的接收和发射硬件的设备。这种设备可以包括:蜂窝或其他通信设备,其具有单线路显示器或多线路显示器或没有多线路显示器的蜂窝或其他通信设备;PCS(Personal Communications Service,个人通信系统),其可以组合语音、数据处理、传真和/或数据通信能力;PDA(Personal Digital Assistant,个人数字助理),其可以包括射频接收器、寻呼机、互联网/内联网访问、网络浏览器、记事本、日历和/或GPS(Global Positioning System,全球定位系统)接收器;常规膝上型和/或掌上型计算机或其他设备,其具有和/或包括射频接收器的常规膝上型和/或掌上型计算机或其他设备。这里所使用的“终端”、“终端设备”可以是便携式、可运输、安装在交通工具(航空、海运和/或陆地)中的,或者适合于和/或配置为在本地运行,和/或以分布形式,运行在地球和/或空间的任何其他位置运行。这里所使用的“终端”、“终端设备”还可以是通信终端、上网终端、音乐/视频播放终端,例如可以是PDA、MID(Mobile Internet Device,移动互联网设备)和/或具有音乐/视频播放功能的移动电话,也可以是智能电视、机顶盒等设备。

图1为本发明一个实施例的车辆碰撞的预警方法的流程示意图。

步骤S110:判断第一行车图像信息中的车辆行进方向上是否存在障碍物。

其中,第一行车图像信息可以通过车载视频捕获装置来进行获取,其中,车载视频捕获装置可以是行车记录仪、360度全景摄像头等装置。

优选地,判断第一行车图像信息中的车辆行进方向上是否存在障碍物的步骤包括步骤S111、步骤S112和步骤S113:步骤S111:检测第一行车图像信息中是否存在障碍物;步骤S112:若存在,则确定障碍物的位置;步骤S113:基于第一行车图像信息来检测车辆的行进方向,并根据检测结果判断障碍物的位置是否处于车辆的行进方向上。

其中,基于第一行车图像信息来检测车辆的行进方向的步骤进一步包括:判断第一行车图像信息中是否存在车道线;若存在,则确定上述车道线的延伸方向;根据车道线的延伸方向来确定车辆的行进方向。需要说明的是,现有技术中包括多种检测车辆的行进方向的方法,本发明在此不再赘述。。

步骤S120:若存在,则基于第一行车图像信息对障碍物进行关键点检测,并根据检测到的关键点确定障碍物的第一质心相对距离。

优选地,关键点包括但不限于FAST、ORB和Harris特征点。

其中,FAST特征点是基于选取的任一像素点周围的图像灰度值来确定的,首先,可以检测选取的任一像素点周围区域的像素点的灰度值,若选取的任一像素点的周围区域中存在与选取的任一像素点的灰度值差值大于预定差值阈值且存在与选取的任一像素点的灰度值差值大于预定灰度值差值的像素点的数量大于预定数量的像素点,则确定选取的任一像素点为一个FAST特征点。

Harris特征点亦可以称作角点,对角点的识别通常是在一个局部的区域或窗口完成的。如果在图像信息中的各个方向上移动预定的窗口,预定的窗口内的图像信息的灰度值变化较大,就可以确定在预定的窗口内存在角点;如果这个预定的窗口在图像信息的各个方向上移动时,预定的窗口内的图像信息的灰度值变化较小,就可以确定预定的窗口内不存在角点;如果预定的窗口在图像信息中的某一方向移动时,预定的窗口内的图像信息的灰度值变化较大,而在该图像信息中的另一些方向上移动时,预定的窗口内的图像信息的灰度值变化较小,则可以确定预定的窗口内的图像信息是一条线段。

ORB特征点是基于上述两种特征点获取的,它是从FAST特征点中选取出与FAST特征点相应的Harris特征点的相关响应值由大到小排序靠前的预定位数的特征点。

需要说明的是,通过检测上述FAST、ORB和Harris等特征点来确定障碍物在第一行车图像信息中的关键点,以备后续通过相关图像跟踪算法对这些关键点进行跟踪。

优选地,根据检测到的关键点确定障碍物的第一质心相对距离的步骤包括步骤S121和步骤S122:步骤S121:将检测到的关键点按照预定的划分规则进行划分,并分别确定划分区域中的关键点;步骤S122:分别对划分区域中的关键点进行质心计算,并根据多个质心计算结果确定障碍物的第一质心相对距离。

更优选地,将检测到的关键点按照预定的划分规则进行划分的步骤具体包括:将检测到的关键点按照障碍物所在的图像区域进行划分。

具体地,首先,检测障碍物所在的图像区域,并将障碍物所在的图像区域通过加框方式进行框选;接着,将框选的区域进行划分,其中,可以按照框选区域的面积进行均匀划分,也可以非均匀划分,对此本发明实施例不做限定。除此之外,将检测到的关键点按照预定的划分规则进行划分的操作方式还可以按照检测到的关键点聚集的区域进行划分或者按照检测到的关键点的个数进行平均划分等方式进行。

通过上述方式可以确定划分区域,随后,可以确定各划分区域内的关键点。

最后,分别对划分区域中的关键点进行质心计算,并根据多个质心计算结果确定障碍物的第一质心相对距离。

例如,首先,确定车辆的行进方向上的障碍物为货车A;接着,检测货车A所在的图像区域,并将货车A所在的图像区域通过加框方式进行框选;随后,将框选的区域平均划分成九块,依次分别确定九块划分区域内的关键点为18个、18个、7个、15个、19个、18个、14个、20个、21个;接着,分别对九块划分区域中的关键点进行质心计算,得到九个离散的质心;最后,确定九个离散的质心之间的相互距离,并基于九个离散的质心之间的相互距离确定障碍物的第一质心相对距离。其中,第一质心相对距离是基于障碍物上的关键点计算确定的,在实际物理意义中,它可以表征由障碍物中的关键点连接后所围成的障碍物的线段的长度。

需要说明的是,根据上述方法可以确定划分区域中的关键点,但是,确定的关键点个数偏多,不利于后续针对关键点的相关计算操作,因此,下面将会介绍可以优选出划分区域中的关键点的方法,从而减少针对关键点的运算量的开销。

优选地,分别确定划分区域中的关键点的步骤具体包括:选取各划分区域中的预定数量的关键点;其中,分别对划分区域中的关键点进行质心计算的步骤进一步包括:分别对划分区域中已选取的预定数量的关键点进行质心计算。

例如,将框选的障碍物的图像所在区域平均划分成九块,依次分别确定九块划分区域内的关键点为18个、18个、7个、15个、19个、18个、14个、20个、21个;接着,选取各划分区域中的九个的关键点作为后续需要进行计算操作的关键点,需要说明的是,九块划分区域中的一块划分区域只存在七个关键点,因此,对于不足九个关键点的划分区域,选取其中所有的关键作为后续进行计算操作的关键点;最后,分别对划分区域中已选取的关键点进行质心计算。

步骤S130:基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,并根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离,第二行车图像信息为第一行车图像信息之后获取到的图像。

需要说明的是,第二行车图像信息为第一行车图像信息之后获取到的图像,获取第二行车图像信息与第一行车图像信息之间间隔的时间差一般被设置为较小的数值,例如第二行车图像信息是在获取到第一行车图像信息之后的一帧或者N帧获取到的。由于获取第二行车图像信息与第一行车图像信息之间间隔的时间差较小,所以第二行车图像信息较第一行车图像信息的变化不会很大,故而可以基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,以确定第一行车图像信息中检测到的关键点相对于第二行车图像信息中相应关键点的变化趋向。

其中,可以通过图像跟踪算法进行关键点的跟踪操作,其中,图像跟踪算法包括但不限于粒子滤波算法、MeanShift算法以及KLT(Kanade Lucas Tomasi)算法。在本发明方案中优选KLT算法,该算法基于空间运动物体在图像信息中的像素点运动的瞬时速度,利用图像序列中的像素点在时间域上的变化以及相邻图像信息之间的相关性来确定第一行车图像信息跟第二行车图像信息之间存在的对应关系,从而计算出相邻图像信息之间的运动物体的运动相关信息。该算法可以分为三类:

(1)基于区域或者基于特征的匹配方法;

(2)基于频域的方法;

(3)基于梯度的方法。

简单来说,KLT算法研究的是利用图像序列中的像素点的强度数据的时域变化和相关性来确定各像素点位置的移动。

应用KLT算法的前提假设包括:

(1)相邻图像信息之间的亮度恒定;

(2)相邻图像信息的获取时间连续,或者相邻图像信息之间运动物体的运动范围微小;

(3)相邻图像信息中的空间保持一致性,即相邻图像信息的像素点具有相同的运动。

优选地,基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪的步骤包括步骤S131和步骤S132:步骤S131:基于第一行车图像信息中已选取的预定数量的关键点,通过预定的图像跟踪算法对第二行车图像信息中相应的关键点进行跟踪值计算;步骤S132:将跟踪值大于预定跟踪阈值对应的关键点确定为待跟踪关键点;其中,根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离的步骤进一步包括:根据待跟踪关键点来确定障碍物的第二质心相对距离。

例如,将框选的障碍物所在的第一行车图像信息中的区域平均划分成九块,依次分别确定九块划分区域内的预定数量的关键点的个数为9个、9个、7个、9个、9个、9个、9个、9个、9个;接着,通过KLT算法对第二行车图像信息中相应的关键点进行跟踪值计算;随后,将跟踪值大于预定跟踪阈值对应的关键点确定为待跟踪关键点,需要说明的是,跟踪值的大小表征了关键点在跟踪过程中对图像跟踪算法响应的程度,在本发明方案中,可以选取响应的程度较大的关键点作为待跟踪关键点,以便获得更优的跟踪效果。

优选地,根据待跟踪关键点来确定障碍物的第二质心相对距离的步骤包括:针对各划分区域,对待跟踪关键点相应的跟踪值进行排序,并提取各划分区域中排序前预定数量的关键点;分别基于各划分区域中的提取到的关键点进行质心计算,并根据质心计算结果确定障碍物的第二质心相对距离。

例如,将框选的障碍物所在的第一行车图像信息中的区域平均划分成九块,依次分别根据关键点相应的跟踪值确定的九块划分区域内的待跟踪关键点的个数为7个、4个、3个、6个、8个、5个、5个、6个、9个;接着,针对各划分区域,对上述待跟踪关键点相应的跟踪值进行排序,并提取各划分区域中排序前三位的关键点;最后,分别基于各划分区域中的提取到的三个关键点进行质心计算,并根据计算确定的九个质心确定障碍物的第二质心相对距离。

步骤S140:根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,并根据车辆预碰撞时间进行碰撞预警操作。

具体地,可以通过下述公式计算确定车辆预碰撞时间:

d(t+1)/d(t)=S; 公式(1)

Tm=Δ(t)/(s-1); 公式(2)

其中,d(t+1)表示第二质心相对距离;d(t)表示第一质心相对距离;Δ(t)表示获取第二行车图像信息与第一行车图像信息之间间隔的时间差值;Tm表示车辆预碰撞时间。

当然,还可以通过其他算法根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,对此本发明实施例不做限定。

优选地,根据车辆预碰撞时间进行碰撞预警操作的步骤具体包括:若判断车辆预碰撞时间小于预定的预警时间阈值,则进行碰撞预警操作。

例如,确定车辆预碰撞时间为10s,判断车辆预碰撞时间是否小于预定的预警时间阈值15s;接着,判断车辆预碰撞时间10s小于预定的预警时间阈值15s,车辆即将发生碰撞,因此,进行碰撞预警操作,以提示驾驶员提前进行车辆减速或刹车从而保障人身安全。

需要说明的是,第一行车图像信息可以是实时获取的视频录像的第一帧图像,第二行车图像信息则可以是该视频录像的第二帧图像,当然,在实际应用中,第二行车图像信息只需是在第一行车图像信息之后获取的图像即可。进一步地,还可以获取第三行车图像信息,该图像信息是在第二行车图像信息之后获取的,因此,检测用于在第三行车图像信息中跟踪相应的关键点的处于第二行车图像信息中的关键点时,首先,可以确定第二行车图像信息中检测到的关键点的位置坐标与第一行车图像信息中检测到的关键点的位置坐标,判断第二行车图像信息中检测到的关键点的位置坐标与第一行车图像信息中检测到的关键点的位置坐标的差值是否在预定的位置差值范围内,若是,只保留其中任一关键点,以去重相似位置的关键点,从而节省对相似关键点进行跟踪运算的开销。

本发明的技术方案解决了如何能够可靠且实时地对可能即将发生车辆碰撞事故进行预警操作的问题。其中,若判断第一行车图像信息中的车辆行进方向上存在障碍物,则基于第一行车图像信息对障碍物进行关键点检测,并根据检测到的关键点确定障碍物的第一质心相对距离,通过上述操作步骤可以确定障碍物的关键点连接后的线段长度;基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,并根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离,通过上述步骤相应地可以确定运动后障碍物的关键点连接后的线段长度;根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,并根据车辆预碰撞时间进行碰撞预警操作,将运动前与运动后障碍物的关键点连接后的线段长度进行比较以判断本车与障碍物的相对距离。根据上述方法判断确定的本车与障碍物的相对距离精准度较高,故而根据相对距离确定的车辆预碰撞时间亦精准度较高,因此可以提高对即将发生车辆碰撞情况的预警操作的准确率。另外,本发明方案采用的算法复杂度较低,从而终端设备硬件设备可支持实时计算处理,进而为驾驶员的人身安全提供了可靠的保障。

图2为本发明另一实施例的车辆碰撞的预警装置的结构示意图。

判断模块110判断第一行车图像信息中的车辆行进方向上是否存在障碍物。

其中,第一行车图像信息可以通过车载视频捕获装置来进行获取,其中,车载视频捕获装置可以是行车记录仪、360度全景摄像头等装置。

优选地,判断模块110包括障碍物检测单元、位置确定单元和检测及判断单元:障碍物检测单元检测第一行车图像信息中是否存在障碍物;位置确定单元当检测第一行车图像信息中存在障碍物时,确定障碍物的位置;检测及判断单元基于第一行车图像信息来检测车辆的行进方向,并根据检测结果判断障碍物的位置是否处于车辆的行进方向上。

其中,检测及判断单元进一步用于判断第一行车图像信息中是否存在车道线;若存在,则确定上述车道线的延伸方向;根据车道线的延伸方向来确定车辆的行进方向。需要说明的是,现有技术中包括多种检测车辆的行进方向的方法及装置,本发明在此不再赘述。。

检测模块220当判断第一行车图像信息中的车辆行进方向上存在障碍物时,基于第一行车图像信息对障碍物进行关键点检测,并根据检测到的关键点确定障碍物的第一质心相对距离。

优选地,关键点包括但不限于FAST、ORB和Harris特征点。

其中,FAST特征点是基于选取的任一像素点周围的图像灰度值来确定的,首先,可以检测选取的任一像素点周围区域的像素点的灰度值,若选取的任一像素点的周围区域中存在与选取的任一像素点的灰度值差值大于预定差值阈值且存在与选取的任一像素点的灰度值差值大于预定灰度值差值的像素点的数量大于预定数量的像素点,则确定选取的任一像素点为一个FAST特征点。

Harris特征点亦可以称作角点,对角点的识别通常是在一个局部的区域或窗口完成的。如果在图像信息中的各个方向上移动预定的窗口,预定的窗口内的图像信息的灰度值变化较大,就可以确定在预定的窗口内存在角点;如果这个预定的窗口在图像信息的各个方向上移动时,预定的窗口内的图像信息的灰度值变化较小,就可以确定预定的窗口内不存在角点;如果预定的窗口在图像信息中的某一方向移动时,预定的窗口内的图像信息的灰度值变化较大,而在该图像信息中的另一些方向上移动时,预定的窗口内的图像信息的灰度值变化较小,则可以确定预定的窗口内的图像信息是一条线段。

ORB特征点是基于上述两种特征点获取的,它是从FAST特征点中选取出与FAST特征点相应的Harris特征点的相关响应值由大到小排序靠前的预定位数的特征点。

需要说明的是,通过检测上述FAST、ORB和Harris等特征点来确定障碍物在第一行车图像信息中的关键点,以备后续通过相关图像跟踪算法对这些关键点进行跟踪。

优选地,检测模块220包括区域划分单元和距离计算单元:区域划分单元将检测到的关键点按照预定的划分规则进行划分,并分别确定划分区域中的关键点;距离计算单元分别对划分区域中的关键点进行质心计算,并根据多个质心计算结果确定障碍物的第一质心相对距离。

更优选地,区域划分单元具体用于将检测到的关键点按照障碍物所在的图像区域进行划分。

具体地,首先,检测障碍物所在的图像区域,并将障碍物所在的图像区域通过加框方式进行框选;接着,将框选的区域进行划分,其中,可以按照框选区域的面积进行均匀划分,也可以非均匀划分,对此本发明实施例不做限定。除上述方式之外,将检测到的关键点按照预定的划分规则进行划分的操作方式还可以通过按照检测到的关键点聚集的区域进行划分或者按照检测到的关键点的个数进行平均划分等方式执行。

通过区域划分单元可以确定划分区域,随后,可以确定各划分区域内的关键点。

最后,距离计算单元分别对划分区域中的关键点进行质心计算,并根据多个质心计算结果确定障碍物的第一质心相对距离。

例如,首先,确定车辆的行进方向上的障碍物为货车A;接着,检测货车A所在的图像区域,并将货车A所在的图像区域通过加框方式进行框选;随后,将框选的区域平均划分成九块,依次分别确定九块划分区域内的关键点为18个、18个、7个、15个、19个、18个、14个、20个、21个;接着,分别对九块划分区域中的关键点进行质心计算,得到九个离散的质心;最后,确定九个离散的质心之间的相互距离,并基于九个离散的质心之间的相互距离确定障碍物的第一质心相对距离。其中,第一质心相对距离是基于障碍物上的关键点计算确定的,在实际物理意义中,它可以表征由障碍物中的关键点连接后所围成的障碍物的线段的长度。

需要说明的是,根据上述装置可以确定划分区域中的关键点,但是,确定的关键点个数偏多,不利于后续针对关键点的相关计算操作,因此,下面将会介绍可以用于优选出划分区域中的关键点的装置,以减少针对关键点的运算量的开销。

优选地,区域划分单元具体用于选取各划分区域中的预定数量的关键点;其中,距离计算单元具体用于分别对划分区域中已选取的预定数量的关键点进行质心计算。

例如,将框选的障碍物的图像所在区域平均划分成九块,依次分别确定九块划分区域内的关键点为18个、18个、7个、15个、19个、18个、14个、20个、21个;接着,选取各划分区域中的九个的关键点作为后续需要进行计算操作的关键点,需要说明的是,九块划分区域中的一块划分区域只存在七个关键点,因此,对于不足九个关键点的划分区域,选取其中所有的关键作为后续进行计算操作的关键点;最后,分别对划分区域中已选取的关键点进行质心计算。

跟踪模块230基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,并根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离,第二行车图像信息为第一行车图像信息之后获取到的图像。

需要说明的是,第二行车图像信息为第一行车图像信息之后获取到的图像,获取第二行车图像信息与第一行车图像信息之间间隔的时间差一般被设置为较小的数值,例如第二行车图像信息是在获取到第一行车图像信息之后的一帧或者N帧获取到的。由于获取第二行车图像信息与第一行车图像信息之间间隔的时间差较小,所以第二行车图像信息较第一行车图像信息的变化不会很大,故而可以基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,以确定第一行车图像信息中检测到的关键点相对于第二行车图像信息中相应关键点的变化趋向。

其中,可以通过图像跟踪算法进行关键点的跟踪操作,其中,图像跟踪算法包括但不限于粒子滤波算法、MeanShift算法以及KLT(Kanade Lucas Tomasi)算法。在本发明方案中优选KLT算法,该算法基于空间运动物体在图像信息中的像素点运动的瞬时速度,利用图像序列中的像素点在时间域上的变化以及相邻图像信息之间的相关性来确定第一行车图像信息跟第二行车图像信息之间存在的对应关系,从而计算出相邻图像信息之间的运动物体的运动相关信息。该算法可以分为三类:

(1)基于区域或者基于特征的匹配方法;

(2)基于频域的方法;

(3)基于梯度的方法。

简单来说,KLT算法研究的是利用图像序列中的像素点的强度数据的时域变化和相关性来确定各像素点位置的移动。

应用KLT算法的前提假设包括:

(1)相邻图像信息之间的亮度恒定;

(2)相邻图像信息的获取时间连续,或者相邻图像信息之间运动物体的运动范围微小;

(3)相邻图像信息中的空间保持一致性,即相邻图像信息的像素点具有相同的运动。

优选地,跟踪模块230包括跟踪值计算单元、关键点确定单元和距离确定单元:跟踪值计算单元基于第一行车图像信息中已选取的预定数量的关键点,通过预定的图像跟踪算法对第二行车图像信息中相应的关键点进行跟踪值计算;关键点确定单元将跟踪值大于预定跟踪阈值对应的关键点确定为待跟踪关键点;距离确定单元根据待跟踪关键点来确定障碍物的第二质心相对距离。

例如,将框选的障碍物所在的第一行车图像信息中的区域平均划分成九块,依次分别确定九块划分区域内的预定数量的关键点的个数为9个、9个、7个、9个、9个、9个、9个、9个、9个;接着,通过KLT算法对第二行车图像信息中相应的关键点进行跟踪值计算;随后,将跟踪值大于预定跟踪阈值对应的关键点确定为待跟踪关键点,需要说明的是,跟踪值的大小表征了关键点在跟踪过程中对图像跟踪算法响应的程度,在本发明方案中,可以选取响应的程度较大的关键点作为待跟踪关键点,以便获得更优的跟踪效果。

优选地,距离确定单元包括关键点提取子单元、距离确定子单元:关键点提取子单元针对各划分区域,对待跟踪关键点相应的跟踪值进行排序,并提取各划分区域中排序前预定数量的关键点;距离确定子单元分别基于各划分区域中的提取到的关键点进行质心计算,并根据质心计算结果确定障碍物的第二质心相对距离。

例如,将框选的障碍物所在的第一行车图像信息中的区域平均划分成九块,依次分别根据关键点相应的跟踪值确定的九块划分区域内的待跟踪关键点的个数为7个、4个、3个、6个、8个、5个、5个、6个、9个;接着,针对各划分区域,对上述待跟踪关键点相应的跟踪值进行排序,并提取各划分区域中排序前三位的关键点;最后,分别基于各划分区域中的提取到的三个关键点进行质心计算,并根据计算确定的九个质心确定障碍物的第二质心相对距离。

预警模块240根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,并根据车辆预碰撞时间进行碰撞预警操作。

具体地,可以通过下述公式计算确定车辆预碰撞时间:

d(t+1)/d(t)=S; 公式(1)

Tm=Δ(t)/(s-1); 公式(2)

其中,d(t+1)表示第二质心相对距离;d(t)表示第一质心相对距离;Δ(t)表示获取第二行车图像信息与第一行车图像信息之间间隔的时间差值;Tm表示车辆预碰撞时间。

当然,还可以通过其他算法根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,对此本发明实施例不做限定。

优选地,预警模块240具体用于当判断车辆预碰撞时间小于预定的预警时间阈值时,进行碰撞预警操作。

例如,确定车辆预碰撞时间为10s,判断车辆预碰撞时间是否小于预定的预警时间阈值15s;接着,判断车辆预碰撞时间10s小于预定的预警时间阈值15s,车辆即将发生碰撞,因此,进行碰撞预警操作,以提示驾驶员提前进行车辆减速或刹车从而保障人身安全。

需要说明的是,第一行车图像信息可以是实时获取的视频录像的第一帧图像,第二行车图像信息则可以是该视频录像的第二帧图像,当然,在实际应用中,第二行车图像信息只需是在第一行车图像信息之后获取的图像即可。进一步地,本发明实施例还包括去重模块,该模块用于获取第三行车图像信息,该图像信息是在第二行车图像信息之后获取的,因此,检测用于在第三行车图像信息中跟踪相应的关键点的处于第二行车图像信息中的关键点时,首先,可以确定第二行车图像信息中检测到的关键点的位置坐标与第一行车图像信息中检测到的关键点的位置坐标,判断第二行车图像信息中检测到的关键点的位置坐标与第一行车图像信息中检测到的关键点的位置坐标的差值是否在预定的位置差值范围内,若是,只保留其中任一关键点,以去重相似位置的关键点,从而节省对相似关键点进行跟踪运算的开销。

本发明的技术方案解决了如何能够可靠且实时地对可能即将发生车辆碰撞事故进行预警操作的问题。其中,若判断第一行车图像信息中的车辆行进方向上存在障碍物,则基于第一行车图像信息对障碍物进行关键点检测,并根据检测到的关键点确定障碍物的第一质心相对距离,通过上述操作步骤可以确定障碍物的关键点连接后的线段长度;基于第一行车图像信息中检测到的关键点对第二行车图像信息进行跟踪,并根据跟踪确定的在第二行车图像信息中相应关键点来确定障碍物的第二质心相对距离,通过上述步骤相应地可以确定运动后障碍物的关键点连接后的线段长度;根据第一质心相对距离和第二质心相对距离计算确定车辆预碰撞时间,并根据车辆预碰撞时间进行碰撞预警操作,将运动前与运动后障碍物的关键点连接后的线段长度进行比较以判断本车与障碍物的相对距离。根据上述方法判断确定的本车与障碍物的相对距离精准度较高,故而根据相对距离确定的车辆预碰撞时间亦精准度较高,因此可以提高对即将发生车辆碰撞情况的预警操作的准确率。另外,本发明方案采用的算法复杂度较低,从而终端设备硬件设备可支持实时计算处理,进而为驾驶员的人身安全提供了可靠的保障。

本技术领域技术人员可以理解,本发明包括涉及用于执行本申请中所述操作中的一项或多项的设备。这些设备可以为所需的目的而专门设计和制造,或者也可以包括通用计算机中的已知设备。这些设备具有存储在其内的计算机程序,这些计算机程序选择性地激活或重构。这样的计算机程序可以被存储在设备(例如,计算机)可读介质中或者存储在适于存储电子指令并分别耦联到总线的任何类型的介质中,所述计算机可读介质包括但不限于任何类型的盘(包括软盘、硬盘、光盘、CD-ROM、和磁光盘)、ROM(Read-Only Memory,只读存储器)、RAM(Random Access Memory,随即存储器)、EPROM(Erasable Programmable Read-Only Memory,可擦写可编程只读存储器)、EEPROM(Electrically Erasable Programmable Read-Only Memory,电可擦可编程只读存储器)、闪存、磁性卡片或光线卡片。也就是,可读介质包括由设备(例如,计算机)以能够读的形式存储或传输信息的任何介质。

本技术领域技术人员可以理解,可以用计算机程序指令来实现这些结构图和/或框图和/或流图中的每个框以及这些结构图和/或框图和/或流图中的框的组合。本技术领域技术人员可以理解,可以将这些计算机程序指令提供给通用计算机、专业计算机或其他可编程数据处理方法的处理器来实现,从而通过计算机或其他可编程数据处理方法的处理器来执行本发明公开的结构图和/或框图和/或流图的框或多个框中指定的方案。

本技术领域技术人员可以理解,本发明中已经讨论过的各种操作、方法、流程中的步骤、措施、方案可以被交替、更改、组合或删除。进一步地,具有本发明中已经讨论过的各种操作、方法、流程中的其他步骤、措施、方案也可以被交替、更改、重排、分解、组合或删除。进一步地,现有技术中的具有与本发明中公开的各种操作、方法、流程中的步骤、措施、方案也可以被交替、更改、重排、分解、组合或删除。

以上所述仅是本发明的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1