一种用于AR导航的事件上报方法、装置、终端及存储介质与流程

本发明实施例涉及车联网领域，尤其涉及一种用于ar导航的事件上报方法、装置、终端及存储介质。

背景技术：

由于城市车辆越来越多，道路交通越来越复杂，因此，及时地了解路况，尤其是路况事件，对于广大驾驶员以及交通主管部门意义重大。

而目前，针对车辆故障或交通事故等可能导致严重拥堵的路况事件往往需要用户主动上报，由此使得路况事件已经发生一段时间后，相关人员才会获知，响应速度慢，具有严重的安全隐患。

技术实现要素：

本发明实施例提供了一种用于ar导航的事件上报方法、装置、终端及存储介质，通过自动检测并上传路况事件，使得广大用户可以更快捷的得到路况信息。

第一方面，本发明实施例提供了一种用于ar导航的事件上报方法，包括：

通过车辆上配置的摄像头实时获取车辆前方的道路图像；

对所述道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型；

依据所述目标路况事件与所述车辆的相对位置关系以及所述车辆的经纬度，确定目标路况事件的经纬度；

在地图引擎中依据目标路况事件的经纬度确定目标路况事件归属的道路名称和车道数；

将所述路况事件类型、道路名称和车道数作为目标路况事件信息上报至服务器。

第二方面，本发明实施例还提供了一种用于ar导航的事件上报装置，包括：

道路图像采集模块，用于通过车辆上配置的摄像头实时获取车辆前方的道路图像；

路况事件检测模块，用于对所述道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型；

路况经纬度确定模块，用于依据所述目标路况事件与所述车辆的相对位置关系以及所述车辆的经纬度，确定目标路况事件的经纬度；

路况归属地确定模块，用于在地图引擎中依据目标路况事件的经纬度确定目标路况事件归属的道路名称和车道数；

上报模块，用于将所述路况事件类型、道路名称和车道数作为目标路况事件信息上报至服务器。

第三方面，本发明实施例还提供了一种终端，包括：

摄像头，用于实时获取车辆前方的道路图像；

一个或多个处理器；

存储器，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任一实施例所述的用于ar导航的事件上报方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任一实施例所述的用于ar导航的事件上报方法。

本发明实施例公开了一种用于ar导航的事件上报方法、装置、终端及存储介质，通过对采集的道路图像进行路况事件检测，确定目标路况事件，并根据车辆的经纬度以及目标路况事件与车辆的相对位置，确定目标路况事件的经纬度，进而确定目标路况事件所属的道路名称和车道数，并将其上传到服务器。由此实现了在ar导航模式下，自动检测并上传路况事件，提高路况事件检测的精确度，保证广大用户可以更快捷的得到准确的路况信息。

附图说明

图1是本发明实施例一提供的一种用于ar导航的事件上报方法的流程示意图；

图2是本发明实施例二提供的一种用于ar导航的事件上报方法的流程示意图；

图3是本发明实施例三提供的一种用于ar导航的事件上报装置的结构示意图；

图4是本发明实施例四提供的一种终端的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1是本发明实施例一提供的一种用于ar导航的事件上报方法的流程示意图，本实施例可适用于在ar导航场景下自动上报路况事件的情况，该方法可以由用于ar导航的事件上报装置执行，该装置可以采用软件和/或硬件的方式实现，并可配置于终端上，例如车载终端。

如图1所示，本发明实施例中提供的用于ar导航的事件上报方法可以包括：

s101、通过车辆上配置的摄像头实时获取车辆前方的道路图像。

s102、对道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型。

在ar导航过程中，可以利用车辆上配置的至少一个摄像头实时采集车辆前方的道路图像，并可以利用任意的图像识别技术对路况事件进行检测，确定目标路况事件。其中，图像识别技术包括但不限于基于神经网络的图像识别、基于分形特征的图像识别或者基于小波矩特征的图像识别等。

示例性的，可利用目标检测算法ssd(singleshotmultiboxdetector)对摄像头实时采集到的道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型。其中，目标检测算法ssd是基于神经网络进行检测，且该神经网络是利用带有不同路况事件类型标注的路况事件样本图像训练得到。由于路况事件的类别包括事故、施工、积水、封路、拥堵、正常路况等，因此，可预先利用每一种路况事件类型对应的不同图像样本对神经网络进行训练，得到相应的模型，再利用ssd算法基于该神经网络模型进行检测。

具体的，对道路图像进行路况事件检测时，可将摄像头拍摄到的整个道路图像作为该神经网络的输入，根据该神经网络的输出可确定道路图像中的目标路况事件，例如确定目标路况事件在道路图像中的路况事件图像区域以及该路况事件对应的路况事件类型。除此之外，可利用yolo(youonlylookonce)算法代替目标检测算法ssd对道路图像进行路况事件检测，本实施例对此不作具体限定。

此外，由于事件检测有一定概率发生误检，因此，针对车载终端而言，可以设置为如果对连续n帧道路图像都检测出同一目标路况事件，则认为目标路况事件确实发生，其中，n为自然数，可以根据实际情况或通过试验进行配置。

s103、依据目标路况事件与车辆的相对位置关系以及车辆的经纬度，确定目标路况事件的经纬度。

基于对目标路况事件的实时检测与追踪，确定目标路况事件与车辆当前位置的相对关系，例如相对距离和相对方位等，结合利用车辆定位技术得到的车辆经纬度信息，便可确定目标路况事件的经纬度，即实现对目标路况事件的定位。

示例性的，可按照如下操作确定目标路况事件的经纬度：

s1.实时获取车辆的经纬度。

开启ar导航后，可通过车辆上安装的惯性测量单元(imu)对车辆进行位姿预测，通常一个imu包含了三个单轴的加速度计和三个单轴的陀螺，加速度计检测物体在载体坐标系统独立三轴的加速度信号，而陀螺检测载体相对于导航坐标系的角速度信号，测量物体在三维空间中的角速度和加速度，并以此进行位姿预测，同时基于扩展卡尔曼滤波，利用gps和视觉信息进行位姿校正，以得到车辆的位姿信息，例如经纬度、航向角等。

s2.获取目标路况事件在道路图像中的路况事件图像区域上至少一个特征点的2d坐标。

利用图像识别技术，确定目标路况事件在道路图像中的路况事件图像区域上至少一个特征点，并确定各特征点在道路图像坐标系下的2d坐标。示例性的，如果路况事件图像区域是一个矩形框区域(boundingbox)，那么在图像坐标系中，默认矩形框某一顶点为原点，相应的根据图像中点的像素值即可确定矩形框区域内所有特征点的2d坐标，例如矩形框中其他三个顶点的2d坐标。

s3.将2d坐标转换为摄像头坐标系的3d坐标。

要确定目标路况事件的位置，需要将s2确定的特征点坐标转换为摄像头坐标系中3d坐标。示例性的，将每个特征点的2d坐标与空间转换矩阵相乘，即可得到每个特征点在摄像头坐标系中3d坐标，其中，空间转换矩阵是根据摄像头的内参和外参确定的，内参包括焦距、坐标轴倾斜参数等，外参包括旋转矩阵和平移矩阵。

s4.根据3d坐标计算各特征点与摄像头的距离和方位。

在将特征点坐标映射到摄像头坐标系的基础上，根据各特征点坐标、距离计算公式和方位角计算公式，即可确定在摄像头坐标系下，各特征点与摄像头的距离和方位，也即目标路况事件与车辆的相对位置关系。

s5.根据车辆的经纬度、距离和方位，计算路况事件的经纬度。

在确定各特征点与摄像头的距离和方位后，即可确定路况事件与摄像头的距离和方位。再结合当前车辆的经纬度，即可确定路况事件的经纬度，也即路况事件的准确地理位置。在此需要说明的是，现有技术确定路况位置通常是将车辆当前的gps位置作为路况事件的地理位置，而本发明实施例通过确定路况事件的经纬度来对路况事件进行定位，准确度更高。

s104、在地图引擎中依据目标路况事件的经纬度确定目标路况事件归属的道路名称和车道数。

对于广大驾驶员而言，如果只知道路况事件的经纬度，无法简单快捷的确定路况事件的位置。因此，在确定路况事件的经纬度后，还需要确定路况事件发生地所属的道路名以及车道数。示例性的，可根据路况事件的经纬度在地图引擎中检索，以确定路况事件所属的道路名以及车道数。

s105、将路况事件类型、道路名称和车道数作为目标路况事件信息上报至服务器。

可将路况事件类型、道路名称和车道数作为目标路况事件信息上报至服务器，以便服务器实时的将该路况事件进行播报，以便广大驾驶员可根据服务器发布的路况事件类型、道路名称和车道数，及时调整导航路线，以避免交通事故。

此外，由于事件检测有一定概率发生误检，而且对道路识别和车道线的检测也可能存在误差。因此，针对服务器而言，可以设置为如果在预设时间内有m辆车的终端都上传相同的目标路况事件信息，则认为该目标路况事件信息准确，继而进一步将该目标路况事件信息下发到其他车载终端，以实施提醒。其中，m为自然数，可以根据实际情况或通过试验进行配置。

本发明实施例中，通过对采集的道路图像进行路况事件检测，确定目标路况事件，并根据车辆的经纬度以及目标路况事件与车辆的相对位置，确定目标路况事件的经纬度，进而确定目标路况事件所属的道路名称和车道数，并将其上传到服务器。由此实现了在ar导航模式下，自动检测并上传路况事件，提高路况事件检测的精确度，保证广大用户可以更快捷的得到准确的路况信息。

实施例二

图2为本发明实施例二提供的一种用于ar导航的事件上报方法的流程示意图。本实施例以上述实施例为基础进行优化，如图2所示，本发明实施例中提供的用于ar导航的事件上报方法可以包括：

s201、通过车辆上配置的摄像头实时获取车辆前方的道路图像。

s202、对道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型。

s203、依据目标路况事件与车辆的相对位置关系以及车辆的经纬度，确定目标路况事件的经纬度。

s204、利用车道线检测技术，依据道路图像检测车辆的当前车道。

示例性的，可以采用边缘检测的方法，如canny算法检测出道路轮廓，然后利用hough变换检测出直线，最后在道路图像画出直线即为当前车道。

s205、从车辆前方的道路图像中获取当前车道道路图像。

车辆前方的道路图像通常包括双方向行车道路以及道路两旁环境的图像，而且每一个方向的行车道路又通常包括多条行车道。因此，路况事件有可能发生在与车辆当前行驶车道相同方向的任一条行车道上，也可能发生在与车辆当前行驶方向相反的任一条行车道上。那么，为了接下来确定路况事件具体的朝向信息，这里需要先从道路图像中提取出车辆当前车道的道路图像，也即车辆当前行驶车道上位于车辆前方的道路图像。

s206、根据目标路况事件在道路图像中的路况事件图像区域和当前车道道路图像，确定目标路况事件在道路上的朝向信息。

路况事件的朝向信息可以用与当前车辆的行驶方向相同或相反来衡量，因此，可以依据路况事件图像区域和车辆的当前车道道路图像来确定目标路况事件在道路上的朝向信息。

示例性的，利用预先训练的孪生卷积网络，根据目标路况事件在道路图像中的路况事件图像区域和当前车道道路图像，确定目标路况事件在道路上的朝向信息，所述朝向信息用于表征路况事件与当前车辆行进方向是否相同。其中，孪生卷积网络是利用正样本和负样本训练得到，正样本为路况事件与车辆的朝向相同的不同路况事件类型的样本图像，负样本为路况事件与车辆的朝向不同的不同路况事件类型的样本图像。

s207、将路况事件类型、朝向信息、道路名称和车道数作为目标路况事件信息上报至服务器。

将路况事件类型、朝向信息、道路名称和车道数作为目标路况事件信息上报至服务器后，服务器实时的将该信息播报出去，以便广大驾驶员根据该信息实时调整导航路线。

进一步的，上传到服务器的目标路况事件信息中还包括置信度，其用于表征车载终端自动上报的目标路况事件的可信程度，且该置信度为基于路况事件检测置信度、朝向确定置信度和路况事件经纬度确定置信度经计算得到的置信度均值。服务器可根据置信度判定是否播报目标路况事件，例如，服务器只播报置信度大于预设阈值的目标路况事件的相关信息，以提高事件播报的准确度。

本发明实施例中，根据目标路况事件在道路图像中的路况事件图像区域和当前车道道路图像，确定目标路况事件在道路上的朝向信息，并将其与路况事件类型、道路名称和车道数一起上报服务器，由此可确保路况事件定位准确度，也能提醒驾驶员根据路况事件的朝向而相应的调整导航路线。

实施例三

图3是本发明实施例三提供的用于ar导航的事件上报装置的结构示意图。如图3所示，该装置包括：

道路图像采集模块301，用于通过车辆上配置的摄像头实时获取车辆前方的道路图像；

路况事件检测模块302，用于对所述道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型；

路况经纬度确定模块303，用于依据所述目标路况事件与所述车辆的相对位置关系以及所述车辆的经纬度，确定目标路况事件的经纬度；

路况归属地确定模块304，用于在地图引擎中依据目标路况事件的经纬度确定目标路况事件归属的道路名称和车道数；

上报模块305，用于将所述路况事件类型、道路名称和车道数作为目标路况事件信息上报至服务器。

本发明实施例中，通过对采集的道路图像进行路况事件检测，确定目标路况事件，并根据车辆的经纬度以及目标路况事件与车辆的相对位置，确定目标路况事件的经纬度，进而确定目标路况事件所属的道路名称和车道数，并将其上传到服务器。由此实现了在ar导航模式下，自动检测并上传路况事件，提高路况事件检测的精确度，保证广大用户可以更快捷的得到准确的路况信息。

在上述实施例的基础上，所述路况事件检测模块具体用于：

利用目标检测算法ssd对所述道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型；

其中，所述目标检测算法ssd是基于神经网络进行检测，所述神经网络是利用带有不同路况事件类型标注的路况事件样本图像训练得到。

在上述实施例的基础上，所述路况经纬度确定模块具体用于：

实时获取车辆的经纬度；

获取所述目标路况事件在所述道路图像中的路况事件图像区域上至少一个特征点的2d坐标；

将所述2d坐标转换为所述摄像头坐标系的3d坐标；

根据所述3d坐标计算各特征点与所述摄像头的距离和方位；

根据所述车辆的经纬度、所述距离和方位，计算路况事件的经纬度。

在上述实施例的基础上，所述装置还包括：

车道检测模块，用于利用车道线检测技术，依据所述道路图像检测车辆的当前车道；

车道道路图像获取模块，用于从所述车辆前方的道路图像中获取当前车道道路图像；

朝向确定模块，用于根据所述目标路况事件在所述道路图像中的路况事件图像区域和当前车道道路图像，确定目标路况事件在道路上的朝向信息；

相应的，所述上报模块还用于：

将所述路况事件类型、朝向信息、道路名称和车道数作为目标路况事件信息上报至服务器。

在上述实施例的基础上，所述朝向确定模块具体用于：

利用预先训练的孪生卷积网络，根据所述目标路况事件在所述道路图像中的路况事件图像区域和当前车道道路图像，确定目标路况事件在道路上的朝向信息；

其中，所述孪生卷积网络是利用正样本和负样本训练得到，所述正样本为路况事件与车辆的朝向相同的不同路况事件类型的样本图像，负样本为路况事件与车辆的朝向不同的不同路况事件类型的样本图像。

本发明实施例所提供的用于ar导航的事件上报装置可执行本发明任意实施例所提供的用于ar导航的事件上报方法，具备执行方法相应的功能模块和有益效果。

实施例四

图4为本发明实施例四提供的终端的结构示意图。图4示出了适于用来实现本发明实施方式的示例性终端12的框图。图4显示的终端12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图4所示，终端12以通用计算设备的形式表现。终端12的组件可以包括但不限于：一个或者多个处理器或者处理器16，存储器28，连接不同系统组件(包括存储器28和处理器16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(isa)总线，微通道体系结构(mac)总线，增强型isa总线、视频电子标准协会(vesa)局域总线以及外围组件互连(pci)总线。

终端12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被终端12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(ram)30和/或高速缓存存储器32。终端12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图4未显示，通常称为“硬盘驱动器”)。尽管图4中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如cd-rom,dvd-rom或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

终端12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该终端12交互的设备通信，和/或与使得该终端12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口22进行。并且，终端12还可以通过网络适配器20与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与终端12的其它模块通信。应当明白，尽管图中未示出，可以结合终端12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。

处理器16通过运行存储在存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的用于ar导航的事件上报方法，包括：

通过车辆上配置的摄像头实时获取车辆前方的道路图像；

对所述道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型；

依据所述目标路况事件与所述车辆的相对位置关系以及所述车辆的经纬度，确定目标路况事件的经纬度；

在地图引擎中依据目标路况事件的经纬度确定目标路况事件归属的道路名称和车道数；

将所述路况事件类型、道路名称和车道数作为目标路况事件信息上报至服务器。

实施例五

本发明实施例中提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行一种用于ar导航的事件上报方法，该方法包括：

通过车辆上配置的摄像头实时获取车辆前方的道路图像；

对所述道路图像进行路况事件检测，确定目标路况事件及其对应的路况事件类型；

依据所述目标路况事件与所述车辆的相对位置关系以及所述车辆的经纬度，确定目标路况事件的经纬度；

在地图引擎中依据目标路况事件的经纬度确定目标路况事件归属的道路名称和车道数；

将所述路况事件类型、道路名称和车道数作为目标路况事件信息上报至服务器。

当然，本发明实施例中所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的方法操作，还可以执行本发明任意实施例中所提供的用于ar导航的事件上报方法中的相关操作。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、rf等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c++，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。