一种目标定位方法和装置、无人机与流程

文档序号:17699652发布日期:2019-05-17 22:09阅读:152来源:国知局
一种目标定位方法和装置、无人机与流程

本发明涉及视觉跟踪技术领域,更具体地说,涉及一种目标定位方法和装置、无人机。



背景技术:

视觉跟踪算法广泛的用于机器人或无人机中,算法大多基于二维图像或视频,识别跟踪目标在平面图像中的位置。跟踪时不能直观的预测或感知跟踪目标的三维位置,现有方法可通过固定目标初始化高度或平面假设等方法来估算目标的三维空间位置,以便构造空间运动模型预测目标下一时刻的运动。但该方法有鲁棒性,适用场景少的缺点,而在路径规划中,三维目标点的位置准确性也直接影响了规划结果。



技术实现要素:

本发明要解决的技术问题在于,针对现有技术的上述缺陷,提供一种目标定位方法和装置、无人机。

本发明解决其技术问题所采用的技术方案是:提供一种目标定位方法,用于无人机,所述无人机包括图像获取装置和深度传感器,该方法包括:

通过所述图像获取装置获取目标图像;

根据所述目标图像,获取所述目标在所述目标图像中的位置信息;

通过所述深度传感器获取所述无人机前方环境的原始点云;

根据所述原始点云和所述目标在所述目标图像中的位置信息,获取所述原始点云中与所述目标对应的点云;

根据所述与所述目标对应的点云,获取所述目标在三维空间中的位置信息。

在其中一个实施例中,所述目标在所述目标图像中的位置信息包括所述目标在所述目标图像中的最小外接框坐标,则所述根据所述原始点云和所述目标在所述目标图像中的位置信息,获取所述原始点云中与所述目标对应的点云,包括:

将所述原始点云投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在的平面的坐标;

确定所述原始点云中,坐标落在所述最小外接框内的原始点云为所述与所述目标对应的点云。

在其中一个实施例中,所述将所述原始点云投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在的平面的坐标,包括:

将所述原始点云在所述深度传感器坐标系下的坐标转换为所述原始点云在所述图像获取装置坐标系下的坐标;

将所述原始点云在所述图像获取装置坐标系下的坐标投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在平面的坐标。

在其中一个实施例中,所述原始点云在所述图像获取装置坐标系下的坐标满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置坐标系下的坐标,(x,y,z)为所述原始点云在所述深度传感器坐标系下的坐标,t为所述深度传感器坐标系至所述图像获取装置坐标系的转换矩阵。

在其中一个实施例中,所述深度传感器坐标系至所述图像获取装置坐标系的转换矩阵t满足:

t=t2t×t1;

其中,t1为所述深度传感器坐标系至所述无人机机身坐标系的转换矩阵,t2为所述图像获取装置坐标系至所述无人机机身坐标系的转换矩阵。

在其中一个实施例中,所述原始点云在所述目标图像所在平面的坐标(u,v)满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置坐标系下的坐标,d为所述原始点云的深度,k为所述图像获取装置的内参矩阵。

在其中一个实施例中,在所述根据所述原始点云和所述目标在所述目标图像中的位置信息,获取所述原始点云中与所述目标对应的点云之前,该方法还包括:

对坐标落入所述最小外接框内的所述原始点云进行滤波,以去除不属于所述目标的点云。

在其中一个实施例中,所述根据所述与所述目标对应的点云,获取所述目标在所述三维空间中的位置信息,包括:

根据所述无人机前方环境的原始点云,建立所述无人机前方环境的三维地图;

对与所述目标对应的点云的三维坐标取平均值,其中,所述平均值用于表示所述目标在所述三维地图中的位置。

在其中一个实施例中,所述深度传感器包括以下中的至少一种:

双目相机、结构光相机、tof(timeofflight)相机和激光雷达。

本发明还提供一种目标定位装置,用于无人机,包括:

图像获取模块,用于获取目标图像和根据所述目标图像获取所述目标在所述目标图像中的位置信息;

原始点云获取模块,用于获取所述无人机前方环境的原始点云;以及

目标位置获取模块,用于:

根据所述原始点云和所述目标在所述目标图像中的位置信息,获取所述原始点云中与所述目标对应的点云;

根据所述与所述目标对应的点云,获取所述目标在三维空间中的位置信息。

在其中一个实施例中,所述目标位置获取模块具体用于:

将所述原始点云投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在的平面的坐标;

确定所述原始点云中,坐标落在所述最小外接框内的原始点云为所述与所述目标对应的点云。

在其中一个实施例中,所述目标位置获取模块具体用于:

将所述原始点云在所述原始点云获取模块坐标系下的坐标转换为所述原始点云在所述图像获取模块坐标系下的坐标;

将所述原始点云在所述图像获取模块坐标系下的坐标投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在平面的坐标。

在其中一个实施例中,所述原始点云在所述图像获取模块坐标系下的坐标满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取模块坐标系下的坐标,(x,y,z)为所述原始点云在所述原始点云获取模块坐标系下的坐标,t为所述原始点云获取模块坐标系至所述图像获取模块坐标系的转换矩阵。

在其中一个实施例中,所述原始点云获取模块坐标系至所述图像获取模块坐标系的转换矩阵t满足:

t=t2t×t1;

其中,t1为所述原始点云获取模块坐标系至所述无人机机身坐标系的转换矩阵,t2为所述图像获取模块坐标系至所述无人机机身坐标系的转换矩阵。

在其中一个实施例中,所述原始点云在所述目标图像所在平面的坐标(u,v)满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取模块坐标系下的坐标,d为所述原始点云的深度,k为所述图像获取模块的内参矩阵。

在其中一个实施例中,该装置还包括点云滤波模块,所述点云滤波模块用于:

对坐标落入所述最小外接框内的所述原始点云进行滤波,以去除不属于所述目标的点云。

在其中一个实施例中,所述目标位置获取模块具体用于:

根据所述无人机前方环境的原始点云,建立所述无人机前方环境的三维地图;

对与所述目标对应的点云的三维坐标取平均值,其中,所述平均值用于表示所述目标在所述三维地图中的位置。

在其中一个实施例中,所述原始点云获取模块为深度传感器,所述深度传感器包括以下中的至少一种:

双目相机、结构光相机、tof(timeofflight)相机和激光雷达。

本发明还提供一种无人机,包括:

机身;

机臂,与所述机身相连;

动力装置,设于所述机臂,用于提供所述无人机飞行所需的动力;

深度传感器,设于所述机身,用于获取所述无人机前方环境的原始点云;

图像获取装置,设于所述机身,用于获取目标图像并根据所述目标图像,获取所述目标在所述目标图像中的位置信息;以及

视觉芯片,设于所述机身,所述深度传感器与所述图像获取装置均与所述视觉芯片通信连接;

所述视觉芯片用于:

根据所述原始点云和所述目标在所述目标图像中的位置信息,获取所述原始点云中与所述目标对应的点云;

根据所述与所述目标对应的点云,获取所述目标在三维空间中的位置信息。

在其中一个实施例中,所述视觉芯片具体用于:

将所述原始点云投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在的平面的坐标;

确定所述原始点云中,坐标落在所述最小外接框内的原始点云为所述与所述目标对应的点云。

在其中一个实施例中,所述视觉芯片具体用于:

将所述原始点云在所述深度传感器坐标系下的坐标转换为所述原始点云在所述图像获取装置坐标系下的坐标;

将所述原始点云在所述图像获取装置坐标系下的坐标投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在平面的坐标。

在其中一个实施例中,所述原始点云在所述图像获取装置坐标系下的坐标满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置坐标系下的坐标,(x,y,z)为所述原始点云在所述深度传感器坐标系下的坐标,t为所述深度传感器坐标系至所述图像获取装置坐标系的转换矩阵。

在其中一个实施例中,所述深度传感器坐标系至所述图像获取装置坐标系的转换矩阵t满足:

t=t2t×t1;

其中,t1为所述深度传感器坐标系至所述机身坐标系的转换矩阵,t2为所述图像获取装置坐标系至所述机身坐标系的转换矩阵。

在其中一个实施例中,所述原始点云在所述目标图像所在平面的坐标(u,v)满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置坐标系下的坐标,d为所述原始点云的深度,k为所述图像获取装置的内参矩阵。

在其中一个实施例中,所述视觉芯片还用于:

对坐标落入所述最小外接框内的所述原始点云进行滤波,以去除不属于所述目标的点云。

在其中一个实施例中,所述视觉芯片具体用于:

根据所述无人机前方环境的原始点云,建立所述无人机前方环境的三维地图;

对与所述目标对应的点云的三维坐标取平均值,其中,所述平均值用于表示所述目标在所述三维地图中的位置。

在其中一个实施例中,所述深度传感器包括以下中的至少一种:

双目相机、结构光相机、tof(timeofflight)相机和激光雷达。

实施本发明的目标定位方法,具有以下有益效果:本发明通过图像获取装置获取目标图像,并根据目标图像获得目标在该目标图像中的位置信息,以及通过深度传感器获取无人机前方环境的原始点云,进而根据原始点云和目标在目标图像中的位置信息,获得原始点云中与目标对应的点云,再由所获得的与目标对应的点云得到目标在三维空间中的位置信息,从而由所获得的目标在三维空间中的位置信息准确地确定目标在当前时刻的实时位置,既得到了目标的深度信息,也可以为目标跟踪提供稳定性和精度更高的运动估算模型,减少误识别和跟踪丢失的概率,可以实现更准确的三维路径规划和实时三维重建的可视化,同时还可以利用具有目标物体的三维地图进行避障,可避免路径规划将目标误认为障碍物。

附图说明

下面将结合附图及实施例对本发明作进一步说明,附图中:

图1是本发明实施例提供的一种目标定位方法的流程示意图;

图2是本发明实施例中的目标在目标图像中的最小外接框的示意图;

图3是本发明实施例中的目标定位示意图;

图4是本发明实施例提供的一种目标定位装置的原理框图;

图5是本发明实施例提供的一种无人机的原理框图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

参考图1,本发明实施例提供了一种目标定位方法。该方法可以供无人机实时获取目标在三维空间中的位置信息,还可以根据所获取的在三维空间中的位置信息进行三维运动模型构建,预测目标下一时刻的运动,或者可以根据所获取的在三维空间中的位置信息进行三维重建,建立具有目标的三维地图,利用具有目标的三维地图进行避障和路径规划,且还可以避免路径规划将目标误认为障碍物。

如图1所示,为本发明实施例提供的一种目标定位方法的流程示意图。

该目标定位方法包括以下步骤:

步骤s1、通过所述图像获取装置122获取目标图像。

本发明实施例中,图像获取装置122可以为彩色相机,其所获取的是目标在二维平面的图像,即图像获取装置122所获取的目标图像为二维图像。其可以包括图像的二维坐标信息、颜色信息等。其中,本发明实施例对所采用的彩色相机的参数和位置不作具体限制,只要已知彩色相机的标定参数即可;或者也可以设计为活动结构以达到随目标位置而旋转,即只要可以获取彩色相机相对于无人机10的机身12的转换关系即可。

步骤s2、根据所述目标图像,获取所述目标在所述目标图像中的位置信息。

可以理解地,本发明实施例中,目标在目标图像中的位置信息可以包括:目标在所述目标图像中的最小外接框坐标。其中,目标在目标图像中的最小外接框为包括目标在内的最小外接矩形区域,如图2中的100所示。

步骤s3、通过所述深度传感器121获取所述无人机10前方环境的原始点云。

本发明实施例中,对于深度传感器121的种类、数量和位置本发明实施例不作具体限制,可以根据实际的跟随需求进行选择设定。例如,深度传感器121包括双目相机、结构光相机、tof(timeofflight)相机和激光雷达中的至少一种。为了保证深度相机可以在任意时刻都观测到目标物体,可以采用多组深度相机多向或全向排列;或者将深度相机设计为活动结构以达到随目标位置而旋转等,即只要可以获得深度相机相对于机身12的转换关系即可。

本发明实施例中,无人机10前方环境为无人机10行进方向上的环境。

步骤s4、根据所述原始点云和所述目标在所述目标图像中的位置信息,获取所述原始点云中与所述目标对应的点云。

可以理解地,目标在目标图像中的位置信息可以为目标在目标图像中的最小外接框坐标。此时,步骤s4具体可以包括:

步骤s41、将所述原始点云投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在的平面的坐标。

本发明实施例中,步骤s41具体可以包括:

步骤s411、将所述原始点云在所述深度传感器121坐标系下的坐标转换为所述原始点云在所述图像获取装置122坐标系下的坐标。

可选的,本发明实施例中,所述原始点云在所述图像获取装置122坐标系下的坐标满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置122坐标系下的坐标,(x,y,z)为所述原始点云在所述深度传感器121坐标系下的坐标,t为所述深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵。通过(1)式,可以快速获得原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)。

由于无人机10的深度传感器121和图像获取装置122往往会在运动过程中旋转,所以两个坐标系转换举矩阵往往不能直接得到。在一些实施例中,深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t可以用深度传感器121至无人机10机身12坐标系的转换矩阵t1以及图像获取装置122至无人机10机身12坐标系的转换举矩阵t2求出。

其中,深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t满足:

t=t2t×t1(2)。

其中,t1为所述深度传感器121坐标系至所述无人机10机身12坐标系的转换矩阵,t2为所述图像获取装置122坐标系至所述无人机10机身12坐标系的转换矩阵。

通过(2)式可以快速获得深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t,进而通过(1)式快速计算出原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)。

步骤s412、将所述原始点云在所述图像获取装置122坐标系下的坐标投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在平面的坐标。

可选的,本发明实施例中,原始点云在所述目标图像所在平面的坐标(u,v)满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置122坐标系下的坐标,d为所述原始点云的深度,k为所述图像获取装置122的内参矩阵。

因此,在获得原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)后,再根据(3)式和(4)式可以快速地计算出原始点云在所述目标图像所在平面的坐标(u,v)。

步骤s42、确定所述原始点云中,坐标落在所述最小外接框内的原始点云为所述与所述目标对应的点云。

具体的,通过上述方法获得原始点云在目标图像所在平面的所有坐标后,将所获得的每一个原始点云在目标图像所在平面的坐标与最小外接框进行比较判断,进而确定所有坐标落在所述最小外接框内平面坐标,其中,在目标图像所在平面的坐标落在最小外接框内的原始点云即为与所述目标对应的点云。

进一步地,在执行步骤s4之前,该目标定位方法还包括以下步骤:

对坐标落入所述最小外接框内的所述原始点云进行滤波,以去除不属于所述目标的点云。

可选的,对坐标落入最小外接框内的原始点云进行滤波可以采用预设滤波法进行滤波,其中,预设滤波法包括但不限于高斯滤波法、半径滤波法、聚类法、平滑法、连通域法等。

以高斯滤波法为例进行说明,设坐标落入最小外接框内的原始点云总数为n,计算距离第i个原始点云与距离其最近的m个相邻原始点云的平均距离di,则d1~dn可构成高斯分布,即di~(μ,σ),计算期望μ与方差σ,根据高斯分布性质,若di>m*σ,则该原始点云不属于矩形区域,需滤除。其中,m可取2.0~3.0,m根据深度相机分辨率与总原始点云的数量级而定,一般可以取正整数30~50。

同理,采用半径滤波法、聚类法、平滑法、连通域法等方法也可以达到相同效果。

步骤s5、根据所述与所述目标对应的点云,获取所述目标在三维空间中的位置信息。

可选的,步骤s5具体可以包括:

步骤s51、根据所述无人机10前方环境的原始点云,建立所述无人机10前方环境的三维地图。

具体的,将深度传感器121获取到的无人机10前方环境的原始点云和与所述目标对应的点云转换至世界坐标系下,并在世界坐标系下将深度传感器121获取到的无人机10前方环境的原始点云和与所述目标对应的点云合并及后处理,得到无人机10前方环境的三维地图。

可选的,将在世界坐标系下将深度传感器121获取到的所有的原始点云和目标点云进行合并后,进一步可以采用体素滤波、或者八叉树等方法将所有点云进行后处理,最终得到包括目标在内的三维地图。其中,三维地图的表示可以用八叉树、体素、网格图以及直接点云图等进行表示,只要可以表示三维空间关系即可,本发明不作具体限定。当然,可以理解地,在其他一些实施例中,为了减小计算量,可以将地图降维成二维地图。

步骤s52、对与所述目标对应的点云的三维坐标取平均值,其中,所述平均值用于表示所述目标在所述三维地图中的位置。

具体的,本发明实施例中,该目标定位方法的定位示意图如图3所示,其中,深度传感器121传感器和图像获取装置122均设置在无人机10的机身12上。

本发明的目标定位方法,通过设置在无人机10上的深度传感器121和图像获取装置122分别获取的数据整合的方法,既保留了传统平面视频和图像跟踪的算法,同时又得到了目标的深度,可为目标跟踪提供稳定性和精度更高的运动估算模型,有效减少误识别和跟踪丢失的概率。而且,由于目标识别在二维彩色图像中,不可获得目标的深度,本发明利用转换关系将深度传感器121的点云投影至图像获取装置122坐标系,再将所有点云反向投影至二维平面,并找出符合要求的点云,这里,符合要求的点云为坐标落在最小外接框内的原始点云。例如,设深度传感器121在某一帧得到的所有第一三维坐标(原始点云)为a(x1,y1,z1)、b(x2,y2,z2)、c(x3,y3,z3)、d(x4,y4,z4),所图像获取装置122坐标系下的坐标为a(u‘1,v‘1)、b(u‘2,v‘2)、c(u‘3,v‘3)、d(u‘4,v‘4),而在最小外接框内的坐标为a(u‘1,v‘1)、c(u‘3,v‘3),则符合要求的点云即为a(u‘1,v‘1)、c(u‘3,v‘3)所对应的a(x1,y1,z1)和c(x3,y3,z3)。

另外,本发明还可以在三维地图中准确标注目标的大小和位置,实现更准确的三维路径规划和实时三维重建的可视化。同时标注移动目标的点云可避免路径规划将目标物误认为障碍物。

参考图4,为本发明实施例提供的一种目标定位装置的原理框图。该目标定位装置可以用于实现前述的目标定位方法。

如图4所示,该目标定位装置,用于无人机10,具体可以包括:图像获取模块401、原始点云获取模块402和目标位置获取模块403。

图像获取模块401,用于获取目标图像和根据所述目标图像获取所述目标在所述目标图像中的位置信息。

本发明实施例中,图像获取装置122可以为彩色相机,其所获取的是目标在二维平面的图像,即图像获取装置122所获取的目标图像为二维图像。其可以包括图像的二维坐标信息、颜色信息等。其中,本发明实施例对所采用的彩色相机的参数和位置不作具体限制,只要已知彩色相机的标定参数即可;或者也可以设计为活动结构以达到随目标位置而旋转,即只要可以获取彩色相机相对于无人机10的机身12的转换关系即可。

可以理解地,本发明实施例中,目标在目标图像中的位置信息可以包括:目标在所述目标图像中的最小外接框坐标。其中,目标在目标图像中的最小外接框为包括目标在内的最小外接矩形区域,如图2中的100所示。

原始点云获取模块402,用于获取所述无人机10前方环境的原始点云。

可选的,本发明实施例的原始点云获取模块402可以包括深度传感器121,通过深度传感器121可以获取无人机10前方环境的原始点云。其中,本发明实施例对于深度传感器121的种类、数量和位置本发明实施例不作具体限制,可以根据实际的跟随需求进行选择设定。例如,深度传感器121包括双目相机、结构光相机、tof(timeofflight)相机和激光雷达中的至少一种。为了保证深度相机可以在任意时刻都观测到目标物体,可以采用多组深度相机多向或全向排列;或者将深度相机设计为活动结构以达到随目标位置而旋转等,即只要可以获得深度相机相对于机身12的转换关系即可。

本发明实施例中,无人机10前方环境为无人机10行进方向上的环境。

目标位置获取模块403,用于:

根据所述原始点云和所述目标在所述目标图像中的位置信息,获取所述原始点云中与所述目标对应的点云。

根据所述与所述目标对应的点云,获取所述目标在三维空间中的位置信息。

本发明实施例中,目标在目标图像中的位置信息可以为目标在目标图像中的最小外接框坐标。此时,目标位置获取模块403具体用于:将所述原始点云投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在的平面的坐标。

具体的,先将所述原始点云在所述深度传感器121坐标系下的坐标转换为所述原始点云在所述图像获取装置122坐标系下的坐标;然后将所述原始点云在所述图像获取装置122坐标系下的坐标投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在平面的坐标;

可选的,本发明实施例中,所述原始点云在所述图像获取装置122坐标系下的坐标满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置122坐标系下的坐标,(x,y,z)为所述原始点云在所述深度传感器121坐标系下的坐标,t为所述深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵。通过(1)式,可以快速获得原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)。

由于无人机10的深度传感器121和图像获取装置122往往会在运动过程中旋转,所以两个坐标系转换举矩阵往往不能直接得到。在一些实施例中,深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t可以用深度传感器121至无人机10机身12坐标系的转换矩阵t1以及图像获取装置122至无人机10机身12坐标系的转换举矩阵t2求出。

其中,深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t满足:

t=t2t×t1(2)。

其中,t1为所述深度传感器121坐标系至所述无人机10机身12坐标系的转换矩阵,t2为所述图像获取装置122坐标系至所述无人机10机身12坐标系的转换矩阵。

通过(2)式可以快速获得深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t,进而通过(1)式快速计算出原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)。

可选的,本发明实施例中,原始点云在所述目标图像所在平面的坐标(u,v)满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置122坐标系下的坐标,d为所述原始点云的深度,k为所述图像获取装置122的内参矩阵。

因此,在获得原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)后,再根据(3)式和(4)式可以快速地计算出原始点云在所述目标图像所在平面的坐标(u,v)。

进一步地,目标位置获取模块403还具体用于:确定所述原始点云中,坐标落在所述最小外接框内的原始点云为所述与所述目标对应的点云。

具体的,通过上述方法获得原始点云在目标图像所在平面的所有坐标后,将所获得的每一个原始点云在目标图像所在平面的坐标与最小外接框进行比较判断,进而确定所有坐标落在所述最小外接框内平面坐标,其中,在目标图像所在平面的坐标落在最小外接框内的原始点云即为与所述目标对应的点云。

进一步地,该目标定位装置还包括点云滤波模块,所述点云滤波模块用于:

对坐标落入所述最小外接框内的所述原始点云进行滤波,以去除不属于所述目标的点云。

可选的,对坐标落入最小外接框内的原始点云进行滤波可以采用预设滤波法进行滤波,其中,预设滤波法包括但不限于高斯滤波法、半径滤波法、聚类法、平滑法、连通域法等。

以高斯滤波法为例进行说明,设坐标落入最小外接框内的原始点云总数为n,计算距离第i个原始点云与距离其最近的m个相邻原始点云的平均距离di,则d1~dn可构成高斯分布,即di~(μ,σ),计算期望μ与方差σ,根据高斯分布性质,若di>m*σ,则该原始点云不属于矩形区域,需滤除。其中,m可取2.0~3.0,m根据深度相机分辨率与总原始点云的数量级而定,一般可以取正整数30~50。

同理,采用半径滤波法、聚类法、平滑法、连通域法等方法也可以达到相同效果。

进一步地,本发明实施例的目标位置获取模块403具体用于:根据所述无人机10前方环境的原始点云,建立所述无人机10前方环境的三维地图。

具体的,将深度传感器121获取到的无人机10前方环境的原始点云和与所述目标对应的点云转换至世界坐标系下,并在世界坐标系下将深度传感器121获取到的无人机10前方环境的原始点云和与所述目标对应的点云合并及后处理,得到无人机10前方环境的三维地图。

可选的,将在世界坐标系下将深度传感器121获取到的所有的原始点云和目标点云进行合并后,进一步可以采用体素滤波、或者八叉树等方法将所有点云进行后处理,最终得到包括目标在内的三维地图。其中,三维地图的表示可以用八叉树、体素、网格图以及直接点云图等进行表示,只要可以表示三维空间关系即可,本发明不作具体限定。当然,可以理解地,在其他一些实施例中,为了减小计算量,可以将地图降维成二维地图。

进一步地,本发明实施例的目标位置获取模块403具体用于:对与所述目标对应的点云的三维坐标取平均值,其中,所述平均值用于表示所述目标在所述三维地图中的位置。

本发明实施例中,目标位置获取模块403可以为视觉芯片123。

参考图5,为本发明实施例提供的一种无人机10的原理框图。可以理解地,本发明实施例提供的无人机10可以用于实现前述的目标定位方法。该无人机10可以准确地确定目标在当前时刻的实时位置,既得到了目标的深度信息,也可以为目标跟踪提供稳定性和精度更高的运动估算模型,减少误识别和跟踪丢失的概率,可以实现更准确的三维路径规划和实时三维重建的可视化,同时还可以利用具有目标物体的三维地图进行避障,可避免路径规划将目标误认为障碍物。

如图5所示,本发明实施例的无人机10包括:机身12、与机身12相连的机臂11、设于机臂11的动力装置111、设于机身12的深度传感器121、设于机身12的图像获取装置122以及设于机身12的视觉芯片123

本发明实施例中,动力装置111用于提供无人机10飞行所需的动力。可选的,动力装置111可以包括设于机臂11的电机和与电机相连的螺旋桨,电机带动螺旋桨高速旋转以提供无人机飞行所需的动力。

本发明实施例中,深度传感器121用于获取所述无人机10前方环境的原始点云。

可选的,本发明实施例的原始点云获取模块402可以包括深度传感器121,通过深度传感器121可以获取无人机10前方环境的原始点云。其中,本发明实施例对于深度传感器121的种类、数量和位置本发明实施例不作具体限制,可以根据实际的跟随需求进行选择设定。例如,深度传感器121包括双目相机、结构光相机、tof(timeofflight)相机和激光雷达中的至少一种。为了保证深度相机可以在任意时刻都观测到目标物体,可以采用多组深度相机多向或全向排列;或者将深度相机设计为活动结构以达到随目标位置而旋转等,即只要可以获得深度相机相对于机身12的转换关系即可。

本发明实施例中,无人机10前方环境为无人机10行进方向上的环境。

本发明实施例中,图像获取装置122用于获取目标图像并根据所述目标图像,获取所述目标在所述目标图像中的位置信息。

本发明实施例中,图像获取装置122可以为彩色相机,其所获取的是目标在二维平面的图像,即图像获取装置122所获取的目标图像为二维图像。其可以包括图像的二维坐标信息、颜色信息等。其中,本发明实施例对所采用的彩色相机的参数和位置不作具体限制,只要已知彩色相机的标定参数即可;或者也可以设计为活动结构以达到随目标位置而旋转,即只要可以获取彩色相机相对于无人机10的机身12的转换关系即可。

可以理解地,本发明实施例中,目标在目标图像中的位置信息可以包括:目标在所述目标图像中的最小外接框坐标。其中,目标在目标图像中的最小外接框为包括目标在内的最小外接矩形区域,如图2中的100所示。

可选的,目标在目标图像的位置信息包括目标在目标图像的最小外接框坐标。

本发明实施例中,视觉芯片123与深度传感器121和所述图像获取装置122通信连接。

具体的,视觉芯片123用于:

根据所述原始点云和所述目标在所述目标图像中的位置信息,获取所述原始点云中与所述目标对应的点云。

根据所述与所述目标对应的点云,获取所述目标在三维空间中的位置信息。

本发明实施例中,目标在目标图像中的位置信息可以为目标在目标图像中的最小外接框坐标。此时,视觉芯片123具体用于:将所述原始点云投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在的平面的坐标。

具体的,先将所述原始点云在所述深度传感器121坐标系下的坐标转换为所述原始点云在所述图像获取装置122坐标系下的坐标;然后将所述原始点云在所述图像获取装置122坐标系下的坐标投影至所述目标图像所在的平面,以获取所述原始点云在所述目标图像所在平面的坐标;

可选的,本发明实施例中,所述原始点云在所述图像获取装置122坐标系下的坐标满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置122坐标系下的坐标,(x,y,z)为所述原始点云在所述深度传感器121坐标系下的坐标,t为所述深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵。通过(1)式,可以快速获得原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)。

由于无人机10的深度传感器121和图像获取装置122往往会在运动过程中旋转,所以两个坐标系转换举矩阵往往不能直接得到。在一些实施例中,深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t可以用深度传感器121至无人机10机身12坐标系的转换矩阵t1以及图像获取装置122至无人机10机身12坐标系的转换举矩阵t2求出。

其中,深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t满足:

t=t2t×t1(2)。

其中,t1为所述深度传感器121坐标系至所述无人机10机身12坐标系的转换矩阵,t2为所述图像获取装置122坐标系至所述无人机10机身12坐标系的转换矩阵。

通过(2)式可以快速获得深度传感器121坐标系至所述图像获取装置122坐标系的转换矩阵t,进而通过(1)式快速计算出原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)。

可选的,本发明实施例中,原始点云在所述目标图像所在平面的坐标(u,v)满足:

其中,(x′,y′,z′)为所述原始点云在所述图像获取装置122坐标系下的坐标,d为所述原始点云的深度,k为所述图像获取装置122的内参矩阵。

因此,在获得原始点云在图像获取装置122坐标系下的坐标(x′,y′,z′)后,再根据(3)式和(4)式可以快速地计算出原始点云在所述目标图像所在平面的坐标(u,v)。

进一步地,视觉芯片123具体还用于:确定所述原始点云中,坐标落在所述最小外接框内的原始点云为所述与所述目标对应的点云。

具体的,通过上述方法获得原始点云在目标图像所在平面的所有坐标后,将所获得的每一个原始点云在目标图像所在平面的坐标与最小外接框进行比较判断,进而确定所有坐标落在所述最小外接框内平面坐标,其中,在目标图像所在平面的坐标落在最小外接框内的原始点云即为与所述目标对应的点云。

进一步地,该视觉芯片123还用于:

对坐标落入所述最小外接框内的所述原始点云进行滤波,以去除不属于所述目标的点云。

可选的,对坐标落入最小外接框内的原始点云进行滤波可以采用预设滤波法进行滤波,其中,预设滤波法包括但不限于高斯滤波法、半径滤波法、聚类法、平滑法、连通域法等。

以高斯滤波法为例进行说明,设坐标落入最小外接框内的原始点云总数为n,计算距离第i个原始点云与距离其最近的m个相邻原始点云的平均距离di,则d1~dn可构成高斯分布,即di~(μ,σ),计算期望μ与方差σ,根据高斯分布性质,若di>m*σ,则该原始点云不属于矩形区域,需滤除。其中,m可取2.0~3.0,m根据深度相机分辨率与总原始点云的数量级而定,一般可以取正整数30~50。

同理,采用半径滤波法、聚类法、平滑法、连通域法等方法也可以达到相同效果。

进一步地,该视觉芯片123具体用于:

根据所述无人机10前方环境的原始点云,建立所述无人机10前方环境的三维地图。

具体的,将深度传感器121获取到的无人机10前方环境的原始点云和与所述目标对应的点云转换至世界坐标系下,并在世界坐标系下将深度传感器121获取到的无人机10前方环境的原始点云和与所述目标对应的点云合并及后处理,得到无人机10前方环境的三维地图。

可选的,将在世界坐标系下将深度传感器121获取到的所有的原始点云和目标点云进行合并后,进一步可以采用体素滤波、或者八叉树等方法将所有点云进行后处理,最终得到包括目标在内的三维地图。其中,三维地图的表示可以用八叉树、体素、网格图以及直接点云图等进行表示,只要可以表示三维空间关系即可,本发明不作具体限定。当然,可以理解地,在其他一些实施例中,为了减小计算量,可以将地图降维成二维地图。

对与所述目标对应的点云的三维坐标取平均值,其中,所述平均值用于表示所述目标在所述三维地图中的位置。

以上实施例只为说明本发明的技术构思及特点,其目的在于让熟悉此项技术的人士能够了解本发明的内容并据此实施,并不能限制本发明的保护范围。凡跟本发明权利要求范围所做的均等变化与修饰,均应属于本发明权利要求的涵盖范围。

应当理解的是,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,而所有这些改进和变换都应属于本发明所附权利要求的保护范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1