对象追踪方法及装置与流程

文档序号:19741548发布日期:2020-01-18 05:18阅读:307来源:国知局
对象追踪方法及装置与流程

本申请涉及图像处理技术领域,尤其涉及一种对象追踪方法及装置。



背景技术:

随着城市规模的增大,对车辆的有效管理也显得更加紧迫。在实际生活中,经常需要对行驶状态的车辆进行追踪,而对车辆进行追踪的主要方式是通过城市路网中的多个摄像头来实现。在城市路网中会在不同区域设置摄像头,当车辆经过摄像头的监控区域时,就能够获知车辆的大体位置。

现有的对车辆进行追踪的方法,主要是通过获取一个摄像头的监控录像,根据摄像头的监控录像中拍摄到的目标车辆来分析目标车辆的行进轨迹,对目标进行追踪。由于车辆一般是处于行驶状态中,因此单一的摄像头很难实现对目标车辆的有效追踪,需要配合多个摄像头来实现。现有的方案在对不同摄像头下的车辆进行追踪时,采用的方案是通过不同摄像头下的一帧图像数据来判断不同摄像头拍摄的车辆是否为同一辆车,当两帧图像上的车辆的相似度到达一定程度时,认为两帧图像上的车辆为同一车辆,从而通过判断结果来实现对目标车辆的追踪。

现有方案的主要问题是,通过两帧图像来判断两辆车是否为同一辆车,受图像拍摄的角度影响较大,拍摄的车辆的姿态和大小对结果影响较大,同时仅通过图像特征来进行追踪结果不够准确。



技术实现要素:

本发明实施例提供一种对象追踪方法及装置,以解决现有方案通过两帧图像来判断是否为同一辆车,受图像拍摄的角度影响较大,同时仅通过图像特征来进行追踪结果不够准确的问题。

第一方面,本发明实施例提供一种对象追踪方法,包括:

获取第一摄像装置拍摄得到的多帧第一图像和每帧第一图像的第一拍摄时刻,所述第一图像中包括第一对象;

获取第二摄像装置拍摄得到的多帧第二图像和每帧第二图像的第二拍摄时刻,所述第二图像中包括第二对象;

获取所述第一摄像装置和所述第二摄像装置之间的距离;

根据多帧所述第一图像、每帧第一图像的第一拍摄时刻、多帧所述第二图像、每帧第二图像的第二拍摄时刻和所述距离,判断所述第一对象和所述第二对象是否为同一对象。

在一种可能的实现方式中,所述第一拍摄时刻位于所述第二拍摄时刻之前;所述根据多帧所述第一图像、每帧第一图像的第一拍摄时刻、多帧所述第二图像、每帧第二图像的第二拍摄时刻和所述距离,判断所述第一对象和所述第二对象是否为同一对象,包括:

根据多帧所述第一图像和多帧所述第二图像,确定所述第一对象和所述第二对象的第一相似度;

根据每帧第一图像的第一拍摄时刻,确定所述第一对象的移动速度;

根据所述第一对象的移动速度、所述距离、所述第一拍摄时刻和所述第二拍摄时刻,确定所述第一对象和所述第二对象为同一对象的概率;

根据所述第一相似度和所述概率,判断所述第一对象和所述第二对象是否为同一对象。

在一种可能的实现方式中,所述第一相似度包括全局特征相似度和属性特征相似度;所述根据多帧所述第一图像和多帧所述第二图像,确定所述第一对象和所述第二对象的第一相似度,包括:

根据全局特征模型获取多帧所述第一图像中所述第一对象的全局特征和多帧所述第二图像中所述第二对象的全局特征,其中所述全局特征模型是根据多帧第一样本图像进行训练得到的;

根据所述第一对象的全局特征和所述第二对象的全局特征得到所述全局特征相似度;

根据属性特征模型获取多帧所述第一图像中所述第一对象的属性特征和多帧所述第二图像中所述第二对象的属性特征,其中所述属性特征模型是根据多帧第二样本图像进行训练得到的;

根据所述第一对象的属性特征和所述第二对象的属性特征得到所述属性特征相似度。

在一种可能的实现方式中,所述根据所述第一对象的全局特征和所述第二对象的全局特征得到所述全局特征相似度,包括:

根据每对图像中第一对象的全局特征和第二对象的全局特征得到每对图像的全局特征相似度,其中,每对图像包括一帧所述第一图像和一帧所述第二图像;

对多个每对图像的全局特征相似度进行均值处理,得到所述全局特征相似度。

在一种可能的实现方式中,所述根据所述第一对象的属性特征和所述第二对象的属性特征得到所述属性特征相似度,包括:

根据每对图像中第一对象的属性特征和第二对象的属性特征得到每对图像的属性特征相似度,其中,每对图像包括一帧所述第一图像和一帧所述第二图像;

对多个每对图像的属性特征相似度进行均值处理,得到所述属性特征相似度。

在一种可能的实现方式中,所述第一对象为第一车辆,所述第二对象为第二车辆,所述属性特征包括车辆颜色特征、车辆型号特征和车牌特征,所述根据每对图像中第一对象的属性特征和第二对象的属性特征得到每对图像的属性特征相似度,包括:

根据每对图像中所述第一车辆的车辆颜色特征和所述第二车辆的车辆颜色特征,得到每对图像的车辆颜色特征相似度;

根据每对图像中所述第一车辆的车辆型号特征和所述第二车辆的车辆型号特征,得到每对图像的车辆型号特征相似度;

根据每对图像中所述第一车辆的车牌特征和所述第二车辆的车牌特征,得到每对图像的车牌特征相似度;

根据所述每对图像的车辆颜色特征相似度、所述每对图像的车辆型号特征相似度和所述每对图像的车牌特征相似度,得到所述每对图像的属性特征相似度。

在一种可能的实现方式中,所述根据所述第一相似度和所述概率,判断所述第一对象和所述第二对象是否为同一对象,包括:

获取所述全局特征相似度对应的第一权重、所述属性特征相似度对应的第二权重以及所述概率对应的第三权重;

根据所述第一权重、所述第二权重、所述第三权重,将所述全局特征相似度、所述属性特征相似度和所述概率进行融合,得到融合参数;

当所述融合参数超过预设值时,确定所述第一对象和所述第二对象为同一对象。

第二方面,本发明实施例提供一种对象追踪装置,包括:

第一获取模块,用于获取第一摄像装置拍摄得到的多帧第一图像和每帧第一图像的第一拍摄时刻,所述第一图像中包括第一对象;

第二获取模块,用于获取第二摄像装置拍摄得到的多帧第二图像和每帧第二图像的第二拍摄时刻,所述第二图像中包括第二对象;

第三获取模块,用于获取所述第一摄像装置和所述第二摄像装置之间的距离;

处理模块,用于根据多帧所述第一图像、每帧第一图像的第一拍摄时刻、多帧所述第二图像、每帧第二图像的第二拍摄时刻和所述距离,判断所述第一对象和所述第二对象是否为同一对象。

在一种可能的实现方式中,所述第一拍摄时刻位于所述第二拍摄时刻之前;所述处理模块具体用于:

根据多帧所述第一图像和多帧所述第二图像,确定所述第一对象和所述第二对象的第一相似度;

根据每帧第一图像的第一拍摄时刻,确定所述第一对象的移动速度;

根据所述第一对象的移动速度、所述距离、所述第一拍摄时刻和所述第二拍摄时刻,确定所述第一对象和所述第二对象为同一对象的概率;

根据所述第一相似度和所述概率,判断所述第一对象和所述第二对象是否为同一对象。

在一种可能的实现方式中,所述第一相似度包括全局特征相似度和属性特征相似度;所述处理模块具体用于:

根据全局特征模型获取多帧所述第一图像中所述第一对象的全局特征和多帧所述第二图像中所述第二对象的全局特征,其中所述全局特征模型是根据多帧第一样本图像进行训练得到的;

根据所述第一对象的全局特征和所述第二对象的全局特征得到所述全局特征相似度;

根据属性特征模型获取多帧所述第一图像中所述第一对象的属性特征和多帧所述第二图像中所述第二对象的属性特征,其中所述属性特征模型是根据多帧第二样本图像进行训练得到的;

根据所述第一对象的属性特征和所述第二对象的属性特征得到所述属性特征相似度。

在一种可能的实现方式中,所述处理模块具体用于:

根据每对图像中第一对象的全局特征和第二对象的全局特征得到每对图像的全局特征相似度,其中,每对图像包括一帧所述第一图像和一帧所述第二图像;

对多个每对图像的全局特征相似度进行均值处理,得到所述全局特征相似度。

在一种可能的实现方式中,所述处理模块具体用于:

根据每对图像中第一对象的属性特征和第二对象的属性特征得到每对图像的属性特征相似度,其中,每对图像包括一帧所述第一图像和一帧所述第二图像;

对多个每对图像的属性特征相似度进行均值处理,得到所述属性特征相似度。

在一种可能的实现方式中,所述第一对象为第一车辆,所述第二对象为第二车辆,所述属性特征包括车辆颜色特征、车辆型号特征和车牌特征,所述处理模块具体用于:

根据每对图像中所述第一车辆的车辆颜色特征和所述第二车辆的车辆颜色特征,得到每对图像的车辆颜色特征相似度;

根据每对图像中所述第一车辆的车辆型号特征和所述第二车辆的车辆型号特征,得到每对图像的车辆型号特征相似度;

根据每对图像中所述第一车辆的车牌特征和所述第二车辆的车牌特征,得到每对图像的车牌特征相似度;

根据所述每对图像的车辆颜色特征相似度、所述每对图像的车辆型号特征相似度和所述每对图像的车牌特征相似度,得到所述每对图像的属性特征相似度。

在一种可能的实现方式中,所述处理模块具体用于:

获取所述全局特征相似度对应的第一权重、所述属性特征相似度对应的第二权重以及所述概率对应的第三权重;

根据所述第一权重、所述第二权重、所述第三权重,将所述全局特征相似度、所述属性特征相似度和所述概率进行融合,得到融合参数;

当所述融合参数超过预设值时,确定所述第一对象和所述第二对象为同一对象。

第三方面,本发明实施例提供一种电子设备,包括:

至少一个处理器;以及

与所述至少一个处理器通信连接的存储器;其中,

所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面中任一项所述的对象追踪方法。

第四方面,本发明实施例提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行第一方面中任一项所述的对象追踪方法。

本发明实施例提供的对象追踪方法及装置,首先获取第一摄像装置拍摄得到的多帧第一图像和每帧第一图像的第一拍摄时刻,第一图像中包括第一对象;获取第二摄像装置拍摄得到的多帧第二图像和每帧第二图像的第二拍摄时刻,第二图像中包括第二对象;然后获取第一摄像装置和第二摄像装置之间的距离;最后,根据多帧第一图像、每帧第一图像的第一拍摄时刻、多帧第二图像、每帧第二图像的第二拍摄时刻和距离,判断第一对象和第二对象是否为同一对象。本发明实施例提供的方案,通过两个方面来对对象进行追踪,其中一个方面是通过拍摄的多帧图像来进行匹配判断,另一个方面是根据两个摄像装置之间的距离来辅助进行判断,且第一摄像装置装置和第二摄像装置采集的图像均有多帧,因此本发明实施例提供的方案能够减小图片拍摄角度和对象姿态对追踪结果的影响,同时,通过多帧第一图像或多帧第二图像能够估算对象的移动速度,并进一步结合两个摄像装置之间的距离来辅助进行判断,提高判断的准确度,追踪方案的鲁棒性较好,追踪结果也更加精确。

上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的对象追踪方法的应用场景示意图;

图2为本发明实施例提供的对象追踪方法的流程示意图;

图3为本发明实施例提供的摄像装置的安装示意图;

图4为本发明实施例提供的判断第一对象和第二对象是否为同一对象的流程示意图;

图5为本发明实施例提供的确定第一相似度的流程示意图;

图6为本发明实施例提供的获取全局特征相似度的示意图;

图7为本发明实施例提供的获取第一对象的移动速度示意图;

图8为本发明实施例提供的获取第一对象移动至第二摄像装置处所需时间示意图;

图9为本发明实施例提供的对象追踪装置的结构示意图;

图10为本发明实施例提供的对象追踪方法的电子设备的框图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

图1为本发明实施例提供的对象追踪方法的应用场景示意图,如图1所示,包括服务器10、第一摄像装置11和第二摄像装置12,服务器10和第一摄像装置11之间通过有线或无线网络连接,服务器10和第二摄像装置12之间也通过有线或无线网络连接。

第一摄像装置11用于向服务器10发送多帧第一图像,第二摄像装置12用于向服务器10发送多帧第二图像,其中,多帧第一图像可以是第一摄像装置11拍摄的多帧图像,也可以是第一摄像装置11拍摄的一段视频,然后服务器10将一段视频转换为多帧第一图像的方式。同样的,多帧第二图像可以是第二摄像装置12拍摄的多帧图像,也可以是第二摄像装置12拍摄的一段视频,然后服务器10将一段视频转换为多帧第二图像的方式。

由于实际场景中可能包括不止两个摄像装置,因此上述场景中的摄像装置不限制为两个,而仅仅是以两个为例来进行说明。根据第一摄像装置11拍摄得到的多帧第一图像和第二摄像装置12拍摄得到的多帧第二图像,可以判断第一图像中的第一对象和第二图像中的第二对象是否为同一对象。若是,则可以判断或者该对象在经过第一摄像装置11的监控区域后,也经过了第二摄像装置12的监控区域,从而实现了不同摄像装置下对象的追踪。其中,第一摄像装置11和第二摄像装置12可以为多个摄像装置中的任意两个。

第一摄像装置11的监控范围为如图1中的第一监控范围110,第二摄像装置12的监控范围为如图1中的第二监控范围120。以对象为如图1中的卡车为例,在第一监控范围110内检测到有第一卡车111,需要对第一卡车111进行追踪。在第二摄像装置12的第二监控范围120内检测到有第二卡车121,因此,需要根据第一摄像11拍摄的第一图像和第二摄像装置12拍摄的第二图像,来判断第一卡车111和第二卡车121是否为同一辆车。

若第一卡车111和第二卡车121不是同一辆车,则选取另一个摄像装置拍摄的图像,判断其中的车辆与第一卡车111是否为同一辆车,直至找到第一卡车111出现的下一摄像装置位置。若第一卡车111和第二卡车121为同一辆车,则实现了第一摄像装置11的监控范围到第二摄像装置12的监控范围的追踪,接下来,以第二摄像装置12为起点,继续实现下一摄像装置下的追踪,从而能够根据各个摄像装置下的图像来实现跨摄像头的对象追踪。进一步的,可以将多个摄像装置中车的轨迹进行连接,在地图上观察对象的移动轨迹。

下面以具体的实施例对本发明的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本发明的实施例进行描述。

图2为本发明实施例提供的对象追踪方法的流程示意图,如图2所示,包括:

步骤21,获取第一摄像装置拍摄得到的多帧第一图像和每帧第一图像的第一拍摄时刻,所述第一图像中包括第一对象;

步骤22,获取第二摄像装置拍摄得到的多帧第二图像和每帧第二图像的第二拍摄时刻,所述第二图像中包括第二对象。

本发明实施例中要进行追踪的对象一般是可以移动的对象,例如可以包括移动的人,行驶的车辆等等,其中,行驶的车辆还可以包括小轿车、卡车、货车等不同类型的车辆。

在对象经过的区域,设置有摄像装置,不同的区域设置摄像装置的位置和密度也可以相应变化。由于对象是移动的,因此对象经过某一个摄像装置的监控区域后,可能进入另一个摄像装置的监控区域。因此,要实现对对象的追踪,必须要判断不同的摄像装置拍摄的图像中的对象是否为同一对象。

本发明实施例中,首先获取第一摄像装置拍摄得到的多帧第一图像和每帧第一图像的第一拍摄时刻,其中,多帧第一图像可以是第一摄像装置直接拍摄图片得到的,也可以是第一摄像装置拍摄监控录像,然后将监控录像转换为多帧第一图像。

每帧第一图像都有对应的第一拍摄时刻,第一拍摄时刻可以直接显示在第一图像上,也可以作为第一图像的属性信息,由服务器来获取。进一步的,每帧第一图像中均包括第一对象,若第一摄像装置拍摄了多帧图像,则只选取包含第一对象的第一图像来进行处理,而不包含第一对象的图像可进行舍弃。

对于第二图像和每帧第二图像的第二拍摄时刻的获取方式,与上述第一图像和每帧第一图像的第一拍摄时刻的获取方式类似,此处不再赘述。

步骤23,获取所述第一摄像装置和所述第二摄像装置之间的距离。

第一摄像装置和第二摄像装置之间的距离的获取方法可以有多种,例如,可以在第一摄像装置和第二摄像装置上分别安装定位装置,由定位装置向服务器上报第一摄像装置和第二摄像装置的位置,从而根据第一摄像装置的位置和第二摄像装置的位置来计算第一摄像装置和第二摄像装置的距离;再例如,用户可以提前获知第一摄像装置和第二摄像装置的安装位置,然后在电子地图上标注第一摄像装置和第二摄像装置在地图上的位置,根据电子地图的比例尺和用户的标注,来得到第一摄像装置和第二摄像装置之间的距离,等等。上述方式仅仅是获取第一摄像装置和第二摄像装置之间的距离的几种示例,实际的获取方式不仅限于上述的方式,此处不作特别限定。

图3为本发明实施例提供的摄像装置的安装示意图,如图3所示,以第一对象和第二对象均为车辆为例,图3中包括多个摄像装置,分别安装于图3中的a、b、c、d点,a点的摄像装置的监控范围为第一范围31,b点的摄像装置的监控范围为第二范围32,c点的摄像装置的监控范围为第三范围33,d点的摄像装置的监控范围为第四范围34。

若以a点处的摄像装置为第一摄像装置,以b点处的摄像装置为第二摄像装置,则摄像装置a拍摄的图像310为第一图像,车辆a为第一对象,摄像装置b拍摄的图像320为第二图像,车辆b为第二对象,第一摄像装置和第二摄像装置之间的距离即为a点到b点的距离。类似的,若以c点处的摄像装置为第一摄像装置,以d点处的摄像装置为第二摄像装置,则摄像装置c拍摄的图像330为第一图像,车辆c为第一对象,摄像装置d拍摄的图像340为第二图像,车辆d为第二对象,第一摄像装置和第二摄像装置之间的距离即为c点到d点的距离,等等。

步骤24,根据多帧所述第一图像、每帧第一图像的第一拍摄时刻、多帧所述第二图像、每帧第二图像的第二拍摄时刻和所述距离,判断所述第一对象和所述第二对象是否为同一对象。

得到多帧第一图像和多帧第二图像后,可以从至少两个方面来判断第一对象和第二对象是否为同一对象。第一个方面,可以通过第一图像和第二图像,来获取第一对象的图像特征以及第二对象的图像特征,并将第一对象的图像特征和第二对象的图像特征进行匹配,来得到匹配相似度的方式,其中,图像特征可以包括一种或多种,例如可以包括对象的全局特征、局部特征以及属性特征等。如图3所示,可以通过提取不同车辆的图像特征来进行判断。

除了第一个方面,还包括第二个方面,即根据不同摄像装置之间的距离,以及第一拍摄时刻和第二拍摄时刻,来进行判断。由于对象是移动的,因此可以根据多帧第一图像和每帧第一图像的第一拍摄时刻,大致估算第一对象的移动速度,也可以根据多帧第二图像和每帧第二图像的第二拍摄时刻,大致估算第二对象的移动速度。然后根据对象的移动速度、第一摄像装置和第二摄像装置之间的距离,来判断对象从其中一个摄像装置移动到另一个摄像装置所需的时间,并获取第一拍摄时刻和第二拍摄时刻的差值,将所需的时间与两个拍摄时刻的差值进行匹配,得到第一对象和第二对象为同一对象的概率。最后,综合两个方面的信息,来综合判断第一对象和第二对象是否为同一对象。

本发明实施例提供的对象追踪方法,首先获取第一摄像装置拍摄得到的多帧第一图像和每帧第一图像的第一拍摄时刻,第一图像中包括第一对象;获取第二摄像装置拍摄得到的多帧第二图像和每帧第二图像的第二拍摄时刻,第二图像中包括第二对象;然后获取第一摄像装置和第二摄像装置之间的距离;最后,根据多帧第一图像、每帧第一图像的第一拍摄时刻、多帧第二图像、每帧第二图像的第二拍摄时刻和距离,判断第一对象和第二对象是否为同一对象。本发明实施例提供的方案,通过两个方面来对对象进行追踪,其中一个方面是通过拍摄的多帧图像来进行匹配判断,另一个方面是根据两个摄像装置之间的距离来辅助进行判断,且第一摄像装置装置和第二摄像装置采集的图像均有多帧,因此本发明实施例提供的方案能够减小图片拍摄角度和对象姿态对追踪结果的影响,同时,通过多帧第一图像或多帧第二图像能够估算对象的移动速度,并进一步结合两个摄像装置之间的距离来辅助进行判断,提高判断的准确度,追踪方案的鲁棒性较好。

下面结合图4,并采用具体的实施例,对本发明实施例的方案进行详细说明。图4为本发明实施例提供的判断第一对象和第二对象是否为同一对象的流程示意图,其中,第一拍摄时刻位于第二拍摄时刻之前,如图4所示,包括:

步骤41,根据多帧所述第一图像和多帧所述第二图像,确定所述第一对象和所述第二对象的第一相似度。

该步骤中,主要是通过多帧第一图像获取第一对象的特征,根据第二图像获取第二对象的特征,然后根据第一对象的特征和第二对象的特征来得到第一相似度。其中,第一对象和第二对象的特征可以包括对象的属性特征和全局特征等。例如,若对象为人,则对象的特征可以是人脸特征、人的身高、体型、衣服颜色、发型等等特征,若对象为车辆,则对象的特征可以是车辆的颜色、车辆的型号等等特征,若对象为其他类型,则对象的特征可以根据实际需要确定。

得到第一对象的特征和第二对象的特征后,可以得到第一对象和第二对象的第一相似度。例如,可以根据第一对象进行建模,得到第一模型,根据第二对象进行建模,得到第二模型,然后将第一模型和第二模型进行匹配,得到第一相似度等。

除上述方法外,还可以通过如下方法来确定第一相似度。下面将结合图5来说明第一相似度的获取过程。图5为本发明实施例提供的确定第一相似度的流程示意图,第一相似度包括全局特征相似度和属性特征相似度,如图5所示,包括:

步骤51,根据全局特征模型获取多帧所述第一图像中所述第一对象的全局特征和多帧所述第二图像中所述第二对象的全局特征,其中所述全局特征模型是根据多帧第一样本图像进行训练得到的。

在对第一对象进行全局特征提取之前,首先要对全局特征模型进行训练。训练时,需要获取多帧第一样本图像,每一帧第一样本图像中都包括一个对象。对于每个对象,会为其分配一个唯一的标识。例如,以对象为车辆举例进行说明,可以为每一辆车辆分配一个id号,根据id号能够唯一确定对应的车辆。

对于每一帧第一样本图像,将其中的背景部分去除,得到样本车辆图像。然后将样本车辆图像输入到全局特征模型中,得到全局特征模型提取的全局特征。对全局特征模型提取的全局特征进行相应的处理,得到对应的车辆id,然后将对应的车辆id与样本车辆的id进行比对,根据比对结果来训练全局特征模型,得到训练好的全局特征模型。

然后,将多帧第一图像输入训练好的全局特征模型中,即可得到第一对象的全局特征。当第一对象为第一车辆时,则获取到的是第一车辆的全局特征。同样的,将多帧第二图像输入训练好的全局特征模型中,即可得到第二对象的全局特征。当第二对象为第二车辆时,则获取到的是第二车辆的全局特征。

步骤52,根据所述第一对象的全局特征和所述第二对象的全局特征得到所述全局特征相似度。

由于第一图像有多帧,根据每一帧第一图像都能得到一个第一对象的全局特征,同样的,根据每一帧第二图像都能得到一个第二对象的全局特征。因此,本发明实施例会将第一对象的全局特征和第二对象的全局特征进行组合。

具体的,根据每对图像中第一对象的全局特征和第二对象的全局特征得到每对图像的全局特征相似度,其中,每对图像包括一帧所述第一图像和一帧所述第二图像。然后,对多个每对图像的全局特征相似度进行均值处理,得到所述全局特征相似度。下面将结合图6进行说明。

图6为本发明实施例提供的获取全局特征相似度的示意图,如图6所示,包括多帧第一图像和多帧第二图像,其中第一图像包括图像a、图像b和图像c,第二图像包括图像d、图像e、图像f和图像g,则服务器会选取任意一张第一图像和任意一张第二图像,得到一对图像,将该对图像中对象的全局特征进行匹配,得到该对图像的全局特征相似度。

图6中的组合方式包括:a-d,a-e,a-f,a-g,b-d,b-e,b-f,b-g,c-d,c-e,c-f,c-g,一共12对图像,因此得到的每对图像的全局特征相似度共有12个,然后将12个全局特征相似度取平均值,得到全局特征相似度。

图6中第一图像的帧数和第二图像的帧数仅仅是一种举例,举例数量不仅限于此,例如,第一图像为10帧,第二图像为20帧时,则共有200个全局特征相似度,将其取平均值,即可得到全局特征相似度。

步骤53,根据属性特征模型获取多帧所述第一图像中所述第一对象的属性特征和多帧所述第二图像中所述第二对象的属性特征,其中所述属性特征模型是根据多帧第二样本图像进行训练得到的。

对象的属性特征可能有多个,例如颜色、形状等等,因此在提取属性特征时,需要针对不同的属性特征训练不同的属性特征模型。

以对象为车辆为例,当第一对象为第一车辆,第二对象为第二车辆时,车辆的属性特征包括多种,例如包括车辆颜色特征、车辆型号特征和车牌特征。本发明实施例通过深度神经网络模型对第一车辆和第二车辆的属性特征进行识别。对于每一个车辆属性,都需要训练对应的属性特征模型。例如,针对车辆颜色,首先获取多帧第二样本图像,每一帧第二样本图像中都包括一辆样本车辆,且多帧第二样本图像中的样本车辆的车辆颜色不完全相同。

对于每一辆车辆,会为其分配一个唯一的标识,例如,可以为每一辆车辆分配一个id号,根据id号能够唯一确定对应的车辆。进一步的,在训练车辆颜色对应的属性特征模型时,对于每一帧第二样本图像,将其中的背景部分去除,得到第二车辆图像。然后将第二车辆图像输入到车辆类型对应的属性特征模型中,得到车辆颜色对应的特征模型提取的车辆颜色特征。对车辆颜色对应的特征模型提取的车辆类型特征进行相应的处理,得到对应的车辆id,然后将对应的车辆id与样本车辆的id进行比对,根据比对结果来训练车辆颜色对应的特征模型,得到训练好的车辆颜色对应的特征模型。

对于每一个车辆属性的属性特征模型的训练过程,与车辆颜色对应的属性特征模型的训练过程类似,此处不再赘述。可以理解的是第一样本图像和第二样本图像可以为同一样本图像,也可以为不同的样本图像,且用于训练不同属性特征的样本图像可以为同一样本图像或不同的样本图像。

步骤54,根据所述第一对象的属性特征和所述第二对象的属性特征得到所述属性特征相似度。

首先,根据每对图像中第一对象的属性特征和第二对象的属性特征得到每对图像的属性特征相似度,其中,每对图像包括一帧所述第一图像和一帧所述第二图像。当第一对象为第一车辆,第二对象为第二车辆时,属性特征包括车辆颜色特征、车辆型号特征和车牌特征,获取属性特征相似度具体包括:

根据每对图像中所述第一车辆的车辆颜色特征和所述第二车辆的车辆颜色特征,得到每对图像的车辆颜色特征相似度;

对于车辆颜色特征,通过车辆颜色特征对应的属性特征模型获取每一帧第一图像中第一车辆的车辆颜色以及对应的置信度,并获取每一帧第二图像中第二车辆的车辆颜色以及对应的置信度。其中,置信度表示车辆颜色识别的可信度,是一个0-1之间的值,反映车辆颜色识别的准确度。然后,将置信度大于预设阈值的第一车辆的车辆颜色特征求取均值,作为多帧第一图像中第一车辆的车辆颜色。例如,第一图像共10帧,其中8帧为红色,且每一帧的置信度均为0.8,两帧为黑色,且每一帧的置信度均为0.2,此时,根据预定义的颜色种类组成一个向量,比如预定义了12种颜色,那么对应的颜色向量上红色位置为0.8,黑色位置为0.2,其他的位置为0。同样的方法得到多帧第二图像中第二车辆的车辆颜色,也可以构建相同的向量。

根据每对图像中所述第一车辆的车辆型号特征和所述第二车辆的车辆型号特征,得到每对图像的车辆型号特征相似度。

对于车辆型号,针对一个序列的图像,例如多帧第一图像,对每一帧第一图像采用车辆型号特征对应的属性特征模型提取第一车辆的车辆型号特征,同理对每一帧第二图像提取第二车辆的车辆型号特征,然后将多帧第一图像和多帧第二图像进行两两组合,得到多对图像,其中每对图像中包括一帧第一图像和一帧第二图像。

根据每对图像中所述第一车辆的车牌特征和所述第二车辆的车牌特征,得到每对图像的车牌特征相似度。

对于车牌特征,由于不是所有的第一图像或所有的第二图像均能捕捉到车辆的车牌特征,因此,对于每对图像,若至少其中一帧图像中无法提取到车牌特征,则该对图像之间的车牌相似度为0。当该对图像中两帧图像均能提取到车牌特征时,计算第一图像和第二图像中车牌特征的相似度。

根据所述每对图像的车辆颜色特征相似度、所述每对图像的车辆型号特征相似度和所述每对图像的车牌特征相似度,得到所述每对图像的属性特征相似度,其中,每对图像的属性特征相似度包括每对图像的车辆颜色特征相似度、每对图像的车辆型号特征相似度和每对图像的车牌特征相似度。

最后,对多个每对图像的属性特征相似度进行均值处理,得到属性特征相似度。

具体的,计算第一车辆对应的颜色特征向量和第二车辆对应的车辆颜色特征向量之间的距离,得到车辆颜色特征相似度pc。对于每对图像,计算其中第一车辆的车辆型号特征和第二车辆的车辆型号特征之间的车辆型号特征相似度,并对多对图像的车辆型号特征相似度求平均值,得到车辆型号特征的相似度,记为pt。对于每对图像中车牌特征的相似度求取均值,得到车牌特征相似度,记为pp。其中,属性特征相似度包括车辆颜色特征相似度pc、车辆型号特征的相似度pt和车牌特征相似度pp。

步骤42,根据每帧第一图像的第一拍摄时刻,确定所述第一对象的移动速度。

上述步骤描述了全局特征和属性特征的提取,并计算了第一图像和第二图像中第一对象和第二对象的全局特征相似度和属性特征相似度。进一步的,本发明实施例中,除了全局特征和属性特征的考量,还包括时间维度的考量。

具体的,对象在移动过程中,会有一定的速度,因此可以获取第一对象的移动速度,然后结合第一摄像装置和第二摄像装置之间的距离,来估算第一对象到达第二摄像装置的大致时间。最后,判断第二摄像装置拍摄第二图像的第二拍摄时刻,看第一拍摄时刻和第二拍摄时刻的差值与第一对象到达第二摄像装置的大致时间是否比较接近,若是,则认为第一对象和第二对象为同一对象的概率较大,反之则较小。

下面将结合图7进行详细说明。图7为本发明实施例提供的获取第一对象的移动速度示意图,如图7所示,以第一对象为第一车辆为例,其中包括第一摄像装置71和第一车辆72,图中的虚线范围为第一摄像装置71的第一监控范围73,第一车辆72经过第一监控范围73。

当第一车辆72在马路上行驶,经过第一监控范围73时,第一摄像装置71拍摄第一图像,捕捉第一车辆72。其中,第一图像有多帧,例如图7中的第一帧图像701、第二帧图像702和第三帧图像703,其中拍摄第一帧图像701时,第一车辆72经过a点,拍摄第二帧图像702时,第一车辆72经过b点,拍摄第三帧图像703时,第一车辆72经过c点,a点和c点可以为第一监控范围73的边界点,也可以是第一监控范围73内的点,b点为第一监控范围73内的点,且三帧图像对应的第一拍摄时刻分别为t1、t2和t3。

根据第一摄像装置71的参数和安装位置,能够获取到a、b和c点的位置,从而能够获取到ab、bc和ac三个线段之间的距离。因此,根据上述参数,能够获取到第一车辆72的移动速度v,其中,计算方式有多种,现举例说明。

第一种,可以直接获取最开始拍摄到第一车辆72的第一帧图像701的拍摄时刻t1,以及最后拍摄到第一车辆72的第三帧图像703的拍摄时刻t3,同时获取ac之间的距离s1,得到第一车辆72在ac段之间的移动速度v:

第二种方式是,先获取第一车辆72在ab之间的移动速度v1,在bc之间的移动速度v2,然后求取平均值:

其中:

s2为ab之间的距离,s3为ac之间的距离。

可以理解的是,上述计算第一对象的移动速度的方式和图7中拍摄的三帧图像仅仅是一种举例,实际的计算方式和图像帧数不仅限于此。

步骤43,根据所述第一对象的移动速度、所述距离、所述第一拍摄时刻和所述第二拍摄时刻,确定所述第一对象和所述第二对象为同一对象的概率。

图8为本发明实施例提供的获取第一对象移动至第二摄像装置处所需时间示意图,如图8所示,包括第一摄像装置81和第二摄像装置82,第一摄像装置81处于m点,第二摄像装置82处于n点,mn之间的距离为sn,第一车辆83的行驶速度为v,则第一车辆83前往第二摄像装置82处所需的时间t为:

然后,获取第一摄像装置81拍摄的任意一张第一图像的第一拍摄时刻t1,获取第二摄像装置82拍摄的任意一张第二图像的第二拍摄时刻t2,可知,若第一车辆83与第二车辆84为同一车辆,则第一车辆83前往第二摄像装置82处的实际时间为:

t实=t2-t1。

则第一车辆83和第二车辆84为同一辆车的概率pv为:

其中,σ为实际时间和预计所需的实际的差值,可根据实际需要设定。

步骤44,根据所述第一相似度和所述概率,判断所述第一对象和所述第二对象是否为同一对象。

具体的,获取所述全局特征相似度对应的第一权重、所述属性特征相似度对应的第二权重以及所述概率对应的第三权重。

然后根据所述第一权重、所述第二权重、所述第三权重,将所述全局特征相似度、所述属性特征相似度和所述概率进行融合,得到融合参数,融合参数的计算公式如下:

f=α*pa+β*pc+γ*pt+μ*pp+θ*pv,

其中,f为融合参数,α为第一权重,pa为全局特征相似度,β为车辆颜色对应权重,pc为车辆颜色特征相似度,γ为车辆型号对应权重,pt为车辆型号特征相似度,μ为车牌对应权重,pp为车牌特征相似度,第二权重包括β、γ和μ,属性特征相似度包括pc、pt和pp,θ为第三权重,pv为第一对象和第二对象为同一对象的概率。

当所述融合参数超过预设值时,确定所述第一对象和所述第二对象为同一对象。

融合参数f越大,表明第一对象和第二对象越相似,当融合参数f超过预设阈值时,表明第一对象和第二对象为同一对象,否则不是同一对象。具体的,当融合参数f超过预设阈值时,表明第一车辆和第二车辆为同一车辆,否则不是同一车辆。

本发明实施例提供的对象追踪方法,首先获取第一摄像装置拍摄得到的多帧第一图像和每帧第一图像的第一拍摄时刻,第一图像中包括第一对象;获取第二摄像装置拍摄得到的多帧第二图像和每帧第二图像的第二拍摄时刻,第二图像中包括第二对象;然后获取第一摄像装置和第二摄像装置之间的距离;最后,根据多帧第一图像、每帧第一图像的第一拍摄时刻、多帧第二图像、每帧第二图像的第二拍摄时刻和距离,判断第一对象和第二对象是否为同一对象。本发明实施例提供的方案,通过两个方面来对对象进行追踪,其中一个方面是通过拍摄的多帧图像来进行匹配判断,另一个方面是根据两个摄像装置之间的距离来辅助进行判断,且第一摄像装置装置和第二摄像装置采集的图像均有多帧,因此本发明实施例提供的方案能够减小图片拍摄角度和对象姿态对追踪结果的影响,同时,通过多帧第一图像或多帧第二图像能够估算对象的移动速度,并进一步结合两个摄像装置之间的距离来辅助进行判断,提高判断的准确度,追踪方案的鲁棒性较好,追踪结果更加精确。

图9为本发明实施例提供的对象追踪装置的结构示意图,如图9所示,包括第一获取模块91、第二获取模块92、第三获取模块93和处理模块94,其中:

第一获取模块91用于获取第一摄像装置拍摄得到的多帧第一图像和每帧第一图像的第一拍摄时刻,所述第一图像中包括第一对象;

第二获取模块92用于获取第二摄像装置拍摄得到的多帧第二图像和每帧第二图像的第二拍摄时刻,所述第二图像中包括第二对象;

第三获取模块93用于获取所述第一摄像装置和所述第二摄像装置之间的距离;

处理模块94用于根据多帧所述第一图像、每帧第一图像的第一拍摄时刻、多帧所述第二图像、每帧第二图像的第二拍摄时刻和所述距离,判断所述第一对象和所述第二对象是否为同一对象。

在一种可能的实现方式中,所述第一拍摄时刻位于所述第二拍摄时刻之前;所述处理模块94具体用于:

根据多帧所述第一图像和多帧所述第二图像,确定所述第一对象和所述第二对象的第一相似度;

根据每帧第一图像的第一拍摄时刻,确定所述第一对象的移动速度;

根据所述第一对象的移动速度、所述距离、所述第一拍摄时刻和所述第二拍摄时刻,确定所述第一对象和所述第二对象为同一对象的概率;

根据所述第一相似度和所述概率,判断所述第一对象和所述第二对象是否为同一对象。

在一种可能的实现方式中,所述第一相似度包括全局特征相似度和属性特征相似度;所述处理模块94具体用于:

根据全局特征模型获取多帧所述第一图像中所述第一对象的全局特征和多帧所述第二图像中所述第二对象的全局特征,其中所述全局特征模型是根据多帧第一样本图像进行训练得到的;

根据所述第一对象的全局特征和所述第二对象的全局特征得到所述全局特征相似度;

根据属性特征模型获取多帧所述第一图像中所述第一对象的属性特征和多帧所述第二图像中所述第二对象的属性特征,其中所述属性特征模型是根据多帧第二样本图像进行训练得到的;

根据所述第一对象的属性特征和所述第二对象的属性特征得到所述属性特征相似度。

在一种可能的实现方式中,所述处理模块94具体用于:

根据每对图像中第一对象的全局特征和第二对象的全局特征得到每对图像的全局特征相似度,其中,每对图像包括一帧所述第一图像和一帧所述第二图像;

对多个每对图像的全局特征相似度进行均值处理,得到所述全局特征相似度。

在一种可能的实现方式中,所述处理模块94具体用于:

根据每对图像中第一对象的属性特征和第二对象的属性特征得到每对图像的属性特征相似度,其中,每对图像包括一帧所述第一图像和一帧所述第二图像;

对多个每对图像的属性特征相似度进行均值处理,得到所述属性特征相似度。

在一种可能的实现方式中,所述第一对象为第一车辆,所述第二对象为第二车辆,所述属性特征包括车辆颜色特征、车辆型号特征和车牌特征,所述处理模块94具体用于:

根据每对图像中所述第一车辆的车辆颜色特征和所述第二车辆的车辆颜色特征,得到每对图像的车辆颜色特征相似度;

根据每对图像中所述第一车辆的车辆型号特征和所述第二车辆的车辆型号特征,得到每对图像的车辆型号特征相似度;

根据每对图像中所述第一车辆的车牌特征和所述第二车辆的车牌特征,得到每对图像的车牌特征相似度;

根据所述每对图像的车辆颜色特征相似度、所述每对图像的车辆型号特征相似度和所述每对图像的车牌特征相似度,得到所述每对图像的属性特征相似度。

在一种可能的实现方式中,所述处理模块94具体用于:

获取所述全局特征相似度对应的第一权重、所述属性特征相似度对应的第二权重以及所述概率对应的第三权重;

根据所述第一权重、所述第二权重、所述第三权重,将所述全局特征相似度、所述属性特征相似度和所述概率进行融合,得到融合参数;

当所述融合参数超过预设值时,确定所述第一对象和所述第二对象为同一对象。

本发明实施例提供的装置,可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。

根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。

图10为本发明实施例提供的对象追踪方法的电子设备的框图,如图10所示,电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图10所示,该电子设备包括:一个或多个处理器101、存储器102,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线105互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器101可以对在电子设备内执行的指令进行处理,包括存储在存储器102中或者存储器102上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示gui的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器101和/或多条总线105与多个存储器102一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图10中以一个处理器101为例。

存储器102即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器102存储有可由至少一个处理器101执行的指令,以使所述至少一个处理器101执行本申请所提供的对象追踪方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的对象追踪方法。

存储器102作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的对象追踪方法对应的程序指令/模块(例如,附图9所示的第一获取模块91、第二获取模块92、第三获取模块93和处理模块94)。处理器101通过运行存储在存储器102中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的对象追踪方法。

存储器102可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据对象追踪方法的电子设备的使用所创建的数据等。此外,存储器102可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器102可选包括相对于处理器101远程设置的存储器,这些远程存储器可以通过网络连接至对象追踪方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

对象追踪方法的电子设备还可以包括:输入装置103和输出装置104。处理器101、存储器102、输入装置103和输出装置104可以通过总线105或者其他方式连接,图10中以通过总线105连接为例。

输入装置103可接收输入的数字或字符信息,以及产生与对象追踪方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置104可以包括显示设备、辅助照明装置(例如,led)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(lcd)、发光二极管(led)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用asic(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(pld)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。

上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1