用于检测和跟踪可移动物体的系统和方法与流程

文档序号:14649449发布日期:2018-06-08 21:29阅读:499来源:国知局
用于检测和跟踪可移动物体的系统和方法与流程

在针对真实世界应用的一些监测、侦查以及勘探任务中,可能需要检测和跟踪一个或多个物体。常规的跟踪方法可以是基于全球定位系统(GPS)数据或相机视觉。然而,常规的基于GPS的或基于视觉的跟踪方法可能对于某些应用而言是不适当的。例如,常规的基于GPS的跟踪方法可能在GPS信号接收差的地方或者如果所跟踪的物体没有GPS接收器定位在它们之上则可能是无用的。常规的基于视觉的跟踪方法可能缺乏精确地跟踪移动物体组的能力。可以使用携带负载(例如,相机)的飞行器来跟踪物体。在一些情况中,一个或多个操作者可能必须手动地选择有待跟踪的移动物体,并且手动控制该飞行器/相机来跟踪移动物体。这种受限的跟踪能力可能减少了飞行器在某些应用中的有用性。



技术实现要素:

存在改善诸如基于视觉的跟踪方法的常规跟踪方法的需求。改进的跟踪能力可以允许成像装置自动地检测一个或多个移动物体并且自主地跟踪移动物体,而不需要由用户手动输入和/或操作。当使用该成像装置精确地跟踪快速移动的物体组时,这种改进的跟踪能力可能是特别有用的,借此该物体组的大小和/或形状可以是无定形的并且随着物体移动随时间改变。这种改进的跟踪能力可以被并入到飞行器中,诸如无人飞行器(UAV)。

在基于视觉的跟踪方法中,可以使用位于飞行器上的成像装置来跟踪目标物体。常规的基于视觉的跟踪方法可以是手动或自动的。

例如,在基于视觉的手动跟踪方法中,可以首先使用成像装置捕捉图像,并且操作者可以从图像中手动选择有待跟踪的目标物体。手动选择可以使用输入装置来执行,例如,平板计算机、移动装置或个人计算机(PC)。在一些例子中,该飞行器可以被配置成在操作者利用输入装置已经手动地选定了该目标物体之后自动地跟踪该目标物体。在其他例子中,该操作者可以甚至在已经选定目标物体之后继续手动地控制飞行器以跟踪该目标物体。

相反,在基于视觉的自动跟踪方法中,可以使用跟踪算法来实现自动跟踪,该跟踪算法可以自动地检测特定类型的物体或携带标记的物体。该物体类型可以是基于不同的物体类别(例如,人、建筑物、地貌等)。该标记可以包括一个或多个包括独特图案的光学标记。

在常规的基于视觉的跟踪方法中,目标物体可以基于预定特征(例如,颜色、结构、显著性特征等)和/或通过建模(例如,物体类别)而限定。在目标物体已被限定之后,可以随着目标物体移动实时地检测和计算特征和/或模型的移动。在这些方法中,通常可能要求特征和/或模型的高度一致性,以便精确地跟踪目标物体。特别地,跟踪精度水平可能取决于特征之间的空间关系和/或模型中的误差。

虽然常规的基于视觉的跟踪方法可以用来跟踪单一物体,但它们可能不适合用于跟踪移动物体组。特别地,常规的基于视觉的跟踪方法可能缺乏精确跟踪快速移动的物体组(借此该物体组的大小和/或形状可以是无定形的并且随着物体移动随时间改变)的能力。这样的物体组的示例可以包括但不限于移动动物组(例如,在平原上奔跑的马群或以不同形式飞翔的鸟群)、人群(例如,游行队伍中移动的大群人)、载运工具组(例如,执行空中特技表演的飞机编队)或者包括以不同形式移动的不同物体的组(例如,由有待跟踪的移动动物、人以及载运工具构成的组)。

在常规的基于全球定位系统(GPS)的跟踪方法中,成像装置和目标物体可以每个被提供有GPS设备(例如,GPS接收器)。该成像装置与目标物体之间的空间关系可以基于对它们的实时位置的估算来计算。该成像装置可以被配置成基于它们的空间关系跟踪目标物体。然而,这种方法可能受GPS信号质量和的GPS信号的可用性的限制。例如,常规的基于全球定位系统(GPS)的跟踪方法在室内或者当GPS信号接收被建筑物和/或自然地形特征(诸如山谷、山脉等等)阻挡时可能不工作。此外,这些方法是基于GPS跟踪,并且因此在一个或多个目标物体(例如,动物组)不携带GPS设备时无法使用。

另外,如果典型的GPS接收器的位置准确度是在从约2米至约4米的范围内,则常规的基于GPS的跟踪方法中的跟踪准确度可能是有限的。在一些例子中,飞行器和目标物体可能同时移动。然而,它们的从GPS信号估算出的位置和速度可能并不是以允许进行高精度跟踪的足够频率实时更新的。例如,在UAV与该目标物体的估算出的位置和速度之间可能存在时间延迟或缺乏相关性。这可能使UAV和该目标物体的固有的GPS定位误差(2-4m)进行复合并且致使跟踪精度/准确度进一步降低。

因此,存在为要求高准确度/精度的各种应用改进飞行器在不同条件下的跟踪能力和稳健性的需要。条件可以包括室内和室外环境两者、没有GPS信号的地方或者GPS信号接收差的地方、各种不同地形等等。应用可以包括精确跟踪移动目标物体和/或移动目标物体组。目标物体可以包括不携带GPS设备的目标物体、不具有良好定义特征的或不落入已知物体类别的目标物体、共同地起形成组的目标物体(借此该组的大小和/或形状可以是无定形的并且随时间而改变)、以不同形式移动的多个不同的目标物体或者以上各项的任何组合。本文提供了系统、方法以及装置来至少解决以上需要。

例如,在本发明的一些方面,提供了一种用于支持视觉跟踪的方法。该方法可以包括:接收使用成像装置在不同时间捕捉的多个图像帧,其中每个图像帧包括与多个特征点相关联的多个像素;分析该多个图像帧以计算该多个特征点的移动特性;并且基于该多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。

根据本发明的一方面,提供了一种用于支持视觉跟踪的设备。该设备可以包括一个或多个处理器,该一个或多个处理器被单独地或共同地配置成:接收使用成像装置在不同时间捕捉的多个图像帧,其中每个图像帧包括与多个特征点相关联的多个像素;分析该多个图像帧以计算该多个特征点的移动特性;并且基于该多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。

根据本发明的另一方面,提供了一种非暂时性计算机可读介质,该非暂时性计算机可读介质存储当被执行时使计算机执行用于支持视觉跟踪的方法的指令。该方法可以包括:接收使用成像装置在不同时间捕捉的多个图像帧,其中每个图像帧包括与多个特征点相关联的多个像素;分析该多个图像帧以计算该多个特征点的移动特性;并且基于该多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。

根据本发明的附加方面,可以提供一种视觉跟踪系统。该系统可以包括成像装置和一个或多个处理器,该一个或多个处理器被单独地或共同地配置成:接收使用该成像装置在不同时间捕捉的多个图像帧,其中每个图像帧包括与多个特征点相关联的多个像素;分析该多个图像帧以计算该多个特征点的移动特性;并且基于该多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。

本发明的另外方面可以涉及一种用于支持视觉跟踪的方法。该方法可以包括:接收多个图像信号,该多个图像信号指示在成像装置处于运动的同时的时间段上由该成像装置捕捉的多个图像帧,其中每个图像帧包括多个像素;基于多个运动信号获取该成像装置的运动特性;并且基于该成像装置的运动特性来分析该多个图像信号,以便计算与该多个像素相关联的移动特性。

根据本发明的一方面,提供了一种用于支持视觉跟踪的设备。该设备可以包括一个或多个处理器,该一个或多个处理器被单独地或共同地配置成:接收多个图像信号,该多个图像信号指示在成像装置处于运动的同时的时间段上由该成像装置捕捉的多个图像帧,其中每个图像帧包括多个像素;基于多个运动信号获取该成像装置的运动特性;并且基于该成像装置的运动特性来分析该多个图像信号,以便计算与该多个像素相关联的移动特性。

根据本发明的另一方面,提供了一种非暂时性计算机可读介质,该非暂时性计算机可读介质存储当被执行时使计算机执行用于支持视觉跟踪的方法的指令。该方法可以包括:接收多个图像信号,该多个图像信号指示在成像装置处于运动的同时的时间段上由该成像装置捕捉的多个图像帧,其中每个图像帧包括多个像素;基于多个运动信号获取该成像装置的运动特性;并且基于该成像装置的运动特性来分析该多个图像信号,以便计算与该多个像素相关联的移动特性。

根据本发明的附加方面,可以提供一种无人飞行器(UAV)。该UAV可以包括:视觉跟踪系统,该视觉跟踪系统包括成像装置和一个或多个处理器,该一个或多个处理器被单独地或共同地配置成:接收多个图像信号,该多个图像信号指示在成像装置处于运动的同时的时间段上由该成像装置捕捉的多个图像帧,其中每个图像帧包括多个像素;基于多个运动信号获取该成像装置的运动特性;并且基于该成像装置的运动特性来分析该多个图像信号,以便计算与该多个像素相关联的移动特性。

本发明的另外方面可以涉及一种用于支持视觉跟踪的方法。该方法可以包括:通过移动视觉跟踪装置获取多个特征点的移动特性;基于该多个特征点的移动特性从该多个特征点中选定特征点组;并且通过调整该移动视觉跟踪装置的运动特性来跟踪该特征点组,以便将该特征点组实质上定位在使用该移动视觉跟踪装置捕捉的每个图像帧的目标区域中。

根据本发明的一方面,提供了一种用于支持视觉跟踪的设备。该设备可以包括一个或多个处理器,该一个或多个处理器被单独地或共同地配置成:通过移动视觉跟踪装置获取多个特征点的移动特性;基于该多个特征点的移动特性从该多个特征点中选定特征点组;并且通过调整该移动视觉跟踪装置的运动特性来跟踪该特征点组,以便将该特征点组实质上定位在使用该移动视觉跟踪装置捕捉的每个图像帧的目标区域中。

根据本发明的另一方面,提供了一种非暂时性计算机可读介质,该非暂时性计算机可读介质存储当被执行时使计算机执行用于支持视觉跟踪的方法的指令。该方法可以包括:通过移动视觉跟踪装置获取多个特征点的移动特性;基于该多个特征点的移动特性从该多个特征点中选定特征点组;并且通过调整该移动视觉跟踪装置的运动特性来跟踪该特征点组,以便将该特征点组实质上定位在使用该移动视觉跟踪装置捕捉的每个图像帧的目标区域中。

根据本发明的附加方面,可以提供一种无人飞行器(UAV)。该UAV可以包括:视觉跟踪系统,该视觉跟踪系统包括成像装置和一个或多个处理器,该一个或多个处理器被单独地或共同地配置成:通过移动视觉跟踪装置获取多个特征点的移动特性;基于该多个特征点的移动特性从该多个特征点中选定特征点组;并且通过调整该移动视觉跟踪装置的运动特性来跟踪该特征点组,以便将该特征点组实质上定位在使用该移动视觉跟踪装置捕捉的每个图像帧的目标区域中。

应当理解的是,本发明的不同方面可以单独地、共同地或者相互组合地理解。本文所描述的本发明的各个方面可以被应用于以下阐述的特定应用中的任一中或用于任何其他类型的可移动物体。本文对飞行器的任何描述都可以应用于和使用于任何可移动物体,诸如任何载运工具。另外,本文在空中运动(例如,飞行)的情景下公开的系统、装置以及方法也可以应用于其他类型运动的情景中,诸如,在地面上或水上的移动、水下运动或在太空中的运动。

通过浏览说明书、权利要求书以及附图,将清楚本发明的其他目的和特征。

援引并入

本说明书中所提及的所有公布、专利和专利申请均通过引用并入本文,其程度如同具体地和个别地指出要通过引用并入每一单个公布、专利或专利申请。

附图说明

本发明的新特征特别地阐述在所附权利要求中。通过参考以下的详细说明及其附图,将更好地理解本发明的特征和优势;该详细说明阐述了利用本发明原理的说明性实施方式;在附图中::

图1图示了根据一些实施方式的包括示例性图像分析器的视觉跟踪系统的框图;

图2图示了根据一些实施方式的使用图1的图像分析器对示例性图像帧序列中的跟踪特征和背景特征进行辨别;

图3图示了根据一些实施方式的像素在图像帧中的不同移动特性;

图4图示了根据一些实施方式的示例性图像帧序列,借此围绕跟踪特征的轮廓的大小增大;

图5图示了根据一些实施方式的示例性图像帧序列,借此围绕跟踪特征的轮廓的大小减小;

图6图示了根据一些其他实施方式的示例性图像帧序列,借此围绕跟踪特征的轮廓的大小增大;

图7图示了根据一些其他实施方式的示例性图像帧序列,借此围绕跟踪特征的轮廓的大小减小;

图8图示了根据一些实施方式的围绕跟踪特征的轮廓的大小和/或形状随不同物体类别的一个或多个目标物体的移动、会聚、分散、添加和/或减少改变;

图9图示了根据一些实施方式的在目标物体的数目改变时或者在目标物体共同地以随机方式移动时围绕跟踪特征的轮廓的大小和/或形状的改变;

图10、图11和图12图示了根据不同的实施方式的由成像装置对目标物体的跟踪,借此在目标物体从一个位置移动至另一个位置时围绕跟踪特征的轮廓的大小和/或形状保持相对恒定;

图13和图14图示了根据不同的实施方式的由成像装置对目标物体的跟踪,借此在目标物体从一个位置移动至另一个位置时围绕跟踪特征的轮廓的大小和/或形状改变;

图15图示了根据一些实施方式的视觉跟踪系统,该视觉跟踪系统包括用于基于成像装置的运动特性来计算多个像素的移动特性的图像分析器;

图16图示了根据一些实施方式的使用图15的图像分析器对示例性图像帧序列中的多个像素的移动特性进行计算的示例;

图17、图18和图19图示了根据一些实施方式的成像装置正在跟踪目标物体组的不同实施方式;

图20图示了根据一些实施方式的示例性图像帧序列中的背景特征和跟踪特征的示例性移动;

图21图示了根据一些其他实施方式的示例性图像帧序列中的背景特征和跟踪特征的示例性移动;

图22图示了根据另外一些实施方式的示例性图像帧序列中的背景特征和跟踪特征的示例性移动;

图23图示了根据一些实施方式的成像装置沿圆弧以曲线方式跟踪目标物体;

图24图示了根据一些附加的实施方式的示例性图像帧序列中的背景特征和跟踪特征的示例性移动;

图25图示了根据一些更多附加的实施方式的示例性图像帧序列中的背景特征和跟踪特征的示例性移动;

图26图示了根据一些实施方式的视觉跟踪系统,该视觉跟踪系统被配置成通过调整移动视觉跟踪装置的运动特性来跟踪特征点组;

图27图示了根据一些实施方式的使用图26的移动视觉跟踪系统对示例性图像帧序列中的特征点组进行跟踪;

图28图示了根据一些实施方式的使用图26的移动视觉跟踪系统对示例性图像帧序列中的不断改变的特征点组进行跟踪;

图29图示了根据一些实施方式的使用图26的移动视觉跟踪系统对特征点子集进行跟踪;并且

图30是根据一些实施方式的用于控制可移动物体的系统的示意性框图。

具体实施方式

本文提供的系统、方法以及装置允许以高精度和/或准确度辨别和/或跟踪移动物体或移动物体组。这可以提高跟踪装置的辨别和/或跟踪能力。在一些例子中,本文提供的系统、方法以及装置可以在多个图像帧中辨别特定的视觉特征,而不管这些特定的视觉特征是否被跟踪。

在一些实施方式中,可以使用成像装置在不同时间捕捉多个图像帧。每个图像帧都可以包括与多个特征点相关联的多个像素。可以分析该多个图像帧以计算该多个特征点的移动特性。可以基于该多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。该跟踪特征可以与一个或多个移动物体相关联,并且该背景特征可以与一个或多个静止物体相关联。因此,可以通过区别开该跟踪特征和该背景特征来辨别移动物体和静止物体。

在一些其他实施方式中,可以在该成像装置处于运动的同时跟踪一个或多个移动物体。在这些实施方式中,可以接收多个图像信号。图像信号可以指示在成像装置处于运动的同时的时间段上由该成像装置捕捉的多个图像帧。每个图像帧都可以包括多个像素。可以基于与该成像装置相关联的多个运动信号获取该成像装置的运动特性。可以基于该成像装置的运动特性来分析该多个图像信号,以便计算与该多个像素相关联的移动特性。在一些例子中,可以获取与该多个像素相关联的移动特性和该成像装置的运动特性之间的相关性。

在另外一些实施方式中,可以通过调整移动视觉跟踪装置的运动特性来跟踪一个或多个移动物体。在这些实施方式中,多个特征点的移动特性可以通过移动视觉跟踪装置来获取。可以基于该多个特征点的移动特性从该多个特征点中选定特征点组。该特征点组可以与该一个或多个移动物体相关联。可以通过调整该移动视觉跟踪装置的运动特性来跟踪该特征点组,以便将该特征点组实质上定位在使用该移动视觉跟踪装置捕捉的每个图像帧的目标区域中。

因此,可以使用本文提供的系统、方法以及装置来检测且精确地跟踪一个或多个移动物体。移动物体可以包括不携带GPS设备的移动物体、不具有良好定义特征的或不落入已知物体类别的移动物体、使用常规物体识别方法无法容易地检测到的移动物体、共同地形成组的移动物体(借此该组的大小和/或形状可以是无定形的并且随时间而改变)、以不同形式移动的多个不同物体或者以上的任何组合。

应当理解的是,本发明的不同方面可以单独地、共同地或者相互组合地得到理解。本文所描述的本发明的各个方面可以被应用于以下阐述的特定应用中的任何应用中或用于任何其他类型的遥控载运工具或可移动物体。

本发明提供了用于改善成像装置(例如由无人飞行器(UAV)支撑)的跟踪能力并且使得能够自主跟踪移动物体组的系统、装置和/或方法的实施方式。对UAV的描述可以应用于任何类型的载运工具,例如,陆地载运工具、地下载运工具、水下载运工具、水面载运工具、航空载运工具或基于太空的载运工具。

图1图示了根据一些实施方式的包括示例性图像分析器的视觉跟踪系统100的框图。该视觉跟踪系统可以被实现为独立的系统,并且不需要被提供在载运工具上。在一些其他实施方式中,该视觉跟踪系统可以被提供在载运工具上。如图1所示,该视觉跟踪系统可以包括成像装置110和图像分析器120。该视觉跟踪系统可以被配置成基于多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。

如本文所使用的成像装置可以用作图像捕捉装置。成像装置可以是物理成像装置。成像装置可以被配置成用于检测电磁辐射(例如,可见光、红外光和/或紫外光)并基于检测到的电磁辐射生成图像数据。成像装置可以包括响应于光的波长生成电信号的电荷耦合装置(CCD)传感器或互补型金属氧化物半导体(CMOS)传感器。所生成的电信号可以被处理以产生图像数据。由成像装置生成的图像数据可以包括一张或多张图像,该一张或多张图像可以是静态图像(例如,照片)、动态图像(例如,视频)或其合适的组合。图像数据可以是多色的(例如,RGB、CMYK、HSV)或单色的(例如,灰度、黑白、棕褐)。该成像装置可以包括被配置成将光引导到图像传感器上的镜头。

在一些实施方式中,该成像装置可以是相机。相机可以是捕捉动态图像数据(例如,视频)的电影摄影机或视频相机。相机可以是捕捉静态图像(例如,照片)的照相机。相机可以捕捉动态图像数据和静态图像两者。相机可以在捕捉动态图像数据和静态图像之间切换。尽管本文提供的某些实施方式是在相机的情景下进行描述的,但应该理解的是,本公开可以应用于任何合适的成像装置,并且本文关于相机的任何描述也可以适用于任何合适的成像装置,并且本文关于相机的任何描述也可以适用于其他类型的成像装置。相机可以被用来生成3D场景(例如,环境、一个或多个物体等等)的2D图像。由相机生成的图像可以表示3D场景到2D图像平面上的投影。因此,2D图像中的每个点对应于场景中的3D空间坐标。该相机可以包括光学元件(例如,镜头、反射镜、滤波器等)。相机可以捕捉彩色图像、灰度图像、红外图像等等。该相机在其被配置成捕捉红外图像时可以是热成像装置。

成像装置可以按具体图像分辨率捕捉图像或图像序列。在一些实施方式中,图像分辨率可以由图像中的像素数目所定义。在一些实施方式中,图像分辨率可以大于或等于约352x420像素、480x320像素、720x480像素、1280x720像素、1440x1080像素、1920x1080像素、2048x1080像素、3840x2160像素、4096x2160像素、7680x4320像素或15360x8640像素。在一些实施方式中,该相机可以是4K相机或者具有更高分辨率的相机。

该成像装置可以以捕捉速率捕捉图像序列。在一些实施方式中,可以以如约24p、25p、30p、48p、50p、60p、72p、90p、100p、120p、300p、50i或60i的标准视频帧速率捕捉该图像序列。在一些实施方式中,可以以小于或等于约每0.0001秒、0.0002秒、0.0005秒、0.001秒、0.002秒、0.005秒、0.01秒、0.02秒、0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒或10秒一张图像的速率捕捉图像序列。在一些实施方式中,捕捉速率可以根据用户输入和/或外部条件(例如,雨、雪、风、环境的不明显的表面纹理)而改变。

成像装置可以具有可调参数。在不同参数下,尽管经受完全相同的外部条件(例如,位置、光照),成像装置可以捕捉不同的图像。可调参数可以包括曝光(例如,曝光时间、快门速度、孔径、胶片速度)、增益、伽玛、兴趣区、像素合并(binning)/子采样、像素时钟、偏移、触发、ISO等。与曝光相关的参数可以控制到达成像装置中的图像传感器的光量。例如,快门速度可以控制光到达图像传感器的时间量而孔径可以控制在给定时间内到达图像传感器的光量。与增益相关的参数可以控制对来自光学传感器的信号的放大。ISO可以控制相机对可用光的灵敏度水平。控制曝光和增益的参数在本文中可以统一被认为并且被称作EXPO。

在一些备选实施方式中,成像装置可以延伸到物理成像装置之外。例如,成像装置可以包括能够捕捉和/或生成图像或视频帧的任何技术。在一些实施方式中,该成像装置可以指能够处理从另一物理装置获取的图像的算法。

在图1的示例中,该成像装置可以被配置成捕捉多个物体102的图像数据。该图像数据可以例如对应于该多个物体的静止图像或视频帧。物体可以包括任何物理物体或者可以被该视觉跟踪系统实时光学辨别和/或跟踪的结构。光学跟踪具有若干优点。例如,光学跟踪允许用于无线‘传感器’(不太易受噪声的影响),并且允许用于有待被同时跟踪的许多物体(例如,不同类型的物体)。物体可以被描绘在2D或3D格式的静止图像和/或视频帧中,可以是现实生活中的和/或动画,可以是彩色的、黑/白或灰度,并且可以位于任何色彩空间。

如图1所示,在该成像装置与该多个物体之间提供了视觉路径(用虚线表示),使得物体位于该成像装置的视野内。在一些实施方式中,物体可以可操作地连接到图1中的部件的一个或多个上。例如,物体可以与系统100中的部件的一个或多个通信。在一些实施方式中,物体可以包括安置在其上的GPS设备(例如,GPS接收器)。

在一些其他实施方式中,物体无需可操作地连接到图1中的部件的任一上。例如,物体无需与系统100中的部件的任一通信。物体也无需包括安置在其上的任何GPS设备(例如,GPS接收器)。相反,物体可以是任何独立的物理物体或结构。物体中的一些可能能够运动(例如,平移和/或旋转,陆地行进、空中飞行,等等)。可以考虑物体中的一些或全部的运动的任何类型、范围以及幅度,如下所述。

物体通常可以被分成目标物体和背景物体。如本文所使用的目标物体是指能够运动的并且可以在任何给定时间点移动或静止的物体。在一些例子中,当目标物体移动时,目标物体可以被称为移动物体。目标物体的示例可以包括活体(诸如人或动物)或人群或动物群。备选地,该目标物体可以由活体(诸如人或动物)或可移动物体(诸如,载运工具)来携带的。如本文所使用的背景物体通常是指实质上固定于位置处的物体。背景物体可能不能够运动,诸如静止的物体。背景物体的示例可以包括地理特征、植物、地标、建筑物、整体结构或任何固定结构。

该目标物体还可以是被配置成在任何合适的环境内移动的任何物体,诸如在空中(例如,固定翼航空器、旋转翼航空器或者既不具有固定翼也不具有旋转翼的航空器)、在水中(例如,船舶或潜艇)、在地面上(例如,机动车,诸如轿车、卡车、公交车、厢式货车、摩托车;可移动结构或框架,诸如棒状物、钓鱼竿;或者火车)、在地面下(例如,地铁)、在太空(例如,航天飞机、卫星或探测器)或者这些环境的任何组合。

该目标物体可能能够在环境内关于六个自由度(例如,三个平移自由度和三个旋转自由度)自由移动。备选地,该目标物体的移动可以是关于一个或多个自由度受约束的,例如受到预定路径、轨迹或定向的约束。该移动可由诸如引擎或马达的任何合适的致动机构来致动的。目标物体的致动机构可以是由任何合适的能源提供动力的,诸如电能、磁能、太阳能、风能、引力能、化学能、核能或它们任何合适的组合。目标物体可以是由动力系统来自推进的,如下文中进一步描述的。该动力系统可以任选地以能源来运行,诸如电能、磁能、太阳能、风能、引力能、化学能、核能或它们的任何合适组合。

在一些例子中,该目标物体可以是载运工具,例如遥控的载运工具。合适的载运工具可以包括水上载运工具、空中载运工具、太空载运工具或者地面载运工具。例如,空中载运工具可以为固定翼航空器(例如,飞机、滑翔机)、旋转翼航空器(例如,直升机、旋翼机)、具有固定翼和旋转翼二者的航空器或者既无固定翼也无旋转翼的航空器(例如,飞艇、热气球)。载运工具可以是自推进的,例如通过空气、在水面上或水中、在太空中、或者在地面上或地面下自推进。自推进式载运工具可采用动力系统,例如包括一个或多个引擎、马达、轮子、轮轴、磁体、旋翼、螺旋桨、桨叶、喷嘴或其任何合适组合的动力系统。在一些例子中,该动力系统可以用于使该可移动物体能够从表面起飞、降落在表面上、维持其当前位置和/或定向(例如,悬停)、改变定向和/或改变位置。

在一些实施方式中,可以由跟踪装置跟踪该目标物体。该跟踪装置可以是成像装置,或者是携带了图像装置的可移动物体。该可移动物体可以例如是UAV。该目标物体可以是与该跟踪装置类型相同的可移动物体,或者可以是与该跟踪装置类型不同的可移动物体。例如,在一些实施方式中,该跟踪装置和该目标物体都可以是UAV。该跟踪装置和该目标物体可以是相同类型的UAV或不同类型的UAV。不同类型的UAV可以具有不同的形状、形状因子、功能或其他特性。该目标物体和该跟踪装置可以在3维空间中相对于背景物体移动。如先前所描述的,背景物体的示例可以包括地理特征(例如,山脉)、地标(例如,桥)、建筑物(例如,摩天大楼、体育场等)或任何固定结构。

如图1所示,由该成像装置捕捉的图像数据可以被编码到多个图像信号112中。该多个图像信号可以使用该成像装置来生成。图像信号可以包括使用该成像装置在不同时间捕捉到的多个图像帧。例如,图像信号可以包括在时间T1捕捉的第一图像帧112-1和在时间T2捕捉的第二图像帧112-2,其中时间T2可以是时间T1之后出现的时间点。每个图像帧都可以包括多个像素。在一些实施方式中,该多个图像帧可以包括多个彩色图像,并且该多个像素可以包括彩色像素。在其他实施方式中,该多个图像帧可以包括多个灰度图像,并且该多个像素可以包括灰度像素。在一些实施方式中,该多个灰度图像中的每个像素可以具有标准化灰度值。

该图像帧中的该多个像素可以与多个特征点相关联。特征点可以对应于物体上的点或区。在一些实施方式中,特征点可以由图像帧中的单一像素来表示。例如,每个特征点可以与对应像素1∶1对应(或1∶1相关)。在一些实施方式中,每个特征点可以与对应像素的灰度值直接相关。在一些实施方式中,特征点可以由图像帧中的像素簇来表示。例如,每个特征点可以与n个像素1∶n对应(或1∶n相关),其中n是大于1的任何整数。该像素簇可以包括2、3、4、5、6、7、8、9、10或更多个像素。所有像素都可以被同时地或顺序地单独分析。同样,所有像素簇可以被同时地或顺序地单独分析。分析该像素簇可以帮助减少分析图像帧中的所有像素所需要的处理时间(以及处理能力)。可以分析该一个或多个像素的移动特性以确定与这些像素相关联的一个或多个特征点,如在说明书中稍后描述的。

在一些特定实施方式中,特征点可以是图像的一部分(例如,边缘、角点、兴趣点、斑点、脊等等),该部分独特地可区别于该图像中的剩余部分和/或该图像中的其他特征点。任选地,对于所成像物体的变换(例如,平移、旋转、缩放)和/或该图像特性(例如,亮度、曝光)的改变,特征点可以相对不变。可以在图像的信息内容丰富的部分(例如,显著的2D纹理)中检测到特征点。可以在图像的在扰动下(例如,当改变图像的照度和亮度时)稳定的部分中检测到特征点。

可以使用各种算法(例如,纹理检测算法)来检测特征点,算法可以从图像数据中提取一个或多个特征点。算法另外可以进行关于特征点的各种计算。例如,算法可以计算特征点的总数目或“特征点数目”。算法还可以计算特征点的分布。例如,特征点可以被广泛地分布在图像(例如,图像数据)或图像的子区内。例如,特征点可以被狭窄地分布在图像(例如,图像数据)或图像的子区内。算法还可以计算特征点的质量。在一些例子中,可以基于通过本文所提及的算法(例如,FAST、角点检测器、Harris等等)计算的值来确定或估算特征点的质量。

该算法可以是边缘检测算法、角点检测算法、斑点检测算法或脊检测算法。在一些实施方式中,该角点检测算法可以是“加速分割检测特征”(FAST)。在一些实施方式中,该特征检测器可以提取特征点并且使用FAST作出关于特征点的计算。在一些实施方式中,该特征检测器可以是Canny边缘检测器、Sobel算子、Harris和Stephens/Plessy/Shi-Tomasi角点检测算法、SUSAN角点检测器、水平曲线曲率方法、高斯-拉普拉斯算子、高斯差值、Hessian行列式、MSER、PCBR或灰度等级斑点、ORB、FREAK或者其合适组合。

在一些实施方式中,特征点可以包括一个或多个非显著性特征。如本文所使用的,非显著性特征可以指图像内的非显著区域或者不明显的(例如,不可识别的)物体。非显著性特征可以指图像内不太可能突显出来或者引起人类观察者注意的元素。非显著性特征的示例可以包括当在它们的周围像素情景之外观察时不明显的或观察者不可辨别的单独的像素或像素组。

在一些备选实施方式中,特征点可以包括一个或多个显著性特征。显著性特征可以指图像内的显著性区域或者明显的(例如,可识别的)物体。如本文所使用的,显著性特征可以指图像内的显著性区域或者明显的(例如,可识别的)物体。显著性特征可以指图像内可能突显出来或者引起人类观察者注意的元素。显著性特征可以具有语义意义。显著性特征可以指可以在计算机视觉过程下被一致地辨别的元素。显著性特征可以指图像内的有生命物体、无生命物体、地标、标记、徽标、障碍物等等。显著性特征可以在不同条件下被持久地观察到。例如,从不同的视角、在一天的不同时间期间、在不同的照明条件下、在不同的气象条件下、在不同的图像采集设置下(例如,不同的增益、曝光度等)等等采集的图像中的显著性特征可以被持久地辨别(例如,由人类观察者或由计算机程序辨别)。例如,显著性特征可以包括人类、动物、脸部、身体、结构、建筑物、载运工具、飞机、标志等等。

可以采用任何现有的显著性计算方法辨别或确定显著性特征。例如,可以通过以下方式辨别显著性特征:通过基于对比度的滤波(例如,基于色彩、强度、定向、大小、运动、深度等)、使用频谱残差方法、通过频率调谐的显著性区域检测、通过用于对象估算的二值归一化梯度、使用情境感知自顶向下方法、通过用位熵率(site entropy rate)来测量视觉显著性等等。例如,可以在由一张或多张图像经过基于对比度(例如,色彩、强度、定向等)的滤波后生成的显著性图中辨别显著性特征。显著性图可以表示具有特征对比度的区。显著性图可以预测人们将看向何处。显著性图可以包括表示特征或定影的空间热图。例如,在显著性图中,显著性区域可以具有比非显著性区域更高的亮度对比度、色彩对比度、边缘内容、强度等。在一些实施方式中,可以使用物体识别算法(例如,基于特征的方法、基于外观的方法等)辨别显著性特征。任选地,可以将一个或多个物体或者一种或多种类型的图案、物体、图形、色彩、徽标、外周等预先存储为可能的显著性特征。图像可以被分析以辨别预先存储的显著性特征(例如,物体或物体的类型)。预先存储的显著性特征可以被更新。备选地,显著性特征可以不需要被预先存储。可以在实时的基础上独立于预先存储的信息识别显著性特征。

在一些实施方式中,该成像装置可以被安装或共同定位在跟踪装置(未示出)上。该跟踪装置可以例如是能够在空中、陆上、水上或水体内行驶的载运工具。载运工具的示例可以包括飞行器(例如,UAV)、陆地载运工具(例如汽车)、水结载运工具(例如,船)等等。在一些实施方式中,该跟踪装置可以是移动装置、蜂窝电话或智能电话、个人数字助理(PDA)、计算机、膝上型计算机、平板PC、媒体内容播放器、视频游戏站/系统、诸如虚拟现实耳机或头戴式装置(HMD)的可穿戴装置或者能够捕捉、提供或渲染图像数据和/或基于该图像数据辨别或跟踪目标物体的任何电子装置。该跟踪装置还可以包括软件应用,软件应用允许跟踪装置与成像装置通信并且从该成像装置接收图像数据。该跟踪装置可以被配置成将该图像数据提供到所述图像分析器以便进行图像分析。在一些例子中,该跟踪装置可以是自推进的、可以是静止的或移动的并且可以随时间改变定向(例如,姿态)。

又例如,该跟踪装置可以是web服务器、企业服务器或者任何其他类型的计算机服务器。该跟踪装置可以是被编程为接受来自该图像分析器的请求(例如,HTTP、或可以开始数据传输的其他协议)并以所请求的图像数据服务该图像分析器的计算机。在一些实施方式中,该跟踪装置可以是用于分发图像数据的广播设施,例如免费广播、有线、卫星和其他广播设施。

在一些实施方式中,由该成像装置捕捉的图像数据可以在图像数据被提供给图像分析器之前被存储在介质存储装置(未示出)中。该图像分析器可以被配置成从该介质存储装置直接接收该图像数据。在一些实施方式中,该图像分析器可以被配置成接收同时来自该成像装置和介质存储装置两者的图像数据。该介质存储装置可以是能够存储多个物体的图像数据的任何类型的存储介质。如先前所描述的,该图像数据可以包括视频或静止图像。视频或静止图像可以被图像分析器处理和分析,如在说明书中稍后描述的。该介质存储装置可以提供为CD、DVD、蓝光盘、硬盘、磁带、闪速存储卡/驱动器、固态驱动器、易失性或非易失性存储器、全息数据存储装置以及任何其他类型的存储介质。在一些实施方式中,该介质存储装置还可以是能够给图像分析器提供图像数据的计算机。

又例如,该介质存储装置可以是web服务器、企业服务器或者任何其他类型的计算机服务器。该介质存储装置可以是被编程为接受来自该图像分析器的请求(例如,HTTP或可以开始数据传输的其他协议)并以所请求的图像数据服务该图像分析器的计算机。另外,该介质存储装置可以是用于分发图像数据的广播设施,例如免费广播、有线、卫星和其他广播设施。该介质存储装置还可以是数据网络(例如,云计算网络)中的服务器。

在一些实施方式中,该介质存储装置可以被定位成在该成像装置机上。在一些其他实施方式中,该介质存储装置可以被定位成在该跟踪装置机上但在该成像装置机外。在另外一些实施方式中,该介质存储装置可以被定位在该跟踪装置和/或该成像装置机外的一个或多个外部装置上。在这些另外实施方式中,该介质存储装置可以被定位在遥控器、地面站、服务器等上。可以考虑上述部件的任何布置或组合。在一些实施方式中,该介质存储装置可以通过对等网络架构与该成像装置和跟踪装置通信。在一些实施方式中,可以使用云计算架构来实现该介质存储装置。

该图像数据可以(以图像信号112的形式)提供至图像分析器以便进行图像处理/分析。在图1的示例中,该图像分析器可以被实现为在处理器中执行的软件程序和/或实现为分析该多个图像帧以便根据该多个特征点相对于至少一个背景特征辨别至少一个跟踪特征的硬件。例如,该图像分析器可以被配置成分析图像帧以计算该多个特征点的移动特性,并且基于该多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。该跟踪特征可以与该一个或多个目标物体相关联。该背景特征可以与该一个或多个背景物体相关联。

该图像分析器可以被配置成基于该多个特征点的移动特性确定该目标物体与背景物体之间的相对位置。该成像装置可以是静止的或移动的。该背景物体通常是静止的。该目标物体可以是静止的或移动的。在一些实施方式中,在该成像装置或该目标物体中的至少一者处于运动中或能够运动时可以辨别该跟踪特征和背景特征。在任何给定时刻,该成像装置或该目标物体都可能是能够移动和/或停止的。例如,支撑该成像装置的UAV可以在移动至另一个位置之前悬停一段时间。

在一些实施方式中,该图像分析器可以被定位成远离该成像装置。例如,该图像分析器可以被安置在与该成像装置通信的远程服务器中。可以将该图像分析器提供在任何其他类型的外部装置处(例如,用于跟踪装置的遥控器、该目标物体所携带的物体、诸如基站的参考位置或另一个跟踪装置),或可以使其分布在云计算基础设施上。在一些实施方式中,该图像分析器和该介质存储装置可以被定位在同一装置上。在其他实施方式中,该图像分析器和该介质存储装置可以被定位在不同装置上。该图像分析器和该介质存储装置可以通过有线或无线连接来通信。在一些实施方式中,该图像分析器可以被定位在跟踪装置上。例如,该图像分析器可以被安置在该跟踪装置的外壳中。在一些其他实施方式中,该图像分析器可以被定位在该目标物体上。例如,该图像分析器可以被安置在该目标物体的本体上。在一些其他实施方式中,该图像分析器可以被定位在该背景物体上。例如,该图像分析器可以被安置在该背景物体的本体上。在另外一些实施方式中,该图像分析器可以被安置在与该跟踪装置和/或该目标物体通信的基站处。该图像分析器可以被定位在任何地方,只要该图像分析器能够:(i)接收使用成像装置在不同时间捕捉的多个图像帧,(ii)分析该多个图像帧以计算该多个特征点的移动特性,并且(iii)基于该多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。该图像分析器可以与上述跟踪装置、目标物体、背景物体、基站或任何其他装置中的一者或多者进行通信以接收图像数据,可以根据该图像数据计算多个特征点的移动特性,并且可以根据该图像数据来相对于背景特征辨别跟踪特征。

在一些实施方式中,所得对图像帧的分析可以(以经分析的信号122的形式)被提供到输出装置(未示出)。例如,所辨别的跟踪特征和背景特征可以被描绘在一个或多个所得图像帧中,该一个或多个所得图像帧被显示在输出装置上。所得图像帧可以被编码到经分析的信号122中。所得图像帧可以包括区别开该跟踪特征和背景特征的注释(例如,标签、图起的区域、不同颜色编码等等)。该输出装置可以是显示装置,例如,显示面板、监视器、电视机、投影仪或任何其他显示装置。在一些实施方式中,该输出装置可以例如是蜂窝电话或智能电话、个人数字助理(PDA)、计算机、膝上型计算机、台式计算机、平板PC、媒体内容播放器、机顶盒、包括广播调谐器的电视机、视频游戏站/系统或能够访问数据网络和/或接收来自图像分析器的经分析的图像数据的任何电子装置。

在一些实施方式中,部件110和120可以被定位在分开的分立装置上。在这些实施方式中,装置(部件110和120分别所定位的)可以通过允许从一个部件至另一个部件传输数据的网络或任何类型的通信链路可操作地连接到彼此。该网络可以包括因特网、局域网(LAN)、广域网(WAN)、蓝牙、近场通信(NFC)技术、基于诸如通用分组无线电服务(GPRS)、GSM、增强型数据GSM环境(EDGE)、3G、4G或长期演进(LTE)协议的移动数据协议的网络、红外线(IR)通信技术和/或Wi-Fi,并且可以是无线、有线或其组合。

虽然图1所示为可操作地连接的分开的部件,但应指出的是,该成像装置和图像分析器可以被共同定位在一个装置上。例如,该图像分析器可以被定位在该成像装置内或者形成该成像装置的一部分。相反地,该成像装置可以被定位在该图像分析器内或者形成该图像分析器的一部分。在一些实施方式中,该成像装置或该图像分析器中的至少一个可以被定位在用户装置上。在一些实施方式中,介质存储装置可以被定位在该成像装置内或者形成该成像装置的一部分。在一些实施方式中,该成像装置或该图像分析器中的至少一者可以被定位在移动视觉跟踪装置内或者形成该移动视觉跟踪装置的一部分。该移动视觉跟踪装置可以被安装在飞行器(例如UAV)上(或者使用该飞行器可以启用该移动视觉跟踪装置)。应理解的是,图1中示出的配置仅用于说明性目的。可以移除或组合某些部件或装置,并且可以添加其他部件或装置。

如先前所描述的,该图像分析器可以被配置成分析该多个图像帧以计算该多个特征点的移动特性,并且基于该多个特征点的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。在一些实现中,特征点可以每个对应于单一像素或像素组。基于特征点的分析的任何描述也可以适用于基于单独像素或像素组的分析。这可能发生而不考虑一个或多个像素的任何性质(例如,亮度、颜色、对比度等等)。备选地,可以考虑一个或多个像素的这样性质中的一项或多项。上述步骤可以使用光流算法来实现,并且将参考图2进一步予以详细描述。可以使用该图像分析器来执行该光流算法。可以使用该光流算法来计算图像序列的像素或特征点的运动,并且可以提供密集的(点对点)像素或特征点对应关系。

图2图示了根据一些实施方式的使用图1的图像分析器对示例性图像中的跟踪特征和背景特征进行辨别。参考图2,图像分析器204可以接收来自成像装置(例如,图1的成像装置110)的多个图像信号212。图像信号212可以包括在时间T1捕捉的第一图像帧212-1和在时间T2捕捉的第二图像帧212-2,借此时间T2可以是时间T1之后出现的时间点。尽管图2描绘了两个图像帧,但可以考虑任何数目的图像帧。例如,在一些实施方式中,图像信号212可以包括在从T1开始到Tn的时间段上捕捉的多个图像帧212-1至212-n,其中n可以是大于1的任何整数。

在一些实施方式中,可以在特定的时间例子捕捉不止一个图像帧。例如,图像信号212可以包括在时间T1捕捉的多个图像帧212-1、在时间T2捕捉的多个图像帧212-2等等。在每个时间例子的多个图像帧可以求平均并且变换成与该特定时间例子相关联的单一图像帧。在一些实施方式中,可以每秒捕捉1个、2个、3个、4个、5个或更多个图像帧。在一些实施方式中,可以每2秒、3秒、4秒、5秒或多于5秒捕捉图像帧。可以按固定频率或不同频率捕捉图像帧。例如,当目标物体正在快速移动时可以捕捉较大数目的图像帧,并且当该目标物体正在缓慢移动时可以捕捉较小数目的图像帧。在一些实施方式中,该图像分析器可以被配置为仅分析图像帧之间具有不同的像素(或特征点)移动特性的那些图像帧。

每个图像帧都可以包括与多个特征点相关联的多个像素。如图2所示,特征点可以与目标物体(例如,人群)和背景物体(例如,建筑物、树木、高尔夫球场、加油站等)相关联。在图2的示例中,该目标物体可以在时间T1位于第一位置(参见第一图像帧212-1)并且在时间T2移动到第二位置(参见第二图像帧212-2)。

该图像分析器可以被配置成分析该多个图像帧以计算该多个特征点的移动特性。该多个特征点的移动特性可以包括位置差异以及至少每个特征点的速度或加速度。比较图像帧212-1和212-2,可以观察到,与背景物体相关联的特征点可以在图像之间已经实质上从右到左以速度Vb’“移动”,而与目标物体相关联的特征点可以在图像之间已经实质上从左到右以速度Vt’“移动”。背景物体在图像帧中的明显平移可以归因于事实:该成像装置在捕捉图像帧时可以处于运动中。

该图像分析器还可以被配置成相对于至少一个背景特征辨别至少一个跟踪特征。该方法可以包括基于该多个特征点的移动特性从该多个特征点中区分出第一特征点集和第二特征点集。该第一特征点集可以实质上具有第一移动特性,并且该第二特征点集可以实质上具有不同于该第一移动特性的第二移动特性。例如,在图2中,与背景物体相关联的特征点可以实质上具有第一移动特性(例如,从图像212-1到图像212-2以速度Vb’从右到左),而与目标物体相关联的特征点可以实质上具有第二移动特性(例如,从图像212-1到图像212-2以速度Vt’从左到右)。因此,该图像分析器可以将与背景物体相关联的特征点辨别为第一特征点集,并且将与目标物体相关联的特征点辨别为第二特征点集。该图像分析器还可以被配置成将背景特征214辨别为该第一特征点集并且将跟踪特征216辨别为该第二特征点集。通过比较特征点的移动特性,该跟踪特征可以与目标物体相关联,而该背景特征可以与背景物体相关联。该背景特征可以实质上具有与第一特征点集的第一移动特性相关联的相同移动特性。该跟踪特征可以实质上具有与第二特征点集的第二移动特性相关联的相同移动特性。

在一些实施方式中,该图像分析器可以仅基于该多个特征点的移动特性来辨别该跟踪特征和该背景特征。因此,该图像分析器可以独立于物体识别方法来辨别该跟踪特征和该背景特征。例如,该背景特征和该跟踪特征可以独立于任何物体类别而限定。这与常规的基于视觉跟踪方法形成对照,常规方法通常通过将特征分类到一个或多个物体类别中或将它们拟合到一个或多个已知模型来辨别特征。

在一些特定实施方式中,在该图像分析器已经辨别该跟踪特征和该背景特征之后,该图像分析器还可以被配置成使用物体识别方法将该跟踪特征和该背景特征分类到一个或多个物体类别中。该物体识别方法可以包括确定该跟踪特征和该背景特征中的每个是否属于一个或多个物体类别。物体类别可以包括建筑物物体类别、地貌物体类别、人类物体类别、动物物体类别和/或载运工具物体类别。该物体识别方法可以是基于对准模型、不变性质和/或部分分解。

在一些实施方式中,该图像分析器可以被配置成使用基于像素的方法来分析该多个图像帧。例如,在这些实施方式中,该多个特征点可以与该多个图像帧中的该多个像素具有一一对应的关系。换言之,每个特征点都可以对应于独特像素。该图像分析器可以被配置成分析该多个图像帧以计算该多个像素的移动特性。该多个像素的移动特性可以包括位置差异以及每个像素的速度或加速度中的至少一项。比较图像帧212-1和212-2,可以观察到,与背景物体相关联的像素在图像之间已经实质上从右到左以速度Vb’“移动”,而与目标物体相关联的像素在图像之间已经实质上从左到右以速度Vt’“移动”。背景物体在图像帧中的明显平移可以归因于事实:该成像装置在捕捉图像帧时可以处于运动中。

该图像分析器还可以被配置成基于该多个像素的移动特性从该多个像素中区分出第一像素集和第二像素集。该第一像素集可以实质上具有第一移动特性,并且该第二像素集可以实质上具有不同于该第一移动特性的第二移动特性。例如,在图2中,与背景物体相关联的像素可以实质上具有第一移动特性(例如,从图像212-1到图像212-2以速度Vb’从右到左),而与目标物体相关联的像素可以实质上具有第二移动特性(例如,从图像212-1到图像212-2以速度Vt’从左到右)。因此,该图像分析器可以将与背景物体相关联的像素辨别为第一像素集,并且将与目标物体相关联的像素辨别为第二像素集。该图像分析器还可以被配置成将背景特征214辨别为该第一像素集并且将跟踪特征216辨别为该第二像素集。通过比较像素的移动特性,该跟踪特征可以与目标物体相关联,而该背景特征可以与背景物体相关联。该背景特征可以实质上具有与第一像素集的第一移动特性相关联的相同移动特性。该跟踪特征可以实质上具有与第二像素集的第二移动特性相关联的相同移动特性。

如以上所提及的,该图像分析器可以被配置成使用上述基于像素的方法来分析该多个图像帧。基于像素的方法可以被用在被照亮的环境中,并且还可以被用在弱光或黑暗环境中。例如,该图像分析器可以使用基于像素的方法分析从热成像装置获取的热图像(热图),并且基于热图像中的像素的移动特性来辨别该背景特征和跟踪特征。热图像中的每个像素可以指示在目标物体和背景物体的特征点处发射的、透射的和/或反射的红外能量的量。用于分析热图像的基于像素的方法可以很好地适合于弱光或黑暗的环境,因为在弱光或黑暗环境中捕捉的光学图像倾向于具有低的亮度/对比度从而难以跟踪不同像素之间的移动特性。

在一些实施方式中,该图像分析器还可以被配置成通过生成围绕该第一像素集的一个或多个轮廓来辨别背景特征214,并且通过生成围绕该第二像素集的另一轮廓来辨别跟踪特征216,如图2中用虚线圈起的区域所示。轮廓用于区别开跟踪特征216和背景特征214。轮廓可以包括不同的颜色、图案或阴影以区分开该跟踪特征和背景特征。该图像分析器还可以被配置为生成描绘了经辨别的跟踪特征和背景特征的所得图像帧213,如图2所示。如先前提及的,所得图像帧可以(例如,以经分析的信号122的形式)被提供到输出装置(诸如显示装置)。

图3图示了根据一些实施方式的像素在图像帧中的不同移动特性。如先前所描述的,该多个图像帧可以至少包括第一图像帧和第二图像帧。该图像分析器可以被配置成针对该第一图像帧和第二图像帧中出现的每个像素计算每个像素的移动特性。例如,该图像分析器可以被配置成辨别每个像素在该第一图像帧中的位置以及其在该第二图像帧中的对应位置,并且基于每个像素在该第一图像帧和第二图像帧中的位置之间的差异来计算每个像素的移动特性。在一些实施方式中,该图像分析器可以被配置成映射该多个图像帧、基于该映射生成针对每个像素的变换并且利用每个像素的变换来计算其移动特性。在该第一帧和第二帧中出现的像素的移动特性可以包括该像素的速度。可以使用以下方程来计算该像素的速度:

Vp=C.(T参考-T当前),

其中Vp是像素的速度,C是速率常数,T参考是基于该像素在第一图像帧中的位置的参考变换,并且T当前是基于该像素在第二图像帧中的位置的当前变换。速度Vp可以包括矢量分量和标量分量两者。可以通过该像素的速度随时间的改变来计算该像素的加速度Ap

Ap=ΔVp/ΔT

像素的速度还可以包括像素的线性速度和/或角速度。像素的加速度还可以包括像素的线性加速度和/或角加速度。例如,参考图3(A部分),当像素沿其位于第一图像帧中的位置到其位于第二图像帧中的位置之间的方向平移时,像素的移动特性可以包括线性速度和/或线性加速度。如图3(B部分)所示,该像素可以在时间T1位于第一图像帧312-1中的第一位置,并且可以在时间T2已经移动到第二图像帧312-2中的第二位置。在图3(B部分)的示例中,该像素从该第一位置到第二位置的移动可以是通过平移(用直箭头线表示),并且可以包括线性速度Vp_线性

在一些实施方式中,例如,如图3(C部分)所示,当像素绕点O在其位于第一图像帧中的位置到其位于第二图像帧中的位置之间旋转时,像素的移动特性可以包括角速度ω和/或角加速度Ap_角。该像素的线性速率可以由Vp_线性=R.ω给出,其中R是从该像素到点O的距离(或具有中心点O的圆的半径)。如图3(D部分)所示,该像素可以在时间T1位于第一图像帧312-1中的第一位置,并且在时间T2已经移动到图像帧312-2中的第二位置。在图3(D部分)的示例中,该像素可以沿曲线方向(用弯曲箭头线表示)以角速度ω从该第一位置移动到第二位置。

如先前所描述的,跟踪特征216可以通过生成围绕该第二像素集(或与目标物体相关联的特征点)的轮廓来辨别。在一些实施方式中,该轮廓的大小可以改变,例如,如图4、图5、图6和图7中所示。

图4图示了根据一些实施方式的示例性图像帧序列,借此围绕跟踪特征的轮廓的大小可以增大。具体地,图4图示了围绕该跟踪特征的轮廓的大小可以在更多的目标物体(例如,人类、载运工具、动物等等)加入预先存在的目标物体组时增大。如图4所示,可以由成像装置分别在时间T1、T2和T3捕捉第一图像帧412-1、第二图像帧412-2以及第三图像帧412-3。该第一图像帧可以例如对应于图2中示出的所得图像帧213。该第一图像帧可以包括第一跟踪特征416,该第一跟踪特征包括先前已经被该图像分析器辨别的目标物体组。在时间T2,可以由该图像分析器辨别在第二图像帧的左侧部分和右侧底部处的附加跟踪特征416-1和416-2。附加跟踪特征可以朝向第一跟踪特征移动并且在时间T3与第一跟踪特征会聚,如由第三图像帧412-3所图示的。与目标物体相关联的像素(或特征点)的大小可以由于跟踪特征的会聚从T1到T3增大。因此,围绕这些像素(或跟踪特征)的轮廓的大小可以随该图像帧中目标物体的数目增大而增大。在一些实施方式中,会聚的跟踪特征可以被共同地视为公共跟踪特征组。在一些备选实施方式中,该图像分析器可以继续跟踪每个单独跟踪特征416-1、416-2和416-3,即使在跟踪特征已经明显地合并成单一组也如此。在一些实施方式中,跟踪特征是被单独地或还是被作为组共同地跟踪可以取决于相邻跟踪特征之间的距离。例如,如果相邻特征之间的距离大于预定距离,则跟踪特征可以被单独地跟踪,因为跟踪特征可能具有低空间密度。相反,如果相邻特征之间的距离小于预定距离,则跟踪特征可以被作为单一组共同地跟踪,因为跟踪特征可能具有高空间密度。该预定距离可以基于目标物体的大小、形状或面密度来确定。在一些实施方式中,当围绕该跟踪特征的轮廓的大小开始增大时,该成像装置可以移动到相对于目标物体较高的垂直位置,或者移动至离目标物体较远的横向距离,使得该跟踪特征可以实质上被定位在成像装置的视野内或在由该成像装置捕捉的图像帧的目标区域内。

图5图示了根据一些实施方式的示例性图像帧序列,借此围绕跟踪特征的轮廓的大小可以减小。具体地,图5图示了围绕该跟踪特征的轮廓的大小可以在一个或多个目标物体离开预先存在的目标物体组时减小。如图5所示,可以分别在时间T1、T2和T3捕捉第一图像帧512-1、第二图像帧512-2以及第三图像帧512-3。该第一图像帧可以例如对应于图2中示出的所得图像帧213。该第一图像帧可以包括第一跟踪特征516,该第一跟踪特征包括先前已经被该图像分析器辨别的目标物体组。目标物体中的一些可以在时间T2开始从该组分散(散开)并且可以在时间T3已经移动到该成像装置的视野外,如由第三图像帧512-3所图示的。与目标物体相关联的像素(或特征点)的大小可以由于目标物体组大小的减小从T1到T3减小。因此,围绕这些像素(或跟踪特征)的轮廓的大小可以随目标物体的数目减小而减小。在一些实施方式中,当围绕该跟踪特征的轮廓的大小开始减小时,该成像装置可以移动到相对于目标物体较低的垂直位置,或者移动至离目标物体较短的横向距离,使得该跟踪特征可以实质上被定位在成像装置的视野内或在由该成像装置捕捉的图像帧的目标区域内。

在一些实施方式中,围绕跟踪特征的轮廓的大小可以由该组内的最外面的目标物体的位置来限定。图6图示了根据一些其他实施方式的示例性图像帧序列,借此围绕跟踪特征的轮廓的大小可以增大。例如,如图6所示,可以分别在时间T1、T2和T3捕捉第一图像帧612-1、第二图像帧612-2以及第三图像帧612-3。该第一图像帧可以例如对应于图2中示出的所得图像帧213。该第一图像帧可以包括第一跟踪特征616,该第一跟踪特征包括先前已经被该图像分析器辨别的目标物体组。目标物体可以在时间T2开始从该组分散。然而,这些目标物体在时间T3仍留在该成像装置的视野内,如由第三图像帧612-3所图示的。与目标物体相关联的像素(或特征点)的大小可以由于目标物体组的分散从T1到T3增大。因此,围绕这些像素(或跟踪特征)的轮廓的大小可以随目标物体变得更加分隔开占据更大的面积而增大。在一些实施方式中,当围绕该跟踪特征的轮廓的大小开始增大时,该成像装置可以移动到相对于目标物体较高的垂直位置,或者移动至离目标物体较远的横向距离,使得该跟踪特征可以实质上被定位在成像装置的视野内或在由该成像装置捕捉的图像帧的目标区域内。

类似地,图7图示了根据一些其他实施方式的示例性图像帧序列,借此围绕跟踪特征的轮廓的大小可以减小。例如,如图7所示,可以分别在时间T1、T2和T3捕捉第一图像帧712-1、第二图像帧712-2以及第三图像帧712-3。该第一图像帧可以例如对应于图6中示出的图像帧612-3。该第一图像帧可以包括第一跟踪特征716,该第一跟踪特征包括先前已经被该图像分析器辨别的目标物体组。目标物体可以在时间T2开始会聚。在时间T3,目标物体可以会聚到更小的面积,如由第三图像帧712-3所图示的。与目标物体相关联的像素(或特征点)的大小可以由于目标物体组的会聚从T1到T3减小。因此,围绕这些像素(或跟踪特征)的轮廓的大小可以随目标物体会聚到更小的面积而减小。在一些实施方式中,当围绕该跟踪特征的轮廓的大小开始减小时,该成像装置可以移动到相对于目标物体较低的垂直位置,或者移动至离目标物体较短的横向距离,使得该跟踪特征可以实质上被定位在成像装置的视野内或在由该成像装置捕捉的图像帧的目标区域内。

在图4、图5、图6和图7的示例中,目标物体可以对应于一个或多个人类组。然而,应指出的是,目标物体并不限于此。例如在图8中示出的,围绕跟踪特征的轮廓的大小和/或形状可以随不同物体类别的一个或多个目标物体(例如,人、载运工具、动物等的组合)移动、会聚、分散、添加和/或减少而改变。可以考虑到围绕该跟踪特征的轮廓的大小和/或形状的任何改变。该轮廓的大小和/或形状可以是无定形的并且可以随着目标物体的数目改变(即,目标物体的面密度的改变)而改变,或者在目标物体共同地以随机方式移动时改变,例如如图9所示。在图9的示例中,每个轮廓可以包含与目标物体相关联的多个特征点(或像素)。轮廓内的单独目标物体可以被或可以不被辨别或跟踪,只要目标物体实质上具有相同的移动特性。在一些实施方式中,该轮廓的大小可以在将该成像装置定位成更接近目标物体时增大(由于放大)。相反,该轮廓的大小可以在将该成像装置定位成离目标物体更远时减小(由于缩小)。

在一些实施方式中,该图像分析器可以被配置成基于特征点的移动特性确定该跟踪特征相对于该背景特征正在移动。例如,返回参考图2,该图像分析器可以基于从时间T1和T2处的图像帧212-1和212-2确定的特征点的移动特性来确定跟踪特征216正在相对背景特征214移动。

图10、图11、图12、图13和图14图示了根据不同实施方式的通过成像装置对目标物体的跟踪/跟随。在图10、图11、图12、图13和图14的示例中,该成像装置可以是静止的,目标物体和背景物体位于该成像装置的视野内。如果该成像装置是静止的,则该背景特征可能完全不移动。如图10所示,该成像装置可以被定位在包括目标物体和背景物体的中央区域的正上方。例如,图10的成像装置可以被安装在UAV上,该UAV正悬停在目标物体和背景物体的正上方的固定位置处。如图11所示,该成像装置可以被定位在目标物体和背景物体的上方并且相对于它们成角度。例如,图11的成像装置可以被安装在UAV上,该UAV正悬停在目标物体和背景物体的上方并且相对于它们成角度的固定位置处。如图12所示,该成像装置可以被定位在地面上、与目标物体和背景物体相距一距离。图12的成像装置可以被安装在静止结构1204上,例如塔、杆、建筑物等。在一些实施方式中,图12的成像装置可以安装在延伸杆上,该成像装置被固定到该延伸杆上。该延伸杆可以由用户握持或者被植入在固定位置处。在一些实施方式中,该成像装置可能能够绕固定点(例如,安全相机)旋转。

在图10、图11和图12的示例中,图像帧中围绕该跟踪特征的轮廓可以在目标物体从一个位置移动到另一个位置时保持相对恒定。相比之下,在图13和图14的示例中,围绕该跟踪特征的轮廓可以在目标物体从一个位置移动到另一个位置时改变。例如,如图13和图14所示,围绕该跟踪特征的轮廓的大小和形状可以在目标物体从时间T1的第一位置移动到时间T2的第二位置并移动到时间T3的第三位置时改变。在图13的示例中,该成像装置可以被安装在UAV上,该UAV正悬停在目标物体和背景物体的上方并且相对于它们成角度的固定位置处。相比之下,在图14的示例中,该成像装置可以被安装在静止结构1404上,例如塔、杆、建筑物等。在一些实施方式中,图14的成像装置可以安装在延伸杆上,该成像装置被固定到该延伸杆上。该延伸杆可以由用户握持或者被植入在固定位置处。

在图10、图11、图12、图13和图14的示例中,可以使用该成像装置来跟踪目标物体。如前所述,图像分析器可以被配置成在图像帧中相对于该背景特征(背景物体)辨别该跟踪特征(目标物体)。在跟踪特征和背景特征已经被辨别之后,在目标物体从一个位置移动到另一个位置时,可以基于图像帧之间的像素(或特征点)的实时移动特性来跟踪目标物体。在一些实施方式中,该图像分析器可以被配置成在目标物体从一个位置移动至另一个位置时跟踪目标物体。在其他实施方式中,跟踪装置可以被配置成基于图像帧中已经被该图像分析器辨别的跟踪特征和背景特征来跟踪目标物体。

在一些实施方式中,可以在移动平台上实现图1至图14中描述的光流算法。图15图示了移动平台的示例,该移动平台还可以用作视觉跟踪系统。具体地,图15图示了根据一些实施方式的视觉跟踪系统1500,该视觉跟踪系统包括用于基于成像装置的运动特性来计算多个像素的移动特性的图像分析器。在图15的实施方式中,成像装置1510可能能够运动。例如,该成像装置可以被安装或支撑在UAV上。该视觉跟踪系统还可以包括运动感测模块1530,该运动感测模块被配置成感测该成像装置的运动并且给图像分析器1520提供运动信号1532。运动信号可以包括该成像装置的运动特性。

在图15的示例中,该图像分析器可以被配置成支持对一个或多个目标物体的视觉跟踪。该成像装置可以被配置成捕捉物体1502的图像帧。该图像分析器可以被配置成接收来自该成像装置的多个图像信号1512。图像信号可以指示在该成像装置处于运动的同时的时间段上(例如,分别在时间T1和T2)由该成像装置捕捉的多个图像帧(例如,第一图像帧1512-1和第二图像帧1512-2)。每个图像帧都可以包括多个像素。该图像分析器还可以被配置成基于该多个运动信号获取该成像装置的运动特性,并且基于该成像装置的运动特性来分析该多个图像信号,以便计算与该多个像素相关联的移动特性。所计算出的移动特性可以被编码到从该图像分析器输出的经分析的信号1522中。上述步骤可以使用光流算法来实现,并且将参考图16进一步予以详细描述。具体地,图16图示了根据一些实施方式的使用图15的图像分析器对示例性图像中的多个像素的移动特性进行计算。

参考图16,图像分析器(例如,图15的图像分析器1520)可以接收来自成像装置1610的多个图像信号。图像信号可以包括在时间T1于位置1捕捉的第一图像帧1612-1和在时间T2于位置2捕捉的第二图像帧1612-2,借此时间T2可以是时间T1之后出现的时间点,并且位置1和2是每个具有独特的空间坐标集的不同位置。尽管图16描绘了两个图像帧,但可以考虑任何数目的图像帧。例如,在一些实施方式中,图像信号可以包括在从T1开始到Tn的时间段上于各自位置1至m捕捉的多个图像帧1612-1至1612-n,其中m和n可以是大于1的任何整数。

在一些实施方式中,可以在特定的时间例子捕捉不止一个图像帧。例如,图像信号可以包括在时间T1捕捉的多个图像帧1612-1、在时间T2捕捉的多个图像帧1612-2等等。在每个时间例子的多个图像帧可以求平均并且变换成与该特定时间例子相关联的单一图像帧。在一些实施方式中,当该目标物体和该成像装置正在快速移动时可以捕捉较大数目的图像帧,并且当该目标物体和/或该成像装置正在缓慢移动时可以捕捉较小数目的图像帧。

每个图像帧都可以包括与多个特征点相关联的多个像素。如图16所示,特征点可以与目标物体(例如,人群)和背景物体(例如,建筑物、树木、高尔夫球场、加油站等)相关联。在图16的示例中,该目标物体可以在时间T1位于第一位置(参见第一图像帧1612-1)并且在时间T2移动到第二位置(参见第二图像帧1612-2)。

该多个像素可以与多个特征点相关联。该图像分析器可以被配置成基于该成像装置的运动特性来分析该多个图像信号。例如,该图像分析器可以被配置成基于该成像装置的运动特性来使该多个图像帧彼此相关。该图像分析器还可以被配置成基于与该多个像素相关联的移动特性相对于至少一个背景特征辨别至少一个跟踪特征。

例如,参考图16,该成像装置可以沿着正(+)x轴方向以速率Vi从位置1移动到位置2。因此,图像帧中的背景特征将沿着负(-)x轴方向以速率Vb’平移,因为该成像装置正在相对于静止的背景物体移动。根据该成像装置到每个背景物体的距离、该成像装置所行进的距离量以及该成像装置的视野,速率Vb’可以与速率Vi以缩放常数成比例。因此,该背景特征平移穿过图像帧的速率Vb’可以是该成像装置在3维空间中移动的速率Vi的函数。随后,该图像分析器可以通过辨别以速率Vb’移动横穿图像帧的特征点来辨别背景特征,该速率与速率Vi成比例地缩放并且与该成像装置行进的方向相反。

由于目标物体正在相对于静止的背景物体移动,与目标物体相关联的跟踪特征将以与该背景特征不同的速度移动。在图像帧中描绘了该目标特征与背景特征之间的这种移动差异。在图16的示例中,目标物体可以速率Vt在与该成像装置不同的方向上移动。当目标物体的运动被捕捉到图像帧中时,可以观察到该跟踪特征以速率Vt’相对于正x轴方向成角度θ地移动。因此,该图像分析器可以通过辨别用与该背景特征相关联的这些特征点不同的速率/方向移动穿过图像帧的特征点来辨别该目标特征。

该背景特征可以与实质上具有第一移动特性的第一像素集相关联,并且该跟踪特征可以与实质上具有第二移动特性的第二像素集相关联。与该多个像素相关联的移动特性可以包括每个像素在测量时横穿该多个图像帧的速度和加速度中的至少一个。每个像素的速度还可以包括每个像素的线性(平移)速度和/或角速度。每个像素的线性速度都可以包括每个像素的线性方向和线性速率。

该成像装置的运动特性可以包括下列各项中的至少一项:该成像装置的姿态、瞬时位置、速度以及加速度。该成像装置的速度还可以包括该成像装置的线性速度和/或角速度。该成像装置的线性速度可以包括该成像装置的线性方向和线性速率。该第一像素集的第一线性方向可以与该成像装置的线性方向相关联。(与该背景特征相关联的)该第一像素集的第一线性速率可以与该成像装置的线性速率以速率常数成比例。该成像装置的角速度可以包括该成像装置的旋转方向和旋转速率。该第一像素集的曲线方向可以与该成像装置的旋转方向相关联。该第一像素集的曲线方向可以与该成像装置的旋转速率以速率常数成比例。该成像装置的加速度还可以包括该成像装置的线性加速度和/或角加速度。该第一像素集的线性加速度可以与该成像装置的线性加速度相关联。该第一像素集的角加速度可以与该成像装置的角加速度相关联。

在一些实施方式中,该成像装置的瞬时位置可以使用测距和/或定位装置来确定。该测距和/或定位装置可以是全球定位系统(GPS)装置。在一些实施方式中,该测距和/或定位装置可以是能够测量该成像装置与目标物体/背景物体之间的距离的飞行时间相机。该成像装置的瞬时位置可以相对于背景物体的物理位置来确定。在一些实施方式中,该图像分析器可以被配置成基于该成像装置的瞬时位置和背景物体的物理位置计算缩放因子。在一些实施方式中,该图像分析器还可以被配置成使用该成像装置的运动特性和该缩放因子计算每个像素的移动特性。在一些实施方式中,确定该成像装置的运动特性可以使用传感器,诸如位置传感器(例如,全球定位系统(GPS)传感器、支持位置三角测量的移动装置发射器)、视觉传感器(例如,能够检测可见光、红外光或紫外光的成像装置,诸如相机)、接近度或范围传感器(例如,超声波传感器、激光雷达、飞行时间或深度相机)、惯性传感器(例如,加速度计、陀螺仪、惯性测量单元(IMU))、高度传感器、姿态传感器(例如,罗盘)、压力传感器(例如,气压计)、音频传感器(例如,麦克风)和/或场传感器(例如,磁力计、电磁传感器)。

基于该成像装置的运动特性以及背景特征和目标特征的移动特性,该图像分析器可以确定目标物体相对于背景物体和成像装置的移动。例如,该图像分析器可以检测目标物体正在相对于背景物体和成像装置移动的方向和速率。图17、图18和图19图示了成像装置正在跟踪目标物体组的不同实施方式。具体地,图17图示了视觉跟踪系统1700,在该视觉跟踪系统中成像装置正在以速率Vi移动并且目标物体正在以速率Vt在实质上相同的方向上移动,其中Vi与Vt实质上相同。

图18和图19图示了目标物体和成像装置可以正沿实质上相同的方向但以不同的速率移动的实施方式。在图18的视觉跟踪系统1800中,该成像装置可以比目标物体更慢地移动。例如,该成像装置可以正在以速率Vi移动,并且目标物体可以正在以速率Vt移动,其中Vi可以小于Vt(Vi<Vt)。相反,在图19的视觉跟踪系统1900中,该成像装置可以比目标物体更快地移动。例如,该成像装置可以正在以速率Vi移动,并且目标物体可以正在以速率Vt移动,其中Vi可以大于Vt(Vi>Vt)。在图17、图18和图19中描绘的不同实施方式可以被示意性地描绘在图20中。图20中的每个部分都可以对应于该成像装置与目标物体之间的不同的相对移动。例如,图20(A部分)可以对应于图17的实施方式;图20(B部分)可以对应于图18的实施方式;并且图20(C部分)可以对应于图19的实施方式。

参考图20(A部分),成像装置可以在时间T1捕捉第一图像帧2012-1并且在时间T2捕捉第二图像帧2012-2。该成像装置和目标物体可以实质上相同的速率沿实质上相同的方向移动。例如,该成像装置可以速率Vi移动并且目标物体可以速率Vt沿正x轴方向移动,借此Vi和Vt可以实质上相同。如先前所描述的,该背景特征平移穿过图像帧的速率Vb’可以是该成像装置在3维空间中(在这种情况下,沿正x轴方向)移动的速率Vi的函数。该目标特征平移穿过图像帧的速率Vt’可以是目标物体在3维空间中(在这种情况下,也沿正x轴方向)移动的速率Vt的函数。由于该成像装置正在相对于背景物体移动,该背景特征在图像帧中可以速率Vb’沿该成像装置正在移动的相反方向平移,如图20(A部分)所示。该背景特征和目标特征可以实质上相同的速率并在该第一图像帧与第二图像帧之间经过相同的距离但以彼此相反的方向平移。基于图20(A部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体正在以实质上相同的速率沿实质上相同的方向移动。

在一些实施方式中,该成像装置和目标物体可以沿实质上相同的方向但以不同的速率移动。例如,参考图20(B部分),该成像装置可以比目标物体更快地移动。具体地,该成像装置可以速率Vi移动并且目标物体可以速率Vt沿正x轴方向移动,借此Vi大于Vt(Vi>Vt)。因此,该背景特征可以在该第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿正x轴方向平移,其中Vt’<Vb’。基于图20(B部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体正在沿实质上相同的方向移动,并且目标物体正在比该成像装置更慢地移动。

在一些情况下,例如参考图20(C部分),该成像装置可以比目标物体更慢地移动。具体地,该成像装置可以速率Vi移动并且目标物体可以速率Vt沿正x轴方向移动,借此Vi小于Vt(Vi<Vt)。因此,该背景特征可以在该第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿正x轴方向平移,其中Vt’>Vb’。基于图20(C部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体正在沿实质上相同的方向移动,并且目标物体正在比该成像装置更快地移动。

在一些实施方式中,该图像分析器可以检测到目标物体可以是静止的或休止的。例如,参考图21(A部分),成像装置可以在时间T1捕捉第一图像帧2112-1并且在时间T2捕捉第二图像帧2112-2。该成像装置可以速率Vi沿正x轴方向移动。然而,目标物体可以是静止的或休止的。因此,该背景特征可以速率Vb’沿负x轴方向平移,并且该目标特征可以速率Vt’沿负x轴方向平移,借此Vb’实质上等于Vt’。由于该目标特征和背景特征正在沿实质上相同的方向以实质上相同的速率移动,这意味着目标物体与背景物体之间没有相对运动。因此,基于图21(A部分)中的特征点的移动特性,该图像分析器可以确定目标物体是静止的或休止的。图21(A部分)的实施方式可以基于如下假设:先前已经基于目标物体相对背景物体的移动在某一其他时间例子对目标物体进行了辨别。

在图20的实施方式中,该成像装置和目标物体可以正在沿实质上相同的方向移动。在一些例子中,该成像装置和目标物体还可以在相反方向上移动,例如,如图21(B和C部分)所图示的。

参考图21(B部分),该成像装置可以比目标物体更快地但在相反方向上移动。具体地,该成像装置可以速率Vi沿正x轴方向移动并且目标物体可以速率Vt沿负x轴方向移动,借此Vi大于Vt(Vi>Vt)。因此,该背景特征可以在该第一图像帧与第二图像帧之间以速率Vb’沿负X轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿负X轴方向平移,其中Vt’<Vb’。基于图21(B部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体正在沿实质上相反的方向移动,并且目标物体正在比该成像装置更慢地移动。

同样,参考图21(C部分),该成像装置可以比目标物体更慢地但在相反方向上移动。具体地,该成像装置可以速率Vi沿正x轴方向移动并且目标物体可以速率Vt沿负x轴方向移动,借此Vi小于Vt(Vi<Vt)。因此,该背景特征可以在该第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿负x轴方向平移,其中Vt’>Vb’。基于图21(C部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体正在沿实质上相反的方向移动,并且目标物体正在比该成像装置更快地移动。

在一些实施方式中,该成像装置和目标物体正在以彼此相倾斜的方向移动,如图22所图示的。

例如,参考图22(A部分),该成像装置和目标物体可以实质相同的速率沿彼此相倾斜的方向移动。例如,该成像装置可以速率Vi沿正x轴方向移动并且目标物体可以速率Vt沿与正x轴方向相倾斜的方向移动。Vi和Vt可以是实质上相同的。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿倾斜方向平移,其中。基于图22(A部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体正在沿彼此相倾斜的方向移动,并且目标物体和该成像装置正在以实质上相同的速率移动。

在一些实施方式中,该成像装置和目标物体可以沿不同的方向并以不同的速率移动。例如,在一些例子中,该成像装置和目标物体可以沿彼此相倾斜的方向移动,并且该成像装置可以比目标物体更快地移动。如图22(B部分)所示,该成像装置可以速率Vi沿正x轴方向移动并且目标物体可以速率Vt沿与正x轴方向相倾斜的方向移动。Vi可以大于Vt(Vi>Vt)。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿倾斜方向平移,其中Vt’<Vb’。基于图22(B部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体正在沿彼此相倾斜的方向移动,并且目标物体正在比该成像装置更慢地移动。

在一些其他例子中,该成像装置和目标物体可以沿彼此相倾斜的方向移动,并且该成像装置可以正在比目标物体更慢地移动。参考图22(C部分),该成像装置可以速率Vi沿正x轴方向移动并且目标物体可以速率Vt沿与正x轴方向相倾斜的方向移动。Vi可以小于Vt(Vi<Vt)。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿倾斜方向平移,其中Vt’>Vb’。基于图22(C部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体正在沿彼此相倾斜的方向移动,并且目标物体正在比该成像装置更快地移动。

如先前所描述的,该成像装置和目标物体可以在不同的方向上移动。不同的方向可以包括彼此平行的方向、彼此相倾斜的方向(相互形成锐角或者相互形成钝角)。在一些例子中,不同的方向可以包括彼此垂直的方向。可以考虑到该成像装置和目标物体的移动方向的任何定向。

在图20、图21和图22的实施方式中,该成像装置和目标物体线性地移动,这致使该背景特征和目标特征在图像帧之间平移。在一些实施方式中,该成像装置和/或目标物体可以具有非线性运动特性。例如,成像装置和/或目标物体可以曲线方式沿圆弧移动,这可以致使该背景特征和/或目标特征在图像帧之间旋转。

图23图示了成像装置2310正在以曲线方式沿圆弧跟踪目标物体2316的实施方式。该成像装置和目标物体可以不同速率沿该圆弧移动。例如,在时间T1,该成像装置和目标物体可以位于第一位置并且分隔开距离D1。在时间T2,该成像装置和目标物体可以位于第二位置并且分隔开距离D2,其中D2大于D1。换言之,在时间T1至T2之间该目标物体的角速率可以大于该成像装置的角速率。该图像分析器可以被配置成分析图像帧中的特征的非线性运动特性,如参考图24和图25所描述的。

在图24的实施方式中,该成像装置可以正在沿线性方向移动,并且目标物体可以正在沿曲线方向移动。

例如,参考图24(A部分),该成像装置可以速率Vi沿正x轴方向移动并且目标物体可以速率Vt沿曲线方向移动。速率Vt可以对应于线性速率,并且可以使用Vt=R.ω来计算,其中R是沿该曲线方向的圆弧(圆)的半径,并且ω是目标物体的角速率。在图24(A部分)的实施方式中,Vi和Vt可以是实质上相同的。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿曲线方向平移,其中。基于图24(A部分)中的特征点的移动特性,该图像分析器可以确定该成像装置正在沿线性方向移动,目标物体正在沿曲线方向移动,并且目标物体和该成像装置正在以实质上相同的速率移动。

在一些实施方式中,该成像装置可以沿线性方向移动,目标物体可以沿曲线方向移动,并且该成像装置和目标物体可以不同速率移动。例如,参考图24(B部分),该成像装置可以速率Vi沿正x轴方向移动并且目标物体可以速率Vt沿曲线方向移动。Vi可以大于Vt(Vi>Vt)。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿曲线方向平移,其中Vt’<Vb’。基于图24(B部分)中的特征点的移动特性,该图像分析器可以确定该成像装置正在沿线性方向移动,目标物体正在沿曲线方向移动,并且目标物体正在比该成像装置更慢地移动。

在图24(C部分)所示的示例中,该成像装置可以速率Vi沿正x轴方向移动并且目标物体可以速率Vt沿曲线方向移动。Vi可以小于Vt(Vi<Vt)。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿负x轴方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿曲线方向平移,其中Vt’>Vb’。基于图24(C部分)中的特征点的移动特性,该图像分析器可以确定该成像装置正在沿线性方向移动,目标物体正在沿曲线方向移动,并且目标物体正在比该成像装置更快地移动。

在一些实施方式中,该成像装置和目标物体均可以正在沿曲线方向移动,如图25的实施方式中示出的。

例如,参考图25(A部分),该成像装置可以速率Vi沿曲线方向移动并且目标物体可以速率Vt沿相同曲线方向移动。Vi和Vt可以是实质上相同的。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿曲线方向移动,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿曲线方向平移,其中。基于图25(A部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体两者都正在沿曲线方向移动,并且目标物体和该成像装置正在以实质上相同的速率移动。

在一些实施方式中,该成像装置和目标物体两者都可以沿曲线方向但以不同的速率移动。例如,参考图25(B部分),该成像装置可以速率Vi沿曲线方向移动并且目标物体可以速率Vt沿曲线方向移动。Vi可以大于Vt(Vi>Vt)。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿曲线方向平移,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿曲线方向平移,其中Vt’<Vb’。基于图25(B部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体两者都正在沿曲线方向移动,并且目标物体正在比该成像装置更慢地移动。

在图25(C部分)所示的示例中,该成像装置可以速率Vi沿曲线方向移动并且目标物体可以速率Vt沿曲线方向移动。Vi可以小于Vt(Vi<Vt)。因此,该背景特征可以在第一图像帧与第二图像帧之间以速率Vb’沿曲线方向移动,并且该目标特征可以在该第一图像帧与第二图像帧之间以速率Vt’沿曲线方向平移,其中Vt’>Vb’。基于图25(C部分)中的特征点的移动特性,该图像分析器可以确定该成像装置和目标物体两者都正在沿曲线方向移动,并且目标物体正在比该成像装置更快地移动。

在图20、图21和图22的实施方式中,(与该背景特征相关联的)第一像素集的第一移动特性可以包括第一线性速度,其包括第一线性方向和第一线性速率。(与该目标特征相关联的)第二像素集的第二移动特性可以包括第二线性速度,其包括第二线性方向和第二线性速率。在一些实施方式中,该图像分析器可以被配置成当该第一线性方向在相反方向上平行于该第二线性方向时并且当该第一线性速率与该第二线性速率相同时确定该目标物体正在以与该成像装置实质上相同的速率和方向移动(例如,参见图20A)。

在一些实施方式中,该图像分析器可以被配置成当该第一线性方向在相反方向上平行于该第二线性方向时并且当该第一线性速率不同于该第二线性速率时确定该目标物体正在以与该成像装置实质上相同的方向并且以与该成像装置不同的速率移动(例如,参见图20(B和C部分))。在这些实施方式中,该图像分析器可以被配置成当该第一线性速率小于该第二线性速率时确定该目标物体正比该成像装置更快地移动(例如,参见图20(C部分)),或者当该第一线性速率大于该第二线性速率时确定该目标物体正比该成像装置更慢地移动(例如,参见图20(B部分))。

在一些实施方式中,该图像分析器可以被配置成当该第一线性方向在相同方向上平行于该第二线性方向时并且当该第一线性速率与该第二线性速率相同时确定该目标物体是静止的或休止的(例如,参见图21(A部分))。

在一些实施方式中,该图像分析器可以被配置成当该第一线性方向在相同方向上平行于该第二线性方向时并且当该第一线性速率不同于该第二线性速率时确定该目标物体和该成像装置正在沿相反方向以不同速率移动(例如,参见图21(B和C部分))。在这些实施方式中,该图像分析器可以被配置成当该第一线性速率小于该第二线性速率时确定该目标物体正比该成像装置更快地移动(例如,参见图21(C部分)),或者当该第一线性速率大于该第二线性速率时确定该目标物体正比该成像装置更慢地移动(例如,参见图21(B部分))。

在一些其他实施方式中,该图像分析器可以被配置成当该第一线性方向不同于该第二线性方向时并且当该第一线性速率与该第二线性速率实质上相同时确定该目标物体正在沿与该成像装置不同的方向并且以与该成像装置实质上相同的速率移动(例如,参见图22(A部分))。在这些实施方式中,该图像分析器可能能够确定该第一线性方向是否倾斜于该第二线性方向。

在另外一些实施方式中,该图像分析器可以被配置成当该第一线性方向不同于该第二线性方向时并且当该第一线性速率不同于该第二线性速率时确定该目标物体正在沿与该成像装置不同的方向并且以与该成像装置不同的速率移动(例如,参见图22(B和C部分))。在这些实施方式中,该图像分析器可能能够确定该第一线性方向是否倾斜于该第二线性方向。该图像分析器还可以被配置成当该第一线性速率小于该第二线性速率时确定该目标物体正比该成像装置更快地移动(例如,参见图22(C部分)),或者当该第一线性速率大于该第二线性速率时确定该目标物体正比该成像装置更慢地移动(例如,参见图22(B部分))。

在一些实施方式中,(与该背景特征相关联的)第一像素集的第一移动特性还可以包括第一曲线速度,其包括第一曲线方向和第一曲线速率。(与该目标特征相关联的)第二像素集的第二移动特性可以包括第二曲线速度,其包括第二曲线方向和第二曲线速率。在一些实施方式中,该图像分析器可以被配置成确定该目标物体和该成像装置正在沿相同曲线方向和以相同曲线速率移动(例如,参见图25(A部分))。

在一些实施方式中,该图像分析器可以被配置成确定该目标物体和该成像装置正在沿相同曲线方向和以不同曲线速率移动(例如,参见图25(B和C部分))。在这些实施方式中,该图像分析器可以被配置成当该第一曲线速率小于该第二曲线速率时确定该目标物体正比该成像装置更快地移动(例如,参见图25(C部分)),或者当该第一曲线速率大于该第二曲线速率时确定该目标物体正比该成像装置更慢地移动(例如,参见图25(B部分))。

在一些实施方式中,该成像装置可以沿线性方向移动并且该目标物体可以沿曲线方向移动(例如,参见图24)。在一些其他实施方式中,该成像装置可以沿曲线方向移动并且该目标物体可以沿线性方向移动。在另外一些实施方式中,该成像装置和目标物体可以在不同的时间沿线性和/或曲线两个方向移动。可以考虑到该成像装置和目标物体的任何运动(线性的、非线性的、曲线的、之字形的、随机图案等等)。

在一些实施方式中,每个像素的加速度还包括每个像素的线性加速度和/或角加速度。例如,(与该背景特征相关联的)第一像素集的第一移动特性可以包括第一线性加速度和/或第一角加速度。(与该目标特征相关联的)第二像素集的第二移动特性可以包括第二线性加速度和/或第二角加速度。

该图像分析器可以被配置成当该第一线性加速度不同于该第二线性加速度时确定该目标物体相对于该背景物体和该成像装置正在加速。例如,该图像分析器可以在该第一线性加速度小于该第二线性加速度时确定该目标物体正比该成像装置更快地加速,或者在该第一线性加速度大于该第二线性加速度时确定该目标物体正比该成像装置更慢地加速。

同样,该图像分析器可以被配置成当该第一角加速度不同于该第二角加速度时确定该目标物体相对于该背景物体和该成像装置正在加速。例如,该图像分析器可以在该第一角加速度小于该第二角加速度时确定该目标物体正比该成像装置更快地加速,或者在该第一角加速度大于该第二角加速度时确定该目标物体正比该成像装置更慢地加速。

图26图示了根据一些实施方式的视觉跟踪系统2600,该视觉跟踪系统用于通过调整移动视觉跟踪装置的运动特性来跟踪特征点组。在图26的实施方式中,该系统可以包括用于从图像分析器2620输出的经分析的信号2622的反馈环路。经分析的信号可以被返回提供至运动控制器2640,该运动控制器包括运动感测模块2630。在一些实施方式中,该运动控制器和该运动感测模块可以被提供在不同的部件或装置上。该运动控制器可以被配置成通过调整移动视觉跟踪装置的运动特性来跟踪特征点组。该成像装置可以被安装或支撑在该移动视觉跟踪装置上。该移动视觉跟踪装置可以是UAV。该运动感测模块可以被配置成感测该成像装置和/或移动视觉跟踪装置的运动,并且将运动信号2632提供至该图像分析器。运动信号可以包括该成像装置和/或移动视觉跟踪装置的运动特性。

该图像分析器可以被配置成基于由该成像装置提供的图像信号2612和由该运动感测模块提供的运动信号来获取多个特征点的移动特性。该图像分析器还可以被配置成基于该多个特征点的移动特性从该多个特征点中选定特征点组。与该特征点组相关联的移动信息通过经分析的信号可以返回提供至该运动控制器。该运动控制器可以被配置成通过调整该移动视觉跟踪装置/成像装置的运动特性来跟踪该特征点组,以便将该特征点组实质上定位在使用该成像装置捕捉的每个图像帧的目标区域中。

在图26的示例中,该图像分析器可以被配置成支持对一个或多个目标物体的视觉跟踪。例如,该图像分析器可以被配置成接收来自该成像装置的该多个图像信号。图像信号可以指示在该移动视觉跟踪装置/成像装置处于运动的同时的时间段上(例如,分别在时间T1和T2)由该成像装置捕捉的多个图像帧(例如,第一图像帧2612-1和第二图像帧2612-2)。每个图像帧都可以包括多个像素。该图像分析器还可以被配置成基于该多个运动信号获取该移动视觉跟踪装置的运动特性,并且基于该移动视觉跟踪装置的运动特性来分析该多个图像信号,以便计算与该多个像素相关联的移动特性。特征点组的选择性跟踪可以使用光流算法来实现,并且将参考图27进一步予以详细描述。具体地,图27图示了根据一些实施方式的使用图26的移动视觉跟踪系统对示例性图像中的特征点组进行跟踪。

参考图27,图像分析器(例如,图26的图像分析器2620)可以接收来自成像装置2710的多个图像信号。该成像装置可以被安装在UAV上。图像信号可以包括在时间T1于位置1捕捉的第一图像帧2712-1和在时间T2于位置1捕捉的第二图像帧2712-2,借此时间T2可以是时间T1之后发生的时间点。在时间T1,选定的特征点组(例如,与多个目标物体相关联的跟踪特征)可以被定位在该第一图像帧的目标区域内(矩形虚线框)。在时间T2,所选定的特征点组可以已经移动到该第二图像帧的目标区域之外。在图27的示例中,该目标区域可以是每个图像帧的中央区域。在其他实施方式中,该目标区域可以是每个图像帧的边缘区域。在一些实施方式中,可以通过使该成像装置变焦更接近目标物体或者变焦更远离目标物体来调整图像帧中的目标特征的大小。在一些实施方式中,每个图像帧都可以包括位于不同位置或与彼此重叠的多个目标区域。

尽管图27描绘了三个图像帧,但可以考虑任何数目的图像帧。例如,在一些实施方式中,图像信号可以包括在从T1开始到Tn的时间段上于各自位置1至m捕捉的多个图像帧2712-1至2712-n,其中m和n可以是大于1的任何整数。

在一些实施方式中,当该目标物体和/或该成像装置正在快速移动时可以捕捉较大数目的图像帧,并且当该目标物体和/或该成像装置正在缓慢移动时可以捕捉较小数目的图像帧。

每个图像帧都可以包括与多个特征点相关联的多个像素。如图27所示,特征点可以与目标物体(例如,人群)和背景物体(例如,建筑物、树木、高尔夫球场、加油站等)相关联。在图27的示例中,该目标物体可以在时间T1位于第一位置(参见第一图像帧2712-1)并且在时间T2移动到第二位置(参见第二图像帧2712-2)。

在图27的示例中,与该特征点组相关联的移动信息通过经分析的信号可以返回提供至该运动控制器。该运动控制器可以被配置成通过调整该移动视觉跟踪装置的运动特性(例如,通过将该跟踪装置从位置1移动至位置2)来跟踪该特征点组,以便将该特征点组实质上定位在每个目标区域中。因此,该特征点组可以实质上被定位在第三图像帧2712-3的目标区域内,该第三图像帧是在时间T3于位置2捕捉到的。

该移动视觉跟踪装置的运动特性可以被调整成使得该移动视觉跟踪装置的运动特性与该特征点组的移动特性实质上相同。该特征点组的移动特性可以包括至少该特征点组的速度和/或加速度。该移动视觉跟踪装置的速度可以与该特征点组的速度相关联。同样,该移动视觉跟踪装置的加速度可以与该特征点组的加速度相关联。因此,该运动控制器可以调整该移动视觉跟踪装置的速度和/或加速度来跟踪该特征点组,以便将该特征点组实质上定位在每个目标区域中。

在一些实施方式中,当移动视觉跟踪装置由诸如UAV的可移动设备携带时,该UAV的移动特性可以被调整成允许该移动视觉跟踪装置跟踪该特征点组。在一些实施方式中,该移动视觉跟踪装置可以包括成像装置。在一些实施方式中,该运动控制器可以被配置成相对于该UAV的移动来调整该成像装置的移动以跟踪该特征点组。在一些实施方式中,该成像装置可以由可移动设备支撑。该可移动设备可以是无人飞行器(UAV)。该可移动设备可以包括用于该成像装置的载体,该载体允许该成像装置相对于在该可移动设备上的支撑结构移动。在一些实施方式中,该特征点组可以被定位成始终在该成像装置的视野内。

如先前所描述的,该运动控制器可以被配置成通过调整该移动视觉跟踪装置/成像装置的运动特性来跟踪该特征点组,以便将该特征点组实质上定位在使用该成像装置捕捉的每个图像帧的目标区域中。该移动视觉跟踪装置/成像装置的运动特性可以通过以下各项进行调整:该装置的平移移动、该装置的旋转移动、该装置的曲线运动、该装置的定向改变(例如,姿态、俯仰、横滚、偏航)、该装置的放大或缩小(放大率)或以上各项的任何组合。在一些实施方式中,该移动视觉跟踪装置/成像装置的运动特性可以基于某些优先参数(例如,该装置停留在距目标物体的预定距离内,或保持距目标物体最小距离)来调整。

在一些实施方式中,该移动视觉跟踪装置可以被配置成只要该特征点组实质上具有相同的移动特性就跟踪该特征点组。例如,该特征点组可以总体上沿相同方向移动。该移动视觉跟踪装置可以被配置成独立于该特征点组的大小和/或形状来跟踪该特征点组。

在图27的实施方式中,该移动视觉跟踪装置被示出为在目标物体从一个位置移动至另一个位置时跟踪由实质上具有相同的形状和大小的轮廓围绕的特征点组。在一些实施方式中,该移动视觉跟踪装置可以跟踪由具有无定形形状和/或改变大小的轮廓围绕的特征点组,例如在图28中示出的。在图28的实施方式中,在目标物体的数目改变时,或者在目标物体共同地以随机方式移动时,围绕该特征点组的轮廓的大小和/或形状随时间而改变。例如,在目标物体在时间T1、T2和T3于不同位置之间移动时,该轮廓的大小和/或形状可以是不同的。该运动控制器可以调整该移动视觉跟踪装置的运动特性来跟踪不断改变的特征点组,以便将该特征点组实质上定位在每个目标区域中。

在一些实施方式中,该特征点组可以包括多个特征点子集。该多个特征点子集可以包括第一特征点子集和第二特征点子集。该第一特征点子集和第二特征点子集可以实质上具有相同的移动特性。该移动视觉跟踪装置可以被配置成跟踪实质上具有相同的移动特性的该第一特征点子集和第二特征点子集,如图29(A部分)所图示的。

在一些备选实施方式中,该第一特征点子集和第二特征点子集可以实质上具有不同的移动特性。在这些实施方式中,该移动视觉跟踪装置可以被配置成跟踪该第一特征点子集或第二特征点子集中的至少一项。例如,在一些例子中,该移动视觉跟踪装置可以被配置成当该第一特征点子集的大小大于该第二特征点子集的大小时跟踪该第一特征点子集,如图29(B部分)所图示的。在其他例子中,该移动视觉跟踪装置可以被配置成当该第一特征点子集的大小小于该第二特征点子集的大小时跟踪该第一特征点子集。该移动视觉跟踪装置可以跟踪任何特定的特征点子集,这取决于与该特征点子集相关联的各种特性。示例性特性可以包括大小(如上所述)、形状、移动特性等等。移动特性可以包括特征点的速率、加速度或定向。在一些实施方式中,可以基于多因素加权(例如,基于与大小、形状、速率、定向等等相关的多个不同因素)来跟踪该特征点子集。在一些实施方式中,该跟踪装置可以被配置成尽可能长久地跟踪特征点(例如,如果特征点开始分散则通过缩小以增加视野)并且被配置成如果特征点实质上全部都无法以足够的清晰度/细节进行跟踪则选择特征点子集中的一个或多个。在一些实施方式中,当特征点开始分散时,该成像装置可以移动到相对于目标物体较高的垂直位置,或者移动至离目标物体较远的横向距离,使得该跟踪特征可以被定位在成像装置的视野内或在由该成像装置捕捉的图像帧的目标区域内。

在一些实施方式中,可以将传感器和/或处理器与可移动物体耦合。可移动物体可以是无人可移动物体,例如无人飞行器。在一些实施方式中,传感器可以包括诸如相机的成像装置。UAV可以携带一个或多个成像装置。在本文关于UAV的任何描述根据期望都可以适用于任何其他类型的可移动物体。在一些实施方式中,该处理器可以是由UAV携带的嵌入式处理器。备选地,该处理器可以是与UAV分开的(例如,在与UAV通信的地面站,或者在与UAV通信的可移动遥控器)。UAV可以利用如本文所描述的成像装置以进行操作(例如,在视觉跟踪的情景下)。例如,UAV上的处理器可以分析由成像装置捕捉到的图像并且使用它们来辨别和/或跟踪目标物体。UAV可以利用计算机视觉来在环境内自导航。自导航可以包括确定UAV的局部或全局位置、UAV的定向、障碍物的检测和避让等等。本公开的成像装置可以位于UAV的任何合适部分上,诸如在UAV的上方、下方、侧面或者机身内。一些成像装置可以机械地耦合至UAV,从而使得UAV的空间布局和/或运动对应于成像装置的空间布局和/或运动。成像装置可以通过刚性耦合而耦合至UAV,从而使得成像装置相对于其所附接的UAV的部分不移动。备选地,成像装置与UAV之间的耦合可以允许成像装置相对于UAV移动(例如,相对于UAV平移或旋转移动)。耦合可以是永久性耦合或者非永久性(例如,可拆卸的)耦合。合适的耦合方法可以包括粘合剂、粘结、焊接和/或紧固件(例如,螺钉、钉、销等)。任选地,成像装置可以与UAV的一部分一体成型。此外,如本文中所讨论的实施方式,成像装置可以与UAV的一部分(例如,处理单元、控制系统、数据存储装置)电耦合,从而使成像装置收集的数据能够用于UAV的各种功能(例如,导航、控制、动力、与用户或者其他装置通信等)。成像装置可以与UAV的一部分(例如,处理单元、控制系统、数据存储装置)可操作地耦合。一个或多个成像装置可以位于该UAV上。例如,1个、2个、3个、4个、5个或更多个成像装置可以位于在该UAV上。该一个或多个成像装置可以具有相同的视野(FOV)或不同的FOV。该一个或多个成像装置中的每个可以被耦合到一个或多个处理器上。该一个或多个成像装置中的每个可以单独地或共同地执行本文提及的方法。该一个或多个成像装置可以捕捉每个具有期望纹理质量的图像。每个成像装置都可以捕捉用于相同或不同的功能(例如,视觉跟踪应用)的图像。例如,UAV可以与两个成像装置耦合,其中一个成像装置跟踪目标物体组,并且另一个成像装置捕捉用于导航或自定位的图像。

如先前所描述的,该成像装置可以被安装在跟踪装置上。该跟踪装置可以是UAV。在一些例子中,该跟踪装置可以被实现UAV上或提供在UAV中。本文关于UAV的任何描述都可以适用于任何其他类型的飞行器或任何其他类型的可移动物体,并且反之亦然。该跟踪装置可能能够实现自推进运动。关于UAV的描述可以适用于任何类型的无人可移动物体(例如,可以穿过空气、陆地、水或太空的物体)。UAV可能能够对来自遥控器的命令作出响应。该遥控器无需物理地连接UAV,并且可以与UAV相距一距离无线通信。在一些例子中,UAV可能能够自主或半自主地操作。UAV可能能够遵循预编程指令集。在一些例子中,UAV可以通过对来自遥控器的一个或多个命令作出响应来半自主地操作,而在其他情况下是自主地操作的。例如,来自遥控器的一个或多个命令可以使UAV根据一个或多个参数开始自主或半自主动作序列。

UAV可以具有可以允许UAV在空中来回移动的一个或多个动力单元。该一个或多个动力单元可以使得UAV能够关于一个或多个、两个或更多个、三个或更多个、四个或更多个、五个或更多个、六个或更多个自由度移动。在一些例子中,UAV可能能够绕一条、两条、三条或更多条旋转轴线旋转。旋转轴线可以相互正交。旋转轴线可以在整个UAV的飞行过程中保持互相正交。旋转轴线可以包括俯仰轴线、横滚轴线和/或偏航轴线。UAV可能能够沿着一个或多个维度移动。例如,UAV可能能够由于一个或多个旋翼所产生的升力而向上移动。在一些例子中,UAV可能能够沿Z轴(可以相对于UAV定向向上)、X轴和/或Y轴(可以是横向的)移动。UAV可能能够沿可以相互正交的一条、两条或三条轴线移动。

UAV可以是旋翼机。在一些例子中,UAV可以是多旋翼机,该多旋翼机可以包括多个旋翼。该多个旋翼可能能够进行旋转以产生用于UAV的升力。旋翼可以是可能能够使UAV在空中自由移动的动力单元。旋翼可以按相同速率旋转和/或可以产生相同量的升力或推力。旋翼可以任选地以变化的速率旋转,这可能产生不同量的升力或推力和/或允许UAV旋转。在一些例子中,可以在UAV上提供一个、两个、三个、四个、五个、六个、七个、八个、九个、十个或更多个旋翼。旋翼可以被布置为使得其旋转轴线彼此平行。在一些例子中,旋翼可以具有相对于彼此成任意角度的旋转轴线,这可能影响UAV的运动。

该UAV可以具有外壳。该外壳可以包括一个或多个内部空腔。该UAV可以包括中央本体。该UAV可以任选地具有从该中央本体分支出来的一个或多个臂。臂可以支撑动力单元。一个或多个分支空腔可以位于该UAV的臂内。该外壳可以包括或可以不包括从该中央本体分支出来的臂。在一些例子中,该外壳可以是由涵盖了该中央本体和臂的整合件形成的。备选地,使用分开的外壳或零件来形成该中央本体和臂。

任选地,该跟踪装置可能是可通过改变空间位置来移动的(例如,在X方向、Y方向和/或Z方向上平移)。备选地或组合地,该跟踪装置可以被配置成用于改变在空间内的定向。例如,该跟踪装置可能能够绕偏航轴线、俯仰轴线和/或横滚轴线进行旋转。在一个示例中,该跟踪装置可以实质上不改变空间位置,但是可以改变角定向(例如,安装在诸如结构件的静止支撑件上的安全相机)。在另一个示例中,该跟踪装置可以实质上不改变定向但是可以改变空间位置。在一些例子中,该跟踪装置可能能够改变空间位置和角定向两者。

图30图示了根据实施方式的包括载体3002和负载3004的可移动物体3000。尽管可移动物体3000被描绘为航空器,但是此描绘并不旨在是限制性的,并且可以使用任何合适类型的可移动物体,如本文前面所述的。本领域技术人员将了解本文在航空器系统的情景下所描述的实施方式中的任一可以应用于任何合适的可移动物体(例如,UAV)。

在一些实施方式中,可移动物体3000可以是UAV。UAV可以包括具有任何数目(例如,一个、两个、三个、四个、五个、六个或更多个)旋翼的动力系统。无人飞行器的旋翼或者其他动力系统可以使无人飞行器能够悬停/维持位置、改变定向和/或改变位置。相对旋翼的轴之间的距离可以是任意合适的长度。例如,该长度可以小于或等于2m,或小于等于5m。在一些实施方式中,该长度可以在从40cm至7m、从70cm至2m或者从5cm至5m的范围内。本文对UAV的任何描述都可以应用于可移动物体,诸如不同类型的可移动物体,并且反之亦然。

在一些例子中,负载3004可以在不需要载体3002的情况下提供在可移动物体3000上。可移动物体3000可包括动力机构3006、感测系统3008以及通信系统3010。动力机构3006可包括旋翼、螺旋桨、桨叶、引擎、马达、轮子、轮轴、磁体或喷嘴中的一者或多者,如本文前面所述的。该可移动物体可以具有一个或多个、两个或更多个、三个或更多个或者四个或更多个动力机构。动力机构可以全部是相同的类型。备选地,一个或多个动力机构可以为不同类型的动力机构。在一些实施方式中,动力机构3006可以使可移动物体3000能够从表面垂直起飞或者垂直降落于表面上而不需要可移动物体3000的任何水平移动(例如,不需要沿跑道滑行)。任选地,动力机构3006可以是可操作的以允许可移动物体3000在指定的位置和/或定向悬停在空中。

例如,可移动物体3000可以具有多个水平定向的旋翼,该旋翼可以为该可移动物体提供升力和/或推力。该多个水平定向的旋翼可以被致动以提供垂直起飞、垂直降落以及悬停能力给可移动物体3000。在一些实施方式中,水平定向的旋翼中的一个或多个可以在顺时针方向上旋转,同时水平旋翼中的一个或多个可以在逆时针方向上旋转。例如,顺时针旋翼的数量可以与逆时针旋翼的数量相等。水平定向的旋翼的每个的旋转速率可以独立地变化以便控制每个旋翼产生的升力和/或推力,并且由此调整可移动物体3000(例如,关于多达三个平移度以及多达三个旋转度)的空间布局、速度和/或加速度。

感测系统3008可以包括一个或多个传感器,该一个或多个传感器可以感测可移动物体3000(例如,关于多达三个平移度以及多达三个旋转度)的空间布局、速度和/或加速度。该一个或多个传感器可以包括全球定位系统(GPS)传感器、运动传感器、惯性传感器、接近度传感器或图像传感器。可以使用感测系统3008所提供的感测数据来控制可移动物体3000的空间布局、速度和/或定向(例如,使用如下文所描述的合适的处理单元和/或控制模块)。备选地,可以使用感测系统3008来提供与该可移动物体的周围环境相关的数据,诸如气象条件、与潜在障碍物的接近度、地理特征的位置、人造结构的位置等等。

该感测系统可以包括如本文所描述的图像传感器、成像装置和/或图像分析器(例如,图1的图像分析器120)。该感测系统还可以包括如本文所描述的运动感测模块(例如,图15的运动感测模块1530)。该感测系统还可以包括如本文所描述的运动控制器(例如,图26的运动控制器2640)。该运动感测模块可以被配置成感测该成像装置和/或移动视觉跟踪装置的运动,并且将运动信号提供至该图像分析器。运动信号可以包括该成像装置和/或移动视觉跟踪装置的运动特性。该图像分析器可以被配置成基于由该成像装置提供的图像信号和由该运动感测模块提供的运动信号来获取多个特征点的移动特性。该图像分析器还可以被配置成基于该多个特征点的移动特性从该多个特征点中选定特征点组。

与该特征点组相关联的移动信息通过经分析的信号可以返回提供至该运动控制器。该运动控制器可以被配置成通过调整该移动视觉跟踪装置/成像装置的运动特性来跟踪该特征点组,以便将该特征点组实质上定位在使用该成像装置捕捉的每个图像帧的目标区域中。该运动控制器可以被配置成通过调整移动视觉跟踪装置的运动特性来跟踪特征点组。

因此,上述感测系统中的部件中的一个或多个可以使得在不同的条件下能够精确地跟踪移动目标物体和/或移动目标物体组。条件可以包括室内和室外环境两者、没有GPS信号的地方或者GPS信号接收差的地方、各种不同地形等等。目标物体可以包括不携带GPS设备的目标物体、不具有良好定义特征的或不落入已知物体类别的目标物体、共同地起形成组的目标物体(借此该组的大小和/或形状可以是无定形的并且随时间而改变)、以不同形式移动的多个不同的目标物体或者以上各项的任何组合。

通信系统3010使能够经由无线信号3016与具有通信系统3014的终端3012通信。在一些实施方式中,该终端可以包括如本文别处描述的图像分析器、运动感测模块和/或运动控制器。通信系统3010、3014可以包括适合于无线通信的任何数量的发射器、接收器和/或收发器。该通信可以为单向通信,使得数据可以在仅一个方向上传输。例如,单向通信可以仅涉及可移动物体3000传输数据给终端3012,或反之亦然。该数据可以从通信系统3010的一个或多个发射器传输到通信系统3012的一个或多个接收器,或反之亦然。备选地,通信可以是双向通信,使得数据可以在可移动物体3000与终端3012之间的两个方向上传输。该双向通信可以涉及从通信系统3010的一个或多个发射器传输数据到通信系统3014的一个或多个接收器,并且反之亦然。

在一些实施方式中,终端3012可以将控制数据提供给可移动物体3000、载体3002和负载3004中的一者或多者,并且从可移动物体3000、载体3002和负载3004中的一者或多者接收信息(例如,该可移动物体、载体或负载的位置和/或运动信息;该负载所感测到的数据,诸如负载相机所捕捉的图像数据)。在一些实施方式中,可移动物体3000可以被配置为与除了终端3012之外或者代替终端3012的另一个远程装置通信。终端3012还可以被配置为与另一个远程装置以及可移动物体3000通信。例如,可移动物体3000和/或终端3012可以与另一个可移动物体或另一个可移动物体的载体或负载通信。当需要时,该远程装置可以是第二终端或其他计算装置(例如,计算机、膝上型计算机、平板计算机、智能电话或其他移动装置)。该远程装置可以被配置成将数据传输给可移动物体3000、接收来自可移动物体3000的数据、将数据传输给终端3012和/或接收来自终端3012的数据。任选地,该远程装置可以连接到互联网或其他电信网络,从而使得从可移动物体3000和/或终端3012接收到的数据可以上传到网站或服务器。

虽然本文已经示出和描述了本发明的优选实施方式,但对于本领域技术人员明显的是这样的实施方式只是以举例方式提供的。现在在不背离本发明的情况下,本领域技术人员会想到许多的变化、改变以及替换。应当理解的是,在实践本发明时可以采用本文中所描述的本发明实施方式的各种备选方案。所附权利要求书旨在限定本发明的范围,并且旨在由此覆盖位于这些权利要求及其等效物的范围内的方法和结构。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1