图像标注方法、装置、存储介质及电子设备与流程

文档序号:15387379发布日期:2018-09-08 00:43阅读:140来源:国知局

本发明涉及汽车视觉技术领域,尤其涉及一种图像标注方法、装置、存储介质及电子设备。



背景技术:

近几年,随着汽车工业的快速发展,在其智能化的发展过程中离不开对车辆对外界获取到的图像进行机器学习的环节。

基于二维图像场景语义理解的机器学习需要大量的训练样本,这些训练样本中包含种类繁多的场景目标,而且这些场景目标存在各种各样的位置关系,如何高效、精确地在图像上标注出它们是一个棘手的问题。其中,图像标注是指按照场景目标的分类通过手动或自动化的方式将图像上所有不同种类的目标标示出来,然后生成对应的标注图像,其中,标注后的图像上每一个像素点都有唯一确定的类别编号。目前,现有技术中通常是通过完全自动化标注方法或者是完全手动标注方法对获取的图像进行标注。

但是,由于获取到的图像中的场景目标种类繁多,通过图像识别的方式来直接识别图像中的场景目标轮廓,极易导致完全自动化的标注方法难以应对复杂的图像场景,常常出现误分类和漏分类的情况;而手动的标注方法虽然能够保证标注的准确度,但是需要人工区分出各个目标轮廓的边缘,需要耗费大量的人力成本,进而导致了生成庞大数量的训练样本不切实际。



技术实现要素:

本发明提供一种图像标注方法、装置、存储介质及电子设备,以适应复杂场景的图像标注,并且提高图像的标注效率,从而在保证标注的准确性的同时,还可以节省大量的人力成本。

第一方面,本发明提供一种图像标注方法,包括:

根据获取到的场景图像中的目标信息确定所需标注的目标所对应的目标类别;

根据预设的目标空间顺序对所述目标类别进行排序,并生成目标排序列表;

根据所述目标排序列表依次对所述场景图像中的所述目标进行标注。

在一种可能的设计中,所述根据预设的目标空间顺序对所述目标类别进行排序,并生成目标排序列表,包括:

按照由远及近的顺序对所述目标类别进行排序,并生成目标排序列表,其中,所述远近顺序的参照位置为所述场景图像的获取位置。

在一种可能的设计中,所述根据所述目标排序列表依次对所述场景图像中的所述目标进行标注,包括:

根据所述目标排序列表依次利用凸包多边形对所述场景图像中的所述目标进行标注。

在一种可能的设计中,在所述根据所述目标排序列表依次对所述场景图像中的所述目标进行标注之后,还包括:

根据所述标注的结果生成标注图像数据,其中,所述标注图像数据是在与所述场景图像相同尺寸的标注图像上,对所述凸包多边形填充对应的所述目标类别。

在一种可能的设计中,对所述凸包多边形内的所有像素点标注对应的所述目标类别。

在一种可能的设计中,所述目标类别至少包括天空、建筑、植被、车辆、人、道路、交通标记中的至少一个。

第二方面,本发明还提供一种图像标注装置,包括:

确定模块,用于根据获取到的场景图像中的目标确定所述目标对应的目标类别;

排序模块,用于根据预设的目标空间顺序对所述目标类别进行排序,并生成目标排序列表;

标注模块,用于根据所述目标排序列表依次对所述场景图像中的所述目标进行标注。

在一种可能的设计中,所述排序模块,具体用于:

按照由远及近的顺序对所述目标类别进行排序,并生成目标排序列表,其中,远近顺序的参照位置为所述场景图像的获取位置。

在一种可能的设计中,所述标注模块,具体用于:

根据所述目标排序列表依次利用凸包多边形对所述场景图像中的所述目标进行标注。

在一种可能的设计中,所述图像标注装置,还包括:

填充模块,用于根据所述标注的结果生成标注图像数据,其中,所述标注图像数据是在与所述场景图像相同尺寸的标注图像上,对所述凸包多边形填充对应的所述目标类别。

在一种可能的设计中,对所述凸包多边形内的所述像素点标注对应的所述目标类别。

在一种可能的设计中,所述目标类别至少包括天空、建筑、植被、车辆、人、道路、交通标记中的至少一个。

第三方面,本发明还提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现第一方面中任一种可能的图像标注方法。

第四方面,一种电子设备,包括:

处理器;以及

存储器,用于存储所述处理器的可执行指令;

其中,所述处理器配置为经由执行所述可执行指令来执行第一方面中任一种可能的图像标注方法。

本发明提供一种图像标注方法、装置、存储介质及电子设备,通过先确定场景图像中的目标类别,再根据预设的目标空间顺序对目标类别进行排序,并生成目标排序列表,最后根据所生成的目标排序列表依次对场景图像中的目标进行标注,使得场景图像中的目标按照合理的空间顺序进行标注,从而适应复杂场景的图像标注,并且提高图像的标注效率,在保证标注的准确性的同时,还可以节省大量的人力成本。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。

图1为本发明根据一示例性实施例示出的图像标注方法流程图;

图2为图1所示实施例中的场景图像采集状态图;

图3为图1所示实施例中的场景图像的原始样本图;

图4为图1所示实施例中的场景图像的标注过程图;

图5为本发明根据又一示例性实施例示出的图像标注方法流程图;

图6为图5所示实施例中的场景图像的标注结果图;

图7为本发明根据一示例性实施例示出的图像标注装置结构示意图;

图8为本发明根据又一示例性实施例示出的图像标注装置结构示意图;

图9为本发明根据一示例性实施例示出的电子设备结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

图1为本发明根据一示例性实施例示出的图像标注方法流程图。如图1所示,本实施例提供的图像标注方法,包括:

步骤101、根据获取到的场景图像中的目标信息确定所需标注的目标所对应的目标类别。

具体地,上述的场景图像可以是通过光学传感器获取得到的,其中,该光学传感器可以是车载的摄像头,也可以是用户手持的摄像装备,也可以是航空遥感设备,值得说明地,在本实施例中,并不对该光学传感器的具体形式进行限定,只需保证该光学传感器能够获取到清晰的外界场景图像即可。其中,当该方法应用在车载领域时,上述的场景图像可以是车辆行驶场景中获取到的车辆行驶方向上的图像,也可以是车辆侧面的图像,还可以是车辆后方的图像,在本实施例中进行具体的限定。

在获取到清晰的场景图像之后,进一步地识别出场景图像中的各个目标,以及各个目标对应的目标类别。图2为图1所示实施例中的场景图像采集状态图,图3为图1所示实施例中的场景图像的原始样本图。如图2-图3所示,对于车辆行驶场景中获取到的场景图像,车辆行驶方向上通常包括道路、交通标志、车辆、人行道、植被、建筑等传感器视野范围内所有常见的可见目标。当然,为了提高后续的图像标注效率,待标示的场景目标类别由用户根据实际需求而定,一般可以包括可行驶路面、天空、斑马线、车道线、人行道、建筑、植被、车辆、人等。

此外,在对上述场景图像中的目标识别过程中,还可以在场景图像处理软件中设置有手动目标识别的功能,工程师可以根据系统中设置的各个目标所对应的按键,对上述场景图像中的各个目标进行标注。

步骤102、根据预设的目标空间顺序对目标类别进行排序,并生成目标排序列表。

具体地,在识别出上述场景图像中的各个目标,并且确定对应的目标类别之后,还可以继续根据预设的目标空间顺序对目标类别进行排序,并生成目标排序列表。在一种可能的实现方式中,可以按照由远及近的顺序对目标类别进行排序,并生成目标排序列表,其中,远近顺序的参照位置为场景图像的获取位置。对于车载领域的应用,该远近顺序的参照位置即为车载光学传感器的感应位置,在成像过程中,距离光学传感器感应位置越近的景物所反射的光线则会事先进入传感器,而距离较远的景物所反射的光线则会延后进入传感器,如果越近的景物遮挡住住了较远的景物,则对于较远的景物被遮挡部分的光线自然也就无法进入传感器进行成像了。下面结合一个车载领域的场景图像对上述的排序规则进行说明,具体如下:

图4为图1所示实施例中的场景图像的标注过程图。如图4所示,在该场景图像中,由于该图像中目标存在多层的前后位置关系,但是毫无疑义的是,距离车载光学传感器的距离最远的是天空;其次,由于车道是也是延伸至远方的,因此,第二层可以是车道;由于车道和人行道在场景图像中是相互平行的,并且共同延伸至远方,因此,第三层可以是人行道,此处,值得说明的,该处也可以将人行道排列在第二层,把车道排列在第三层;接着,由于人行道和植物之间存在层次关系,植物与车道之间并不存在层次关系,并且植物是位于人行道之前,因此第四层可以是植物;再继续,对于和车道之间的层次关系,车道上的实线位于车道上,并且延伸至远方,可以将其定义为第五层;而对于车道上的停止线可以定义为第六层;距离车载光学传感器的距离最近的是箭头,可以将其定义为第七层。可见,通过由远及近的这种排序方式对场景图像中的各个目标进行排序,更加贴合场景图像实际的成像过程,并且对于任意两个具有层次关系的目标,用在前目标的边缘来定义任意两个具有层次关系的目标的临界处,相比现有技术中通过两次识别的方法分别定义两个具有层次关系的目标的分界线来说,本实施中的排序方式可以使得最终标注得到的边缘更加真实和准确,有效地避免了重复贴合相同边缘的情况。

此处,值得说明地是,该排序过程所根据的目标空间顺序可以是根据大量的图像统计之后获得的,也可以是人们根据实际的需求定义的,在本实施例中,并不对其进行具体地限定。

步骤103、根据目标排序列表依次对场景图像中的目标进行标注。

具体地,在生成目标排序列表之后,对目标排序列表中的目标依次进行标注。在一种可能的实现方式中,可以根据目标排序列表,依次利用凸包多边形对场景图像中的目标进行标注,用凸包多边形贴合轮廓实现对目标区域的提取,并赋予该区域相应的类别信息。对于两个具有层次关系的目标,为避免重复贴合相同边缘,可以用凸包贴合前景(遮挡)目标的边缘,而背景(被遮挡)目标只需要包围可见的区域即可。此外,通过按照上述由远及近排列顺序进行凸包多边形标注更有利于管理凸包层次、提高标示目标的效率,并且,若存在不满足可见性约束关系的凸包层次,用户还可以手动调整凸包的层级。此外,在另一种可能的实线方式中,对于存在层次关系的目标,还可只采取标示出近处目标的边缘,相比现有技术中对于不同目标进行的两次贴合,节省了大量的重复性工作,从而提高了标注效率。

在本实施例中,通过先确定场景图像中的目标类别,再根据预设的目标空间顺序对目标类别进行排序,并生成目标排序列表,最后根据所生成的目标排序列表依次对场景图像中的目标进行标注,使得场景图像中的目标按照合理的空间顺序进行标注,从而适应复杂场景的图像标注,并且提高图像的标注效率,在保证标注的准确性的同时,还可以节省大量的人力成本。

在图1所示的实施例的基础上,图5为本发明根据又一示例性实施例示出的图像标注方法流程图。如图5所示,本实施例提供的图像标注方法,包括:

步骤201、根据获取到的场景图像中的目标信息确定所需标注的目标所对应的目标类别。

具体地,上述的场景图像可以是通过光学传感器获取得到的,其中,该光学传感器可以是车载的摄像头,也可以是用户手持的摄像装备,也可以是航空遥感设备,值得说明地,在本实施例中,并不对该光学传感器的具体形式进行限定,只需保证该光学传感器能够获取到清晰的外界场景图像即可。其中,当该方法应用在车载领域时,上述的场景图像可以是车辆行驶场景中获取到的车辆行驶方向上的图像,也可以是车辆侧面的图像,还可以是车辆后方的图像,在本实施例中进行具体的限定。

在获取到清晰的场景图像之后,进一步地识别出场景图像中的各个目标,以及各个目标对应的目标类别。如图2-图3所示,对于车辆行驶场景中获取到的场景图像,车辆行驶方向上通常包括道路、交通标志、车辆、人行道、植被、建筑等传感器视野范围内所有常见的可见目标。当然,为了提高后续的图像标注效率,待标示的场景目标类别由用户根据实际需求而定,一般可以包括可行驶路面、天空、斑马线、车道线、人行道、建筑、植被、车辆、人等。

此外,在对上述场景图像中的目标识别过程中,还可以在场景图像处理软件中设置有手动目标识别的功能,工程师可以根据系统中设置的各个目标所对应的按键,对上述场景图像中的各个目标进行标注。

步骤202、根据预设的目标空间顺序对目标类别进行排序,并生成目标排序列表。

具体地,在识别出上述场景图像中的各个目标,并且确定对应的目标类别之后,还可以继续根据预设的目标空间顺序对目标类别进行排序,并生成目标排序列表。在一种可能的实现方式中,可以按照由远及近的顺序对目标类别进行排序,并生成目标排序列表,其中,远近顺序的参照位置为场景图像的获取位置。对于车载领域的应用,该远近顺序的参照位置即为车载光学传感器的感应位置,在成像过程中,距离光学传感器感应位置越近的景物所反射的光线则会事先进入传感器,而距离较远的景物所反射的光线则会延后进入传感器,如果越近的景物遮挡住住了较远的景物,则对于较远的景物被遮挡部分的光线自然也就无法进入传感器进行成像了。下面结合一个车载领域的场景图像对上述的排序规则进行说明,具体如下:

如图4所示,在该场景图像中,由于该图像中目标存在多层的前后位置关系,但是毫无疑义的是,距离车载光学传感器的距离最远的是天空;其次,由于车道是也是延伸至远方的,因此,第二层可以是车道;由于车道和人行道在场景图像中是相互平行的,并且共同延伸至远方,因此,第三层可以是人行道,此处,值得说明的,该处也可以将人行道排列在第二层,把车道排列在第三层;接着,由于人行道和植物之间存在层次关系,植物与车道之间并不存在层次关系,并且植物是位于人行道之前,因此第四层可以是植物;再继续,对于和车道之间的层次关系,车道上的实线位于车道上,并且延伸至远方,可以将其定义为第五层;而对于车道上的停止线可以定义为第六层;距离车载光学传感器的距离最近的是箭头,可以将其定义为第七层。可见,通过由远及近的这种排序方式对场景图像中的各个目标进行排序,更加贴合场景图像实际的成像过程,并且对于任意两个具有层次关系的目标,用在前目标的边缘来定义任意两个具有层次关系的目标的临界处,相比现有技术中通过两次识别的方法分别定义两个具有层次关系的目标的分界线来说,本实施中的排序方式可以使得最终标注得到的边缘更加真实和准确,有效地避免了重复贴合相同边缘的情况。

此处,值得说明地是,该排序过程所根据的目标空间顺序可以是根据大量的图像统计之后获得的,也可以是人们根据实际的需求定义的,在本实施例中,并不对其进行具体地限定。

步骤203、根据目标排序列表依次对场景图像中的目标进行标注。

具体地,在生成目标排序列表之后,对目标排序列表中的目标依次进行标注。在一种可能的实现方式中,可以根据目标排序列表,依次利用凸包多边形对场景图像中的目标进行标注,用凸包多边形贴合轮廓实现对目标区域的提取,并赋予该区域相应的类别信息。对于两个具有层次关系的目标,为避免重复贴合相同边缘,可以用凸包贴合前景(遮挡)目标的边缘,而背景(被遮挡)目标只需要包围可见的区域即可。此外,通过按照上述由远及近排列顺序进行凸包多边形标注更有利于管理凸包层次、提高标示目标的效率,并且,若存在不满足可见性约束关系的凸包层次,用户还可以手动调整凸包的层级。此外,在另一种可能的实线方式中,对于存在层次关系的目标,还可只采取标示出近处目标的边缘,相比现有技术中对于不同目标进行的两次贴合,节省了大量的重复性工作,从而提高了标注效率。

步骤204、根据标注的结果生成标注图像数据。

具体地,根据上述标注的结果生成标注图像数据,其中,标注图像数据是在与场景图像相同尺寸的标注图像上,对凸包多边形填充对应的目标类别,在一种可能的实现方式中,对于各个区域的标注是采用对凸包多边形内的所有像素点标注对应的目标类别的方式。如图6所示,通过上述的标注过程,可以在计算出图像中每个像素点所属的目标类别。参照图6可知,区域1部分的所有像素点的目标类别为天空,区域2部分的所有像素点的目标类别为车道,区域3部分的所有像素点的目标类别为人行道,区域4部分的所有像素点的目标类别为植物,区域5部分的所有像素点的目标类别为实线,区域6部分的所有像素点的目标类别为停止线,区域7部分的所有像素点的目标类别为箭头。

图7为本发明根据一示例性实施例示出的图像标注装置结构示意图。如图7所示,本实施例提供的图像标注装置,包括:

确定模块301,用于根据获取到的场景图像中的目标信息确定所需标注的目标所对应的目标类别;

排序模块302,用于根据预设的目标空间顺序对所述目标类别进行排序,并生成目标排序列表;

标注模块303,用于根据所述目标排序列表依次对所述场景图像中的所述目标进行标注。

在一种可能的设计中,所述排序模块302,具体用于:

按照由远及近的顺序对所述目标类别进行排序,并生成目标排序列表,其中,远近顺序的参照位置为所述场景图像的获取位置。

在一种可能的设计中,所述标注模块303,具体用于:

根据所述目标排序列表依次利用凸包多边形对所述场景图像中的所述目标进行标注。

在图7所示实施例的基础上,图8为本发明根据又一示例性实施例示出的图像标注装置结构示意图。如图8所示,本实施提供的图像标注装置,还包括:

填充模块304,用于根据所述标注的结果生成标注图像数据,其中,所述标注图像数据是在与所述场景图像相同尺寸的标注图像上,对所述凸包多边形填充对应的所述目标类别。

在一种可能的设计中,对所述凸包多边形内的所述像素点标注对应的所述目标类别。

在一种可能的设计中,所述目标类别至少包括天空、建筑、植被、车辆、人、道路、交通标记中的至少一个。

图7-图8所示的实施例提供的图像标注装置,可用于执行图1与图5所示的实施例所提供的方法,具体实现方式和技术效果类似,这里不再赘述。

本实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如前述任一项方法实施例所述的技术方案,其实现原理和技术效果类似,此处不再赘述。

图9为本发明根据一示例性实施例示出的电子设备结构示意图。如图9所示,本实施例提供的一种电子设备,包括:

存储器402以及处理器401;

所述存储器402,用于存储所述处理器的可执行指令;

其中,所述处理器401配置为经由执行所述可执行指令来执行图1与图5所示实施例中任一种可能的图像标注方法。

本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:rom、ram、sram、dram、flash、磁碟或者光盘等各种可以存储程序代码的介质。

此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。

最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1