一种基于深度学习的车辆关键点的提取方法、装置和设备与流程

本申请属于计算机视觉技术领域，尤其涉及一种基于深度学习的车辆关键点的提取方法、装置和设备。

背景技术：

随着人工智能和计算机视觉技术的发展，车辆识别技术已经广泛运用于许多图像侦查和公安系统中，如卡口系统、电子警察系统、智能交通和自动驾驶等领域中。

车辆关键点提取作为车辆识别中的基础技术，其的准确性对于车辆识别至关重要。现有技术对于关键点提取采用分类器进行，检测方法为采用分类器通过滑动窗口获取一定区域内的特征，并进行各特征的比较得到检测结果。但是这种检测方法对于区块检测比较有效(例如车牌识别)，对关键点的检测容易受到其他点的干扰，鲁棒性差，且检测时要求图像清晰，使得该检测方法使用受局限。

因此，提供一种鲁棒性好且使用不受局限的车辆关键点的提取方法成为本领域技术人员亟待解决的技术问题。

技术实现要素：

本申请提供了一种基于深度学习的车辆关键点的提取方法、装置和设备，用于车辆关键点的提取，解决了现有车辆关键点的提取方法鲁棒性差且使用受局限的技术问题。

有鉴于此，本申请第一方面提供了一种基于深度学习的车辆关键点的提取方法，包括：

获取待检测车辆图片；

将所述待检测车辆图片输入至基于预置卷积神经网络的预置关键点提取模型，得到所述待检测车辆图片的多个关键点坐标，所述预置关键点提取模型为车辆图片和多个关键点坐标的关联关系模型；

所述预置卷积神经网络为：一个data层，五个conv层，两个lrn层，三个pooling层和两个fc层。

优选地，所述方法还包括：

获取多张样本车辆图片，每张所述样本车辆图片中具有多个关键点标注，且所述多个关键点标注和所述多个关键点坐标的数量相同；

根据每张所述样本车辆图片中的各个关键点标注，确定各个所述关键点标注对应的样本关键点坐标，得到每张所述样本车辆图片的样本关键点坐标；

以所述预置卷积神经网络为第一训练网络、多张所述样本车辆图片为所述第一训练网络的输入指标、所有所述样本关键点坐标为所述第一训练网络的输出结果，得到所述预置关键点提取模型。

优选地，所述以所述预置卷积神经网络为第一训练网络、多张所述样本车辆图片为所述第一训练网络的输入指标、所有所述样本关键点坐标为所述第一训练网络的输出结果，得到所述预置关键点提取模型之前还包括：

以vggnet为第二训练网络、多张所述样本车辆图片为所述第二训练网络的输入指标、所有所述样本关键点坐标为所述第二训练网络的输出结果，得到基于vggnet的关键点提取模型；

所述以所述预置卷积神经网络为第一训练网络、多张所述样本车辆图片为所述第一训练网络的输入指标、所有所述样本关键点坐标为所述第一训练网络的输出结果，得到所述预置关键点提取模型具体为：

以所述预置卷积神经网络为第一训练网络、多张所述样本车辆图片为所述第一训练网络的输入指标、所有所述样本关键点坐标为所述第一训练网络的输出结果，根据所述基于vggnet的关键点提取模型通过知识蒸馏算法，得到所述预置关键点提取模型。

优选地，所述获取多张样本车辆图片之后还包括：

对每张所述样本车辆图片进行图像变化，得到多张图像变化后的样本车辆图片，所述图像变化包括：加噪和/或随机擦除和/或旋转和/或亮度变化和/或仿射变换；

则所述根据每张所述样本车辆图片中的各个关键点标注，确定各个所述关键点标注对应的样本关键点坐标，得到每张所述样本车辆图片的样本关键点坐标具体为：

根据每张所述图像变化后的样本车辆图片中的各个关键点标注，确定各个所述关键点标注对应的样本关键点坐标，得到每张所述图像变化后的样本车辆图片的样本关键点坐标。

优选地，所述方法还包括：

根据所述多个关键点坐标确定所述待检测车辆图片的旋转矩阵，并根据所述旋转矩阵将所述待检测车辆图片进行对齐。

优选地，所述预置卷积神经网络的所述data层的输入通道的宽和高尺寸大小相等。

优选地，所述预置卷积神经网络的每个所述conv层的激活函数均为：relu。

本申请第二方面提供一种基于深度学习的车辆关键点的提取装置，包括：

图片获取模块，用于获取待检测车辆图片；

关键点确定模块，用于将所述待检测车辆图片输入至基于预置卷积神经网络的预置关键点提取模型，得到所述待检测车辆图片的多个关键点坐标，所述预置关键点提取模型为车辆图片和多个关键点坐标的关联关系模型；

所述预置卷积神经网络为：一个data层，五个conv层，两个lrn层，三个pooling层和两个fc层。

本申请第三方面提供一种基于深度学习的车辆关键点的提取设备，所述设备包括处理器以及存储器：

所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器用于根据所述程序代码中的指令执行上述第一方面所述的方法。

本申请第四方面提供一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行上述第一方面所述的方法。

从以上技术方案可以看出，本申请实施例具有以下优点：

本申请提供了一种基于深度学习的车辆关键点的提取方法，包括：获取待检测车辆图片；将所述待检测车辆图片输入至基于预置卷积神经网络的预置关键点提取模型，得到所述待检测车辆图片的多个关键点坐标，所述预置关键点提取模型为车辆图片和多个关键点坐标的关联关系模型；所述预置卷积神经网络为：一个data层，五个conv层，两个lrn层，三个pooling层和两个fc层。

本申请中，将需要提取关键点的待检测车辆图片输入至，通过神经网络的深度学习得到的预置关键点提取模型中，得到待检测车辆图片的关键点坐标，因为神经网络具有深度学习的优点，故通过神经网络得到的预置关键点提取模型的鲁棒性好，使用不受局限，进而得到的待检测车辆图片的关键点坐标正确，且同时对待检测车辆图片的图像清晰度无要求，解决了现有车辆关键点的提取方法鲁棒性差且使用受局限的技术问题。

附图说明

图1为本申请实施例中一种基于深度学习的车辆关键点的提取方法的第一实施例的流程示意图；

图2为本申请实施例中一种基于深度学习的车辆关键点的提取方法的第二实施例的流程示意图；

图3为本申请实施例中一种基于深度学习的车辆关键点的提取方法的第三实施例的流程示意图；

图4为本申请实施例中一种基于深度学习的车辆关键点的提取方法的第四实施例的流程示意图；

图5为本申请实施例中一种基于深度学习的车辆关键点的提取装置的结构示意图

图6本申请提供的神经网络结构的结构示意图；

图7为本申请第二实施例中提供的关键点标注的示意图。

具体实施方式

本申请实施例提供了一种基于深度学习的车辆关键点的提取方法、装置和设备，用于车辆关键点的提取，解决了现有车辆关键点的提取方法鲁棒性差且使用受局限的技术问题。

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

请参阅图1，本申请实施例中一种基于深度学习的车辆关键点的提取方法的第一实施例的流程示意图，包括：

步骤101、获取待检测车辆图片。

步骤102、将待检测车辆图片输入至基于预置卷积神经网络的预置关键点提取模型，得到待检测车辆图片的多个关键点坐标。

需要说明的是，预置关键点提取模型车辆图片和多个关键点坐标的关联关系模型。同时需要说明的是，如图6所示，预置卷积神经网络为：一个data层，五个conv层，两个lrn层，三个pooling层和两个fc层。

更进一步地，预置卷积神经网络的data层的输入通道的宽和高尺寸大小相等。可以理解的是，因为现有图像都是r、g、b三通道的，故设计该data层的输入通道的数量为三个。

更进一步地，预置卷积神经网络的每个conv层的激活函数均为：relu。

本实施例中，将需要提取关键点的待检测车辆图片输入至，通过神经网络的深度学习得到的预置关键点提取模型中，得到待检测车辆图片的关键点坐标，因为神经网络具有深度学习的优点，故通过神经网络得到的预置关键点提取模型的鲁棒性好，使用不受局限，进而得到的待检测车辆图片的关键点坐标正确，且同时对待检测车辆图片的图像清晰度无要求，解决了现有车辆关键点的提取方法鲁棒性差且使用受局限的技术问题。

以上为本申请实施例提供的一种基于深度学习的车辆关键点的提取方法的第一实施例，以下为本申请实施例提供的一种基于深度学习的车辆关键点的提取方法的第二实施例。

请参阅图2，本申请实施例中一种基于深度学习的车辆关键点的提取方法的第二实施例的流程示意图，包括：

步骤201、获取多张样本车辆图片。

需要说明的是，每张样本车辆图片中具有多个关键点标注，且多个关键点标注和多个关键点坐标的数量相同。可以理解的是，关键点标注是为了将关键点进行标记，然后在计算关键点的坐标的时候只需要计算这些带有标记的点的坐标即认为是关键点坐标。同时可以理解的是，关键点标注的设置，可以根据需要进行，此处不做具体限定。本实施例中，关键点标注如图7所示，总共对车辆进行了19个关键点的标注，其中1、2、18、19号点标注车窗外轮廓；3、4、6、7、13、14、16、17号点标注车辆大灯；5、15号点标注车辆下边缘；8、9、11、12号点标注车牌区域；10号点标注车辆下轮廓中点。

步骤202、根据每张样本车辆图片中的各个关键点标注，确定各个关键点标注对应的样本关键点坐标，得到每张样本车辆图片的样本关键点坐标。

步骤203、以预置卷积神经网络为第一训练网络、多张样本车辆图片为第一训练网络的输入指标、所有样本关键点坐标为第一训练网络的输出结果，得到预置关键点提取模型。

步骤204、获取待检测车辆图片。

步骤205、将待检测车辆图片输入至基于预置卷积神经网络的预置关键点提取模型，得到待检测车辆图片的多个关键点坐标。

需要说明的是，本实施例中，模型训练时每张样本车辆图片上面有19个关键点，故在得到的待检测车辆图片的关键点坐标的数量也为19个。

本实施例中，将需要提取关键点的待检测车辆图片输入至，通过神经网络的深度学习得到的预置关键点提取模型中，得到待检测车辆图片的关键点坐标，因为神经网络具有深度学习的优点，故通过神经网络得到的预置关键点提取模型的鲁棒性好，使用不受局限，进而得到的待检测车辆图片的关键点坐标正确，且同时对待检测车辆图片的图像清晰度无要求，解决了现有车辆关键点的提取方法鲁棒性差且使用受局限的技术问题。

以上为本申请实施例提供的一种基于深度学习的车辆关键点的提取方法的第二实施例，以下为本申请实施例提供的一种基于深度学习的车辆关键点的提取方法的第三实施例。

请参阅图3，本申请实施例中一种基于深度学习的车辆关键点的提取方法的第三实施例的流程示意图，包括：

步骤301、获取多张样本车辆图片。

步骤301与本申请第二实施例中步骤201的内容相同，具体描述可以参见第二实施例步骤201的内容，在此不再赘述。

步骤302、根据每张样本车辆图片中的各个关键点标注，确定各个关键点标注对应的样本关键点坐标，得到每张样本车辆图片的样本关键点坐标。

步骤303、以vggnet为第二训练网络、多张样本车辆图片为第二训练网络的输入指标、所有样本关键点坐标为第二训练网络的输出结果，得到基于vggnet的关键点提取模型。

步骤304、以预置卷积神经网络为第一训练网络、多张样本车辆图片为第一训练网络的输入指标、所有样本关键点坐标为第一训练网络的输出结果，根据基于vggnet的关键点提取模型通过知识蒸馏算法，得到预置关键点提取模型。

需要说明的是，本实施例中提供的预置关键点提取模型结构简单，可能使得模型性能不佳，同时vggnet虽然对各类图像处理任务具有较为优秀的特征提取能力，故本实施例中，利用知识蒸馏的方法使得简单结构的模型学习典型结构模型的特征信息，达到典型结构模型所具有的性能，从而在保证模型性能的前提下大幅减少模型参数和计算量。可以理解的是，知识蒸馏算法属于现有技术，在此不再赘述。

步骤305、获取待检测车辆图片。

步骤306、将待检测车辆图片输入至基于预置卷积神经网络的预置关键点提取模型，得到待检测车辆图片的多个关键点坐标。

需要说明的是，步骤306与本申请第一实施例中步骤102的内容相同，具体描述可以参见第一实施例步骤102的内容，在此不再赘述。

本实施例中，将需要提取关键点的待检测车辆图片输入至，通过神经网络的深度学习得到的预置关键点提取模型中，得到待检测车辆图片的关键点坐标，因为神经网络具有深度学习的优点，故通过神经网络得到的预置关键点提取模型的鲁棒性好，使用不受局限，进而得到的待检测车辆图片的关键点坐标正确，且同时对待检测车辆图片的图像清晰度无要求，解决了现有车辆关键点的提取方法鲁棒性差且使用受局限的技术问题。

以上为本申请实施例提供的一种基于深度学习的车辆关键点的提取方法的第三实施例，以下为本申请实施例提供的一种基于深度学习的车辆关键点的提取方法的第四实施例。

请参阅图4，本申请实施例中一种基于深度学习的车辆关键点的提取方法的第四实施例的流程示意图，包括：

步骤401、获取多张样本车辆图片。

步骤401与本申请第二实施例中步骤201的内容相同，具体描述可以参见第二实施例步骤201的内容，在此不再赘述。

步骤402、对每张样本车辆图片进行图像变化，得到多张图像变化后的样本车辆图片。

需要说明的是，因为真实的待检测车辆图片可能出现多种情况，为了使得预置关键点提取模型的使用情况真实，可以对样本车辆图片进行图像变化，图像变化包括：加噪和/或随机擦除和/或旋转和/或亮度变化和/或仿射变换。

可以理解的是，加噪方式可以包括但不限于随机加噪、椒盐加噪、高斯加噪；随机擦除的方式：为对原始图片进行随机区域选择，并进行区域填充，实现对图片的随机擦除，增强预置关键点提取模型对遮挡待检测车辆图片的提取能力；旋转的方式为：以原始图片的中心点为圆点，将图像上所有像素点进行旋转，旋转范围包括顺时针旋转3～5°，逆时针旋转3～5°，增强预置关键点提取模型对有一定角度的待检测车辆图片的适应能力。亮度变化可以是利用自适应对比度增强算法对图像进行亮度的调整。

步骤403、根据每张图像变化后的样本车辆图片中的各个关键点标注，确定各个关键点标注对应的样本关键点坐标，得到每张图像变化后的样本车辆图片的样本关键点坐标。

步骤404、以预置卷积神经网络为第一训练网络、多张图像变化后的样本车辆图片为第一训练网络的输入指标、所有样本关键点坐标为第一训练网络的输出结果，得到预置关键点提取模型。

步骤405、获取待检测车辆图片。

步骤406、将待检测车辆图片输入至基于预置卷积神经网络的预置关键点提取模型，得到待检测车辆图片的多个关键点坐标。

需要说明的是，步骤406与本申请第一实施例中步骤102的内容相同，具体描述可以参见第一实施例步骤102的内容，在此不再赘述。

步骤407、根据待检测车辆图片的多个关键点坐标，确定待检测车辆图片的旋转矩阵，并根据旋转矩阵将待检测车辆图片进行对齐。

需要说明的是，对待检测车辆图片进行对齐，有利于后续分类识别算法的识别率提升。可以理解的是，本实施例中，采用普氏(procrustes)方法求解旋转矩阵进行形状归一化。同时可以理解的是，得到旋转矩阵后利用旋转矩阵将待检测车辆图片进行对齐属于现有技术，在此不再赘述。

本实施例中，将需要提取关键点的待检测车辆图片输入至，通过神经网络的深度学习得到的预置关键点提取模型中，得到待检测车辆图片的关键点坐标，因为神经网络具有深度学习的优点，故通过神经网络得到的预置关键点提取模型的鲁棒性好，使用不受局限，进而得到的待检测车辆图片的关键点坐标正确，且同时对待检测车辆图片的图像清晰度无要求，解决了现有车辆关键点的提取方法鲁棒性差且使用受局限的技术问题。

以上为本申请实施例提供的一种基于深度学习的车辆关键点的提取方法的第四实施例，以下为本申请实施例提供的一种基于深度学习的车辆关键点的提取装置的实施例，请参阅图5。

本申请实施例中提供的一种基于深度学习的车辆关键点的提取装置，包括：

图片获取模块501，用于获取待检测车辆图片。

关键点确定模块502，用于将待检测车辆图片输入至基于预置卷积神经网络的预置关键点提取模型，得到待检测车辆图片的多个关键点坐标，预置关键点提取模型为车辆图片和多个关键点坐标的关联关系模型。

预置卷积神经网络为：一个data层，五个conv层，两个lrn层，三个pooling层和两个fc层。

本申请实施例还提供了一种基于深度学习的车辆关键点的提取设备，设备包括处理器以及存储器：存储器用于存储程序代码，并将程序代码传输给处理器，处理器用于根据程序代码中的指令执行前述实施例一至实施例四任一所述的基于深度学习的车辆关键点的提取方法，从而执行的各种功能应用以及数据处理。

本申请实施例还提供了一种计算机可读存储介质，用于存储程序代码，该程序代码用于执行前述实施例一至实施例四任一所述的基于深度学习的车辆关键点的提取方法中的任意一种实施方式。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read-onlymemory)、随机存取存储器(ram，randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。