目标检测方法、装置、计算机设备和存储介质与流程

文档序号:31709092发布日期:2022-10-04 15:36阅读:56来源:国知局
目标检测方法、装置、计算机设备和存储介质与流程

1.本技术涉及计算机技术领域,特别是涉及一种目标检测方法、装置、计算机设备和存储介质。


背景技术:

2.随着计算机技术的发展,出现了盲区障碍物检测技术。盲区障碍物检测技术主要用于对渣土车、环卫车等车辆在运输行驶过程中所存在的固有盲区位置进行检测,以减少车辆事故的发生。
3.传统技术中,盲区障碍物检测技术主要采用的检测方式有基于陀螺仪和超声波模块对车辆的盲区进行检测、通过监控油门控制开关来预警车辆超速行为等。
4.然而,传统技术,基于陀螺仪和超声波模块对车辆的盲区进行检测在复杂环境下及其容易受干扰产生误报,通过监控油门控制开关来预警车辆超速行为也会存在预警不准确,都存在检测效果差的问题。


技术实现要素:

5.基于此,有必要针对上述技术问题,提供一种能够达到良好的检测效果的目标检测方法、装置、计算机设备和存储介质。
6.一种目标检测方法,所述方法包括:
7.获取待检测图像的多层级特征图;
8.根据多层级特征图,确定当前层级特征图以及下一层级特征图,下一层级特征图的层级低于当前层级特征图;
9.对当前层级特征图进行卷积,得到已卷积特征图,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图;
10.将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定新的下一层级特征图,新的下一层级特征图的层级低于当前的下一层级特征图;
11.返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,直到多层级特征图中不存在新的下一层级特征图,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图;
12.对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
13.一种目标检测装置,所述装置包括:
14.获取模块,用于获取待检测图像的多层级特征图;
15.第一处理模块,用于根据多层级特征图,确定当前层级特征图以及下一层级特征图,下一层级特征图的层级低于当前层级特征图;
16.融合模块,用于对当前层级特征图进行卷积,得到已卷积特征图,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征
图;
17.更新模块,用于将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定新的下一层级特征图,新的下一层级特征图的层级低于当前的下一层级特征图;
18.第二处理模块,用于返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,直到多层级特征图中不存在新的下一层级特征图,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图;
19.检测模块,用于对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
20.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
21.获取待检测图像的多层级特征图;
22.根据多层级特征图,确定当前层级特征图以及下一层级特征图,下一层级特征图的层级低于当前层级特征图;
23.对当前层级特征图进行卷积,得到已卷积特征图,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图;
24.将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定新的下一层级特征图,新的下一层级特征图的层级低于当前的下一层级特征图;
25.返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,直到多层级特征图中不存在新的下一层级特征图,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图;
26.对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
27.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
28.获取待检测图像的多层级特征图;
29.根据多层级特征图,确定当前层级特征图以及下一层级特征图,下一层级特征图的层级低于当前层级特征图;
30.对当前层级特征图进行卷积,得到已卷积特征图,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图;
31.将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定新的下一层级特征图,新的下一层级特征图的层级低于当前的下一层级特征图;
32.返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,直到多层级特征图中不存在新的下一层级特征图,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图;
33.对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
34.上述目标检测方法、装置、计算机设备和存储介质,通过获取待检测图像的多层级特征图,根据多层级特征图确定当前层级特征图以及下一层级特征图,在对当前层级特征图进行卷积,得到已卷积特征图的基础上,通过尺度变换对已卷积特征图和下一层级特征
图进行融合,对融合后的特征图进行卷积,得到已融合特征图,并通过将已融合特征图作为新的已卷积特征图,根据多层级特征图确定新的下一层级特征图,返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,能够实现对多层级特征图中相邻层级特征图的融合,得到已融合多层级特征图,从而可以通过对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果,整个过程,通过对多层级特征图的特征融合,结合不同层级的图像特征,使得用于进行目标检测的已融合多层级特征图的特征信息更加丰富,能够提高目标检测结果的准确性,实现对盲区障碍物的检测,能够达到良好的检测效果。
附图说明
35.图1为一个实施例中目标检测方法的流程示意图;
36.图2为一个实施例中目标检测方法的示意图;
37.图3为另一个实施例中目标检测方法的示意图;
38.图4为又一个实施例中目标检测方法的示意图;
39.图5为再一个实施例中目标检测方法的示意图;
40.图6为另一个实施例中目标检测方法的流程示意图;
41.图7为又一个实施例中目标检测方法的流程示意图;
42.图8为一个实施例中目标检测装置的结构框图;
43.图9为一个实施例中计算机设备的内部结构图。
具体实施方式
44.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。
45.在一个实施例中,如图1所示,提供了一种目标检测方法,本实施例以该方法应用于服务器进行举例说明,可以理解的是,该方法也可以应用于终端,还可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。本实施例中,该方法包括以下步骤:
46.步骤102,获取待检测图像的多层级特征图。
47.其中,待检测图像是指预先采集到的需要进行目标检测的图像。比如,在车辆行驶过程中需要对盲区障碍物进行检测时,待检测图像具体可以是指由车辆所采集到的路况图像。多层级特征图是指多层不同尺度的特征图,即在多层级特征图中每层特征图的尺度不同。
48.具体的,当需要对盲区障碍物进行检测时,服务器会获取待检测图像,对待检测图像进行特征提取,利用不同大小的卷积层,得到不同尺度的特征图。进一步的,服务器可通过包括不同大小的卷积层的图像特征提取网络对待检测图像进行特征提取。举例说明,图像特征提取网络具体可以是darknet53,其网络结构如图2所示,待检测图像输入之后分别经过cbl、res1、res2、res8、res8、res4得到level1、level2、level3,3种特征图。其中cbl模块由卷积层、bn归一化层以及激活层组成,res*(包括res1、res2、res8、res8、res4)模块由cbl模块和n个res unit组成,res unit模块中输入经过两个cbl模块计算后再与原始输入
进行相加。
49.步骤104,根据多层级特征图,确定当前层级特征图以及下一层级特征图,下一层级特征图的层级低于当前层级特征图。
50.其中,当前层级特征图是指多层级特征图中层级最高的特征图,下一层级特征图是指在当前层级特征图之后,层级低于当前层级特征图的特征图。
51.具体的,在得到多层级特征图后,服务器会根据多层级特征图中每层特征图的通道数对多层级特征图进行排序,得到特征图层级顺序,根据特征图层级顺序就可以确定当前层级特征图以及下一层级特征图。这里需要说明的是,在根据每层特征图的通道数对多层级特征图进行排序时,可以进行升序排序,也可以进行降序排序。比如,当根据通道数对多层级特征图进行升序排序时,当前层级特征图是指通道数最少的特征图。又比如,当根据通道数对多层级特征图进行降序排序时,当前层级特征图是指通道数最多的特征图。
52.步骤106,对当前层级特征图进行卷积,得到已卷积特征图,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图。
53.其中,尺度变换是指将已卷积特征图的尺度变换为与下一层级特征图相同,尺度变换的方式包括采样和维度变换。
54.具体的,因为多层级特征图中每层特征图的尺度不同,所以在进行特征融合时,需要通过采样、维度变换的方式对特征图进行尺度变换,以实现相同尺度的特征图的融合。在得到已卷积特征图后,服务器会根据下一层级特征图的尺寸参数对已卷积特征图进行尺度变换,将已卷积特征图尺度变换为与下一层级特征图尺寸大小一致的特征图,以便通过直接相加进行融合,对融合后的特征图进行卷积,得到已融合特征图。举例说明,当已卷积特征图的尺寸为32*32*512,且下一层级特征图的尺寸也是32*32*512时,进行融合就是对应的值直接相加,最后得到的是尺寸为32*32*512的已融合特征图。
55.具体的,在根据下一层级特征图的尺寸参数对已卷积特征图进行尺度变换时,若下一层级特征图的通道数小于已卷积特征图,所采用的采样方式为上采样,所采用的维度变换为降维变换,若下一层级特征图的通道数大于已卷积特征图,所采用的采样方式为下采样,所采用的维度变换为升维变换,其中在上采样时具体可以采用双线性插值方式进行采样,也可以为其他方式,本实施例在此处不做具体限定。
56.本实施例中,在进行尺度变换之前,还需要对当前层级特征图进行卷积,以获得更加丰富的层级语义信息。进一步的,可通过预设的预处理卷积网络对当前层级特征图进行卷积,得到已卷积特征图,该预处理卷积网络具体可以由不用尺寸大小的卷积网络组成,至少包括两个不同尺寸的卷积核。举例说明,预处理卷积网络中卷积核尺寸大小为1*1和3*3交替出现,既保证了网络参数量的稳定,也使用了大卷积核增大了感受野区域使得网络学习更好的特征信息。
57.步骤108,将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定新的下一层级特征图,新的下一层级特征图的层级低于当前的下一层级特征图。
58.具体的,在得到已融合特征图之后,服务器会将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定层级低于当前的下一层级特征图的新的下一层级特征图,以继续进行特征融合。
59.步骤110,返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,
直到多层级特征图中不存在新的下一层级特征图,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图。
60.具体的,在更新已卷积特征图和下一层级特征图后,服务器会返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤继续执行,得到新的已融合特征图,直到多层级特征图中不存在新的下一层级特征图,表示多层级特征图中每层特征图均已参与融合,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图。
61.举例说明,以多层级特征图中包括第一尺度特征图、第二尺度特征图以及第三尺度特征图,且第二尺度特征图的通道数小于第一尺度特征图、第三尺度特征图的通道数小于第二尺度特征图为例对本实施例进行说明,如图3所示,其中level3特征图是第一尺度特征图、level2特征图是第二尺度特征图、level1特征图是第三尺度特征图,则level3特征图为当前层级特征图,level2特征图为下一层级特征图,level1特征图为新的下一层级特征图,服务器将level3特征图通过预处理卷积网络计算得到f3特征图(即已卷积特征图),经过预处理卷积网络计算后的f3特征图大小跟level3特征图保持一致。f3特征图采用双线性插值方式进行上采样,得到与level2特征图宽高大小一致的特征图f3_up,对特征图f3_up进行降维,使得其与level2特征图通道维度大小一致,直接采用相加的方式,实现与level2特征图的融合,得到特征图temp2,大大降低了不同层级特征融合之后特征图的通道数,使得整个特征图融合过程中计算量变得非常小。将特征图temp2通过预处理卷积网络计算得到f2特征图(即已融合特征图、新的已卷积特征图),f2特征图采用双线性插值方式进行上采样,得到与level1特征图宽高大小一致的特征图f2_up,对特征图f2_up进行降维,使得其与level1特征图通道维度大小一致,采用相加的方式,实现与level1特征图的融合得到特征图temp1,同理特征图temp1通过预处理卷积网络计算得到f1特征图,根据初次得到的已卷积特征图(即f3特征图)以及每次得到的已融合特征图(即f2特征图以及f1特征图),得到已融合多层级特征图。
62.步骤112,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
63.具体的,服务器通过对已融合多层级特征图中每层已融合特征图进行目标框检测,就可以得到对应的目标检测结果。举例说明,服务器可以通过训练得到目标检测网络,利用目标检测网络对已融合多层级特征图中每层已融合特征图进行目标框检测的方式,得到对应的目标检测结果。进一步的,服务器可以通过获取训练样本以及初始目标预测网络,根据训练样本对初始目标预测网络进行优化的方式,训练得到目标检测网络。在利用目标检测网络对已融合多层级特征图中每层已融合特征图进行目标框检测之前,服务器还可以对目标检测网络进行稀疏化训练和剪枝,以进一步优化目标检测网络,提升网络处理速度。需要说明的是,在剪枝的时候,为了进一步提升目标检测的处理速度,除了对目标检测网络进行剪枝,服务器还可以同时对上述提及的图像特征提取网络、预处理卷积网络等进行剪枝。
64.上述目标检测方法,通过获取待检测图像的多层级特征图,根据多层级特征图确定当前层级特征图以及下一层级特征图,在对当前层级特征图进行卷积,得到已卷积特征图的基础上,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征
图进行卷积,得到已融合特征图,并通过将已融合特征图作为新的已卷积特征图,根据多层级特征图确定新的下一层级特征图,返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,能够实现对多层级特征图中相邻层级特征图的融合,得到已融合多层级特征图,从而可以通过对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果,整个过程,通过对多层级特征图的特征融合,结合不同层级的图像特征,使得用于进行目标检测的已融合多层级特征图的特征信息更加丰富,能够提高目标检测结果的准确性,实现对盲区障碍物的检测,能够达到良好的检测效果。
65.在一个实施例中,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图包括:
66.对已卷积特征图依次进行采样和维度变换,得到已变换特征图;
67.通过直接相加对已变换特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图。
68.具体的,服务器会先对已卷积特征图进行采样,得到与下一层级特征图宽度一致且高度一致的已采样特征图,再对已采样特征图进行维度变换,得到与下一层级特征图通道数一致的已变换特征图,最后通过直接相加对已变换特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图。
69.本实施例中,通过对已卷积特征图依次进行采样和维度变换,能够实现尺度变换,得到已变换特征图,从而通过直接相加已变换特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,能够得到已融合特征图。
70.在一个实施例中,对当前层级特征图进行卷积,得到已卷积特征图包括:
71.通过预设的预处理卷积网络,对当前层级特征图进行卷积,得到已卷积特征图,预处理卷积网络包括至少两个不同尺寸的卷积核。
72.其中,预处理卷积网络用于对特征图进行部分卷积操作,以加深网络的深度,获得更加丰富的层级语义特征。比如,预处理卷积网络具体可以由不用尺寸大小的卷积网络组成。进一步的,预处理卷积网络具体可以由不同尺寸大小的卷积网络交替出现组成。举例说明,预处理卷积网络的网络结构可以如图4所示,由cbl1~cbl5组成,cbl1~cbl5卷积核的尺寸大小分别为1*1和3*3交替出现,步长为1。卷积核尺寸大小为1*1和3*3交替出现这样的方式,既保证了网络参数量的稳定,也使用了大卷积核增大了感受野区域使得网络学习更好的特征信息,其中的每个cbl都是由conv+bn+relu模式组成。
73.具体的,服务器会通过包括至少两个不同尺寸的卷积核的预处理卷积网络,对当前层级特征图进行卷积,得到已卷积特征图。
74.本实施例中,通过预设的预处理卷积网络,对当前层级特征图进行卷积,能够得到语义信息丰富的已卷积特征图。
75.在一个实施例中,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果包括:
76.获取训练样本以及初始目标预测网络,根据训练样本对初始目标预测网络进行优化,得到目标检测网络;
77.根据目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
78.其中,训练样本是指事先收集的用作目标检测模型构建的训练集的图像。比如,训练样本具体可以是指事先收集的、车辆在行驶过程中通过安置于车辆上的摄像头所采集到的包括盲区障碍物的图像。初始目标预测网络是指尚未进行参数调整的目标检测网络,通过对初始目标预测网络进行参数调整即可得到目标检测网络。初始目标检测网络用于对已融合多层级特征图中每层已融合特征图进行目标框预测,以便根据预测目标框和训练样本所携带的真实目标框,对初始目标检测网络中的模型参数进行调整,得到目标检测网络。
79.具体的,在得到目标检测结果时,服务器会先获取训练样本以及初始目标预测网络,根据训练样本对初始目标预测网络进行优化,得到目标检测网络,再利用目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。其中,在根据训练样本对初始目标预测网络进行优化,得到目标检测网络时,服务器需要先对训练样本进行特征提取,得到与训练样本对应的多层级特征图,再对多层级特征图中每层特征图进行融合,得到已融合多层级特征图,将已融合多层级特征图输入初始目标预测网络,以使得初始目标预测网络输出与已融合多层级特征图对应的预测目标框,进而根据预测目标框和训练样本所携带的真实目标框,对初始目标检测网络中的模型参数进行调优,使得预测目标框更接近真实目标框,得到目标检测网络。需要说明的是,在本实施例中不限定预测目标框的数量,但是优选的,预测目标框的数量与需预测特征图的大小相对应,为需预测特征图的像素点总和的整倍数n,即针对特征图上每个像素点预测n个框,更优选的,n值可以为3。
80.本实施例中,通过获取训练样本以及初始目标预测网络,根据训练样本对初始目标预测网络进行优化,得到目标检测网络,能够根据目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果
81.在一个实施例中,获取训练样本以及初始目标预测网络,根据训练样本对初始目标预测网络进行优化,得到目标检测网络包括:
82.获取携带真实目标框的训练样本以及初始目标预测网络;
83.通过初始目标预测网络对训练样本进行目标框预测,得到预测目标框;
84.确定预测目标框和真实目标框之间的iou值;
85.根据iou值以及预设的正样本阈值、负样本阈值,确定与初始目标预测网络对应的正负样本比;
86.根据正负样本比,对初始目标预测网络进行调整,得到目标检测网络。
87.其中,真实目标框是指在训练样本中标注目标检测对象的矩形框。比如,真实目标框具体可以是指在训练样本图像中标注盲区障碍物的矩形框。训练样本携带真实目标框是指在训练样本中已标注出包括目标检测对象的矩形框。iou值是指预测目标框和真实目标框之间的交集与并集的比值,如图5所示,其中a和b分别为预测目标框和真实目标框的面积。正负样本比是指预测框层面的正样本数量与负样本数量之间的比值,预测框层面的正样本是指与真实目标框之间存在重叠,且重叠程度大于预先设置的正样本阈值的预测目标框,负样本是指与真实目标框之间存在重叠,且重叠程度小于预先设置的负样本阈值的预测目标框。
88.具体的,服务器会获取携带真实目标框的训练样本以及初始目标预测网络,对训
练样本进行特征提取,得到与训练样本对应的多层级特征图,再对多层级特征图中每层特征图进行融合,得到已融合多层级特征图,将已融合多层级特征图输入初始目标预测网络,以使得初始目标预测网络输出与已融合多层级特征图对应的预测目标框,进而计算预测目标框和训练样本所携带的真实目标框之间的iou值,根据iou值以及预设的正样本阈值,确定与初始目标预测网络对应的正样本数量,根据iou值以及预设的负样本阈值,确定与初始目标预测网络对应的负样本数量,根据正样本数量以及负样本数量,确定与初始目标预测网络对应的正负样本比,利用正负样本比对初始目标预测网络进行模型参数调整,以使得正负样本比满足预设的正负样本比要求,得到目标检测网络。
89.其中,预设的正负样本比要求具体可以为正负样本比大于预设的正负样本比阈值、正样本数量大于预设的正样本数量阈值、负样本数量小于预设的负样本数量阈值中的一种条件或几种条件的组合,本实施例在此处不对正负样本比要求做具体限定。优选的,正样本阈值可以为0.6,负样本阈值可以为0.3。本实施例中,采取不同阈值区分正负样本,避免了直接用一个阈值对正负样本一刀切的区分,使得正样本可能被划分为负样本,影响正负样本的分配比,以及网络的优化效果和收敛速度。
90.本实施例中,通过先获取携带真实目标框的训练样本以及初始目标预测网络,通过初始目标预测网络对训练样本进行目标框预测,得到预测目标框,再确定预测目标框和真实目标框之间的iou值,利用iou值计算正负样本比,能够利用正负样本比实现对初始目标预测网络进行调整,得到目标检测网络。
91.在一个实施例中,根据目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果包括:
92.对目标检测网络进行稀疏化训练,得到已稀疏化目标检测网络;
93.根据预设的通道剪枝阈值和卷积层剪枝阈值,对已稀疏化目标检测网络进行自适应剪枝,得到已剪枝目标检测网络,并重新训练已剪枝目标检测网络;
94.根据重新训练的已剪枝目标检测网络,得到已训练目标检测网络;
95.根据已训练目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
96.其中,预设的通道剪枝阈值是指预先设置的进行通道剪枝的阈值,具体可以为卷积层中归一化层的gamma值的阈值。预设的卷积层剪枝阈值是指预先设置的进行卷积层剪枝的阈值,具体可以为卷积层中通道数量的阈值。
97.具体的,服务器会对目标检测网络进行稀疏化训练,得到已稀疏化目标检测网络,根据预设的通道剪枝阈值对已稀疏化目标检测网络进行通道自适应剪枝,再在通道剪枝的基础上根据卷积层剪枝阈值对已通道剪枝的模型进行自适应剪枝,得到已剪枝目标检测网络,并利用训练样本图像重新训练已剪枝目标检测网络,根据重新训练的已剪枝目标检测网络,得到已训练目标检测网络,根据已训练目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
98.其中,本实施例中不对稀疏化训练的方式做具体限定,只要能实现稀疏化训练,使得不重要的神经元对应的权重为零或者接近于零即可。对已剪枝目标检测模型重新训练的方式与训练得到目标检测网络的方式相同。进一步的,根据重新训练的已剪枝目标检测网络,得到已训练目标检测网络是指,在得到重新训练的已剪枝目标检测网络后,先对重新训
练的已剪枝目标检测网络进行模型评估,当模型评估通过时,直接将重新训练的已剪枝目标检测网络作为已训练目标检测网络,当模型评估未通过时,调整通道剪枝阈值和卷积层剪枝阈值,根据调整后的通道剪枝阈值和卷积层剪枝阈值,重新对已稀疏化目标检测网络进行剪枝,得到新的重新训练的已剪枝目标检测网络,再次评估新的重新训练的已剪枝目标检测网络,若模型评估通过,得到已训练目标检测网络,若模型评估不通过,再次调整通道剪枝阈值和卷积层剪枝阈值并重新进行剪枝,直到模型评估通过,得到已训练目标检测网络。
99.本实施例中,通过对目标检测网络进行稀疏化训练、通道剪枝以及卷积层剪枝,能够实现对模型优化,得到轻量级的已训练目标检测网络,从而利用该已训练目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,快速得到目标检测结果。
100.在一个实施例中,根据预设的通道剪枝阈值和卷积层剪枝阈值,对已稀疏化目标检测网络进行自适应剪枝,得到已剪枝目标检测网络包括:
101.获取已稀疏化目标检测网络中所有卷积层中归一化层的gamma值;
102.根据通道剪枝阈值和gamma值对已稀疏化目标检测网络中所有卷积层进行通道剪枝,得到已通道剪枝网络;
103.获取已通道剪枝网络中所有卷积层的当前通道数;
104.根据当前通道数和卷积层剪枝阈值对已通道剪枝网络中所有卷积层进行卷积层剪枝,得到已剪枝目标检测网络。
105.其中,在卷积层中均包括归一化层,归一化层能够保证卷积过程中的特征值符合正态分布,利于训练,归一化层所利用的公式为yi=γxi+β,γ就是gamma值,特征图的每一个通道都会对应有一个gamma值,即gamma值的维度大小与卷积层卷积核的输出通道数保持一致。利用gamma值实现通道剪枝即通过通道剪枝阈值以及与通道对应的gamma值对通道进行剪枝。
106.具体的,服务器会获取已稀疏化目标检测网络中所有卷积层中归一化层的gamma值,通过比对通道剪枝阈值和gamma值进行通道剪枝,筛选出对应gamma值小于通道剪枝阈值的通道,对该通道进行剪枝,得到已通道剪枝网络。在进行通道剪枝后,某些卷积层可能仅存在少量通道,因此需要利用卷积层剪枝阈值对卷积层进一步进行卷积层剪枝,以平衡速度与精度之间的关系。具体的,服务器会获取已通道剪枝网络中所有卷积层的当前通道数,通过比对卷积层剪枝阈值和当前通道数,筛选出通道数小于卷积层剪枝阈值的卷积层,对该卷积层进行剪枝,得到已剪枝目标检测网络。进一步的,由于gamma值的维度大小与卷积层卷积核的输出通道数保持一致,因此在进行通道剪枝时,服务器会记录所删除的卷积层的gamma值对应的索引号,同时删除该卷积层卷积核输出通道上与索引号对应的通道。
107.本实施例中,根据预设的通道剪枝阈值和卷积层剪枝阈值,对已稀疏化目标检测网络进行自适应剪枝,能够得到已剪枝目标检测网络。
108.在一个实施例中,根据重新训练的已剪枝目标检测网络,得到已训练目标检测网络包括:
109.获取测试数据集,根据测试数据集对重新训练的已剪枝目标检测网络进行模型评估;
110.当模型评估通过时,得到已训练目标检测网络;
111.当模型评估未通过时,调整通道剪枝阈值和卷积层剪枝阈值,返回对已稀疏化目标检测网络进行自适应剪枝,得到已剪枝目标检测网络,并重新训练已剪枝目标检测网络的步骤,直到模型评估通过,得到已训练目标检测网络。
112.其中,测试数据集是指预先收集的用于对已剪枝目标检测网络进行模型评估的数据,测试数据集中测试数据均携带检测框标签。
113.具体的,服务器会获取测试数据集,根据测试数据集对重新训练的已剪枝目标检测网络进行模型评估,当模型评估通过时,表示模型已优化好,得到已训练目标检测网络,当模型评估未通过时,调整通道剪枝阈值和卷积层剪枝阈值,返回对已稀疏化目标检测网络进行自适应剪枝,得到已剪枝目标检测网络,并重新训练已剪枝目标检测网络的步骤,再次重新进行优化,直到模型评估通过,得到已训练目标检测模型。其中,在利用测试数据集对已剪枝目标检测网络进行模型评估时,所采用的评估标准为预先按需自行设置的,比如,评估标准具体可以为该已剪枝目标检测网络在测试数据集上的目标框预测准确率达到预设的准确率阈值等,本实施例在此处不做具体限定。
114.本实施例中,通过对重新训练的已剪枝目标检测网络进行模型评估,能够实现模型优化,得到已训练目标检测网络。
115.在一个实施例中,本技术的目标检测方法,可通过预先构建目标检测模型,利用目标检测模型对待检测图像进行处理,得到目标检测结果实现。如图6所示,通过一个流程示意图来说明构建目标检测模型的方法,该构建目标检测模型的方法具体包括以下步骤:
116.在开始训练时,服务器获取训练样本图像以及初始目标检测模型,训练样本图像携带真实目标框信息,通过初始目标检测模型,获取训练样本图像的多层级特征图,对多层级特征图进行特征融合,得到已融合多层级特征图,对已融合多层级特征图中每层特征图进行目标框预测,得到预测目标框,根据预测目标框和真实目标框信息,得到待优化目标检测模型(即模型评估,选择效果较好的模型),对待优化目标检测模型进行稀疏化训练和自适应剪枝,得到剪枝后的模型,重新训练剪枝后的模型,对重新训练的剪枝后的模型进行评估,当重新训练的剪枝后的模型满足需求时,结束训练并得到已训练目标检测模型,当重新训练的剪枝后的模型不满足需求时,调整预设的剪枝阈值,重新对已稀疏化训练的模型进行剪枝,并重新训练,直到重新训练的剪枝后的模型满足需求为止,得到已训练目标检测模型。其中,需求可按需自行设置,主要是指对剪枝后的模型的效果,即预设的准确度进行评估,比如,可采用获取测试数据集,利用测试数据集对剪枝后的模型进行评估的方式以确定模型是否满足需求。其中,剪枝阈值包括通道剪枝阈值和卷积层剪枝阈值,阈值大小可按照需要自行设置。
117.需要说明的是,在得到已训练目标检测模型后,通过将待检测图像输入已训练目标检测模型,能够通过已训练目标检测模型对待检测图像进行特征提取,得到多层级特征图,对多层级特征图进行特征融合,得到已融合多层级特征图,对已融合多层级特征图中每层特征图进行目标框检测,得到与待检测图像对应的目标检测结果。
118.在一个实施例中,如图7所示,通过一个流程示意图来说明本技术的目标检测方法,该目标检测方法具体包括以下步骤:
119.步骤702,获取待检测图像的多层级特征图;
120.步骤704,根据多层级特征图,确定当前层级特征图以及下一层级特征图,下一层
级特征图的层级低于当前层级特征图;
121.步骤706,通过预设的预处理卷积网络,对当前层级特征图进行卷积,得到已卷积特征图,预处理卷积网络包括至少两个不同尺寸的卷积核;
122.步骤708,对已卷积特征图依次进行采样和维度变换,得到已变换特征图;
123.步骤710,通过直接相加对已变换特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图;
124.步骤712,将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定新的下一层级特征图,新的下一层级特征图的层级低于当前的下一层级特征图;
125.步骤714,返回步骤708,直到多层级特征图中不存在新的下一层级特征图,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图;
126.步骤716,获取携带真实目标框的训练样本以及初始目标预测网络;
127.步骤718,通过初始目标预测网络对训练样本进行目标框预测,得到预测目标框;
128.步骤720,确定预测目标框和真实目标框之间的iou值;
129.步骤722,根据iou值以及预设的正样本阈值、负样本阈值,确定与初始目标预测网络对应的正负样本比;
130.步骤724,根据正负样本比,对初始目标预测网络进行调整,得到目标检测网络;
131.步骤726,对目标检测网络进行稀疏化训练,得到已稀疏化目标检测网络;
132.步骤728,获取已稀疏化目标检测网络中所有卷积层中归一化层的gamma值;
133.步骤730,根据通道剪枝阈值和gamma值对已稀疏化目标检测网络中所有卷积层进行通道剪枝,得到已通道剪枝网络;
134.步骤732,获取已通道剪枝网络中所有卷积层的当前通道数;
135.步骤734,根据当前通道数和卷积层剪枝阈值对已通道剪枝网络中所有卷积层进行卷积层剪枝,得到已剪枝目标检测网络,并重新训练已剪枝目标检测网络;
136.步骤736,获取测试数据集,根据测试数据集对重新训练的已剪枝目标检测网络进行模型评估,当模型评估通过时,跳转至步骤738,当模型评估未通过时,跳转至步骤740;
137.步骤738,得到已训练目标检测网络,跳转至步骤742;
138.步骤740,调整通道剪枝阈值和卷积层剪枝阈值,返回步骤728,直到模型评估通过,得到已训练目标检测网络;
139.步骤742,根据已训练目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
140.应该理解的是,虽然上述实施例涉及的各流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,上述实施例涉及的各流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
141.在一个实施例中,如图8所示,提供了一种目标检测装置,包括:获取模块802、第一处理模块804、融合模块806、更新模块808、第二处理模块810以及检测模块812,其中:
142.获取模块802,用于获取待检测图像的多层级特征图;
143.第一处理模块804,用于根据多层级特征图,确定当前层级特征图以及下一层级特征图,下一层级特征图的层级低于当前层级特征图;
144.融合模块806,用于对当前层级特征图进行卷积,得到已卷积特征图,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图;
145.更新模块808,用于将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定新的下一层级特征图,新的下一层级特征图的层级低于当前的下一层级特征图;
146.第二处理模块810,用于返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,直到多层级特征图中不存在新的下一层级特征图,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图;
147.检测模块812,用于对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
148.上述目标检测装置,通过获取待检测图像的多层级特征图,根据多层级特征图确定当前层级特征图以及下一层级特征图,在对当前层级特征图进行卷积,得到已卷积特征图的基础上,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图,并通过将已融合特征图作为新的已卷积特征图,根据多层级特征图确定新的下一层级特征图,返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,能够实现对多层级特征图中相邻层级特征图的融合,得到已融合多层级特征图,从而可以通过对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果,整个过程,通过对多层级特征图的特征融合,结合不同层级的图像特征,使得用于进行目标检测的已融合多层级特征图的特征信息更加丰富,能够提高目标检测结果的准确性,实现对盲区障碍物的检测,能够达到良好的检测效果。
149.在一个实施例中,融合模块还用于对已卷积特征图依次进行采样和维度变换,得到已变换特征图,通过直接相加对已变换特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图。
150.在一个实施例中,融合模块还用于通过预设的预处理卷积网络,对当前层级特征图进行卷积,得到已卷积特征图,预处理卷积网络包括至少两个不同尺寸的卷积核。
151.在一个实施例中,检测模块还用于获取训练样本以及初始目标预测网络,根据训练样本对初始目标预测网络进行优化,得到目标检测网络,根据目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
152.在一个实施例中,检测模块还用于获取携带真实目标框的训练样本以及初始目标预测网络,通过初始目标预测网络对训练样本进行目标框预测,得到预测目标框,确定预测目标框和真实目标框之间的iou值,根据iou值以及预设的正样本阈值、负样本阈值,确定与初始目标预测网络对应的正负样本比,根据正负样本比,对初始目标预测网络进行调整,得到目标检测网络。
153.在一个实施例中,检测模块还用于对目标检测网络进行稀疏化训练,得到已稀疏化目标检测网络,根据预设的通道剪枝阈值和卷积层剪枝阈值,对已稀疏化目标检测网络进行自适应剪枝,得到已剪枝目标检测网络,并重新训练已剪枝目标检测网络,根据重新训
练的已剪枝目标检测网络,得到已训练目标检测网络,根据已训练目标检测网络,对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结果。
154.在一个实施例中,检测模块还用于获取已稀疏化目标检测网络中所有卷积层中归一化层的gamma值,根据通道剪枝阈值和gamma值对已稀疏化目标检测网络中所有卷积层进行通道剪枝,得到已通道剪枝网络,获取已通道剪枝网络中所有卷积层的当前通道数,根据当前通道数和卷积层剪枝阈值对已通道剪枝网络中所有卷积层进行卷积层剪枝,得到已剪枝目标检测网络。
155.在一个实施例中,检测模块还用于获取测试数据集,根据测试数据集对重新训练的已剪枝目标检测网络进行模型评估,当模型评估通过时,得到已训练目标检测网络,当模型评估未通过时,调整通道剪枝阈值和卷积层剪枝阈值,返回对已稀疏化目标检测网络进行自适应剪枝,得到已剪枝目标检测网络,并重新训练已剪枝目标检测网络的步骤,直到模型评估通过,得到已训练目标检测网络。
156.关于目标检测装置的具体限定可以参见上文中对于目标检测方法的限定,在此不再赘述。上述目标检测装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
157.在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图9所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储训练样本图像和测试数据集等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种目标检测方法。
158.本领域技术人员可以理解,图9中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本技术方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
159.在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
160.获取待检测图像的多层级特征图;
161.根据多层级特征图,确定当前层级特征图以及下一层级特征图,下一层级特征图的层级低于当前层级特征图;
162.对当前层级特征图进行卷积,得到已卷积特征图,通过尺度变换对已卷积特征图和下一层级特征图进行融合,对融合后的特征图进行卷积,得到已融合特征图;
163.将已融合特征图作为新的已卷积特征图,并根据多层级特征图确定新的下一层级特征图,新的下一层级特征图的层级低于当前的下一层级特征图;
164.返回通过尺度变换对已卷积特征图和下一层级特征图进行融合的步骤,直到多层级特征图中不存在新的下一层级特征图,根据初次得到的已卷积特征图以及每次得到的已融合特征图,得到已融合多层级特征图;
165.对已融合多层级特征图中每层已融合特征图进行目标框检测,得到目标检测结
only memory,rom)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(random access memory,ram)或外部高速缓冲存储器。作为说明而非局限,ram可以是多种形式,比如静态随机存取存储器(static random access memory,sram)或动态随机存取存储器(dynamic random access memory,dram)等。
175.以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
176.以上所述实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保护范围。因此,本技术专利的保护范围应以所附权利要求为准。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1