一种基于量化神经网络检测通用物体的方法

本发明属于物体检测，涉及计算机视觉及深度学习技术，尤其涉及一种基于混合精度配置搜索的量化神经网络检测通用物体的方法。

背景技术：

1、通用物体检测是计算机视觉领域最为重要的任务之一，其已被广泛应用到了诸如智能安防、自动驾驶、无人机勘测等等领域。在现实应用场景中，通用物体检测器往往需要依赖神经网络量化，将检测器各层的权重和特征图从原先的32比特压缩至更低比特(如4比特)，以减少通用物体检测器的存储量与计算量，进而有效降低通用物体检测器部署的门槛。

2、尽管现阶段的针对量化通用物体检测器的技术取得了长足的发展，但是其往往直接使用统一的固定比特配置或依赖于专家手工设计各层的比特配置，这使得经过神经网络量化后的通用物体检测器性能较原始模型存在较大的差距。因此，现有的针对通用物体检测的神经网络量化算法在技术上还存在一定的瓶颈，精度较原有全精度检测器受限。

技术实现思路

1、为了克服上述现有技术的不足，本发明提供一种基于混合精度配置搜索的量化神经网络检测通用物体的方法，通过建立混合精度配置并对其进行搜索，直接获取通用物体检测器各层权重和特征图的比特配置，据此搭建并实现通用物体检测器的量化，有效提升量化后通用物体检测器的精度，以优化对物体图像的检测。

2、本发明的技术方案是：

3、一种基于量化神经网络检测通用物体的方法，通过建立混合精度配置并对其进行搜索，直接获取通用物体检测器各层权重和特征图的比特配置，据此搭建并实现通用物体检测器的量化，有效提升量化后通用物体检测器的精度，以优化对物体图像的检测。包括如下步骤：

4、1)获取通用物体检测器所允许的各层权重和特征图的比特配置，并据此构建搜索空间；

5、2)获取通用物体检测器卷积层数l，构建编码表示每一层权重和特征图的比特数配置，每一个编码为一个l长度的列表，列表中每一个元素为一个二维元组，其表示对应卷积层的权重比特数和特征图比特数；

6、3)基于上述构建的搜索空间建立混合精度量化超网络，该网络将一个通用物体检测器中各层卷积层替换为量化层，其支持权重各比特、特征图各比特的自由前向计算；

7、4)利用对应任务训练集训练该混合精度量化超网络，针对每一次迭代，首先采样最大比特配置网络并对其进行训练，之后采样最小比特配置网络并对其进行训练，最后随机采样两个比特配置网络并对其网络进行训练；

8、5)构建搜索算法迭代器，搜索可以利用任意现有算法，如随机搜索、进化算法搜索等等，最终将获得使通用物体检测器精度最优的各层权重和特征图的比特配置；

9、6)采用步骤5)获得的精度最优的各层权重和特征图的比特配置，对通用物体检测器的每一个卷积层的比特数进行配置，以此构建量化后的通用物体检测器；

10、7)利用训练集对步骤6)所构建的通用物体检测器进行训练，最终应用于通用物体的检测。

11、上述基于混合精度配置搜索的量化神经网络检测通用物体的方法可广泛应用于多种通用物体检测器部署当中，进而应用于智能安防、自动驾驶、无人机勘测等多种应用场景，提高量化后通用物体检测器的精度。

12、与现有技术相比，本发明的有益效果是：

13、本发明通过建立混合精度配置并对其进行搜索，直接获取通用物体检测器各层权重和特征图的比特配置，据此搭建并实现通用物体检测器的量化，有效提升量化后通用物体检测器的精度，以优化对物体图像的检测。

14、本发明方法解决了传统量化神经网络在通用物体检测时直接使用统一的固定比特配置或依赖于专家手工设计各层的比特配置的方案，通过混合精度配置的搜索实现了通用物体检测器的量化，有效提升了检测器量化后的性能。本发明可以应用于任何基于卷积神经网络的通用物体检测器当中(如yolov3、faster r-cnn等)。针对本发明所对应的通用物体检测任务，在pascal voc数据集上进行的实验结果表明，全精度map值为75.3％的yolov3-mobilenetv1检测器在执行上述方法所获得的平均4比特的量化后模型相较于固定4比特模型map值可以从71.2％提升至73.0％。

技术特征：

1.一种基于量化神经网络检测通用物体的方法，包括如下步骤：

2.如权利要求1所述的基于量化神经网络检测通用物体的方法，其特征在于，步骤4)中，针对每一次迭代，首先采样最大比特配置网络并对其进行训练，之后采样最小比特配置网络并对其进行训练，最后随机采样两个比特配置网络并对其网络进行训练针对每一次迭代。

3.如权利要求1所述的基于量化神经网络检测通用物体的方法，其特征在于，步骤5)中所述搜索采用随机搜索或进化算法搜索。

技术总结
本发明提供一种基于量化神经网络检测通用物体的方法，属于物体检测技术领域。本发明通过建立混合精度配置并对其进行搜索，直接获取通用物体检测器各层权重和特征图的比特配置，据此搭建并实现通用物体检测器的量化，有效提升量化后通用物体检测器的精度，以优化对物体图像的检测。本发明可广泛应用于多种通用物体检测器部署当中，进而应用于智能安防、自动驾驶、无人机勘测等多种应用场景。

技术研发人员：王勇涛,林稚皓
受保护的技术使用者：北京大学
技术研发日：
技术公布日：2024/1/14