基于知识蒸馏的输电塔杆异物危害识别方法、系统与流程

本发明涉及图像识别领域，特别涉及基于知识蒸馏的输电塔杆异物危害识别方法、系统。

背景技术：

1、随着电网建设的步伐加快,建设在市郊城镇的输电塔杆越来越多,随之鸟巢、风筝、塑料布、锡箔条、防尘网等异物出现在输电塔杆的情况也增多。异物的悬挂极易造成导地线的单相接地、相间短路等跳闸事故,严重影响电网安全稳定运行。

2、为了保障输电塔杆安全稳定运行，因此输电塔杆需要定期巡检。以人工为主的输电线路传统巡检方式效率低、危险系数高且资源耗费大，随着无人机自动巡检技术的发展和应用而逐渐被淘汰。目前，相关研究人员已构建出多种网络模型对巡检影像来进行输电塔杆异物的识别，但是为了追求更好的识别效果，大多数的网络模型结构变得愈发庞杂。虽然相关任务准确率得到了提升，但通过加深网络来提高准确率会增加较大的参数量。导致网络的运算量增加，需要花费极大的运算资源。

3、本申请旨在建立一种基于知识蒸馏的输电塔杆异物危害识别方法、系统，以解决上述问题。

技术实现思路

1、为了实现根据本发明的上述目的和其他优点，本发明的第一目的是提供一种基于知识蒸馏的输电塔杆异物危害识别方法，包括如下步骤：

2、获取输电塔杆异物图像的数据集并通过知识蒸馏改进的深度神经网络模型进行训练以输出预测模型；

3、获取输电塔杆的第一数据，第一数据至少包括通过巡检无人机获取的视频数据；

4、对视频数据进行异物目标定位，以得到具有异物位置的第二数据，第二数据包括目标图像数据和地理坐标数据；

5、将目标图像数据输入预测模型以输出目标图像异物的危害类型以判断是否需要清理目标图像异物。

6、在一优选方案中，获取输电塔杆异物图像的数据集并通过知识蒸馏改进的深度神经网络模型进行训练，具体包括步骤：

7、获取输电塔杆异物图像的数据集；

8、对图像数据进行预处理，并将图像数据划分为训练集、验证集；

9、选定教师网络和学生网络，并进行网络初始化；学生网络为轻量化网络；

10、对教师网络进行训练以得到成熟的教师网络；

11、在教师网络的辅助下训练学生网络，以输出成熟的学生神经网络作为预测模型。

12、在一优选方案中，对教师网络进行训练以得到成熟的教师网络，具体包括步骤：

13、教师网络根据异物的危害类型类别的数目n，构建一个新的全连接层；其中，全连接层用于当图像输入教师网络时，教师网络的全连接层输出该图像不同危害程度的概率；

14、输入训练集和测试集至教师网络进行迭代训练；其中训练集每完成一轮训练保存训练后的教师网络，测试集用于评估每一轮训练后的教师网络；

15、选择一个在测试集评估后最高准确率的教师网络，将其作为成熟的教师网络。

16、在一优选方案中，在教师网络的辅助下训练学生网络，以输出成熟的学生神经网络作为预测模型，具体包括步骤：

17、将成熟的教师网络设置为评估评估模式不参与模型训练过程中的反向传播，以计算使用总损失l；

18、通过总损失l对学生网络进行反向传播并结合adam优化器对学生网络数进行参数更新和保存，并将验证集输入完成参数更新的学生网络进行评估；其中，学生网络为轻量化网络；

19、选择一个在测试集评估后最高准确率的学生网络，将其作为预测模型。

20、在一优选方案中，将成熟的教师网络设置为评估评估模式不参与模型训练过程中的反向传播，以计算使用总损失l，具体包括步骤：

21、计算学生网络硬输出和真实标签之间的硬损失lh；

22、

23、学生网络软输出和教师网络软输出之间的蒸馏损失ls；

24、

25、根据硬损失lh和蒸馏损失ls计算总损失l＝(1-α)×lh+α×ls；

26、其中α表示ls在总损失中的比重，t表示蒸馏所用的温度，vj表示教师网络的硬预测输出在第j类危害类型上概率值；zj表示学生网络的硬预测输出在第j类危害类型上概率值；表示教师网络在温度t下的软预测输出在第j类危害类型上概率值；表示学生网络在温度t下的软预测输出在第j类危害类型上概率值；cj表示真实标签在第j类危害类型上概率值；n表示危害总类别数量；

27、在一优选方案中，对视频数据进行异物目标定位，以得到具有异物位置的第二数据，具体包括步骤：

28、对视频数据进行分帧处理以输出若干张第一图像；

29、将第一图像输入具有异物目标检测功能的神经网络模型以筛选同时具有输电塔杆和异物的第二图像；

30、根据第视频数据对第二图像标注地理坐标数据以得到第二数据。

31、在一优选方案中，对第二图像进行图像预处理，还包括步骤：

32、计算异物在第二图像中最小外接矩形的四个点坐标和面积；

33、对第二图像进行图像灰度化处理；

34、对第二图像进行图像归一化，以获得面积大小相等的第二图像；

35、根据地理坐标数据和最小外接矩形的面积删除重复的第二数据。

36、本发明的第二目的是提供一种基于知识蒸馏的输电塔杆异物危害识别系统，包括：

37、预测模型训练单元，用于获取输电塔杆异物图像的数据集并通过知识蒸馏改进的深度神经网络模型进行训练以输出预测模型；

38、数据采集单元，用于获取输电塔杆的第一数据，第一数据至少包括视频数据；

39、数据处理单元，用于对视频数据进行异物目标定位，以得到具有异物位置的第二数据，第二数据包括目标图像数据和地理坐标数据；

40、危害识别单元，将目标图像数据输入预测模型以输出目标图像异物的危害类型以判断是否需要清理目标图像异物。

41、本发明的第三目的是提供一种计算机可读存储介质，其上存储有程序指令，所述程序指令被执行时实现基于知识蒸馏的输电塔杆异物危害识别方法。

42、本发明的第四目的是提供一种电子设备，包括：处理器和存储器，所述存储器用于存储一个或多个程序；当所述一个或多个程序被所述处理器执行时，实现基于知识蒸馏的输电塔杆异物危害识别方法。

43、与现有技术相比，本发明的有益效果是：

44、本发明涉及基于知识蒸馏的输电塔杆异物危害识别方法，包括：采用知识蒸馏的方式，利用重量级网络辅助训练轻量级网络。在保证较高异物识别准确立的前提条件下，尽可能实现网络的轻量化。轻量化的网络有利于该识别方法在嵌入式设备上使用。

45、上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，并可依照说明书的内容予以实施，以下以本发明的较佳实施例并配合附图详细说明如后。本发明的具体实施方式由以下实施例及其附图详细给出。

技术特征：

1.一种基于知识蒸馏的输电塔杆异物危害识别方法，其特征在于，包括：

2.根据权利要求1所述的一种基于知识蒸馏的输电塔杆异物危害识别方法，其特征在于，获取输电塔杆异物图像的数据集并通过知识蒸馏改进的深度神经网络模型进行训练，具体包括步骤：

3.根据权利要求2所述的一种基于知识蒸馏的输电塔杆异物危害识别方法，其特征在于，其特征在于，对所述教师网络进行训练以得到成熟的教师网络，具体包括步骤：

4.根据权利要求2所述的一种基于知识蒸馏的输电塔杆异物危害识别方法，其特征在于，在成熟的教师网络的辅助下训练学生网络，以输出成熟的学生神经网络作为预测模型，具体包括步骤：

5.根据权利要求4所述的一种基于知识蒸馏的输电塔杆异物危害识别方法，其特征在于，将所述成熟的教师网络设置为评估评估模式不参与模型训练过程中的反向传播，以计算使用总损失l，具体包括步骤：

6.根据权利要求1所述的一种基于知识蒸馏的输电塔杆异物危害识别方法，其特征在于，对所述视频数据进行异物目标定位，以得到具有异物位置的第二数据，具体包括步骤：

7.根据权利要求6所述的一种基于知识蒸馏的输电塔杆异物危害识别方法，其特征在于，对第二图像进行图像预处理，还包括步骤：

8.一种基于知识蒸馏的输电塔杆异物危害识别系统，其特征在于，包括：

9.一种电子设备，包括存储器和处理器；其中，所述存储器用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述处理器执行以实现权利要求1-7任一项所述的方法步骤。

10.一种存储介质，其上存储有计算机指令；其中，该计算机指令被处理器执行时实现权利要求1-7任一项所述的方法步骤。

技术总结
本发明涉及基于知识蒸馏的输电塔杆异物危害识别方法、系统。该方法包括：获取输电塔杆异物图像的数据集并通过知识蒸馏改进的深度神经网络模型进行训练以输出预测模型；获取输电塔杆的第一数据，第一数据至少包括通过巡检无人机获取的视频数据；对视频数据进行异物目标定位，以得到具有异物位置的第二数据，第二数据包括目标图像数据和地理坐标数据；将目标图像数据输入预测模型以输出目标图像异物的危害类型以判断是否需要清理目标图像异物。本发明较现有技术采用知识蒸馏的方式，利用重量级网络辅助训练轻量级网络。在保证较高异物识别准确立的前提条件下，尽可能实现网络的轻量化。轻量化的网络有利于该识别方法在嵌入式设备上使用。

技术研发人员：吴毅,杨青伟,张怡
受保护的技术使用者：国网江苏省电力有限公司盐城供电分公司
技术研发日：
技术公布日：2024/3/27