一种基于知识蒸馏的工业图像异常检测方法及系统

本发明涉及图像异常检测，更具体地，涉及一种基于知识蒸馏的工业图像异常检测方法及系统。

背景技术：

1、目前工业现场的异常检测一般根据异常特征信息，人为地设计每种异常的识别算法，一般使用图像滤波，形态学操作，图像二值化处理，边缘计算等，使用传统的工业异常检测算法一般可调整不同的参数从而实现较快速地识别异常，但是存在以下缺点：每一种具有不同特征的异常都需要对其单独地设计识别算法；泛化能力差，对成像要求高，当背景信息改变时需要及时地对算法的参数进行调整以实现最佳的检测效果。

2、为了克服上述缺点，现有技术采用无监督异常检测方法进行异常检测，现有的无监督异常检测方法主要通过使用具有强特征提取能力的特征提取模块提取正常样本在特征空间中的特征表示并将其保存，再使用knn方法通过计算待测样本与所保存的正常样本在特征空间中的欧式距离作为异常评价指标。但是该方法面临着存储正常样本的特征表示需耗费额外空间，并且knn算法检测时间长的问题，导致该算法的稳定性与快速性上无法得到保障；这种异常检测方法，虽然在较少正常样本的情况下能够有效的进行检测，但在正常样本数量大时，由于每一次检测时都需计算待测样本与所存储的正常样本特征在特征空间中的距离，因此检测速度随着正常样本数量的提高反而降低。因此现有技术在正常样本多的情况下进行工业异常检测存在计算速度慢，占用资源多，对环境的硬件要求高等问题。同时由于每种异常之间的检测网络相互独立，使用到的数据集的构成需要保证每种异常的数量，若异常样本种类数量不平衡，方法获得的检测结果的精准度则会不高。

技术实现思路

1、本发明为克服上述现有技术所述的工业异常检测技术中存在计算速度慢、占用资源多，且当异常样本种类数量不平衡时检测精准度低的缺陷，提供一种数据集易得且能实现快速精准检测的基于知识蒸馏的工业图像异常检测方法及系统。

2、为解决上述技术问题，本发明的技术方案如下：

3、一种基于知识蒸馏的工业图像异常检测方法，包括以下步骤：

4、s1：采集若干已知标签的源域图像和若干工业图像并进行预处理，分别组成源域数据集和工业数据集；

5、s2：将所述源域数据集输入教师网络，获得完成优化的教师网络并对其进行冻结；

6、s3：构建下采样学生网络和上采样学生网络，由冻结的教师网络、所述下采样学生网络和所述上采样学生网络构成双分支知识蒸馏网络；

7、s4：将所述工业数据集输入所述双分支知识蒸馏网络，并根据所述双分支知识蒸馏网络输出的第一教师特征、第一下采样特征和第一上采样特征确定所述双分支知识蒸馏网络的异常检测损失函数loss和异常检测得分函数score；通过最小化所述异常检测损失函数loss输出的损失值，获得完成优化的双分支知识蒸馏网络；

8、s5：将待检测图像输入至完成优化的双分支知识蒸馏网络，通过所述异常检测得分函数score计算待检测图像的异常得分，若所述异常得分小于预设值，则判定待检测图像为正常图像，否则，判定待检测图像为异常图像。

9、优选地，本发明还提出了一种基于知识蒸馏的工业图像异常检测系统，应用于上述的基于知识蒸馏的工业图像异常检测方法。其中，基于知识蒸馏的工业图像异常检测系统，包括依次连接的采集模块、构建优化模块和异常检测模块：

10、采集模块，用于采集并预处理源域图像和工业图像；

11、构建优化模块，用于构建教师网络、下采样学生网络和上采样学生网络，进而构建双分支知识蒸馏网络；且用于根据采集模块输出的图像数据，优化所述教师网络和双分支知识蒸馏网络；

12、异常检测模块，其上配置有完成优化的双分支知识蒸馏网络，用于对待检测图像进行检测，输出异常检测结果。

13、与现有技术相比，本发明技术方案的有益效果是：

14、本发明通过经源域数据集训练好的教师网络，指导下采样学生网络和上采样学生网络，使其通过工业数据集学习到提取正常样本的特征的能力，只需提供易得的源域数据集和由正常样本构成的数据集，对数据集的要求低，无需受异常样本种类及数量的限制，可以对各种异常类型的图像进行精准检测，同时，无需存储正常样本的特征表示，计算速度快、占用资源少，可以实现快速检测出异常图像的目的。

技术特征：

1.一种基于知识蒸馏的工业图像异常检测方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的基于知识蒸馏的工业图像异常检测方法，其特征在于，对源域图像进行预处理的操作包括：图像的缩放、裁剪和归一化；对工业图像进行预处理的操作包括：清洗、去噪、标准化、人工筛选保留正常图像，以及将保留的正常图像以预设比例划分为工业训练集和工业验证集；其中，所述工业验证集中的工业图像通过人工标记带有已知标签，用于对所述双分支知识蒸馏网络进行优化训练。

3.根据权利要求1所述的基于知识蒸馏的工业图像异常检测方法，其特征在于，所述教师网络包括宽残差网络，所述宽残差网络是包括四个模块的卷积神经网络；其中，每个模块包括若干卷积块，所述卷积块通过堆叠卷积层、批归一化、激活函数和残差连接构建；所述下采样学生网络采用与教师网络相同的宽残差网络，所述上采样学生网络采用与教师网络传播方式相反的宽残差网络。

4.根据权利要求3所述的基于知识蒸馏的工业图像异常检测方法，其特征在于，所述教师网络和所述下采样学生网络中，每个所述模块的输出端设置有步长为预设值的3×3卷积层，用于进行通道数翻倍及分辨率减半的下采样操作；所述上采样学生网络中，每个所述模块的输出端设置有步长为预设值的3×3反卷积层，用于进行通道数减半及分辨率翻倍的上采样操作。

5.根据权利要求3或4所述的基于知识蒸馏的工业图像异常检测方法，其特征在于，所述源域数据集根据预设比例划分为源域训练集和源域验证集；其中，s2步骤包括：

6.根据权利要求3或4所述的基于知识蒸馏的工业图像异常检测方法，其特征在于，所述工业数据集根据预设比例划分为工业训练集和工业验证集；其中，s4步骤包括：

7.根据权利要求6所述的基于知识蒸馏的工业图像异常检测方法，其特征在于，s4.1步骤中，输入上采样学生网络的部分第一教师特征，包括冻结的教师网络的第四模块输出的特征。

8.根据权利要求1～4任一项所述的基于知识蒸馏的工业图像异常检测方法，其特征在于，s5步骤包括：将待检测图像输入完成优化的双分支知识蒸馏网络中的冻结的教师网络和下采样学生网络，分别获得第二教师特征和第二下采样特征；将部分第二教师特征输入上采样学生网络，获得第二上采样特征；根据第二教师特征、第二下采样特征和第二上采样特征，通过所述异常检测得分函数score计算待检测图像的异常得分，若所述异常得分小于预设值，则判定待检测图像为正常图像，否则，判定待检测图像为异常图像。

9.一种基于知识蒸馏的工业图像异常检测系统，应用权利要求1～8任一项所述的基于知识蒸馏的工业图像异常检测方法，其特征在于，包括：

10.根据权利要求9所述的基于知识蒸馏的工业图像异常检测系统，其特征在于，所述系统还包括可视化模块，用于可视化地显示待检测图像及其对应的异常得分，并展示异常检测结果。

技术总结
本发明涉及异常检测技术领域，更具体地，涉及一种基于知识蒸馏的工业图像异常检测方法及系统，包括以下步骤：将所述源域数据集输入教师网络进行训练优化，获得完成优化的教师网络并对其进行冻结；构建下采样学生网络和上采样学生网络，由冻结的教师网络、所述下采样学生网络和所述上采样学生网络构成双分支知识蒸馏网络；将所述工业数据集输入所述双分支知识蒸馏网络，通过最小化异常检测损失函数输出的函数值，获得完成优化的双分支知识蒸馏网络；将待检测图像输入至完成优化的双分支知识蒸馏网络，通过异常检测得分函数计算待检测图像的异常得分，若所述异常得分小于预设值，则判定待检测图像为正常图像，否则，判定待检测图像为异常图像。

技术研发人员：任志刚,黄梓豪
受保护的技术使用者：广东工业大学
技术研发日：
技术公布日：2024/1/16