一种基于多判别器的对抗迁移学习方法和装置与流程

文档序号:36927060发布日期:2024-02-02 21:52阅读:17来源:国知局
一种基于多判别器的对抗迁移学习方法和装置与流程

本技术实施例涉及人工智能,尤其涉及一种基于多判别器的对抗迁移学习方法和装置。


背景技术:

1、人工智能(ai)的智能化和集成化应用已经在众多行业中获得了广泛的关注。基于数据驱动的智能诊断是一种端到端的方法,通过提取和挖掘大量数据中的信息和特征,可实现自动特征提取和损伤识别,并已被广泛应用于故障诊断分类任务中。相比传统的故障诊断和分类方法,其优点在于,不需要给出所有已知的故障的机理信息,也不需要人工给定分类阈值,通过机器学习和深度学习等人工智能方法自动完成特征提取和分类任务。

2、目前,利用人工智能方法进行故障诊断和分类的方法依赖大量已知的故障数据,通过参数估计和数值拟合等方法,结合优化算法对大批量数据进行特征提取和分类。通常现有人工智能方法需要大量已知数据进行训练、求解和优化,从而提高故障识别和分类的精度以及避免训练过拟合。但在实际应用中,由于设备很少工作在已知故障的状态下,因此难于获取实际工况下大量的已知数据,这就导致现有人工智能故障诊断方法还是存在效率低、不稳定等缺点。


技术实现思路

1、以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。

2、本公开实施例的主要目的在于提出一种基于多判别器的对抗迁移学习方法和装置,在不需要依赖于大量完整的数据集,即可高效稳定的训练特征提取器。

3、第一方面,本公开实施例提出一种基于多判别器的对抗迁移学习方法,所述基于多判别器的对抗迁移学习方法包括:

4、获取待分类样本;

5、通过特征提取器提取所述待分类样本的待分类特征,并将所述待分类特征输入至标签判别器,以使所述标签判别器对所述待分类样本进行分类;其中所述特征提取器通过如下方式进行训练:

6、获取多个待训练样本,所述多个待训练样本包括源域样本和目标域样本;

7、在当前训练次数下,通过所述特征提取器提取所述多个待训练样本对应的多个深层特征;

8、将所述多个深层特征分别输入至多个域判别器中,以得到每一个所述域判别器对每一个所述待训练样本的所述深层特征所属域的预测概率;

9、根据每两个所述域判别器对同一个所述待训练样本的所述预测概率计算每两个所述域判别器之间的差异度,根据每两个所述域判别器之间的所述差异度计算所述多个域判别器之间对同一个所述待训练样本的总差异度;

10、根据所述多个域判别器对所述多个待训练样本对应的多个所述总差异度计算域间损失;

11、根据所述域间损失对所述特征提取器进行优化,使所述特征提取器根据所述多个待训练样本进行下一次训练,直至训练结束。

12、本技术的一些实施例中,所述根据每两个所述域判别器对同一个所述待训练样本的所述预测概率计算每两个所述域判别器之间的差异度,根据每两个所述域判别器之间的所述差异度计算所述多个域判别器之间对同一个所述待训练样本的总差异度,包括:

13、计算每两个所述域判别器对同一个所述待训练样本的所述预测概率之间的距离值,将所述距离值作为每两个所述域判别器之间的差异值;

14、采用平均值法对所述多个域判别器中的所有所述距离值进行归一化,得到所述多个域判别器之间对同一个所述待训练样本的总差异度。

15、本技术的一些实施例中,所述总差异度的计算公式包括:

16、

17、其中,dv(i)表示所述多个域判别器对第i个待训练样本的总差异度,cd(m)(x(i))表示第m个域判别器对第i个待训练样本的所述深层特征所属域的预测概率,cd(n)(x(i))表示第n个域判别器对第i个待训练样本的所述深层特征所属域的预测概率,x(i)表示第i个待训练样本,n表示域判别器的总数。

18、本技术的一些实施例中,根据所述多个域判别器对所述多个待训练样本对应的多个所述总差异度计算域间损失,包括:

19、利用信息熵公式将所述多个判别器对所述多个待训练样本的对应的多个所述总差异度转换成不确定度;

20、将所述不确定度进行梯度反转,得到所述域间损失。

21、本技术的一些实施例中,所述域间损失的计算公式包括:

22、

23、其中,dloss表示域间损失,dv(i)表示所述多个域判别器对第i个待训练样本的总差异度,k表示待训练样本的总数,表示不确定度,(.)gradient inverse表示梯度反转函数,log表示对数函数。

24、本技术的一些实施例中,判断所述特征提取器训练完成的方式,包括:

25、设置训练的结束次数和期望域间损失;

26、如果当前训练次数未达到所述训练的结束次数,根据所述域间损失对所述特征提取器进行优化,以使所述特征提取器对所述多个待训练样本进行下一次训练;

27、如果当前训练次数达到所述训练的结束次数,且所述域间损失大于或等于所述期望域间损失,根据所述域间损失对所述特征提取器进行优化,以使所述特征提取器对所述多个待训练样本进行下一次训练;

28、如果当前训练次数达到所述训练的结束次数,且所述域间损失小于所述期望域间损失,训练完成。

29、本技术的一些实施例中,在当前训练次数下,所述将所述多个深层特征分别输入至多个域判别器之后,所述基于多判别器的对抗迁移学习方法,还包括:

30、将所述多个深层特征输入至所述标签判别器中,以得到所述标签判别器输出的预测标签;

31、根据所述预测标签和预设真实标签,计算交叉熵损失;

32、所述根据所述域间损失对所述特征提取器进行优化,包括:

33、根据所述交叉熵损失和所述域间损失对所述特征提取器进行优化。

34、第二方面,本公开实施例提出一种基于多判别器的对抗迁移学习装置,所述基于多判别器的对抗迁移学习装置包括:

35、数据获取单元,用于获取待分类样本;

36、数据分类单元,用以通过特征提取器提取所述待分类样本对应的待分类特征,并将所述待分类特征输入至标签判别器,以使所述标签判别器对所述待分类样本进行分类;其中所述特征提取器通过如下方式进行训练:

37、获取多个待训练样本,所述多个待训练样本包括源域样本和目标域样本;

38、在当前训练次数下,通过所述特征提取器提取所述多个待训练样本对应的多个深层特征;将所述多个深层特征分别输入至多个域判别器中,以得到每一个所述域判别器对每一个所述待训练样本的所述深层特征所属域的预测概率;根据每两个所述域判别器对同一个所述待训练样本的所述预测概率计算每两个所述域判别器之间的差异度,根据每两个所述域判别器之间的所述差异度计算所述多个域判别器之间对同一个所述待训练样本的总差异度;根据所述多个域判别器对所述多个待训练样本对应的多个所述总差异度计算域间损失;

39、根据所述域间损失对所述特征提取器进行优化,使所述特征提取器根据所述多个待训练样本进行下一次训练,直至训练结束。

40、第三方面,本公开实施例提出一种电子设备,包括至少一个存储器;

41、至少一个处理器;

42、至少一个计算机程序;

43、所述计算机程序被存储在所述存储器中,处理器执行所述至少一个计算机程序以实现:

44、如第一方面实施例任一项所述的基于多判别器的对抗迁移学习方法。

45、第四方面,本公开实施例提出一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使计算机执行:

46、如第一方面实施例任一项所述的基于多判别器的对抗迁移学习方法。

47、本技术的一些实施例提供了一种基于多判别器的对抗迁移学习方法,本方法在特征提取器的每一次训练过程中,先获得每一个域判别器对每一个待训练样本的深层特征所属域的预测概率,其次根据每两个域判别器对同一个待训练样本的预测概率计算每两个域判别器之间的差异度,然后根据每两个域判别器之间的差异度计算多个域判别器之间对同一个待训练样本的总差异度,最后根据多个域判别器对多个待训练样本对应的多个差异度计算域间损失,根据域间损失对特征提取器进行优化;本方法引入多个域判别器之间对所有待训练样本的总差异度来估计域间损失,量化并减小对待训练样本特征提取的域间差异,不仅具有良好的域迁移决策能力,而且使得域迁移具有良好的稳定性,在不需要依赖于大量完整的数据集,即可高效稳定的训练特征提取器,而且训练好的特征提取器能够对更多具有物理意义的特征进行提取,能够提高标签判别器对分类样本的分类精确度。

48、可以理解的是,上述第二方面至第四方面与相关技术相比存在的有益效果与上述第一方面与相关技术相比存在的有益效果相同,可以参见上述第一方面中的相关描述,在此不再赘述。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1