特征提取模型的训练方法、特征提取方法及装置与流程

本申请属于计算机领域，具体涉及一种特征提取模型的训练方法、特征提取方法及装置。

背景技术：

1、当前，在对诸如图像或文本之类的对象进行处理的很多情形(例如，人脸识别或文本-语音转换)下，往往会先提取对象的特征信息。

2、相关技术在提取对象的特征信息的过程中，往往会侧重提取对象某一方面的信息(例如，对象的整体信息)，而忽略对象另一方面的信息(例如，对象的细节特征信息)，进而，这种特征信息提取方式的应用范围较为受限。

技术实现思路

1、本申请实施例提供一种特征提取模型的训练方法、特征提取方法及装置，以解决相关技术中的特征信息提取方式应用范围较为受限的问题。

2、第一方面，本申请实施例提供了一种特征提取模型的训练方法，该方法包括：

3、获取第一阶段训练样本；

4、通过所述第一阶段训练样本对待训练的特征提取模型进行对比学习训练，得到第一目标特征提取模型；

5、获取第二阶段训练样本；

6、通过所述第二阶段训练样本对所述第一目标特征提取模型进行对比学习训练，得到第二目标特征提取模型；

7、其中，所述第一阶段训练样本为用于进行域间对比学习的训练样本和用于进行域内对比学习的训练样本中的一者，所述第二阶段训练样本为用于进行域间对比学习的训练样本和用于进行域内对比学习的训练样本中的另一者；

8、其中，所述用于进行域间对比学习的训练样本包括：第一锚点样本、与所述第一锚点样本对应的域内正样本和与所述第一锚点样本对应的域外负样本；所述用于进行域内对比学习的训练样本包括：第二锚点样本、与所述第二锚点样本对应的域内正样本、与所述第二锚点样本对应的域内负样本。

9、第二方面，本申请实施例提供了一种特征提取方法，该方法包括：

10、获取目标数据；

11、将所述目标数据输入至所述第二目标特征提取模型进行特征提取处理，得到与所述目标数据对应的特征信息；

12、其中，所述第二目标特征提取模型是根据第一方面提供的训练方法进行训练得到的。

13、第三方面，本申请实施例提供了一种特征提取装置，包括获取模块和处理模块；

14、所述获取模块，用于获取目标数据；

15、所述处理模块，用于将所述目标数据输入至第二目标特征提取模型进行特征提取处理，得到与所述目标数据对应的特征信息；

16、其中，所述第二目标特征提取模型是根据第一方面提供的训练方法而得到的。

17、第四方面，本申请实施例提供了一种电子设备，该电子设备包括处理器和存储器，所述存储器存储可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如第一方面或第二方面所述的方法的步骤。

18、第五方面，本申请实施例提供了一种可读存储介质，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如第一方面或第二方面所述的方法的步骤。

19、在本申请实施例中，通过获取第一阶段训练样本；通过所述第一阶段训练样本对待训练的特征提取模型进行对比学习训练，得到第一目标特征提取模型；获取第二阶段训练样本；通过所述第二阶段训练样本对所述第一目标特征提取模型进行对比学习训练，得到第二目标特征提取模型；其中，所述第一阶段训练样本为用于进行域间对比学习的训练样本和用于进行域内对比学习的训练样本中的一者，所述第二阶段训练样本为用于进行域间对比学习的训练样本和用于进行域内对比学习的训练样本中的另一者；其中，所述用于进行域间对比学习的训练样本包括：第一锚点样本、与所述第一锚点样本对应的域内正样本和与所述第一锚点样本对应的域外负样本；所述用于进行域内对比学习的训练样本包括：第二锚点样本、与所述第二锚点样本对应的域内正样本、与所述第二锚点样本对应的域内负样本。这样，通过第一阶段训练样本和第二阶段训练样本进行两个阶段的模型训练，一个阶段侧重于进行域间对比学习，另一个阶段侧重于进行域内对比学习，最终得到的第二目标特征提取模型不仅具有区分数据的整体特征的能力，而且还具有进一步区分数据的细节特征的能力，大大扩展了模型的应用范围，从而能够解决相关技术中的特征信息提取方式应用范围较为受限的问题。

技术特征：

1.一种特征提取模型的训练方法，其特征在于，包括：

2.根据权利要求1所述的训练方法，其特征在于，

3.根据权利要求2所述的方法，其特征在于，

4.根据权利要求1-3任一项所述的训练方法，其特征在于，所述第一阶段训练样本为用于进行域间对比学习的训练样本，所述第二阶段训练样本为用于进行域内对比学习的训练样本；

5.根据权利要求4所述的方法，其特征在于，所述第二阶段训练样本中的所述第二锚点样本为文本形式的样本，所述负例数据增强方式包括反义词替换；

6.根据权利要求4所述的方法，其特征在于，所述第二阶段训练样本中的所述第二锚点样本为图像形式的样本，所述负例数据增强方式包括颜色调整、内容替换和尺寸调整中的至少一种；

7.根据权利要求4所述的方法，其特征在于，所述通过所述第二阶段训练样本对所述第一目标特征提取模型进行对比学习训练，得到第二目标特征提取模型，包括：

8.根据权利要求7所述的方法，其特征在于，n为大于或等于3的整数；所述n个数据对包括第一类型数据对、第二类型数据对和第三类型数据对中的至少一者；

9.根据权利要求7所述的方法，其特征在于，所述第一目标特征提取模型包括：用于对输入数据进行特征提取处理的特征提取层和用于进行相似度计算处理的相似度计算层；

10.一种特征提取方法，其特征在于，包括：

11.一种特征提取装置，其特征在于，包括：获取模块和处理模块；

12.一种电子设备，其特征在于，包括处理器和存储器，所述存储器存储可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如权利要求1-10任一项所述的方法的步骤。

13.一种可读存储介质，其特征在于，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如权利要求1-10任一项所述的方法的步骤。

技术总结
本申请公开了一种特征提取模型的训练方法、特征提取方法及装置，属于计算机领域。本申请提供的训练方法包括：获取第一阶段训练样本；通过第一阶段训练样本对待训练的特征提取模型进行对比学习训练，得到第一目标特征提取模型；获取第二阶段训练样本；通过第二阶段训练样本对第一目标特征提取模型进行对比学习训练，得到第二目标特征提取模型；其中，第一阶段训练样本为用于进行域间对比学习的训练样本和用于进行域内对比学习的训练样本中的一者，第二阶段训练样本为用于进行域间对比学习的训练样本和用于进行域内对比学习的训练样本中的另一者。

技术研发人员：吕乐宾,蒋宁,肖冰,李宽
受保护的技术使用者：马上消费金融股份有限公司
技术研发日：
技术公布日：2024/1/12