图文预训练模型的训练方法、训练装置及电子设备

本发明涉及深度学习，尤其涉及一种图文预训练模型的训练方法、训练装置及电子设备。

背景技术：

1、随着深度学习transformer(变压器)结构的兴起，预训练模型正在计算机视觉领域和自然语言处理领域以惊人的速度发展，并主导了这些领域的各种先进技术。在这两个领域的结合处——图文跨模态领域，预训练模型也取得了惊人的效果，并在多个下游任务上获得了优势地位，如图文检索、视觉语言推理、视觉问答等。

2、与纯文本的自然语言处理领域不同，图文的各种任务需要模型不仅理解文本含义，而且需要对输入的图像有足够理解，才能在各种下游任务上取得优异效果，困难的下游任务更是需要模型具备足够的推理能力，通过图像和文本表达的含义作出一定的推理才能完成任务。因此，如何训练图文预训练模型使之在各种图文下游任务中取得良好的效果，是业界亟需解决的技术问题。

技术实现思路

1、针对现有技术存在的问题，本发明提供一种图文预训练模型的训练方法、训练装置及电子设备。

2、第一方面，本发明提供一种图文预训练模型的训练方法，包括：

3、构建初始图文预训练模型，所述初始图文预训练模型包含生成器模块和判别器模块，所述生成器模块和所述判别器模块均包含图像编码器、文本编码器和跨模态融合编码器，所述跨模态融合编码器用于融合所述图像编码器和所述文本编码器输出的特征；

4、针对每种预训练任务，基于所述生成器模块的生成结果对所述判别器模块进行训练，并基于训练后的所述判别器模块，得到目标图文预训练模型。

5、可选地，所述判别器模块的分类头对于所有预训练任务统一为二分类头。

6、可选地，所述基于所述生成器模块的生成结果对所述判别器模块进行训练，包括：

7、将预训练任务对应的训练样本输入所述生成器模块，根据所述生成器模块的生成结果确定困难样本；

8、基于所述困难样本对所述判别器模块进行训练。

9、可选地，所述根据所述生成器模块的生成结果确定困难样本，包括：

10、将所述生成器模块生成错误结果的负样本或负样本对确定为困难样本。

11、可选地，所述判别器模块的训练方式包括：

12、在基于随机选择的训练样本对所述判别器模块训练预设步数后，开始训练所述生成器模块，并基于每一次训练后的所述生成器模块，对所述判别器模块进行多次训练。

13、可选地，所述生成器模块的分类头为与预训练任务相匹配的多分类头。

14、可选地，所述预训练任务包括文本掩码预测任务和图文匹配任务。

15、第二方面，本发明还提供一种图文预训练模型的训练装置，包括：

16、构建模块，用于构建初始图文预训练模型，所述初始图文预训练模型包含生成器模块和判别器模块，所述生成器模块和所述判别器模块均包含图像编码器、文本编码器和跨模态融合编码器，所述跨模态融合编码器用于融合所述图像编码器和所述文本编码器输出的特征；

17、训练模块，用于针对每种预训练任务，基于所述生成器模块的生成结果对所述判别器模块进行训练，并基于训练后的所述判别器模块，得到目标图文预训练模型。

18、第三方面，本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上所述第一方面所述的图文预训练模型的训练方法。

19、第四方面，本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上所述第一方面所述的图文预训练模型的训练方法。

20、本发明提供的图文预训练模型的训练方法、训练装置及电子设备，通过在基于单流融合编码器结构的初始图文预训练模型中添加生成器模块，基于生成器模块的生成结果训练判别器模块，使得最终得到的目标图文预训练模型能够与下游任务完全匹配，从而能够在各种图文下游任务中取得更好的效果。

技术特征：

1.一种图文预训练模型的训练方法，其特征在于，包括：

2.根据权利要求1所述的图文预训练模型的训练方法，其特征在于，所述判别器模块的分类头对于所有预训练任务统一为二分类头。

3.根据权利要求1所述的图文预训练模型的训练方法，其特征在于，所述基于所述生成器模块的生成结果对所述判别器模块进行训练，包括：

4.根据权利要求3所述的图文预训练模型的训练方法，其特征在于，所述根据所述生成器模块的生成结果确定困难样本，包括：

5.根据权利要求1至4任一项所述的图文预训练模型的训练方法，其特征在于，所述判别器模块的训练方式包括：

6.根据权利要求1至4任一项所述的图文预训练模型的训练方法，其特征在于，所述生成器模块的分类头为与预训练任务相匹配的多分类头。

7.根据权利要求1至4任一项所述的图文预训练模型的训练方法，其特征在于，所述预训练任务包括文本掩码预测任务和图文匹配任务。

8.一种图文预训练模型的训练装置，其特征在于，包括：

9.一种电子设备，包括存储器、处理器及存储在所述存储器上并在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7任一项所述图文预训练模型的训练方法。

10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述图文预训练模型的训练方法。

技术总结
本发明提供一种图文预训练模型的训练方法、训练装置及电子设备，涉及深度学习技术领域，该方法包括：构建初始图文预训练模型，初始图文预训练模型包含生成器模块和判别器模块，生成器模块和判别器模块均包含图像编码器、文本编码器和跨模态融合编码器，跨模态融合编码器用于融合图像编码器和文本编码器输出的特征；针对每种预训练任务，基于生成器模块的生成结果对判别器模块进行训练，并基于训练后的判别器模块，得到目标图文预训练模型。使得最终得到的目标图文预训练模型能够与下游任务完全匹配，从而能够在各种图文下游任务中取得更好的效果。

技术研发人员：乔冠辉,单斌,吴凌翔,尹维冲,李芝,孙宇,王金桥
受保护的技术使用者：中国科学院自动化研究所
技术研发日：
技术公布日：2024/1/15