技术编号:35817818
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。.本发明涉及深度学习技术领域,尤其涉及一种图文预训练模型的训练方法、训练装置及电子设备。背景技术.随着深度学习transformer(变压器)结构的兴起,预训练模型正在计算机视觉领域和自然语言处理领域以惊人的速度发展,并主导了这些领域的各种先进技术。在这两个领域的结合处——图文跨模态领域,预训练模型也取得了惊人的效果,并在多个下游任务上获得了优势地位,如图文检索、视觉语言推理、视觉问答等。.与纯文本的自然语言处理领域不同,图文的各种任务需要模型不仅理解文本含义,而且需要对输入的图像有足够理...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。