技术编号:37058047
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本发明属于高效参数迁移学习,涉及利用少量适配器参数对预训练模型在下游任务进行迁移学习的方法,特别是涉及一种动量模仿学习的视觉语言预训练模型优化方法。背景技术、在近年来,基于数百万的图像-文本数据的大规模预训练已经成为视觉-语言学习的默认范式。借助大量预训练知识,基于transformer的视觉-语言预训练模型可以比定制模型获得更好的多模态表征和跨模态对齐,从而在许多多模态任务中占主导地位,如视觉问答、图像标注字幕和图像-文本匹配。然而,这些模型通常需要过多的参数来容纳庞大的预训练数据,这使得它...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。