本文件涉及图像处理,尤其涉及一种基于文本进行图像生成的方法及装置。
背景技术:
1、随着互联网在不断发展和推广,生成式人工智能(aigc,ai generated content)技术得到普及,各种各样的生成式人工智能模型得以快速应用,其中生成式人工智能模型的一个重要应用是根据用户输入的对话信息或者文本信息进行图像生成,但生成式人工智能模型训练所需要的数据量往往比较大,并且训练数据标注的成本也比较高,对生成式人工智能模型的发展产生了限制,同时如何低成本的实现生成式人工智能模型在各领域的应用成为关注的重点。
技术实现思路
1、本说明书一个或多个实施例提供了一种基于文本进行图像生成的方法,包括:对进行图像生成的描述文本进行关键词提取,并生成提取获得的各文本关键词对应的各图像关键词。计算所述各图像关键词与图像库中图像描述文本的相似度,并根据所述相似度确定所述各图像关键词匹配的目标图像库。在参数库中读取基于各目标图像库训练获得的各子模型的模型参数,并将读取的模型参数加载至预训练模型获得图像生成模型。将所述各图像关键词输入所述图像生成模型进行图像生成获得目标图像。
2、本说明书一个或多个实施例提供了一种基于文本进行图像生成的装置,包括:关键词生成模块,被配置为对进行图像生成的描述文本进行关键词提取,并生成提取获得的各文本关键词对应的各图像关键词。图像库确定模块,被配置为计算所述各图像关键词与图像库中图像描述文本的相似度,并根据所述相似度确定所述各图像关键词匹配的目标图像库。模型参数处理模块,被配置为在参数库中读取基于各目标图像库训练获得的各子模型的模型参数,并将读取的模型参数加载至预训练模型获得图像生成模型。图像生成模块,被配置为将所述各图像关键词输入所述图像生成模型进行图像生成获得目标图像。
3、本说明书一个或多个实施例提供了一种基于文本进行图像生成的设备,包括:处理器;以及,被配置为存储计算机可执行指令的存储器,所述计算机可执行指令在被执行时使所述处理器:对进行图像生成的描述文本进行关键词提取,并生成提取获得的各文本关键词对应的各图像关键词。计算所述各图像关键词与图像库中图像描述文本的相似度,并根据所述相似度确定所述各图像关键词匹配的目标图像库。在参数库中读取基于各目标图像库训练获得的各子模型的模型参数,并将读取的模型参数加载至预训练模型获得图像生成模型。将所述各图像关键词输入所述图像生成模型进行图像生成获得目标图像。
4、本说明书一个或多个实施例提供了一种存储介质,用于存储计算机可执行指令,所述计算机可执行指令在被处理器执行时实现以下流程:对进行图像生成的描述文本进行关键词提取,并生成提取获得的各文本关键词对应的各图像关键词。计算所述各图像关键词与图像库中图像描述文本的相似度,并根据所述相似度确定所述各图像关键词匹配的目标图像库。在参数库中读取基于各目标图像库训练获得的各子模型的模型参数,并将读取的模型参数加载至预训练模型获得图像生成模型。将所述各图像关键词输入所述图像生成模型进行图像生成获得目标图像。
1.一种基于文本进行图像生成的方法,包括:
2.根据权利要求1所述的基于文本进行图像生成的方法,所述对进行图像生成的描述文本进行关键词提取,包括:
3.根据权利要求1所述的基于文本进行图像生成的方法,所述生成提取获得的各文本关键词对应的各图像关键词,包括:
4.根据权利要求1所述的基于文本进行图像生成的方法,所述计算所述各图像关键词与图像库中图像描述文本的相似度,包括:
5.根据权利要求4所述的基于文本进行图像生成的方法,所述根据所述相似度确定所述各图像关键词匹配的目标图像库,包括:
6.根据权利要求1所述的基于文本进行图像生成的方法,所述图像库与所述子模型一一对应;
7.根据权利要求6所述的基于文本进行图像生成的方法,所述参数库中任意一个子模型的模型参数,采用如下方式训练获得:
8.根据权利要求1所述的基于文本进行图像生成的方法,所述将读取的模型参数加载至预训练模型获得图像生成模型,包括:
9.根据权利要求8所述的基于文本进行图像生成的方法,所述将所述各图像关键词输入所述图像生成模型进行图像生成获得目标图像,包括:
10.根据权利要求1所述的基于文本进行图像生成的方法,所述将所述各图像关键词输入所述图像生成模型进行图像生成获得目标图像步骤执行之后,还包括:
11.一种基于文本进行图像生成的装置,包括:
12.一种基于文本进行图像生成的设备,包括:
13.一种存储介质,用于存储计算机可执行指令,所述计算机可执行指令在被处理器执行时实现以下流程: