一种图像风格迁移方法、装置、电子设备及存储介质与流程

文档序号:18838646发布日期:2019-10-09 06:28阅读:148来源:国知局
一种图像风格迁移方法、装置、电子设备及存储介质与流程

本发明涉及图像处理技术领域,特别是涉及一种图像风格迁移方法、装置、电子设备及存储介质。



背景技术:

图像的风格是从艺术角度对一幅图像的描述。在现有技术中,已经有利用算法学习著名画作的风格,然后再把这种风格应用到另外一幅图片上的技术,这种技术就是图像风格迁移。

现有的图像风格迁移方法中,对一幅图像的所有图像内容进行整体风格迁移,得到该幅图像对应的风格化图像。其中,所谓整体风格迁移即:对图像的所有内容进行风格迁移时所采用的算法种类和迁移程度均相同。

然而,发明人在实现本发明的过程中发现,现有技术至少存在如下问题:

一幅图像中的不同类别的图像内容对风格化的需求可能是不同的,例如,包含人物的风景照中,人物对风格化的程度的需求和人物以外的风景对风格化的程度的需求是不同的。如果满足了风景对风格化的程度的需求,人物部分可能会纹理过多,从而产生失真的效果,而如果满足了人物对风格化的程度的需求,风景部分则可能会看起来和没有进行风格化处理一样,达不到对图像进行风格化的目的。

可见,如何满足一幅图像的不同类别的图像内容对风格化的不同需求,是一个亟待解决的问题。



技术实现要素:

本发明实施例的目的在于提供一种图像风格迁移方法、装置、电子设备及存储介质,以满足一幅图像的不同类别的图像内容对风格化的多种需求。具体技术方案如下:

第一方面,本发明实施例提供了一种图像风格迁移方法,包括:

获取待风格化的目标图像;

基于风格化需求不同的各个对象类别,对所述目标图像进行对象分割,得到分割结果;

针对每一对象类别,对所述目标图像进行与该对象类别匹配的风格迁移,得到该对象类别对应的转换图像;

基于所述分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像,将所述融合图像确定为所述目标图像对应的风格化图像;其中,所述预定融合规则包括:将所述目标图像中每一对象类别所对应的图像内容,以该对象类别所对应转换图像中的、位置匹配的图像内容进行替换。

可选地,所述基于所述分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像,包括:

按照所述分割结果,生成所述目标图像对应的图像蒙版,其中,所述图像蒙版中的每个像素点均对应有对象类别,每个像素点对应的对象类别为:该像素点对应的目标点所属的对象类别,每个像素点对应目标点为:所述目标图像中与该像素点位置相同的像素点;

根据所述图像蒙版中的每个像素点,按照预定的计算方式,计算融合图像中每个像素点的像素值,得到融合图像;

其中,所述预定的计算方式包括:针对所述图像蒙版中的每个像素点,确定该像素点所对应的对象类别,并将该对象类别所对应的转换图像中,位置与该像素点相同的点的像素值,作为融合图像中,位置与该像素点相同的点的像素值。

可选地,所述针对每一对象类别,对所述目标图像进行与该对象类别匹配的风格迁移,得到该对象类别对应的转换图像,包括:

针对每一对象类别,利用预先训练的与该对象类别匹配的风格迁移模型,对所述目标图像进行风格迁移,得到该对象类别对应的转换图像。

可选地,对任一对象类别匹配的风格迁移模型的每一次训练过程,包括:

将包含有该对象类别的样本图像以及所述样本图像的标注转换图像输入至训练中的所述风格迁移模型,得到所述样本图像的转换图像;

基于所述样本图像的转换图像与所述标注转换图像的相似度,计算训练中的所述风格迁移模型的损失值;

判断所述损失值是否小于预设的阈值;如果小于,完成训练;如果不小于,调整训练中的所述风格迁移模型的模型参数的参数值,进入下一次训练;

其中,所述模型参数至少包括:与风格迁移的迁移程度和/或迁移算法相关的参数。

可选地,当所述风格化需求不同的各个对象类别包括:人物类别和非人物类别时,所述基于风格化需求不同的各个对象类别,对所述目标图像进行对象分割,得到分割结果,包括:

基于所述人物类别和非人物类别,对所述目标图像进行人物对象的分割,得到所述目标图像中的人物对象对应的分割结果;

所述按照所述分割结果,生成所述目标图像对应的图像蒙版,包括:

按照所述目标图像中的人物对象对应的分割结果,生成所述目标图像对应的关于人物对象的图像蒙版,该图像蒙版中的每个像素点对应的对象类别为:所述人物类别和所述非人物类别中的一个。

第二方面,本发明实施例提供了一种图像风格迁移装置,包括:

获取模块,用于获取待风格化的目标图像;

分割模块,用于基于风格化需求不同的各个对象类别,对所述目标图像进行对象分割,得到分割结果;

风格迁移模块,用于针对每一对象类别,对所述目标图像进行与该对象类别匹配的风格迁移,得到该对象类别对应的转换图像;

融合模块,用于基于所述分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像,将所述融合图像确定为所述目标图像对应的风格化图像;其中,所述预定融合规则包括:将所述目标图像中每一对象类别所对应的图像内容,以该对象类别所对应转换图像中的、位置匹配的图像内容进行替换。

可选地,所述融合模块,具体用于:

按照所述分割结果,生成所述目标图像对应的图像蒙版,其中,所述图像蒙版中的每个像素点均对应有对象类别,每个像素点对应的对象类别为:该像素点对应的目标点所属的对象类别,每个像素点对应目标点为:所述目标图像中与该像素点位置相同的像素点;

根据所述图像蒙版中的每个像素点,按照预定的计算方式,计算融合图像中每个像素点的像素值,得到融合图像;

其中,所述预定的计算方式包括:针对所述图像蒙版中的每个像素点,确定该像素点所对应的对象类别,并将该对象类别所对应的转换图像中,位置与该像素点相同的点的像素值,作为融合图像中,位置与该像素点相同的点的像素值。

可选地,所述风格迁移模块,具体用于:

针对每一对象类别,利用预先训练的与该对象类别匹配的风格迁移模型,对所述目标图像进行风格迁移,得到该对象类别对应的转换图像。

可选地,对任一对象类别匹配的风格迁移模型的每一次训练过程,包括:

将包含有该对象类别的样本图像以及所述样本图像的标注转换图像输入至训练中的所述风格迁移模型,得到所述样本图像的转换图像;

基于所述样本图像的转换图像与所述标注转换图像的相似度,计算训练中的所述风格迁移模型的损失值;

判断所述损失值是否小于预设的阈值;如果小于,完成训练;如果不小于,调整训练中的所述风格迁移模型的模型参数的参数值,进入下一次训练;

其中,所述模型参数至少包括:与风格迁移的迁移程度和/或迁移算法相关的参数。

可选地,当所述风格化需求不同的各个对象类别包括:人物类别和非人物类别时,所述分割模块,具体用于:

基于所述人物类别和非人物类别,对所述目标图像进行人物对象的分割,得到所述目标图像中的人物对象对应的分割结果;

所述融合模块按照所述分割结果,生成所述目标图像对应的图像蒙版,包括:

按照所述目标图像中的人物对象对应的分割结果,生成所述目标图像对应的关于人物对象的图像蒙版,该图像蒙版中的每个像素点对应的对象类别为:所述人物类别和所述非人物类别中的一个。

第三方面,本发明实施例提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;

存储器,用于存放计算机程序;

处理器,用于执行存储器上所存放的程序时,实现上述任一图像风格迁移方法所述的步骤。

在本发明实施的又一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述任一图像风格迁移方法所述的步骤。

在本发明实施的又一方面,本发明实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述任一图像风格迁移方法所述的步骤。

本发明实施例提供的图像风格迁移方法中,基于风格化需求不同的各个对象类别,对目标图像进行对象分割,得到分割结果;针对每一对象类别,对目标图像进行与该对象类别匹配的风格迁移,得到该对象类别对应的转换图像;基于分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像,将融合图像确定为目标图像对应的风格化图像。由于融合图像是将目标图像中每一对象类别所对应的图像内容,以该对象类别所对应转换图像中的、位置匹配的图像内容进行替换而得,且该对象类别所对应的转换图像,是对目标图像进行与该对象类别所匹配的风格迁移而得到的,因此,本发明实施例提供的图像风格迁移方法,可以满足一幅图像的不同类别的图像内容对风格化的不同需求。当然,实施本发明的任一产品或方法必不一定需要同时达到以上所述的所有优点。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。

图1为本发明实施例提供的一种图像风格迁移方法的流程图;

图2为本发明实施例提供的一种图像风格迁移方法中,当风格化需求不同的各个对象类别包括人物类别和非人物类别时,目标图像、图像蒙版、各个转换图像以及融合图像的示意图;

图3为本发明实施例提供的一种图像风格迁移装置的结构示意图;

图4为本发明实施例提供的电子设备的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行描述。

为了满足一幅图像的不同类别的图像内容对风格化的多种需求,本发明实施例提供了一种图像风格迁移方法、装置、电子设备即存储介质。

需要说明的是,本发明实施例提供的图像风格迁移方法的执行主体可以为一种图像风格迁移装置,该图像风格迁移装置可以应用于电子设备。具体的,该电子设备可以为服务器,也可以为终端设备。在具体应用中,该终端设备可以为智能手机、计算机,或平板设备等,当然并不局限于此。

另外,本发明实施例中,将待风格化的目标图像按照图像内容对风格化的不同需求,划分为风格化需求不同的各个对象类别,每一对象类别,对应一类图像内容,从而针对不同的对象类别进行不同的风格化需求的风格迁移。其中,所谓的风格化的需求不同具体可以体现在:对风格化的算法种类的需求不同,或者,对风格化的算法种类的需求虽然相同,但对风格化的程度的需求不同。

第一方面,对本发明实施例提供的一种图像风格迁移方法,进行详细说明。如图1所示,本发明实施例提供的图像风格迁移方法,可以包括以下步骤:

s101:获取待风格化的目标图像。

可以理解的是,本步骤中,待风格化的目标图像中具有不同类型的图像内容,分别将每种类型的图像内容作为一个对象类别,执行步骤s102。

s102:基于风格化需求不同的各个对象类别,对目标图像进行对象分割,得到分割结果。

可以理解的是,对目标图像进行对象分割,得到分割结果,该分割结果,可以是将目标图像中的特定图像内容从该目标图像中分割出来,此时,分割出来的特定图像内容是一种或多种对象,目标图像中剩余的图像内容,是另一种对象。例如,风格化需求不同的各个对象类别,可以包括:人物类别和非人物类别,该非人物类别的对象可以是目标图像中人物以外的其他图像内容,那么,对目标图像进行对象风格,分割出来的是人物,剩余的图像内容是人物以外的其他图像内容。为了方案清楚及布局清晰,后续对当风格化需求不同的各个对象类别包括:人物类别和非人物类别时,基于风格化需求不同的各个对象类别,对目标图像进行对象分割,得到分割结果的具体实施方式进行举例说明。

需要说明的是,在基于风格化需求不同的各个对象类别,对目标图像进行对象分割时,假设风格化需求不同的对象类别为n个,在一种实现方式中,可以从目标图像中分割出小于n的任意数量个对象类别,这些对象类别被从目标图像中分割出来之后,此时,目标图像中剩余的图像内容为另一种对象类别。当然,在另一种实现方式中,可以从目标图像中直接分割出n个对象类别,此时,目标图像中所分割出的内容涵盖目标图像的所有图像内容。当然,并不局限于上述的两种分割思想,任何一种能够区分出目标图像中风格化需求不同的各个对象类别的图像内容的分割方式,均适用于本方案。

在实际应用中,可以采用图像分割算法来进行图像分割,从而实现对目标图像的对象分割。示例性的,可以采用deeplab,mobilenet等深度学习模型来实现图像分割。这里,deeplab,mobilenet均是由谷歌提出的可用于图像分割的神经网络模型。在使用这些模型进行图像分割之前,需要人工对大量的图像进行图像分割,并按照人工分割图像的方式来标注用于训练模型的数据,在使用大量的标注数据对这些模型进行训练之后,训练好的模型可以准确地对输入到该模型的图像自动进行图像分割。

s103:针对每一对象类别,对目标图像进行与该对象类别匹配的风格迁移,得到该对象类别对应的转换图像。

本步骤中,针对每一对象类别,对目标图像进行与该对象类别匹配的风格迁移,得到该对象类别对应的转换图像的具体实施方式存在多种。

示例性的,针对每一对象类别,对目标图像进行与该对象类别匹配的风格迁移,得到该对象类别对应的转换图像,可以包括:

针对每一对象类别,利用预先训练的与该对象类别匹配的风格迁移模型,对目标图像进行风格迁移,得到该对象类别对应的转换图像。

这里,风格迁移模型与对象类别匹配,既可以是风格迁移模型的算法种类与对象类别匹配,也可以是风格迁移模型的风格化程度的参数与对象类别匹配。

在实际应用中,可以采用faststyletransfer模型作为训练中的风格迁移模型。这里,faststyletransfer为一种用于图像风格迁移的深度学习模型。该模型具有两个可控参数,参数a和参数b,参数a用于控制转换图像中,风格化内容所占的比重,参数b用于控制转换图像中,原图内容所占的比重。通过改变参数a和参数b的值,可以调整faststyletransfer模型对于目标图像的风格化程度。这样,针对不同对象类别,执行风格迁移时,所分别使用的风格迁移算法可以是同一种算法。但是,不同对象类别所分别对应的参数a和参数b是不同的。

举例而言,当风格化需求不同的各个对象类别包括:人物类别和非人物类别时,针对非人物类别,在利用faststyletransfer模型生成非人物类别所对应的转换图像时,参数a可以设置为100,参数b可以设置为7.5。针对人物类别,在利用faststyletransfer模型生成人物类别所对应的转换图像时,参数可以设置为50,参数b可以设置为15。可见,较之针对非人物类别所生成的转换图像,在针对人物类别所生成的转换图像中,风格化内容所占的比重降低了2倍,原图内容所占的比重提升了2倍,故针对人物类别所生成的转换图像的风格化程度,较之针对非人物类别所生成的转换图像减轻了4倍。

可以理解的是,如果直接采用针对非人物类别所设置的参数a和参数b来对整张目标图像进行风格转换,那么目标图像中的人物会被过度风格化,从而产生过多的纹理,使得目标图像中的人物看起来不美观,甚至失真。而如果直接采用针对人物类别所设置的参数a和参数b来对整张目标图像进行风格转换,那么目标图像中的人物以外的图像内容看起来就会和没有进行过风格迁移一样,达不到风格迁移的效果。因此,本发明实施例中,针对目标图像中的人物和人物以外的景物进行区别化的风格迁移,可以兼顾人物和景物对风格化程度的不同需求,从而使风格化后的图片更美观。

另外,利用faststyletransfer作为基础模型,可以进一步搭建多种风格迁移模型,每种风格迁移模型的算法存在不同,且用于实现一种风格的风格迁移。这样,针对不同对象类别执行风格迁移时,所分别使用的风格迁移算法是不同的。

为了方案清楚,这里对任一对象类别匹配的风格迁移模型的每一次训练过程进行举例说明。示例性的,对任一对象类别匹配的风格迁移模型的每一次训练过程,可以包括:

将包含有该对象类别的样本图像以及所述样本图像的标注转换图像输入至训练中的风格迁移模型,得到样本图像的转换图像;

基于样本图像的转换图像与标注转换图像的相似度,计算训练中的风格迁移模型的损失值;

判断损失值是否小于预设的阈值;如果小于,完成训练;如果不小于,调整训练中的风格迁移模型的模型参数的参数值,进入下一次训练;

其中,所述模型参数至少包括:与风格迁移的迁移程度和/或迁移算法相关的参数。

可以理解的是,进入下一次训练,即是返回将包含有该对象类别的样本图像以及所述样本图像的标注转换图像输入至训练中的所述风格迁移模型,得到所述样本图像的转换图像的步骤。当然,下一次训练所使用的样本图像以及样本图像的标注转换图像可以变更。举例而言,在上述训练过程中,将样本图像a以及样本图像a的标注转换图像a1输入至训练中的风格迁移模型,得到样本图像的转换图像a2;当基于转换图像a2与标注转换图像a1的相似度,所计算的损失值大于预设的阈值时,调整训练中的风格迁移模型的模型参数的参数值,进入下一次训练。此时,可以将样本图像b以及样本图像b的标注转换图像b1输入至训练中的风格迁移模型。

需要强调的是,针对不同对象类别,所分别训练的风格迁移模型,可以对应不同的算法,也可以对应同一种算法。当对应同一种算法时,针对不同对象类别,所训练好的风格迁移模型的模型参数中,风格迁移的迁移程度至少是不同的。

s104:基于分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像,将融合图像确定为目标图像对应的风格化图像。

其中,预定融合规则包括:将目标图像中每一对象类别所对应的图像内容,以该对象类别所对应转换图像中的、位置匹配的图像内容进行替换。

这里,基于分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像的具体实施方式存在多种。

示例性的,在一种实现方式中,基于分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像的具体实施方式,可以包括:

针对每一个转换图像,确定该转换图像对应的对象类别在目标图像中的位置,并将该转换图像中,相应位置中的图像数据,作为生成融合图像所需的一块图像数据。然后,按照各个对象类别所对应的图像内容在目标图像中的拼接方式,拼接各块图像数据,生成融合图像。

在另一种实现方式中,为了提高融合精确度,基于分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像,可以包括:

按照s102中的分割结果,生成目标图像对应的图像蒙版,其中,图像蒙版中的每个像素点均对应有对象类别,每个像素点对应的对象类别为:该像素点对应的目标点所属的对象类别,每个像素点对应目标点为:目标图像中与该像素点位置相同的像素点;

根据图像蒙版中的每个像素点,按照预定的计算方式,计算融合图像中每个像素点的像素值,得到融合图像;

其中,预定的计算方式包括:针对图像蒙版中的每个像素点,确定该像素点所对应的对象类别,并将该对象类别所对应的转换图像中,位置与该像素点相同的点的像素值,作为融合图像中,位置与该像素点相同的点的像素值。

这里,目标图像对应的图像蒙版,用于生成融合图像时,利用该图像蒙版,从转换图像中选取与目标图像对应区域的图像内容或像素点,从而对选取的图像内容或像素点进行操作,便于后续生成融合图像。可见,该图像蒙版是用于合成融合图像的辅助图像,该辅助图像具有区分和隔离不同区域的特性。

在实际应用中,可以给图像蒙版中的每个像素点设定像素类别标识,以便于在根据图像蒙版中的每个像素点,按照预定的计算方式,计算融合图像中每个像素点的像素值时,可以根据该像素类别标识来确定像素点所对应的对象类别。

为了方案清楚,下面以风格化需求不同的对象类别为人物类别和非人物类别的目标图像为例,对根据所述图像蒙版中的每个像素点,按照预定的计算方式,计算融合图像中每个像素点的像素值,得到融合图像的具体实现方式进行举例说明。

其中,预定的计算方式可以用下述公式来表示:

该公式中,o(i,j)代表融合图像中,坐标为(i,j)的像素点;m1(i,j)代表针对人物类别,对目标图像进行风格迁移后的转换图像1中,坐标为(i,j)的像素点;m2(i,j)代表针对非人物类别,对目标图像进行风格迁移后的转换图像2中,坐标为(i,j)的像素点;t(i,j)代表图像蒙版中,坐标为(i,j)的像素点,label(t(i,j))=0代表图像蒙版中,坐标为(i,j)、像素类别标识为0的像素点,label(t(i,j))=1代表图像蒙版中,坐标为(i,j)、像素类别标识为1的像素点。

可见,对于图像蒙版中像素类别标识为1的像素点,融合图像中相同位置的像素点的像素值,等于转换图像1中同样位置的像素点的像素值,而对于图像蒙版中像素类别标识为0的像素点,融合图像中与该点位置相同的像素点的像素值,等于转换图像2中同样位置的像素点的像素值。

该实现方式中,目标图像、图像蒙版、各个转换图像以及融合图像的示意图,可以如图2所示。从图2可见,目标图像中,人物类别的类别标识为1,非人物类别的类别标识为0。相应的,该目标图像对应的图像蒙版中,人物所在区域的像素点的像素类别标识为1,人物以外的图像内容所在区域的像素点的像素类别标识为0。另外,图2中,转换图像1为针对人物类别,对目标图像进行风格迁移后的转换图像;转换图像2为针对非人物类别,对目标图像进行风格迁移后的转换图像。

可以理解的是,当将图像蒙版覆于转换图像1时,选定图像蒙版中,像素类别标识为1的像素点,就可以只针对转换图像中,人物的图像内容或像素点进行操作,而当选定图像蒙版中,像素类别标识为0的像素点,就可以只针对转换图像中,人物以外的图像内容或像素点进行操作。

另外,图像蒙版也可以用于遮挡目标图像中每个对象类别所对应的图像内容。这样,将目标图像中未遮挡住的对象类别所对应的图像内容,以该对象类别所对应转换图像中的、位置匹配的图像内容进行替换,也可以达到生成融合图像的效果。此时,融合图像直接在目标图像上产生,无需逐点计算融合图像的每个像素点的像素值。

可以理解的是,为了使目标图像、图像蒙版以及转换图像的图像内容或像素点的位置能够精确对应,目标图像、图像蒙版以及转换图像的分辨率可以设置为相同的分辨率。

综上所述的实施例可知,本发明实施例提供的图像风格迁移方法中,目标图像对应的风格化图像,是将目标图像中每一对象类别所对应的图像内容,以该对象类别所对应转换图像中的、位置匹配的图像内容进行替换而得,且该对象类别所对应的转换图像,是对目标图像进行与该对象类别所匹配的风格迁移而得到的,因此,本发明实施例提供的图像风格迁移方法,可以满足一幅图像的不同类别的图像内容对风格化的不同需求。

并且,本发明实施例提供的图像风格迁移方法,可以对待风格化的目标图像的不同图像内容进行不同风格的风格迁移,也可以对待风格化的目标图像的不同图像内容进行同一种风格的不同程度的风格迁移。

为了方案清楚及布局清晰,下面对当风格化需求不同的各个对象类别包括:人物类别和非人物类别时,基于风格化需求不同的各个对象类别,对目标图像进行对象分割,得到分割结果的具体实施方式进行举例说明。

可选地,当风格化需求不同的各个对象类别包括:人物类别和非人物类别时,基于风格化需求不同的各个对象类别,对目标图像进行对象分割,得到分割结果,可以包括:

基于所述人物类别和非人物类别,对所述目标图像进行人物对象的分割,得到所述目标图像中的人物对象对应的分割结果;

所述按照所述分割结果,生成所述目标图像对应的图像蒙版,包括:

按照所述目标图像中的人物对象对应的分割结果,生成所述目标图像对应的关于人物对象的图像蒙版,该图像蒙版中的每个像素点对应的对象类别为:所述人物类别和所述非人物类别中的一个。

可以理解的是,目标图像对应的关于人物对象的图像蒙版中,一部分像素点对应目标图像中的人物类别,另一部分像素点对应目标图像中的非人物类别。与人物类别对应的像素点,在图像蒙版中所占据的区域,与人物类别对应的图像内容在目标图像中所占据的区域是相同的,与非人物类别对应的像素点,在图像蒙版中所占据的区域,与非人物类别对应的图像内容在目标图像中所占据的区域也是相同的。

另外,关于当风格化需求不同的各个对象类别包括物类别和非人物类别时,按照分割结果,生成的目标图像对应的图像蒙版的作用,上述实施例中已经进行过详细描述,此处不再赘述。

第二方面,相应于上述的图像风格迁移方法,本发明实施例还提供了一种图像风格迁移装置,如图3所示,本发明实施例提供的图像风格迁移装置,包括:

获取模块301,用于获取待风格化的目标图像;

分割模块302,用于基于风格化需求不同的各个对象类别,对目标图像进行对象分割,得到分割结果;

风格迁移模块303,用于针对每一对象类别,对目标图像进行与该对象类别匹配的风格迁移,得到该对象类别对应的转换图像;

融合模块304,用于基于分割结果和预定融合规则,对各个转换图像进行融合,得到融合图像,将融合图像确定为目标图像对应的风格化图像;其中,预定融合规则包括:将目标图像中每一对象类别所对应的图像内容,以该对象类别所对应转换图像中的、位置匹配的图像内容进行替换。

可选地,所述融合模块304,可以具体用于:

按照所述分割结果,生成所述目标图像对应的图像蒙版,其中,所述图像蒙版中的每个像素点均对应有对象类别,每个像素点对应的对象类别为:该像素点对应的目标点所属的对象类别,每个像素点对应目标点为:所述目标图像中与该像素点位置相同的像素点;

根据所述图像蒙版中的每个像素点,按照预定的计算方式,计算融合图像中每个像素点的像素值,得到融合图像;

其中,所述预定的计算方式包括:针对所述图像蒙版中的每个像素点,确定该像素点所对应的对象类别,并将该对象类别所对应的转换图像中,位置与该像素点相同的点的像素值,作为融合图像中,位置与该像素点相同的点的像素值。

可选地,所述风格迁移模块303,可以具体用于:

针对每一对象类别,利用预先训练的与该对象类别匹配的风格迁移模型,对所述目标图像进行风格迁移,得到该对象类别对应的转换图像。

可选地,对任一对象类别匹配的风格迁移模型的每一次训练过程,可以包括:

将包含有该对象类别的样本图像以及所述样本图像的标注转换图像输入至训练中的所述风格迁移模型,得到所述样本图像的转换图像;

基于所述样本图像的转换图像与所述标注转换图像的相似度,计算训练中的所述风格迁移模型的损失值;

判断所述损失值是否小于预设的阈值;如果小于,完成训练;如果不小于,调整训练中的所述风格迁移模型的模型参数的参数值,进入下一次训练;

其中,所述模型参数至少包括:与风格迁移的迁移程度和/或迁移算法相关的参数。

可选地,当所述风格化需求不同的各个对象类别包括:人物类别和非人物类别时,所述分割模块302,可以具体用于:

基于所述人物类别和非人物类别,对所述目标图像进行人物对象的分割,得到所述目标图像中的人物对象对应的分割结果;

所述融合模块304按照所述分割结果,生成所述目标图像对应的图像蒙版,可以包括:

按照所述目标图像中的人物对象对应的分割结果,生成所述目标图像对应的关于人物对象的图像蒙版,该图像蒙版中的每个像素点对应的对象类别为:所述人物类别和所述非人物类别中的一个。

综上所述的实施例可知,本发明实施例提供的图像风格迁移装置生成的风格化图像,是将目标图像中每一对象类别所对应的图像内容,以该对象类别所对应转换图像中的、位置匹配的图像内容进行替换而得,且该对象类别所对应的转换图像,是对目标图像进行与该对象类别所匹配的风格迁移而得到的,因此,本发明实施例提供的图像风格迁移装置,可以满足一幅图像的不同类别的图像内容对风格化的不同需求。

并且,本发明实施例提供的图像风格迁移装置,可以对待风格化的目标图像的不同图像内容进行不同风格的风格迁移,也可以对待风格化的目标图像的不同图像内容进行同一种风格的不同程度的风格迁移。

第三方面,本发明实施例还提供了一种电子设备,如图4所示,包括处理器401、通信接口402、存储器403和通信总线404,其中,处理器401,通信接口402,存储器403通过通信总线404完成相互间的通信。

存储器403,用于存放计算机程序。

处理器401,用于执行存储器403上所存放的程序时,实现上述任一所述的图像风格迁移方法。

上述电子设备提到的通信总线可以是外设部件互连标准(peripheralcomponentinterconnect,简称pci)总线或扩展工业标准结构(extendedindustrystandardarchitecture,简称eisa)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。

通信接口用于上述电子设备与其他设备之间的通信。

存储器可以包括随机存取存储器(randomaccessmemory,简称ram),也可以包括非易失性存储器(non-volatilememory),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器,包括中央处理器(centralprocessingunit,简称cpu)、网络处理器(networkprocessor,简称np)等;还可以是数字信号处理器(digitalsignalprocessing,简称dsp)、专用集成电路(applicationspecificintegratedcircuit,简称asic)、现场可编程门阵列(field-programmablegatearray,简称fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述实施例中任一所述的图像风格迁移方法。

在本发明提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一所述的图像风格迁移方法。

在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(dsl))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,dvd)、或者半导体介质(例如固态硬盘solidstatedisk(ssd))等。

需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置和电子设备实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1