人像减龄处理方法、训练方法、装置、设备及存储介质与流程

文档序号:24622609发布日期:2021-04-09 20:28阅读:86来源:国知局
人像减龄处理方法、训练方法、装置、设备及存储介质与流程

本申请涉及人脸图像处理技术领域,具体而言,涉及一种人像减龄处理方法、训练方法、装置、设备及存储介质。



背景技术:

随着拍照技术的日益进步,通过图像处理的方式使照片中的人脸图像变得更加年轻美丽是目前人们的普遍需求。

为了实现这一效果,目前采用的技术手段是直接对图片进行去噪去模糊处理等,但是这些技术手段鲁棒性不足,对人脸轮廓的操作能力比较有限,对于实际需求中的一些复杂场景,例如同时包含人脸以及多种其他。的场景下人脸图像的处理效果较低。



技术实现要素:

本申请的目的在于提供一种人像减龄处理方法、训练方法、装置、设备及存储介质,可以提高人脸图像的处理效果。

本申请的实施例是这样实现的:

本申请实施例的一方面,提供一种人像减龄处理方法,包括:

获取待处理图像,待处理图像包含人像;

将待处理图像输入预先训练得到的人像减龄处理网络模型中,由人像减龄处理网络模型进行减龄处理,得到处理后的图像以及待处理图像的光流结果,其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取并得到待处理图像的图像特征,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样;

基于光流结果对处理后的图像进行分辨率还原处理,得到还原处理后的图像,还原处理后的图像的分辨率高于处理后的图像的分辨率。

可选地,将待处理图像输入预先训练得到的人像减龄处理网络模型中,由人像减龄处理网络模型进行减龄处理,得到处理后的图像以及待处理图像的光流结果,包括:

将待处理图像输入下采样层中,由下采样层对待处理图像进行多次下采样处理,得到下采样处理结果;

将下采样处理结果输入残差结构块中,由残差结构块基于下采样处理结果提取得到待处理图像的图像特征;

将下采样结果以及待处理图像的图像特征输入上采样层,由上采样层基于下采样结果以及待处理图像的图像特征进行多次上采样处理,得到处理后的图像以及光流结果。

可选地,人像减龄处理网络模型还包括:多个注意力层;每个注意力层分别与一个下采样层和一个上采样层连接;将待处理图像输入下采样层中,由下采样层对待处理图像进行多次下采样处理,得到下采样处理结果之后,该方法还包括:

将下采样结果输入注意力层中,由注意力层进行特征权重提取,得到每个下采样层的特征权重;

将特征权重输入上采样层。

可选地,由上采样层基于下采样结果以及待处理图像的图像特征进行多次上采样处理,得到处理后的图像以及光流结果,包括:

由上采样层基于下采样结果、待处理图像的图像特征以及特征权重进行多次上采样处理,得到处理后的图像以及光流结果。

可选地,人像减龄处理网络模型还包括:多个堆叠卷积层;每个堆叠卷积层分别与一个上采样层连接;由上采样层基于下采样结果以及待处理图像的图像特征进行多次上采样处理,得到处理后的图像以及光流结果之后,该方法还包括:

将处理后的图像输入堆叠卷积层,由堆叠卷积层对处理后的图像进行映射处理得到预设格式的处理后的图像以及预设格式的光流结果。

可选地,获取待处理图像之前,该方法还包括:

获取初始图像,初始图像中包括人像;

对初始图像进行剪裁预处理以及旋转预处理,得到中间图像;

对中间图像进行下采样处理,得到预设尺寸的图像,并将预设尺寸的图像作为待处理图像。

可选地,基于光流结果对处理后的图像进行分辨率还原处理,得到还原处理后的图像,包括:

基于光流结果对中间图像进行重新映射处理,确定图像残差金字塔;

通过图像残差金字塔对处理后的图像进行分辨率还原,得到还原处理后的图像。

可选地,基于光流结果对中间图像进行重新映射处理,确定图像残差金字塔,包括:

基于光流结果对中间图像进行重新映射处理,确定中间图像的形变图;

对中间图像的形变图进行下采样处理,得到图像残差金字塔。

本申请实施例的另一方面,提供一种人像减龄处理网络模型训练方法,包括:

获取包含人像的训练集样本图像以及测试集样本图像;

基于训练集样本图像、测试集样本图像训练得到人像减龄处理网络模型,其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样。

可选地,基于训练集样本图像、测试集样本图像训练得到人像减龄处理网络模型,包括:

基于训练集样本图像以及测试集样本图像得到初始模型的输出图像以及光流结果;

使用目标损失函数确定初始模型的损失信息,损失信息用于表征减龄处理的准确度以及光流估计的准确度;

根据初始模型的损失信息,修正初始模型,并在初始模型满足预设条件时,将满足条件的初始模型作为人像减龄处理网络模型。

本申请实施例的另一方面,提供一种人像减龄处理装置,包括:图像获取模块、模型处理模块、还原处理模块;

图像获取模块,用于获取待处理图像,待处理图像包含人像;

模型处理模块,用于将待处理图像输入预先训练得到的人像减龄处理网络模型中,由人像减龄处理网络模型进行减龄处理,得到处理后的图像以及待处理图像的光流结果,其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取并得到待处理图像的图像特征,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样;

还原处理模块,用于基于光流结果对处理后的图像进行分辨率还原处理,得到还原处理后的图像,还原处理后的图像的分辨率高于处理后的图像的分辨率。

可选地,模型处理模块,具体用于将待处理图像输入下采样层中,由下采样层对待处理图像进行多次下采样处理,得到下采样处理结果;将下采样处理结果输入残差结构块中,由残差结构块基于下采样处理结果提取得到待处理图像的图像特征;将下采样结果以及待处理图像的图像特征输入上采样层,由上采样层基于下采样结果以及待处理图像的图像特征进行多次上采样处理,得到处理后的图像以及光流结果。

可选地,人像减龄处理网络模型还包括:多个注意力层;每个注意力层分别与一个下采样层和一个上采样层连接;模型处理模块,还用于将下采样结果输入注意力层中,由注意力层进行特征权重提取,得到每个下采样层的特征权重;将特征权重输入上采样层。

可选地,模型处理模块,具体用于由上采样层基于下采样结果、待处理图像的图像特征以及特征权重进行多次上采样处理,得到处理后的图像以及光流结果。

可选地,人像减龄处理网络模型还包括:多个堆叠卷积层;每个堆叠卷积层分别与一个上采样层连接;模型处理模块,还用于将处理后的图像输入堆叠卷积层,由堆叠卷积层对处理后的图像进行映射处理得到预设格式的处理后的图像以及预设格式的光流结果。

可选地,图像获取模块,还用于获取初始图像,初始图像中包括人像;对初始图像进行剪裁预处理以及旋转预处理,得到中间图像;对中间图像进行下采样处理,得到预设尺寸的图像,并将预设尺寸的图像作为待处理图像。

可选地,图像获取模块,还用于基于光流结果对中间图像进行重新映射处理,确定图像残差金字塔;通过图像残差金字塔对处理后的图像进行分辨率还原,得到还原处理后的图像。

可选地,图像获取模块,具体用于基于光流结果对中间图像进行重新映射处理,确定中间图像的形变图;对中间图像的形变图进行下采样处理,得到图像残差金字塔。

本申请实施例的另一方面,提供一种人像减龄处理网络模型训练装置,包括:样本获取模块,样本训练模块;

样本获取模块,用于获取包含人像的训练集样本图像以及测试集样本图像;

样本训练模块,用于基于训练集样本图像、测试集样本图像训练得到人像减龄处理网络模型,其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样。

可选地,样本训练模块,具体用于基于训练集样本图像以及测试集样本图像得到初始模型的输出图像以及光流结果;使用目标损失函数确定初始模型的损失信息,损失信息用于表征减龄处理的准确度以及光流估计的准确度;根据初始模型的损失信息,修正初始模型,并在初始模型满足预设条件时,将满足条件的初始模型作为人像减龄处理网络模型。

本申请实施例的另一方面,提供一种计算机设备,包括:第一存储器、第一处理器,第一存储器中存储有可在第一处理器上运行的计算机程序,第一处理器执行计算机程序时,实现上述人像减龄处理方法的步骤。

本申请实施例的另一方面,提供一种计算机设备,包括:第二存储器、第二处理器,第二存储器中存储有可在第二处理器上运行的计算机程序,第二处理器执行计算机程序时,实现上述人像减龄处理网络模型训练方法的步骤。

本申请实施例的另一方面,提供一种存储介质,存储介质上存储有计算机程序,该计算机程序被处理器执行时,实现上述人像减龄处理方法以及人像减龄处理网络模型训练方法的步骤。

本申请实施例的有益效果包括:

本申请实施例提供的人像减龄处理方法、训练方法、装置、设备及存储介质中,可以通过获取待处理图像,并将待处理图像输入预先训练得到的人像减龄处理网络模型中,由人像减龄处理网络模型进行减龄处理,得到处理后的图像以及待处理图像的光流结果,然后基于光流结果对处理后的图像进行分辨率还原处理,得到还原处理后的图像。其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取并得到待处理图像的图像特征,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样,通过该人像减龄处理模型进行处理可以提高人脸处理的鲁棒性,并且,通过光流结果对处理后的图像进行分辨率还原处理,可以得到分辨率高于处理后的图像的分辨率的还原处理后的图像,还可以提高人脸图像处理的清晰度,进而可以提高人脸图像处理的整体效果。

附图说明

为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。

图1为本申请实施例提供的人像减龄处理方法的流程示意图一;

图2为本申请实施例提供的人像减龄处理方法的流程示意图二;

图3为本申请实施例提供的人像减龄处理方法的流程示意图三;

图4为本申请实施例提供的人像减龄网络模型的结构示意图;

图5为本申请实施例提供的人像减龄处理方法的流程示意图四;

图6为本申请实施例提供的人像减龄处理方法的流程示意图五;

图7为本申请实施例提供的人像减龄处理方法的流程示意图六;

图8为本申请实施例提供的人像减龄处理网络模型训练方法的流程示意图一;

图9为本申请实施例提供的人像减龄处理网络模型训练方法的流程示意图二;

图10为本申请实施例提供的人像减龄处理装置的结构示意图;

图11为本申请实施例提供的人像减龄处理网络模型训练装置的结构示意图;

图12为本申请实施例提供的计算机设备的结构示意图;

图13为本申请实施例提供的另一计算机设备的结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。

因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。

在本申请的描述中,需要说明的是,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。

下面来解释本申请实施例中提供的人像减龄处理方法的具体实施过程。

图1为本申请实施例提供的人像减龄处理方法的流程示意图一,请参照图1,人像减龄处理方法,包括:

s110:获取待处理图像。

其中,待处理图像包含人像。

可选地,待处理图像可以是经过预处理后得到的固定尺寸(例如:512x512像素)的图像,该待处理图像可以包括人像,可选的,还可以包括其他图像。示例性的,人像可以位于待处理图像的中间位置,其它图像(例如:风景、物件)可以在待处理图像的边缘位置。待处理图像具体可以是拍摄的照片或者从互联网上搜索得到的图片等,在此不作限制。

s120:将待处理图像输入预先训练得到的人像减龄处理网络模型中,由人像减龄处理网络模型进行减龄处理,得到处理后的图像以及待处理图像的光流结果。

其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取并得到待处理图像的图像特征,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样。

可选地,人像减龄处理网络模型可以是预先训练好的cnn网络(convolutionalneuralnetworks,卷积神经网络)模型,用于对待处理图像进行人像减龄处理。

可选地,可以将待处理图像输入人像减龄处理网络模型中,依次经过多个下采样层、残差结构块、上采样层;通过下采样层进行多次下采样得到下采样结果,下采样结果的尺寸比待处理图像的尺寸小;将下采样结果输入到残差结构块中进行特征提取处理,得到待处理图像的图像特征,图像特征具体可以是实现人像减龄的特征;将图像特征输入到上采样层进行多次上采样以将图像的尺寸进行还原,得到多个上采样结果,进而可以确定处理后的图像以及待处理图像的光流结果。

其中,光流结果可以是待处理图像到人像减龄处理网络模型处理后图像的运动变化信息,可以用于表征待处理图像到处理后图像的变化过程。

s130:基于光流结果对处理后的图像进行分辨率还原处理,得到还原处理后的图像。

其中,还原处理后的图像的分辨率高于处理后的图像的分辨率。

可选地,得到处理后的图像以及待处理图像的光流结果之后,可以基于光流结果对处理后的图像进行分辨率还原处理,具体可以是提高处理后的图像的分辨率。

本申请实施例提供的人像减龄处理方法中,可以通过获取待处理图像,并将待处理图像输入预先训练得到的人像减龄处理网络模型中,由人像减龄处理网络模型进行减龄处理,得到处理后的图像以及待处理图像的光流结果,然后基于光流结果对处理后的图像进行分辨率还原处理,得到还原处理后的图像。其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取并得到待处理图像的图像特征,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样,通过该人像减龄处理模型进行处理可以提高人脸处理的鲁棒性,并且,通过光流结果对处理后的图像进行分辨率还原处理,可以得到分辨率高于处理后的图像的分辨率的还原处理后的图像,还可以提高人脸图像处理的清晰度,进而可以提高人脸图像处理的整体效果。

下面来解释本申请实施例中提供的人像减龄处理方法的另一具体实施过程。

图2为本申请实施例提供的人像减龄处理方法的流程示意图二,请参照图2,将待处理图像输入预先训练得到的人像减龄处理网络模型中,由人像减龄处理网络模型进行减龄处理,得到处理后的图像以及待处理图像的光流结果,包括:

s210:将待处理图像输入下采样层中,由下采样层对待处理图像进行多次下采样处理,得到下采样处理结果。

可选的,该人像减龄处理网络中的可以包括多个依次连接的下采样层、多个残差结构块以及多个依次连接的上采样层。其中,多个下采样层依次对待处理图像进行下采样,每个下采样层可以对待处理图像的像素点进行提取处理,进而得到像素尺寸小于待处理图像的下采样结果;多个下采样层依次连接,第二个下采样层对第一个下采样层输出的下采样结果再次进行下采样,以此类推,直至最后一个下采样层得到下采样结果。

s220:将下采样处理结果输入残差结构块中,由残差结构块基于下采样处理结果提取得到待处理图像的图像特征。

可选地,可以将最后一个下采样层的下采样结果输入到残差结构块中,残差结构块可以是多个对等的res-block(残差块)结构构成,可以对下采样后的结果进行特征提取并得到待处理图像的图像特征。

s230:将下采样结果以及待处理图像的图像特征输入上采样层,由上采样层基于下采样结果以及待处理图像的图像特征进行多次上采样处理,得到处理后的图像以及光流结果。

可选地,可以将待处理的图像特征输入到多个上采样层中,上采样层的数量可以与下采样层的数量保持一致。多个上采样层可以依次对待处理图像的图像特征进行上采样,每个上采样层可以对图像特征的像素点进行增加处理,进而得到像素尺寸大于图像特征的上采样结果;多个上采样层依次连接,第二个上采样层可以对第一个上采样层输出的上采样结果再次进行上采样,以此类推,直至最后一个上采样层得到上采样结果。进而可以确定得到处理后的图像以及待处理图像的光流结果。

下面来解释本申请实施例中提供的人像减龄处理方法的又一具体实施过程。

图3为本申请实施例提供的人像减龄处理方法的流程示意图三,请参照图3,多个注意力层;每个注意力层分别与一个下采样层和一个上采样层连接;将待处理图像输入下采样层中,由下采样层对待处理图像进行多次下采样处理,得到下采样处理结果之后,该方法还包括:

s310:将下采样结果输入注意力层中,由注意力层进行特征权重提取,得到每个下采样层的特征权重。

可选地,下采样层和上采样层的数量相等,每个下采样层可以通过一个注意力层与上采样层连接,具体的,第一个下采样层可以与最后一个上采样层,最后一个下采样层可以与第一个上采样层连接,以此类推,将每个下采样层和上采样层都连接。

可选地,注意力层可以根据每个下采样层的输出结果对该下采样层的特征权重进行提取,以确定该下采样层的特征权重,每个注意力层可以分别对每个下采样层的特征权重进行提取,每个下采样层的特征权重可以不同。

s320:将特征权重输入上采样层。

可选地,确定了每个下采样层的特征权重后,可以将该特征权重输入至于该注意力层连接的上采样层,以将该特征权重作为上采样层对应的特征权重,通过注意力层相连的上采样层和下采样层的特征权重相等。

相应地,在上述步骤s230中,可以由上采样层基于特征权重、下采样结果以及待处理图像的图像特征进行多次上采样处理,得到处理后的图像以及光流结果。

可选地,可以对下采样层提取的特征信息通过注意力层确定不同特征位置的权重,并将加权后的下采样特征与上采样特征堆叠,然后一起作为下一个上采样层的特征输入。

可选地,人像减龄处理网络模型还包括:多个堆叠卷积层;每个堆叠卷积层分别与一个上采样层连接;由上采样层基于下采样结果以及待处理图像的图像特征进行多次上采样处理,得到处理后的图像以及光流结果之后,该方法还包括:将处理后的图像输入堆叠卷积层,由堆叠卷积层对处理后的图像进行映射处理得到预设格式的处理后的图像以及预设格式的光流结果。

可选地,堆叠卷积层可以与上采样层的数量相等,每个上采样层均可以与一个堆叠卷积层连接。其中,上采样层输出的处理后的图像以及光流结果为特征图,并非实际图像,通过堆叠卷积层可以根据这些特征图中的特征信息进行映射处理,得到图像信息和光流信息,该光流信息以及图像信息即为前述处理后的图像以及光流结果对应的实际图像。

相应地,在上述步骤s130中,可以是基于预设格式的光流结果对预设格式的处理后的图像进行分辨率还原处理,得到还原处理后的图像。相应地,得到的还原处理后的图像也可以是实际图像。

下面来具体解释本申请实施例中提供的人像减龄网络模型的具体结构。

图4为本申请实施例提供的人像减龄网络模型的结构示意图,请参照图4,该人像减龄网络模型包括:五个下采样层110、八个残差结构块120、五个上采样层130、五个注意力层140、五个堆叠卷积层150;五个下采样层110依次连接,最后一个下采样层110与残差结构块120连接,八个残差结构块120设置在一起,五个上采样层130依次连接,第一个上采样层130与残差结构块120连接;每个上采样层110和下采样层130之间还通过一个注意力层140连接;每个上采样层130与一个堆叠卷积层150连接。

可选地,该人像减龄网络模型的最后一个上采样层的输出包括4个通道。其中前三个通道均输出修复结果,前三个通道输出的结果可以组成前述的处理后的图像,最后一个通道输出光流结果。

该人像减龄网络模型的工作原理在前述的方法实施过程中已作出解释,在此不加赘述。

下面来具体解释本申请实施例中提供的虎丘待处理图像之前的具体实施过程。

图5为本申请实施例提供的人像减龄处理方法的流程示意图四,请参照图5,获取待处理图像之前,该方法还包括:

s510:获取初始图像。

其中,初始图像中包括人像。

可选地,初始图像可以是任意尺寸大小的图像,该图像至少包括一个人像,可以是拍照得到的图像也可以是互联网上下载的图片,在此不作限制。

s520:对初始图像进行剪裁预处理以及旋转预处理,得到中间图像。

可选地,可以先确定初始图像中的人脸图像,然后采用最小包围矩形框来对人脸进行剪裁,例如:可以采用卷积神经网络人脸检测方法确定初始图像中的人脸图像,并采集人脸图像中的人脸点集,计算该人脸点集的外接矩形,然后向外拓展以获得人脸的裁切矩形。

可选地,通过人脸的裁切矩形可以获得人脸的旋转角度,从初始图像中裁取摆正后的人脸图像,作为中间图像。

s530:对中间图像进行下采样处理,得到预设尺寸的图像,并将预设尺寸的图像作为待处理图像。

可选地,确定中间图像后,可以对中间图像进行下采样,以将中间图像的尺寸调整为预设尺寸大小,并可以将该预设尺寸大小的图像作为前述待处理图像。

下面来解释本申请实施例中提供的得到还原处理后图像的具体实施过程。

图6为本申请实施例提供的人像减龄处理方法的流程示意图五,请参照图6,基于光流结果对处理后的图像进行分辨率还原处理,得到还原处理后的图像,包括:

s610:基于光流结果对中间图像进行重新映射处理,确定图像残差金字塔。

可选地,可以根据光流结果对中间图像进行remap(重新映射)处理,将该中间图像逐级缩放至预设的图像尺寸,并可以逐级记录因缩放导致的信息损失(残差信息),进而确定该中间图像对应的图像残差金字塔,需要说明的是,图像残差金字塔可以是用于对图像分辨率进行还原的网络结构。

s620:通过图像残差金字塔对处理后的图像进行分辨率还原,得到还原处理后的图像。

可选地,确定图像残差金字塔之后,可以根据该图像残差金字塔对处理后的图像进行分辨率还原处理,具体可以是:将处理后的图像逐级放大到中间图像的尺寸,每次放大后叠加残差金字塔对应层级的残差信息。进而确定还原处理后的图像,该还原处理后的图像比处理后图像的分辨率高,具体可以是与中间图像的分辨率相等。

下面来解释本申请实施例中提供的确定图像残差金字塔的具体实施过程。

图7为本申请实施例提供的人像减龄处理方法的流程示意图六,请参照图7,基于光流结果对中间图像进行重新映射处理,确定图像残差金字塔,包括:

s710:基于光流结果对中间图像进行重新映射处理,确定中间图像的形变图。

可选地,基于光流结果对中间图像进行重新映射处理后,可以得到中间图像的形变图,该中间图像的形变图的人像轮廓与处理后的图像的人像轮廓保持一致。

s720:对中间图像的形变图进行下采样处理,得到图像残差金字塔。

可选地,可以对中间图像的形变图进行下采样处理,得到图像残差金字塔,图像残差金字塔中可以记录中间图像到处理后图像的信息差。该信息差是因为中间图像的分辨率高于模型输出,图像的缩放会有信息丢失,残差金字塔记录的是图片缩放过程所丢失的信息,也即是信息差。

下面来解释本申请实施例中提供的人像减龄处理网络模型训练方法的具体实施过程。

图8为本申请实施例提供的人像减龄处理网络模型训练方法的流程示意图一,请参照图8,人像减龄处理网络模型训练方法,包括:

s810:获取包含人像的训练集样本图像以及测试集样本图像。

可选地,可以获取预先筛选好的包含人像的样本图像,这些样本图像法可以被划分为训练集和测试集,其中,训练集中可以包括多个训练集样本图像;测试集中可以包括多个测试集样本图像,这些图像可以与前述待处理图像相类似。

s820:基于训练集样本图像、测试集样本图像训练得到人像减龄处理网络模型。

其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样。需要说明的是,多个下采样层在进行下采样的过程中也会进行特征提取,具体可以是逐步提取主要特征;而残差结构块在进行特征提取时是对下采样层提取到的特征进行进一步抽象提取处理。

可选地,可以将多个训练集样本图像分别输入到预设模型中进行模型训练。可以将多个测试样本图像分别输入到预设模型中进行模型测试,训练、测试后得到人像减龄处理网络模型。

需要说明的是,上述人像减龄处理模型网络的工作原理在前述的方法实施例中已经进行了详细解释,在此不作赘述。

下面来具体解释本申请实施例中提供的训练得到人像减龄处理网络模型的具体实施过程。

图9为本申请实施例提供的人像减龄处理网络模型训练方法的流程示意图二,请参照图9,基于训练集样本图像、测试集样本图像训练得到人像减龄处理网络模型,包括:

s910:基于训练集样本图像以及测试集样本图像得到初始模型的输出图像以及光流结果。

可选地,初始模型可以是未经过训练的卷积神经网络模型,可以基于训练集样本图像以及测试集样本图像对初始模型进行训练以及测试,进而得到初始模型的输出图像以及光流结果。

s920:使用目标损失函数确定初始模型的损失信息。

其中,损失信息可以用于引导初始模型的迭代优化。

可选地,目标损失函数可以具有多个,具体计算方式如下。

在训练集进行训练时,使用了多尺度损失函数,该损失函数可以表示为:

其中n为输出层数,h和w为对应输出图片的高和宽,c为输出图像的通道数,lpyram为多尺度损失函数,y表示输出图像,也即是前述对应的处理后的图像,k为n的具体层数,i为h的具体高度,j为w的具体宽度,c为c的具体通道数,y表示模型的输出结构。

另外,光流结果的误差函数可以表示如下:

其中x表示输入图片,也即是前述的中间图像,y表示输出图片,也即是前述的处理后的他徐昂。图片输入多为彩照,通过函数γ将其映射为亮度信息,可以采用多种映射函数进行映射。通过函数φ将亮度信息转换为光流信息。f表示模型输出的光流预测结果。m为光流通道,一般可以设置为2。m即为m的具体光流通道数量。

另外,在图像损失函数中,还包括阿尔法感知损失函数,具体如下:

其中,gk表示vgg模型的第k层。采用这个损失函数可以更有针对性的对模型的最终输出结果进行干预。其中,vgg模型可以是一种广泛使用的开源模型,用于在模型训练中计算损失函数。

目标损失函数总体的损失可以表示为:

ltotal=γlpyram+βlpec+σlof

其中,γ、β、σ表示每种损失函数所占的比重。

可选地,可以根据上述损失函数确定该初始模型的损失信息。

s930:根据初始模型的损失信息,修正初始模型,并在初始模型满足预设条件时,将满足条件的初始模型作为人像减龄处理网络模型。

可选地,确定损失信息后可以基于s910得到的修正初始模型,并在初始模型满足预设条件时,将满足该预设条件的初始模型作为前述人像减龄处理网络模型。预设条件具体可以是根据对人脸减龄的实际需求进行设定,例如:减龄的程度等,在此不作限制。

下述对用以执行的本申请所提供人像减龄处理方法以及人像减龄处理网络模型训练方法对应的装置、设备及存储介质等进行说明,其具体的实现过程以及技术效果参见上述,下述不再赘述。

图10为本申请实施例提供的人像减龄处理装置的结构示意图,请参照图10,人像减龄处理装置,包括:图像获取模块100、模型处理模块200、还原处理模块300;

图像获取模块100,用于获取待处理图像,待处理图像包含人像;

模型处理模块200,用于将待处理图像输入预先训练得到的人像减龄处理网络模型中,由人像减龄处理网络模型进行减龄处理,得到处理后的图像以及待处理图像的光流结果,其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取并得到待处理图像的图像特征,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样;

还原处理模块300,用于基于光流结果对处理后的图像进行分辨率还原处理,得到还原处理后的图像,还原处理后的图像的分辨率高于处理后的图像的分辨率。

可选地,模型处理模块200,具体用于将待处理图像输入下采样层中,由下采样层对待处理图像进行多次下采样处理,得到下采样处理结果;将下采样处理结果输入残差结构块中,由残差结构块基于下采样处理结果提取得到待处理图像的图像特征;将下采样结果以及待处理图像的图像特征输入上采样层,由上采样层基于下采样结果以及待处理图像的图像特征进行多次上采样处理,得到处理后的图像以及光流结果。

可选地,人像减龄处理网络模型还包括:多个注意力层;每个注意力层分别与一个下采样层和一个上采样层连接;模型处理模块200,还用于将下采样结果输入注意力层中,由注意力层进行特征权重提取,得到每个下采样层的特征权重;将特征权重输入上采样层。

可选地,模型处理模块200,具体用于由上采样层基于下采样结果、待处理图像的图像特征以及特征权重进行多次上采样处理,得到处理后的图像以及光流结果。

可选地,人像减龄处理网络模型还包括:多个堆叠卷积层;每个堆叠卷积层分别与一个上采样层连接;模型处理模块200,还用于将处理后的图像输入堆叠卷积层,由堆叠卷积层对处理后的图像进行映射处理得到预设格式的处理后的图像以及预设格式的光流结果。

可选地,图像获取模块100,还用于获取初始图像,初始图像中包括人像;对初始图像进行剪裁预处理以及旋转预处理,得到中间图像;对中间图像进行下采样处理,得到预设尺寸的图像,并将预设尺寸的图像作为待处理图像。

可选地,图像获取模块100,还用于基于光流结果对中间图像进行重新映射处理,确定图像残差金字塔;通过图像残差金字塔对处理后的图像进行分辨率还原,得到还原处理后的图像。

可选地,图像获取模块100,具体用于基于光流结果对中间图像进行重新映射处理,确定中间图像的形变图;对中间图像的形变图进行下采样处理,得到图像残差金字塔。

图11为本申请实施例提供的人像减龄处理网络模型训练装置的结构示意图,请参照图11,人像减龄处理网络模型训练装置,包括:样本获取模块400,样本训练模块500;

样本获取模块400,用于获取包含人像的训练集样本图像以及测试集样本图像;

样本训练模块500,用于基于训练集样本图像、测试集样本图像训练得到人像减龄处理网络模型,其中,人像减龄处理网络模型为卷积神经网络模型,人像减龄处理网络模型包括:多个下采样层、残差结构块以及上采样层;下采样层用于对待处理图像进行下采样,残差结构块用于对下采样后的结果进行特征提取,上采样层用于基于待处理图像的图像特征以及下采样层的下采样结果进行上采样。

可选地,样本训练模块500,具体用于基于训练集样本图像以及测试集样本图像得到初始模型的输出图像以及光流结果;使用目标损失函数确定初始模型的损失信息,损失信息用于表征减龄处理的准确度以及光流估计的准确度;根据初始模型的损失信息,修正初始模型,并在初始模型满足预设条件时,将满足条件的初始模型作为人像减龄处理网络模型。

上述装置用于执行前述实施例提供的方法,其实现原理和技术效果类似,在此不再赘述。

以上这些模块可以是被配置成实施以上方法的一个或多个集成电路,例如:一个或多个特定集成电路(applicationspecificintegratedcircuit,简称asic),或,一个或多个微处理器(digitalsingnalprocessor,简称dsp),或,一个或者多个现场可编程门阵列(fieldprogrammablegatearray,简称fpga)等。再如,当以上某个模块通过处理元件调度程序代码的形式实现时,该处理元件可以是通用处理器,例如中央处理器(centralprocessingunit,简称cpu)或其它可以调用程序代码的处理器。再如,这些模块可以集成在一起,以片上系统(system-on-a-chip,简称soc)的形式实现。

图12为本申请实施例提供的计算机设备的结构示意图,请参照图12,该计算机设备,包括:第一存储器610、第一处理器620,第一存储器610中存储有可在第一处理器620上运行的计算机程序,第一处理器620执行计算机程序时,实现上述人像减龄处理方法的步骤。

图13为本申请实施例提供的另一计算机设备的结构示意图,请参照图13,该计算机设备,包括:第二存储器710、第二处理器720,第二存储器710中存储有可在第二处理器720上运行的计算机程序,第二处理器720执行计算机程序时,实现上述人像减龄处理网络模型训练方法的步骤。

本申请实施例的另一方面,还提供一种存储介质,存储介质上存储有计算机程序,该计算机程序被处理器执行时,实现上述人像减龄处理方法以及人像减龄处理网络模型训练方法的步骤。

在本发明所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。

上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(英文:processor)执行本发明各个实施例方法的部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(英文:read-onlymemory,简称:rom)、随机存取存储器(英文:randomaccessmemory,简称:ram)、磁碟或者光盘等各种可以存储程序代码的介质。

上仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

以上所述仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1