一种图像处理方法和装置与流程

文档序号:14325385阅读:211来源:国知局

本发明涉及计算机技术领域,尤其涉及一种图像处理方法和装置。



背景技术:

随着图像技术的不断发展和各种新兴图像运用的涌现,用户拍照或者录像的频率日益增加,同时通过终端设备拍摄而来的图像/视频无论是色调、饱和度或者亮度都有明显的提升,而单纯的图像显示和视频播放已经不能满足用户日益增长的消费、娱乐和安全需求,因此对图像后续处理的速度和质量都提出了更高的要求。

现有的针对图像/视频后续处理主要是通过添加特效素材或者调整图像参数来完成的。对添加特效素材而言,用户可以自主选择现有的贴纸粘贴至图像/视频中的任意区域、或者直接在图像/视频中手绘涂鸦或者为图像/视频中添加背景音乐等;对调整图像参数而言,用户可以根据图像/视频中的目标物体和背景调整图像参数用于突出图像/视频中的内容,例如对图像/视频中的人脸进行美颜或者五官微调,对图像/视频中的建筑物进行边缘锐化突出整体轮廓等。

由上可知,通过手动添加特效素材或者人工调整图像参数对图像/视频进行处理的效率较为低下,难以做到及时、高效地对图像/视频进行后续处理。



技术实现要素:

本发明实施例提供一种图像处理方法和装置,可以提高对图像/视频的处理效率。

本发明一方面提供了一种图像处理方法,包括:

获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;

在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;

在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。

其中,所述在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,包括:

识别所述目标图像数据中的目标物体轮廓,并根据所述目标物体轮廓将所述目标图像数据分割为至少一个单位目标图像数据;

将所述单位目标图像数据输入所述卷积神经网络模型中,在所述卷积神经网络模型中获取与所述单位目标图像数据相匹配的第一标签信息,并将所述第一标签信息添加至所述目标标签信息集合。

其中,所述将所述单位目标图像数据输入所述卷积神经网络模型中,在所述卷积神经网络模型中获取与所述单位目标图像数据相匹配的第一标签信息,包括:

将所述单位目标图像数据输入所述卷积神经网络模型中;

通过卷积运算和池化运算,提取所述单位目标图像数据的目标特征;

将所述目标特征与所述卷积神经网络模型中的特征集合进行相似度比较;

在所述特征集合中,获取相似度最大的特征所对应的标签信息作为与所述单位目标图像数据相匹配的第一标签信息。

其中,所述在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据,包括:

在所述图像特效库中,提取与所述目标标签信息集合中的所述第一标签信息对应的目标特效处理信息;

查找所述单位目标图像数据所在的第一图像区域,并将所述第一标签信息对应的目标特效处理信息中的多媒体素材添加到所述第一图像区域;

将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

其中,还包括:

获取所述目标图像数据对应的辅助信息;

获取与所述辅助信息相匹配的第二标签信息,并将所述第二标签信息添加至所述目标标签信息集合;

所述辅助信息包括环境参数、设备状态参数以及图像备注信息关键字中的至少一个;

则所述将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据的步骤之前,还包括:

在所述图像特效库中,提取与所述目标标签信息集合中的所述第二标签信息对应的目标特效处理信息;

识别所述目标图像数据中与所述辅助信息相关联的第二图像区域,并将所述第二标签信息对应的目标特效处理信息中的多媒体素材添到所述第二图像区域。

其中,所述将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据,包括:

若所述目标特效处理信息还包括图像调整参数,则根据所述图像调整参数对所述目标图像数据进行图像参数调整,将已添加所述多媒体素材且参数调整后的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

其中,还包括:

若获取到特效切换指令,则在所述图像特效库中,随机选取特效处理信息,作为随机特效处理信息,并根据所述随机特效处理信息对所述目标特效图像数据进行特效更新处理,得到更新后的目标特效图像数据。

其中,还包括:

获取样本图像数据以及与所述样本图像数据对应的样本标签信息,所述样本标签信息用于标记所述样本图像数据的特征类别;

根据所述样本图像数据与所述样本标签信息之间的映射关系,构建所述卷积神经网络模型。

本发明另一方面提供了一种图像处理装置,包括:

第一输入模块,用于获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;

目标标签获取模块,用于在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;

特效处理模块,用于在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。

其中,所述目标标签获取模块包括:

图像分割单元,用于识别所述目标图像数据中的目标物体轮廓,并根据所述目标物体轮廓将所述目标图像数据分割为至少一个单位目标图像数据;

第一标签获取单元,用于将所述单位目标图像数据输入所述卷积神经网络模型中,在所述卷积神经网络模型中获取与所述单位目标图像数据相匹配的第一标签信息,并将所述第一标签信息添加至所述目标标签信息集合。

其中,所述第一标签获取单元,包括:

第二输入子单元,用于将所述单位目标图像数据输入所述卷积神经网络模型中;

特征提取子单元,用于通过卷积运算和池化运算,提取所述单位目标图像数据的目标特征;

比较子单元,用于将所述目标特征与所述卷积神经网络模型中的特征集合进行相似度比较;

确定子单元,用于在所述特征集合中,获取相似度最大的特征所对应的标签信息作为与所述单位目标图像数据相匹配的第一标签信息。

其中,所述特效处理模块包括:

第一提取单元,用于在所述图像特效库中,提取与所述目标标签信息集合中的所述第一标签信息对应的目标特效处理信息;

第一添加单元,用于查找所述单位目标图像数据所在的第一图像区域,并将所述第一标签信息对应的目标特效处理信息中的多媒体素材添加到所述第一图像区域;

显示单元,用于将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

其中,还包括:

辅助信息获取模块,用于获取所述目标图像数据对应的辅助信息;

第二标签获取模块,用于获取与所述辅助信息相匹配的第二标签信息,并将所述第二标签信息添加至所述目标标签信息集合;

所述辅助信息包括环境参数、设备状态参数以及图像备注信息关键字中的至少一个;

则所述特效处理模块还包括:

第二提取单元,用于在所述图像特效库中,提取与所述目标标签信息集合中的所述第二标签信息对应的目标特效处理信息;

第二添加单元,用于识别所述目标图像数据中与所述辅助信息相关联的第二图像区域,并将所述第二标签信息对应的目标特效处理信息中的多媒体素材添到所述第二图像区域。

其中,所述显示单元,具体用于若所述目标特效处理信息还包括图像调整参数,则根据所述图像调整参数对所述目标图像数据进行图像参数调整,将已添加所述多媒体素材且参数调整后的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

其中,还包括:

随机选取模块,用于若获取到特效切换指令,则在所述图像特效库中,随机选取特效处理信息,作为随机特效处理信息,并根据所述随机特效处理信息对所述目标特效图像数据进行特效更新处理,得到更新后的目标特效图像数据。

其中,还包括:

样本标签获取模块,用于获取样本图像数据以及与所述样本图像数据对应的样本标签信息,所述样本标签信息用于标记所述样本图像数据的特征类别;

构建模块,用于根据所述样本图像数据与所述样本标签信息之间的映射关系,构建所述卷积神经网络模型。

本发明另一方面提供了一种图像处理装置,包括:处理器和存储器;

所述处理器和存储器相连,其中,所述存储器用于存储程序代码,所述处理器用于调用所述程序代码,以执行如本发明实施例中一方面中的方法。

本发明实施例另一方面提供了一种计算机存储介质,所述计算机存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时,执行如本发明实施例中一方面中的方法。

本发明实施例通过获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;利用卷积神经网络的分类功能在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。由此可见,在整个对目标图像数据特效处理的过程中,无需人工参与就能自动地识别目标图像数据的特征类别,并自动对目标图像数据进行特效处理,进而可以避免因手动进行图像特效处理而带来的繁琐步骤,从而提高图像数据处理的效率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的一种图像处理方法的场景示意图;

图2是本发明实施例提供的一种图像处理方法的流程示意图;

图2a和图2b是本发明实施例提供的一种图像处理方法的界面示意图;

图3是本发明实施例提供的一种获取目标标签信息集合的流程示意图;

图4是本发明实施例提供的另一种图像处理方法的流程示意图;

图4a和图4b是本发明实施例提供的另一种图像处理方法的界面示意图;

图5是本发明实施例提供的另一种图像处理方法的流程示意图;

图5a和图5b是本发明实施例提供的另一种图像处理方法的界面示意图;

图6是本发明实施例提供的另一种图像处理方法的流程示意图;

图7是本发明实施例提供的一种图像处理装置的结构示意图;

图8是本发明实施例提供的一种第一标签获取单元的结构示意图;

图9是本发明实施例提供的另一种图像处理装置的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

请参见图1,是本发明实施例提供的一种图像处理方法的场景示意图。如图1所示,用户可以从智能手机中打开存储图像或者视频的应用100a(例如,照片应用,视频应用等),从应用100a中选择图片200a作为需要特效处理的目标图像数据,当然用户也可以打开相机应用并实时拍摄照片或者视频,将实时拍摄的照片或者视频的视频帧作为目标图像数据。将图片200a输入已经构建完成的卷积神经网络模型中,利用上述卷积神网络模型的分类功能获取与图片200a对应的标签信息,分别为标签信息“女包”和标签信息“奢侈品”,并将标签信息“女包”和标签信息“奢侈品”添加至目标标签信息集合中。从存储在本地的图像特效库中,查找与目标标签信息集合中的标签信息“女包”对应的目标特效处理信息,该目标特效处理信息为用于添加至目标图像数据中的包含“美美哒”文字的图片标签(即为图片类型的多媒体素材);同理,查找与目标标签信息集合中的标签信息“奢侈品”对应的目标特效处理信息,该目标特效处理信息为用于添加至目标图像数据中的包含“$88888”文字的图片标签,因此根据目标图像数据所对应的目标特效处理信息,在图片200a中添加包含“美美哒”文字的图片标签以及在图片200a中添加包含“$88888”文字的图片标签。特效处理完成后,在智能手机的屏幕上显示特效处理完成后的目标特效图像数据以供用户预览,若用户满意上述目标特效图像数据,可以通过点击“确定”按钮将上述目标特效图像数据保存在智能手机本地文件夹中或者直接上传至社交网站(例如,微信朋友圈,qq空间等);若用户不满意上述目标特效图像数据,可以通过点击“取消”按钮,删除该目标特效图像数据,并在图像特效库中随机选取目标特效处理信息作为目标特效处理信息对目标图像数据进行特效更新,在智能手机的屏幕上显示特效更新后的目标特效图像数据。

其中,对图像进行特效处理的具体流程可以参见以下图2至图6所对应的实施例。

进一步地,请参见图2,是本发明实施例提供的一种图像处理方法的流程示意图。如图2所示,所述方法可以包括:

步骤s101,获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;

具体的,终端设备可以通过用户从相册应用或是视频应用中选择的图片或者视频的视频帧确定目标图像数据,随后,将确定的目标图像数据输入卷积神经网络模型中,卷积神经网络模型可以包括输入层、卷积层、池化层、全连接层和输出层,因此目标图像数据首先输入至卷积神经网络模型中的输入层,所述卷积神经网络模型是通过建立模式分类器能够对图像进行检测和识别的前馈式神经网络。其中,终端设备可以包括手机、平板电脑、笔记本电脑、掌上电脑、移动互联网设备(mid,mobileinternetdevice)、pos(pointofsales,销售点)机、可穿戴设备(例如智能手表、智能手环等)或其他具有存储图像数据或者视频数据功能的终端设备,所述目标图像数据既可以是图片也可以是视频中的任一视频帧。

步骤s102,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;

具体的,目标图像数据输入至卷积神经网络模型中的输入层后,由于该卷积神经网络模型已经通过样本图像数据以及与该样本图像数据对应的样本标签信息训练完成,也就是说已具备图像分类功能。因此利用卷积神经网络模型的特征提取以及分类功能得到与目标图像数据相匹配的标签信息,并将上述标签信息添加至目标标签信息集合中。由于目标图像数据中目标物体的多样性(例如,目标图像数据中既有天空、汽车,还有人物以及建筑物等),因此与目标图像数据匹配的目标标签信息集合中的标签信息可以包含一个也可以包含多个。请一并参见图4a,图4a是本发明实施例提供的一种图像处理方法的界面示意图,且以图4a为例,由于图4a中的目标图像数据既包括建筑物的特征也包括动物的特征,因此从卷积神经网络模型中获取的与图4a中的目标图像数据匹配的标签信息分别为:标签信息“建筑物”和标签信息“动物”,并将上述两个标签信息添加至目标标签信息集合中。若目标标签信息集合中的标签信息有多个,还需要确定每一个标签信息所对应的特征所在的图像区域,在图4a中,与目标标签信息集合中的标签信息“动物”所对应的特征“小狗”所在的图像区域为图像区域300a,目标标签信息集合中的标签信息“建筑物”所对应的特征“房屋”所在的图像区域为图像区域500a。

其中,目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别,特征类别可以是表示图像或图像区域所对应物体的颜色类别特征与纹理类别特征,也可以是表示图像本质属性的形状特征类别,还可以是表示图像中多个目标物体位置关系的空间关系特征类别。标签信息可以是数字也可以是其他具有标识区别意义的字符信息。例如,标签信息为数值1,则对应的特征类别为“人物”;标签信息为数值2,则对应的特征类别为“建筑物”等,换句话说标签信息与特征类别存在一个映射关系。

步骤s103,在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。

具体的,确定目标标签信息集合以及集合中每一个标签信息所对应的特征所在的图像区域后,在图像特效库中提取与上述目标标签信息集合对应的目标特效处理信息,目标特效处理信息可以是用于添加至目标图像数据的多媒体素材(例如,当目标图像数据是一幅婚礼场景图片时,目标特效处理信息是用于添加至目标图像数据的爱心图片;当目标图像数据是一幅雨景图片时,目标特效处理信息是用于添加至目标图像数据的闪电图片;当目标图像数据是视频中的视频帧时,目标特效处理信息是用于添加至目标图像数据的背景音乐等),目标特效处理信息还可以用于调整目标图像数据的图像参数,图像参数可以包括亮度或者饱和度。调整目标图像数据的图像参数的过程可以为:将目标图像数据的饱和度调暗或者调亮,或者将目标图像数据的亮度调高或者调低(例如,若识别出目标图像数据中的目标物体包括太阳,则目标特效处理信息可以包含用于调亮目标图像数据的饱和度的图像调整参数;若识别出目标图像数据中的目标物体包括雨水,则目标特效处理信息可以包含用于降低目标图像数据的亮度的图像调整参数)。随后,根据提取出的目标特效处理信息以及目标标签信息集合中的每一个标签信息所对应的特征所在的图像区域,在对应的图像区域进行特效处理,特效处理完成后得到目标特效图像数据,并在终端设备的屏幕上显示该目标特效图像数据,以便用户预览上述目标特效图像数据,若用户满意该目标特效图像数据可以直接保存至照片应用或者视频应用。

其中,图像特效库可以存储在终端设备的本地文件中,查找目标特效处理信息时在本地文件中直接查找并获取目标特效处理信息;也可以存储在云端服务器中,查找目标特效处理信息时通过网络访问云端服务器并获取目标特效处理信息。

请参见图2a和图2b,是本发明实施例提供的一种图像处理方法的界面示意图。如图2a所示,终端设备的屏幕上显示用户选择的目标图像数据,将该目标图像数据输入卷积神经网络模型中,从上述卷积神经网络模型中获取与目标图像数据匹配的标签信息为“交通工具”,并将标签信息“交通工具”添加至目标标签信息集合中,确定标签信息“交通工具”所对应的特征“汽车”所在的图像区域为图2a中的图像区域600a。在图像库中查找与目标标签信息集合中的标签信息“交通工具”对应的目标特效处理信息为用于添加至目标图像数据中的尾气图片,终端设备从本地文件或者云端服务器中提取尾气图片后,添加至目标图像数据中的图像区域600a,得到如图2b所示的添加尾气图片后的目标特效图像数据。

进一步的,请参见图3,是本发明实施例提供的一种获取目标标签信息集合的流程示意图。如图3所示,步骤s201-步骤s205的步骤是对上述图2所对应实施例中步骤s102的具体描述,即步骤s201-步骤s205的步骤是本发明实施例提供的一种获取目标标签信息集合的具体流程,具体可以包括如下步骤:

步骤s201,识别所述目标图像数据中的目标物体轮廓,并根据所述目标物体轮廓将所述目标图像数据分割为至少一个单位目标图像数据;

具体的,若目标图像数据是彩色图片,可以通过统计目标图像数据的颜色直方图来提取目标图像数据的颜色特征,进而识别该目标图像数据中的目标物体轮廓,颜色直方图是一幅不同色彩在整幅目标图像数据中所占比例的统计图;也可以通过计算灰度共生矩阵中的四个关键特征(能量、惯量、熵和相关性)来提取目标图像数据的纹理特征,进而识别该目标图像数据中的目标物体轮廓,并根据识别的目标物体轮廓将所述目标图像数据分割为一个或者多个单位目标图像数据,同时记录每一个单位目标图像数据所在的图像区域以便于后续在对应的图像区域进行特效处理,每一个单位目标图像数据都是目标图像数据具有独特性质的图像区域。请参见图4b,是本发明实施例提供的另一种图像处理方法的界面示意图,且以图4b为例,目标图像数据中的目标物体既有动物也有建筑物,则将该目标图像数据分割为两个单位目标图像数据,一个单位目标图像数据包含动物特征图像,另一个单位目标图像数据包含建筑物特征图像。

可选的,通过直接调用图像分割算法(例如,阈值分割算法、区域分割算法或者边缘分割算法),将目标图像数据分割为一个或者多个单位目标图像数据,同时记录每一个单位目标图像数据所在的图像区域。

鉴于此,为更好地理解本方案,本发明实施例仅以一个单位目标图像数据为例,以进一步执行后续的步骤s202-步骤s205。

步骤s202,将所述单位目标图像数据输入所述卷积神经网络模型中;

具体的,为了提高图像识别的准确率,可以将分割后的单位目标图像数据调整至固定尺寸大小,随后将调整尺寸后的单位目标图像数据输入卷积神经网络模型中的输入层。可以将分割后的单位目标图像数据随机输入卷积神经网络模型中也可以按照获取单位目标图像数据的先后顺序依次输入卷积神经网络模型中。可以理解的是,上述卷积神经网络已经提前构建完成,该输入层的参数大小等于调整尺寸后的单位目标图像数据的尺寸。

步骤s203,通过卷积运算和池化运算,提取所述单位目标图像数据的目标特征;

具体的,当单位目标图像数据输入至卷积神经网络的输出层后,随后进入卷积层,首先随机选取单位目标图像数据中的一小块作为样本,并从这个小样本中学习到一些特征,然后利用这个样本作为一个窗口依次滑过单位目标图像数据的所有像素区域,也就是说,从样本中学习到的特征跟单位目标图像数据做卷积,从而获得单位目标图像数据不同位置上最显著的特征。在做完卷积运算后,已经提取到单位目标图像数据的特征,但仅仅通过卷积运算提取的特征数量大,为了减少计算量,还需进行池化运算,也就是将从单位目标图像数据中通过卷积运算提取的特征传输至池化层,对提取的特征进行聚合统计,这些统计特征的数量级要远远低于卷积运算提取到的特征的数量级,同时还会提高分类效果,常用的池化方法主要包括平均池化运算方法和最大池化运算方法。平均池化运算方法是在一个特征集合里计算出一个平均特征代表该特征集合的特征;最大池化运算是在一个特征集合里提取出最大特征代表该特征集合的特征。通过卷积运算和池化运算,可以提取出单位目标图像数据最显著的目标特征,同时该目标特征的数量少。值得注意的是,卷积神经网络中的卷积层可以只有一层也可以有多层,同理池化层可以只有一层也可以有多层。

步骤s204,将所述目标特征与所述卷积神经网络模型中的特征集合进行相似度比较;

具体的,训练好的卷积神经网络模型的输出层是一个分类器,所述分类器的结点数与所述样本标签信息的类别数相同,也与样本图像数据的特征类别数一致,该分类器的每一个分类结点包括从每一种样本标签信息类别所对应的样本图像数据提取出来的特征集合,有多少个样本标签信息类别就有多少个特征集合。当提取单位目标图像数据的目标特征后,将上述目标特征和卷积神经网络模型中的输出层的特征集合进行相似度比较,相似度可以采用距离度量的方式,若两个特征的距离越近,说明两个特征的相似度越大,距离度量方式可以包括欧式距离度量方式、马氏距离度量方式或者汉明距离度量方式。

步骤s205,在所述特征集合中,获取相似度最大的特征所对应的标签信息作为与所述单位目标图像数据相匹配的第一标签信息,并将所述第一标签信息添加至所述目标标签信息集合。

具体的,当目标特征和卷积神经网络模型中的特征集合进行比较后,获取相似度最大的特征所对应的样本标签信息,并将获取到的样本标签信息确定为与该单位目标图像数据匹配的第一标签信息,并将该第一标签信息添加至目标标签信息集合中,换言之,目标标签信息集合中可以包括第一标签信息,该第一标签信息可以用于后续查找对应的目标特效处理信息进而执行特效处理。

举例来说,卷积神经网络模型中的输出层有3个特征集合,特征集合a是从样本标签信息“人物”所对应的样本图像数据中提取的特征集合;特征集合b是从样本标签信息“建筑物”所对应的样本图像数据中提取的特征集合;特征集合c是从样本标签信息“动物”所对应的样本图像数据中提取的特征集合,从单位目标图像数据中提取的目标特征为特征“d”,将特征“d”与特征集合a、特征集合b、特征集合c中的特征进行距离度量,若特征“d”和特征集合b中的特征的距离最小,则确认该单位目标图像数据所对应的第一标签信息为特征集合b所对应的样本标签信息,也就是说与该单位目标图像数据所匹配的第一标签信息为“建筑物”,并将第一标签信息“建筑物”添加至目标标签信息集合中。

本发明实施例通过获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;利用卷积神经网络模型的分类功能,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。由此可见,在整个对目标图像数据特效处理的过程中,无需人工参与就能自动地识别目标图像数据的特征类别,并自动对目标图像数据进行特效处理,进而可以避免因手动进行图像特效处理而带来的繁琐步骤,从而提高图像数据处理的效率。同时识别目标图像数据中的多个特征类别,并分别执行目标标签信息集合中的多个标签信息所对应的目标特效处理信息,可以丰富特效处理方式,提高特效处理效果。

进一步的,请参见图4,是本发明实施例提供的另一种图像处理方法的流程示意图。如图4所示,所述方法可以包括如下步骤:

步骤s301,获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;

步骤s302,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;

其中,步骤s301-步骤s302的具体实现过程可参见上述图2所对应实施例中对步骤s101-步骤s102的描述,这里将不再继续进行赘述。

步骤s303,在所述图像特效库中,提取与所述目标标签信息集合中的所述第一标签信息对应的目标特效处理信息;

具体的,根据目标标签信息集合中的第一标签信息,在图像特效库中提取与该第一标签信息对应的目标特效处理信息,目标特效处理信息可以包括用于添加到目标图像数据中的文字、图片,或者用于添加至目标图像数据中目标物体的购买链接等。若目标标签信息集合中的第一标签信息不止一个,则在图像特效库中分别提取每一个第一标签信息所对应的目标特效处理信息。第一标签信息的获取过程可以参见上述图3中对步骤s201-步骤s205的描述。

步骤s304,查找所述单位目标图像数据所在的第一图像区域,并将所述第一标签信息对应的目标特效处理信息中的多媒体素材添加到所述第一图像区域;

具体的,由于单位目标图像数据是按照目标图像数据中目标物体的轮廓分割而来,为了后续的特效处理更贴切目标图像数据中的图像内容,首先查找单位目标图像数据所在的第一图像区域,其次将从图像特效库中提取的与第一标签信息对应的目标特效处理信息中的多媒体素材添加至上述第一图像区域。若目标图像数据包括多个单位目标图像数据,则分别查找每一个单位目标图像数据所在的第一图像区域,并将每一个与单位目标图像数据匹配的第一标签信息所对应的目标特效处理信息中的多媒体素材依次添加至对应的第一图像区域。可选的,若检测到两个或两个以上的单位目标图像数据对应的第一标签信息之间具有关联关系(该关联关系可以是预先设置好的,如预先设置标签信息a和标签信息b具有关联关系,并预先设置标签信息a和标签信息c也具有关联关系),且识别出这些单位目标图像数据中的目标物体之间的像素距离小于距离阈值,则可以提取这些单位目标图像数据对应的第一标签信息共同映射的目标特效处理信息,并将该目标特效处理信息中的多媒体素材添加到包含这些单位目标图像数据的第一图像区域(即该第一图像区域包含这些单位目标图像数据中的目标物体)。例如,从目标图像数据中可以划分出两个单位目标图像数据,其中一个单位目标图像数据对应的第一标签信息为“女人”,另一个单位目标图像数据对应的第一标签信息为“男人”(第一标签信息“女人”与第一标签信息“男人”之间具有关联关系),且这两个单位目标图像数据中的目标物体(即人物图像)之间的像素距离小于距离阈值,则可以在图像特效库中查找出与第一标签信息“女人”、第一标签信息“男人”共同映射的目标特效处理信息(该目标特效处理信息中的多媒体素材为爱心图片),并将这两个单位目标图像数据共同所处的图像区域确定为第一图像区域(即该第一图像区域包含女人图像和男人图像),并将目标特效处理信息中的爱心图片添加到该第一图像区域,如可以将爱心图片添加到男人图像和女人图像中间的区域。

步骤s305,将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

具体的,将已添加了多媒体素材的目标图像数据确定为目标特效图像数据,并在终端设备的屏幕上显示该目标特效图像数据,用户可以通过点击“保存”按钮直接保存该目标特效图像数据至本地文件夹中,或者点击“删除”按钮删除该目标特效图像数据。

再请一并参见图4a和4b,通过识别图4a中目标图像数据中的目标物体轮廓,将目标图像数据分割为两个单位目标图像数据,一个单位目标图像数据包含房屋特征图像,另一个单位目标图像数据包含小狗特征图像,并查找上述两个单位目标图像数据所在的第一图像区域分别为图像区域500a和图像区域300a。将上述两个单位目标图像数据分别输入卷积神经网络模型中,利用卷积神经网络模型的特征提取和图像分类功能,获取与包含房屋特征图像的单位目标图像数据相匹配的第一标签信息为“建筑物”,获取与包含小狗特征图像的单位目标图像数据相匹配的第一标签信息为“动物”,在图像特效库中,提取与第一标签信息“建筑物”对应的目标特效处理信息为用于添加到目标图像数据中的闪光图片,获取与第一标签信息“动物”对应的目标特效处理信息为用于添加到目标图像数据中脚印图片。将上述闪光图片添加至第一图像区域500a,和将脚印图片添加至第一图像区域300a,得到如图4b所示的目标特效图像数据,并在终端设备的屏幕上显示该目标特效图像数据。

本发明实施例通过获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;利用卷积神经网络模型的分类功能,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。由此可见,在整个对目标图像数据特效处理的过程中,无需人工参与就能自动地识别目标图像数据的特征类别,并自动对目标图像数据进行特效处理,进而可以避免因手动进行图像特效处理而带来的繁琐步骤,从而提高图像数据处理的效率。同时识别目标图像数据中的多个特征类别,并分别执行目标标签信息集合中的多个标签信息所对应的目标特效处理信息,可以丰富特效处理方式,提高特效处理效果。

进一步的,请参见图5,是本发明实施例提供的另一种图像处理方法的流程示意图。如图5所示,所述方法可以包括如下步骤:

步骤s401,获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;

步骤s402,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;

其中,步骤s301-步骤s302的具体实现过程可参见上述图2所对应实施例中对步骤s101-步骤s102的描述,这里将不再继续进行赘述。

步骤s403,在所述图像特效库中,提取与所述目标标签信息集合中的所述第一标签信息对应的目标特效处理信息;

步骤s404,查找所述单位目标图像数据所在的第一图像区域,并将所述第一标签信息对应的目标特效处理信息中的多媒体素材添加到所述第一图像区域;

其中,步骤s403和步骤s404的具体实现方式可参见上述图4所对应实施例中对步骤s303和步骤s304的描述,且第一标签信息的获取过程可以参见上述图3中对步骤s201-步骤s205的描述,这里将不再继续进行赘述。

步骤s405,获取所述目标图像数据对应的辅助信息;

具体的,终端设备获取与目标图像数据对应的辅助信息,所述辅助信息包括环境参数、设备状态参数以及图像备注信息关键字中的至少一个。所述环境参数包括时间、位置、或者天气中的一种或多种;所述设备状态参数包括温度、加速度以及速度中的一种或多种;所述图像备注信息关键字是通过获取用户输入的备注信息,从该备注信息中利用关键字提取算法(例如,词频-逆向文件频率算法、主题模型算法、文本排序算法等)提取出来的关键字。当环境参数是时间时,读取目标图像数据的exif(exchangeableimagefile,可交换图像文件)图像信息,从exif图像信息中获取与目标图像数据对应的时间。当环境参数为位置且目标图像数据是通过用户使用相机应用实时拍摄而来的,可以通过gps(globalpositioningsystem,全球定位系统)定位终端设备拍摄目标图像数据时的位置,再对上述位置进行识别,以识别与目标图像数据对应的位置;若目标图像数据是从本地相册应用或者视频应用中提取出来的图像数据,也可以从exif图像信息中获取与目标图像数据对应的位置。当环境参数为天气时,通过查询目标图像数据对应的时间所处的天气,获取与目标图像数据对应的天气。当设备状态参数是温度时,通过温度计获取与目标图像数据对应的温度。当设备参数是加速度时,通过g-sensor(accelerometer-sensor,加速度传感器)感知加速力的变化,获取与目标图像数据对应的加速度,同理,当设备参数是速度时,通过速度传感器感知速度的变化,以获取与目标图像数据对应的速度。

步骤s406,获取与所述辅助信息相匹配的第二标签信息,并将所述第二标签信息添加至所述目标标签信息集合;

具体的,获取与目标图像数据对应的辅助信息后,随后获取与辅助信息相匹配的第二标签信息,并将上述第二标签信息添加至目标标签信息集合中,值得注意的是,目标标签信息集合中既包括从卷积神经网络中获取的第一标签信息也包括与辅助信息匹配的第二标签信息。当获取环境参数中的时间后,识别所述时间所处的时间范围,获取与所述时间范围对应的第二标签信息,并将上述第二标签信息添加至目标标签信息集合中,例如,从exif图像信息中获取与目标图像数据对应的时间是时间23:00,识别时间23:00的时间范围是深夜,因此获取与深夜对应的第二标签信息是“夜晚”,将第二标签信息“夜晚”添加至目标标签信息集合中。当获取环境参数中的位置后,识别与所述位置对应的第二标签信息,并将上述第二标签信息添加至目标标签信息集合中,例如,通过gps定位并识别出与目标图像数据对应的位置是北京·故宫,识别与北京·故宫对应的第二标签信息是“建筑物”,将第二标签信息“建筑物”添加至目标标签信息集合中。当获取环境参数中的天气后,获取与所述天气对应的第二标签信息,并将上述第二标签信息添加至目标标签信息集合中,例如,通过终端设备中天气应用提取到与目标图像数据对应的天气是“晴朗”,因此获取与天气“晴朗”对应的第二标签信息是“阳光”,将第二标签信息“阳光”添加至目标标签信息集合中。当获取设备状态参数中的温度后,识别与所述温度对应的第二标签信息,并将上述第二标签信息添加至目标标签信息集合中,同理可以将速度、加速度以及图像备注信息关键字对应的第二标签信息分别添加至目标标签信息集合中。

步骤s407,在所述图像特效库中,提取与所述目标标签信息集合中的所述第二标签信息对应的目标特效处理信息;

具体的,根据目标信息集合中的第二标签信息,在图像特效库中提取与该第二标签信息对应的目标特效处理信息,目标特效处理信息可以包括用于添加至目标图像数据中的文字、添加图片,或者用于添加至目标图像数据中目标物体的购买链接等。若目标标签信息集合中的第二标签信息不止一个,则在图像特效库中分别提取每一个第二标签信息所对应的目标特效处理信息。

步骤s408,识别所述目标图像数据中与所述辅助信息相关联的第二图像区域,并将所述第二标签信息对应的目标特效处理信息中的多媒体素材添到所述第二图像区域;

具体的,由于第二标签信息是由目标图像数据对应的辅助信息得来的,为了后续的特效处理更贴切目标图像数据中的图像内容,首先识别在目标图像数据中与辅助信息相关联的第二图像区域,其次将从图像特效库中提取的与第二标签信息对应的目标特效处理信息中的多媒体素材添加至上述第二图像区域,若目标标签信息集合中包括多个第二标签信息,则分别识别与每一个第二标签信息匹配的辅助信息相关联的第二图像区域,以及提取与每一个第二标签信息对应的目标特效处理信息,将每一个第二标签信息所对应的目标特效处理信息中的多媒体素材依次添加至相关联的第二图像区域。

步骤s409,若所述目标特效处理信息还包括图像调整参数,则根据所述图像调整参数对所述目标图像数据进行图像参数调整,将已添加所述多媒体素材且参数调整后的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

具体的,在目标图像数据中的第一图像区域添加了第一标签信息对应的目标特效处理信息中的多媒体素材以及,在目标图像数据中的第二图像区域添加了第二标签信息对应的目标特效处理信息中的多媒体素材后,若目标特效处理信息还包括图像调整参数,则调整目标图像数据的图像参数,图像参数可以包括亮度或者饱和度(例如,若识别出目标图像数据中的目标物体包括人脸,则目标特效处理信息可以包含用于调亮目标图像数据的图像调整参数)。将已添加了第一标签信息对应的目标特效处理信息中的多媒体素材、第二标签信息对应的目标特效处理信息中的多媒体素材、且参数调整后的目标图像确定为目标特效图像数据,并在终端设备的屏幕上显示该目标特效图像数据。

进一步地,请参见图5a和图5b,是本发明实施例提供的另一种图像处理方法的界面示意图。将图5a中的目标图像数据输入卷积神经网络模型中,从卷积神经网络模型中获取与目标图像数据匹配的第一目标标签信息为“建筑物”,并确定第一图像区域为包含建筑物特征图像的图像区域,也即是图5b中的第一图像区域。从终端设备中的天气应用中获取与该目标图像数据对应的辅助信息为“暴雨”,识别辅助信息“暴雨”对应的第二目标标签信息为“雨景”,并确定在目标图像数据中与辅助信息“暴雨”相关联的第二图像区域为包含天空特征图像的图像区域,也即是图5b中的第二图像区域。在图像特效库中,查找与第一标签信息“建筑物”对应的目标特效处理信息为用于添加到目标图像数据的闪光图片,查找与第二标签信息“雨景”对应的目标特效处理信息为用于添加到目标图像数据的闪电图片。将闪光图片添加至图5b中的第一图像区域,以及将闪电图片添加至图5b中的第二图像区域,得到如图5b所示的目标特效图像数据,并在终端设备的屏幕上显示该目标特效图像数据。

本发明实施例通过获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;利用卷积神经网络模型的分类功能,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。由此可见,在整个对目标图像数据特效处理的过程中,无需人工参与就能自动地识别目标图像数据的特征类别,并自动对目标图像数据进行特效处理,进而可以避免因手动进行图像特效处理而带来的繁琐步骤,从而提高图像数据处理的效率。同时识别目标图像数据中的多个特征类别,并分别执行目标标签信息集合中的多个标签信息所对应的目标特效处理信息,可以丰富特效处理方式,提高特效处理效果。

进一步地,请参见图6,是是本发明实施例提供的另一种图像处理方法的流程示意图。如图6所示,图像处理方法包括如下步骤:

步骤s501,获取样本图像数据以及与所述样本图像数据对应的样本标签信息,所述样本标签信息用于标记所述样本图像数据的特征类别;

具体的,终端设备可以从图像数据库中下载图像数据作为样本图像数据,根据样本图像数据中的图像内容为每一个样本图像数据设置对应的样本标签信息,或者获取已经为每一个样本图像数据打上样本标签信息的图像数据,其中样本标签信息用于标记样本图像数据的特征类别,样本标签信息可以是数字也可以是其他具有区别标识意义的字符。例如,样本标签信息是“人物”或者数值1时,对应的样本图像数据中包括男人、女人、小孩或者老人等特征类别;样本标签信息是“动物”或者数值2时,对应的样本图像数据中包括猫、老鼠、或者狗等特征类别;样本标签信息是“建筑物”或者数值3时,对应的样本图像数据中包括长城、故宫、或者伦敦塔等特征类别。

步骤s502,根据所述样本图像数据与所述样本标签信息之间的映射关系,构建所述卷积神经网络模型;

具体的,样本图像数据都携带对应的样本标签信息,相同的样本标签信息为一类,以类为单位,多种样本图像数据的类别分别输入卷积神经网络模型中的输入层,构建卷积神经网络模型,输入层的参数大小等于输入样本图像数据的尺寸。当样本图像数据输入至卷积神经网络的输入层后,首先随机选取样本图像数据中的一小块作为样本,并从这个小样本中学习到一些特征,然后利用这个样本作为一个窗口依次滑过样本图像数据的所有像素区域,也就是说,从样本中学习到的特征跟样本图像数据做卷积,从而获得样本图像数据不同位置上最显著的特征。在做完卷积运算后,已经提取到样本图像数据的特征,但仅仅通过卷积运算提取的特征数量大,为了减少计算量,还需进行池化运算,也就是对卷积运算提取的特征进行聚合统计,这些统计特征的数量级要远远低于卷积运算提取到的特征的数量级,同时还会提高分类效果,常用的池化方法主要包括平均池化运算方法和最大池化运算方法。平均池化运算是在一个特征集合里计算出一个平均特征作代表该特征集合的特征;最大池化运算是在一个特征集合里提取出最大的特征代表该特征集合的特征。通过卷积运算和池化运算,可以提取出样本图像数据最显著的样本特征,同时该样本特征的数量少。

在卷积神经网络的输出层是一个分类器,因为输入的样本图像数据是携带有样本标签信息,且以相同的样本标签信息为一类构建卷积神经网络模型的,因此该分类器的分类结点数与样本标签信息的类别数相同,同时样本标签信息的类别数与样本图像数据的特征类别数也相同,也就是说,输入的样本标签信息有多少个类别在构建完成卷积神经网络模型的输出层的就有多少的分类结点。例如,样本标签信息为“人物”的样本图像数据有a1、a2、a3,样本标签信息为“动物”的样本图像数据有b1、b2、b3,样本标签信息为“建筑物”的样本图像数据有c1、c2、c3,根据携带有样本标签信息的样本图像数据a1、a2、a3,b1、b2、b3,c1、c2、c3,通过卷积运算和池化运算构建的卷积神经网络模型,该卷积神经网络模型的输出层的分类器有3个结点,分别对应样本标签信息“人物”、“动物”和“建筑物”,同时3个结点还对应3个特征集合t1,t2,t3,特征集合t1中的特征是从样本图像数据a1、a2、a3中提取出来的特征;特征集合t2中的特征是从样本图像数据b1、b2、b3中提取出来的特征;特征集合t3中的特征是从样本图像数据c1、c2、c3中提取出来的特征。

步骤s503,获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;

步骤s504,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;

步骤s505,在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据;

其中,步骤s503-步骤s505的具体实现过程可参见上述图2所对应实施例中对步骤s101-步骤s103的描述,这里将不再继续进行赘述。

步骤s506,若获取到特效切换指令,则在所述图像特效库中,随机选取特效处理信息,作为随机特效处理信息,并根据所述随机特效处理信息对所述目标特效图像数据进行特效更新处理,得到更新后的目标特效图像数据;

具体的,用户通过屏幕预览生成的目标特效图像数据,若不满意上述目标特效图像数据,则点击“随机”按钮,以生成特效切换指令。因此,若终端设备获取到特效切换指令,则从图像特效库中随机选取目标特效处理信息作为随机目标特效处理信息,并根据上述随机目标特效处理信息对目标特效图像数据进行特效处理,得到更新后的目标特效图像数据,并在终端设备的屏幕上显示更新后的目标特效图像数据。生成更新后的目标特效图像数据的具体过程可参见图4中的步骤s303-步骤s305或图5中的步骤s403-步骤s409,此处不再赘述。

其中,在生成目标特效图像数据后,若用户直接点击“保存”按钮,则可以说明从卷积神经网络模型中获取的对应目标图像数据的目标标签信息集合可以准确标识目标图像数据的特征类别(即满足用户的期望),因此可以将目标图像数据和对应的目标标签信息集合中的标签信息作为样本图像数据和样本标签信息,输入至卷积神经网络模型中,用于持续优化该卷积神经网络模型的参数,为下一个目标图像数据生成更准确的目标标签信息集合,以提高上述卷积神经网络模型的图像识别的准确率。

本发明实施例通过获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;利用卷积神经网络模型的分类功能,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。由此可见,在整个对目标图像数据特效处理的过程中,无需人工参与就能自动地识别目标图像数据的特征类别,并自动对目标图像数据进行特效处理,进而可以避免因手动进行图像特效处理而带来的繁琐步骤,从而提高图像数据处理的效率。同时识别目标图像数据中的多个特征类别,并分别执行目标标签信息集合中的多个标签信息所对应的目标特效处理信息,可以丰富特效处理方式,提高特效处理效果。

进一步的,请参见图7,是本发明实施例提供的一种图像处理装置的结构示意图,如图7所示,所述图像处理装置1可以应用于上述图2所对应实施例中的终端设备,所述图像处理装置1可以包括:第一输入模块10,目标标签获取模块20和特效处理模块30;

第一输入模块10,用于获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;

目标标签获取模块20,用于在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;

特效处理模块30,用于在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。

其中,所述第一输入模块10,目标标签获取模块20和特效处理模块30的具体功能实现方式可以参见上述图2对应实施例中的步骤s101-步骤s103,这里不再进行赘述。

再请一并参见图7,所述图像处理装置1还可以包括:样本标签获取模块40,构建模块50,辅助信息获取模块60,第二标签获取模块70,随机选取模块80;

样本标签获取模块40,用于获取样本图像数据以及与所述样本图像数据对应的样本标签信息,所述样本标签信息用于标记所述样本图像数据的特征类别;

构建模块50,用于根据所述样本图像数据与所述样本标签信息之间的映射关系,构建所述卷积神经网络模型;

辅助信息获取模块60,用于获取所述目标图像数据对应的辅助信息;

第二标签获取模块70,用于获取与所述辅助信息相匹配的第二标签信息,并将所述第二标签信息添加至所述目标标签信息集合;

随机选取模块80,用于若获取到特效切换指令,则在所述图像特效库中,随机选取目标特效处理信息,作为随机目标特效处理信息,并根据所述随机目标特效处理信息对所述目标特效图像数据进行特效更新处理,得到更新后的目标特效图像数据。

其中,所述样本标签获取模块40,构建模块50的具体功能实现方式可以参见上述图6对应实施例中的步骤s501-步骤s502;辅助信息获取模块60,第二标签获取模块70的具体功能实现方式可以参见上述图5对应实施例中的步骤s404-步骤s405;随机选取模块80的具体功能实现方式可以参见上述图6对应实施例中的步骤s506,这里不再进行赘述。

进一步的,如图7所示,所述目标标签获取模块20包括:图像分割单元201、第一标签获取单元202;

图像分割单元201,用于识别所述目标图像数据中的目标物体轮廓,并根据所述目标物体轮廓将所述目标图像数据分割为至少一个单位目标图像数据;

第一标签获取单元202,用于将所述单位目标图像数据输入所述卷积神经网络模型中,在所述卷积神经网络模型中获取与所述单位目标图像数据相匹配的第一标签信息,并将所述第一标签信息添加至所述目标标签信息集合。

其中,所述图像分割单元201、第一标签获取单元202的具体功能实现方式可以参见上述图3对应实施例中的s201-s202,这里不再进行赘述。

进一步的,如图7所示,所述特效处理模块30包括:第一提取单元301、第一添加单元302、显示单元303、第二提取单元304、第二添加单元305;

第一提取单元301,用于在所述图像特效库中,提取与所述目标标签信息集合中的所述第一标签信息对应的目标特效处理信息;

第一添加单元302,用于查找所述单位目标图像数据所在的第一图像区域,并将所述第一标签信息对应的目标特效处理信息中的多媒体素材添加到所述第一图像区域;

显示单元303,用于将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据;

显示单元303,具体用于若所述目标特效处理信息还包括图像调整参数,则根据所述图像调整参数对所述目标图像数据进行图像参数调整,将已添加所述多媒体素材且参数调整后的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

第二提取单元304,用于在所述图像特效库中,提取与所述目标标签信息集合中的所述第二标签信息对应的目标特效处理信息;

第二添加单元305,用于识别所述目标图像数据中与所述辅助信息相关联的第二图像区域,并将所述第二标签信息对应的目标特效处理信息中的多媒体素材添到所述第二图像区域。

其中,所述第一提取单元301、第一添加单元302、显示单元303、第二提取单元304、第二添加单元305的具体功能实现方式可以参见上述图4对应实施例中的步骤s303-步骤s305,以及上述图5对应实施例中的步骤s406-步骤s409,这里不再进行赘述。

进一步的,请参见图8,是本发明实施例提供的一种第一标签获取单元的结构示意图,如图8所示,所述第一标签获取单元202包括:第二输入子单元2021、特征提取子单元2022、比较子单元2023、确定子单元2024;

第二输入子单元2021,用于将所述单位目标图像数据输入所述卷积神经网络模型中;

具体的,为了提高图像识别的准确率,第二输入子单元2021可以将分割后的单位目标图像数据调整至固定尺寸大小,随后将调整尺寸后的单位目标图像数据输入卷积神经网络模型中的输入层。第二输入子单元2021可以将分割后的单位目标图像数据随机输入卷积神经网络模型中,也可以按照获取单位目标图像数据的先后顺序依次输入卷积神经网络模型中。可以理解的是,上述卷积神经网络已经提前构建完成,该输入层的参数大小等于调整尺寸后的单位目标图像数据的尺寸。

特征提取子单元2022,用于通过卷积运算和池化运算,提取所述单位目标图像数据的目标特征;

具体的,当第二输入子单元2021将单位目标图像数据输入至卷积神经网络的输出层后,随后进入卷积层,首先特征提取子单元2022随机选取单位目标图像数据中的一小块作为样本,并从这个小样本中学习到一些特征,然后利用这个样本作为一个窗口依次滑过单位目标图像数据的所有像素区域,也就是说,从样本中学习到的特征跟单位目标图像数据做卷积,从而获得单位目标图像数据不同位置上最显著的特征。在做完卷积运算后,特征提取子单元2022已经提取到单位目标图像数据的特征,但仅仅通过卷积运算提取的特征数量大,为了减少计算量,还需进行池化运算,也就是将从单位目标图像数据中通过卷积运算提取的特征传输至池化层,对提取的特征进行聚合统计,这些统计特征的数量级要远远低于卷积运算提取到的特征的数量级,同时还会提高分类效果,常用的池化方法主要包括平均池化运算方法和最大池化运算方法。平均池化运算方法是在一个特征集合里计算出一个平均特征代表该特征集合的特征;最大池化运算是在一个特征集合里提取出最大特征代表该特征集合的特征。通过卷积运算和池化运算,可以提取出单位目标图像数据最显著的目标特征,同时该目标特征的数量少。值得注意的是,卷积神经网络中的卷积层可以只有一层也可以有多层,同理池化层可以只有一层也可以有多层。

比较子单元2023,用于将所述目标特征与所述卷积神经网络模型中的特征集合进行相似度比较;

确定子单元2024,用于在所述特征集合中,获取相似度最大的特征所对应的标签信息作为与所述单位目标图像数据相匹配的第一标签信息。

其中,所述第二输入子单元2021、特征提取子单元2022、比较子单元2023、确定子单元2024的具体功能实现方式可以参见上述图3对应实施例中的s202-s205,这里不再进行赘述。

本发明实施例通过获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;利用卷积神经网络模型的分类功能,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。由此可见,在整个对目标图像数据特效处理的过程中,无需人工参与就能自动地识别目标图像数据的特征类别,并自动对目标图像数据进行特效处理,进而可以避免因手动进行图像特效处理而带来的繁琐步骤,从而提高图像数据处理的效率。同时识别目标图像数据中的多个特征类别,并分别执行目标标签信息集合中的多个标签信息所对应的目标特效处理信息,可以丰富特效处理方式,提高特效处理效果。

请参见图9,是本发明实施例提供的另一种图像处理装置的结构示意图。如图9所示,所述图像处理装置1000可以应用于上述图2对应实施例中的终端设备,所述图像处理装置1000可以包括:处理器1001,网络接口1004和存储器1005,此外,所述图像处理装置1000还可以包括:用户接口1003,和至少一个通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。其中,用户接口1003可以包括显示屏(display)、键盘(keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如wi-fi接口)。存储器1004可以是高速ram存储器,也可以是非不稳定的存储器(non-volatilememory),例如至少一个磁盘存储器。存储器1004可选的还可以是至少一个位于远离前述处理器1001的存储装置。如图9所示,作为一种计算机存储介质的存储器1004中可以包括操作系统、网络通信模块、用户接口模块以及设备控制应用程序。

在图9所示的图像处理装置1000中,网络接口1004可提供网络通讯功能;而用户接口1003主要用于为用户提供输入的接口;而处理器1001可以用于调用存储器1004中存储的设备控制应用程序,以实现:

获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;

在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;

在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。

在一个实施例中,所述处理器1001在执行所述在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合时,具体执行以下步骤:

识别所述目标图像数据中的目标物体轮廓,并根据所述目标物体轮廓将所述目标图像数据分割为至少一个单位目标图像数据;

将所述单位目标图像数据输入所述卷积神经网络模型中,在所述卷积神经网络模型中获取与所述单位目标图像数据相匹配的第一标签信息,并将所述第一标签信息添加至所述目标标签信息集合。

在一个实施例中,所述处理器1001在执行所述将所述单位目标图像数据输入所述卷积神经网络模型中,在所述卷积神经网络模型中获取与所述单位目标图像数据相匹配的第一标签信息时,具体执行以下步骤:

将所述单位目标图像数据输入所述卷积神经网络模型中;

具体的,为了提高图像识别的准确率,可以将分割后的单位目标图像数据调整至固定尺寸大小,随后将调整尺寸后的单位目标图像数据输入卷积神经网络模型中的输入层。可以将分割后的单位目标图像数据随机输入卷积神经网络模型中也可以按照获取单位目标图像数据的先后顺序依次输入卷积神经网络模型中。可以理解的是,上述卷积神经网络已经提前构建完成,该输入层的参数大小等于调整尺寸后的单位目标图像数据的尺寸。

通过卷积运算和池化运算,提取所述单位目标图像数据的目标特征;

具体的,当单位目标图像数据输入至卷积神经网络的输出层后,随后进入卷积层,首先随机选取单位目标图像数据中的一小块作为样本,并从这个小样本中学习到一些特征,然后利用这个样本作为一个窗口依次滑过单位目标图像数据的所有像素区域,也就是说,从样本中学习到的特征跟单位目标图像数据做卷积,从而获得单位目标图像数据不同位置上最显著的特征。在做完卷积运算后,已经提取到单位目标图像数据的特征,但仅仅通过卷积运算提取的特征数量大,为了减少计算量,还需进行池化运算,也就是将从单位目标图像数据中通过卷积运算提取的特征传输至池化层,对提取的特征进行聚合统计,这些统计特征的数量级要远远低于卷积运算提取到的特征的数量级,同时还会提高分类效果,常用的池化方法主要包括平均池化运算方法和最大池化运算方法。平均池化运算方法是在一个特征集合里计算出一个平均特征代表该特征集合的特征;最大池化运算是在一个特征集合里提取出最大特征代表该特征集合的特征。通过卷积运算和池化运算,可以提取出单位目标图像数据最显著的目标特征,同时该目标特征的数量少。值得注意的是,卷积神经网络中的卷积层可以只有一层也可以有多层,同理池化层可以只有一层也可以有多层。

将所述目标特征与所述卷积神经网络模型中的特征集合进行相似度比较;

具体的,训练好的卷积神经网络模型的输出层是一个分类器,所述分类器的结点数与所述样本标签信息的类别数相同,也与样本图像数据的特征类别数一致,该分类器的每一个分类结点包括从每一种样本标签信息类别所对应的样本图像数据提取出来的特征集合,有多少个样本标签信息类别就有多少个特征集合。当提取单位目标图像数据的目标特征后,将上述目标特征和卷积神经网络模型中的输出层的特征集合进行相似度比较,相似度可以采用距离度量的方式,若两个特征的距离越近,说明两个特征的相似度越大,距离度量方式可以包括欧式距离度量方式、马氏距离度量方式或者汉明距离度量方式。

在所述特征集合中,获取相似度最大的特征所对应的标签信息作为与所述单位目标图像数据相匹配的第一标签信息。

在一个实施例中,所述处理器1001在执行所述在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据时,具体执行以下步骤:

在所述图像特效库中,提取与所述目标标签信息集合中的所述第一标签信息对应的目标特效处理信息;

查找所述单位目标图像数据所在的第一图像区域,并将所述第一标签信息对应的目标特效处理信息中的多媒体素材添加到所述第一图像区域;

将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

在一个实施例中,所述处理器1001还执行以下步骤:

获取所述目标图像数据对应的辅助信息;

获取与所述辅助信息相匹配的第二标签信息,并将所述第二标签信息添加至所述目标标签信息集合;

所述辅助信息包括环境参数、设备状态参数以及图像备注信息关键字中的至少一个;

则所述处理器1001在执行所述将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据的步骤之前,还执行以下步骤:

在所述图像特效库中,提取与所述目标标签信息集合中的所述第二标签信息对应的目标特效处理信息;

识别所述目标图像数据中与所述辅助信息相关联的第二图像区域,并将所述第二标签信息对应的目标特效处理信息中的多媒体素材添到所述第二图像区域。

在一个实施例中,所述处理器1001在执行所述将已添加所述多媒体素材的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据时,具体执行以下步骤:

若所述目标特效处理信息还包括图像调整参数,则根据所述图像调整参数对所述目标图像数据进行图像参数调整,将已添加所述多媒体素材且参数调整后的目标图像数据确定为所述目标特效图像数据,并显示所述目标特效图像数据。

在一个实施例中,所述处理器1001还执行以下步骤:

若获取到特效切换指令,则在所述图像特效库中,随机选取目标特效处理信息,作为随机目标特效处理信息,并根据所述随机目标特效处理信息对所述目标特效图像数据进行特效更新处理,得到更新后的目标特效图像数据。

在一个实施例中,所述处理器1001还执行以下步骤:

获取样本图像数据以及与所述样本图像数据对应的样本标签信息,所述样本标签信息用于标记所述样本图像数据的特征类别;

根据所述样本图像数据与所述样本标签信息之间的映射关系,构建所述卷积神经网络模型。

本发明实施例通过获取目标图像数据,并将所述目标图像数据输入卷积神经网络模型中;利用卷积神经网络模型的分类功能,在所述卷积神经网络模型中获取与所述目标图像数据相匹配的目标标签信息集合,所述目标标签信息集合中的标签信息用于标记所述目标图像数据的特征类别;在图像特效库中,提取与所述目标标签信息集合对应的目标特效处理信息,根据所述目标特效处理信息对所述目标图像数据进行特效处理,得到目标特效图像数据,并显示所述目标特效图像数据。由此可见,在整个对目标图像数据特效处理的过程中,无需人工参与就能自动地识别目标图像数据的特征类别,并自动对目标图像数据进行特效处理,进而可以避免因手动进行图像特效处理而带来的繁琐步骤,从而提高图像数据处理的效率。同时识别目标图像数据中的多个特征类别,并分别执行目标标签信息集合中的多个标签信息所对应的目标特效处理信息,可以丰富特效处理方式,提高特效处理效果。

应当理解,本发明实施例中所描述的图像处理装置1000可执行前文图2至图6任一个所对应实施例中对所述图像处理方法的描述,也可执行前文图7或图8所对应实施例中对所述图像处理装置1的描述,在此不再赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。

此外,这里需要指出的是:本发明实施例还提供了一种计算机存储介质,且所述计算机存储介质中存储有前文提及的图像处理装置1所执行的计算机程序,且所述计算机程序包括程序指令,当所述处理器执行所述程序指令时,能够执行前文图2至图6任一个所对应实施例中对所述图像处理方法的描述,因此,这里将不再进行赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。对于本发明所涉及的计算机存储介质实施例中未披露的技术细节,请参照本发明方法实施例的描述。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(read-onlymemory,rom)或随机存储记忆体(randomaccessmemory,ram)等。

以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1