一种图像处理方法及装置与流程

文档序号:23160928发布日期:2020-12-04 13:55阅读:119来源:国知局
一种图像处理方法及装置与流程

本申请涉及图像处理技术领域,尤其涉及一种图像处理方法及装置。



背景技术:

随着图像处理技术的发展,越来越多的图像处理软件以及视频加工软件,可以为用户的照片或视频做进一步的处理。比如为图像中的人像做虚拟装扮,就是一种比较常见的图像装饰方法。

目前,在针对人体头部某一特殊部位做渲染方面,比如人的面部渲染,只是在人头轮廓的某个大概位置添加一个预先设计好的装饰,并没考虑图像中这一特殊部位的真实位置、角度、及轮廓等信息。因此预先设计好的装饰并不能很好的修饰该特殊部位,很多时候还需要手动调预先设计好的装饰的大小,位置,使其与该真实部位相匹配,现有处理方式操作较为复杂,智能化程度低。



技术实现要素:

本申请实施例提供了一种图像处理方法,该方法通过对预设模型的自适应调整,从而提升图像处理的效果以及智能化程度。

第一方面,本申请实施例提供了一种图像处理方法,所述方法包括:

获取图像中的目标部位;

获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置;

确定与所述目标部位对应的预设模型,所述预设模型的形状结构与所述目标部位的形状结构匹配;

根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。

第二方面,本申请实施例提供了一种目标部位匹配装置,所述装置包括获取单元及处理单元,其中:

所述获取单元,用于获取图像中的目标部位;

所述获取单元,还用于获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置;

所述处理单元,用于确定与所述目标部位对应的预设模型,所述预设模型的形状结构与所述目标部位的形状结构匹配;

所述处理单元,还用于根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。

第三方面,本申请实施例提供了一种电子设备,包括处理器、存储器、通信接口以及一个或多个程序,其中,上述一个或多个程序被存储在上述存储器中,并且被配置由上述处理器执行,上述程序包括用于执行本申请实施例第一方面中的步骤的指令。

第四方面,本申请实施例提供了一种芯片,该芯片包括处理器与数据接口,该处理器通过该数据接口读取存储器上存储的指令,执行如上述第一方面以及任一种可选的实现方式的方法。

第五方面,本申请实施例提供了一种计算机可读存储介质,其中,上述计算机可读存储介质存储用于电子数据交换的计算机程序,其中,上述计算机程序使得计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。

第六方面,本申请实施例提供了一种计算机程序产品,其中,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。

可见,本申请实施例中,电子设备通过获得图像中的目标部位,以及获取该目标部位的特征信息,该特征信息包括倾斜角度以及位置。并进一步的,根据该特征信息调整预设模型,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。采用本申请,可以基于图像中目标部位的特征信息对预设模型进行自适应调整,调整后的预设模型可以用来生成与目标部位匹配的装饰部件,从而提升图像处理的效果以及智能化程度。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的一种图像处理方法的流程示意图;

图2是本申请实施例提供的另一种图像处理方法的流程示意图;

图3是本申请实施例提供的一种预设模型的关键点标注的结构示意图;

图4是本申请实施例提供的一种预设模型的最小外接矩形的结构示意图;

图5是本申请实施例提供的一种预设模型不同旋转角度的宽高比的示意图;

图6是本申请实施例提供的一种预设模型的缩放示意图;

图7是本申请实施例提供的一种目标部位匹配装置的功能单元示意图;

图8是本申请实施例提供的一种电子设备的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。

在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。

目前图像处理方案中,在针对人体头部某一特殊部位添加虚拟的装饰时,预先设计好的装饰并不能很好的修饰该特殊部位,很多时候还需要手动调预先设计好的装饰的大小,位置,使其与真实耳朵相匹配,操作过程较为复杂,智能化程度低。

针对上述问题,本申请实施例提供一种图像处理方法,应用于电子设备。下面结合附图进行详细介绍。

上述电子设备,例如可以包括分布式存储服务器、传统服务器、大型存储系统、台式电脑、笔记本电脑、平板电脑、掌上电脑、智能手机、便携式数字播放器、智能手表以及智能手环等。

opencv:一种图像处理和计算机视觉的开源算法工具库。可以实现一些常用的与图像处理相关的算法。本申请实施例中,利用opencv识别图像或者视频中,实现目标部位的提取功能。

首先,请参见图1,图1是本申请实施例提供的一种图像处理方法的流程示意图,这种方法可包括但不限于如下步骤:

101、获取图像中的目标部位。

具体的,电子设备在对视频中的图像进行识别,以获取目标部位时,可以采用以下任意一种或多种方法,方法包括:opencv、r-cnn、fastr-cnn、fasterr-cnn、ion、hypernet、sdp-crc、yolo、g-cnn、ssd等。比如获取人脸图像中的特征部位,比如耳朵,眼睛,嘴唇,鼻子,头发、脸部轮廓等,也可以是人体的特征部位,比如服装、配饰、手、脚、腿等。

102、获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置。

具体的,电子设备在获取目标部位后,还可以进一步的提取目标部位的特征信息。

可选的,所述获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置,包括:以目标框的形式框选所述目标部位,得到目标框;获取所述目标框的顶点坐标;根据所述目标框的顶点坐标获取所述目标部位的倾斜角度以及位置;将所述倾斜角度以及位置作为所述目标部位的特征信息。

具体的,以电子设备利用opencv进行目标部位的特征信息提取为例,比如提取耳朵,opencv的人耳检测器识别图像中人耳的大致位置坐标,其示例伪代码过程为:

cascadeclassifiereardetector("haarcascade_mcs_leftear.xml");

eardetectordetectmultiscale(gray,ears);

人耳检测器返回结果为包含人耳(目标部位)的矩形框的大小和位置信息,矩形框的位置信息包括左上角点的坐标[xcv,ycv]。从而,根据矩形框的宽度widthcv、矩形框的高度heightcv可以确定出矩形框其他三个顶点的坐标,以及可以计算得到用户耳朵的中心点,中心点坐标可以记录为[xcv+widthcv/2,ycv+heightcv/2]。矩形框的大小由矩形框的宽度和高度就可以决定。

另外,目标部位的倾斜角度即矩形框的倾斜角度也可以基于矩形框的大小和位置信息进行推算。

103、确定与所述目标部位对应的预设模型,所述预设模型的形状结构与所述目标部位的形状结构匹配。

具体的,预先模型为多个。不同的目标部位对应不同的预设模型。比如鼻子对应的有鼻子的预设模型,耳朵对应的有耳朵的预设模型,眼睛对应的有眼睛的预设模型等。并且预设模型的形状和结构框架和目标部位的形状和结构框架匹配。

104、根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。

具体的,可以理解为,预设模型为电子设备预先训练好的可以用于进一步调整作为目标部位的装饰部件的模型。比如眼睛的预设模型,耳朵的预设模型,鼻子的预设模型等。而电子设备要使得预设模型更好地匹配目标部位,需要对预设模型进行更加精细的调整。

可选的,所述根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,包括:根据所述目标部位的倾斜角度旋转处理所述预设模型,以使得旋转处理后的预设模型的倾斜角度匹配所述目标部位的倾斜角度;根据所述目标部位的顶点位置确定所述目标部位的尺寸;根据所述目标部位的尺寸缩放处理所述预设模型的尺寸,以使得缩放处理后的预设模型的尺寸匹配所述目标部位的尺寸。

具体的,电子设备调整预设模型的依据为目标部位的特征信息。比如目标部位的矩形框宽度为5cm,高度为10cm,倾斜角度为左倾45度。则电子设备便可基于此信息对预设模型进行旋转处理,调整预设模型的倾斜角度,以使得旋转处理后的预设模型的倾斜角度匹配所述目标部位的倾斜角度,即使之与目标部位保持一致的倾斜角度,或者倾斜角度的偏差满足预设的范围,比如5度,2度,1度,3度等。若倾斜角度为左倾45度,预设模型逆时针旋转40度或者50度,或者42度等之后,都可以理解为旋转处理后的预设模型的倾斜角度匹配所述目标部位的倾斜角度。其中倾斜角度可以具体包括倾斜角度值以及倾斜方向。根据目标部位的顶点位置确定所述目标部位的尺寸,即根据包含目标部位的目标框的四个顶点在坐标系中的位置来确定目标部位的尺寸。也即根据目标框的四个顶点的坐标来确定目标部位的尺寸。并且根据目标部位的尺寸缩放处理预设模型的尺寸,以使得缩放处理后的预设模型的尺寸匹配所述目标部位的尺寸,即调整后的预设模型的大小能在完全匹配目标部位的基础上,等比例进行最低程度的大小缩放。

另外,倾斜角度可以包括倾斜程度以及倾斜方向。以上述倾斜角度为左倾45度为例,左倾则为倾斜方向,45度则为倾斜程度。也可以将倾斜角度与倾斜方向分别开来。即左倾则为倾斜方向,45度则为倾斜角度。简言之,倾斜角度可以包括倾斜方向,也可以不包括倾斜方向。

可见,本申请实施例中,电子设备通过获得图像中的目标部位,以及获取该目标部位的特征信息,该特征信息包括倾斜角度以及位置。并进一步的,根据该特征信息调整预设模型,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。采用本申请,可以基于图像中目标部位的特征信息对预设模型进行自适应调整,调整后的预设模型可以用来生成与目标部位匹配的装饰部件,从而提升图像处理的效果以及智能化程度。

与上述图1所示的实施例一致,请参阅图2,图2是本申请实施例提供的另一种图像处理方法的流程示意图,应用于电子设备,所述方法包括:

201、获取图像中的目标部位。

202、获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置。

203、确定与所述目标部位对应的预设模型,所述预设模型的形状结构与所述目标部位的形状结构匹配。

204、根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。

步骤201-204参看步骤101-104,在此不再赘述。

205、根据所述调整后的预设模型生成与所述目标部位匹配的装饰部件。

具体的,可以理解为电子设备调整后的预设模型,其倾斜角度以及大小已经基本满足目标部位的轮廓。成功匹配目标部位后,电子设备还可以在此基础上生成与所述目标部位匹配的装饰部件。比如不同色彩不同形状的装饰部件,实现多方案全方位的目标部位的虚拟装扮的可能性。

另外,一些图像纹理和关键点识别算法也需要目标物体的位置、角度和大小等先验信息。也可以借鉴本申请实施例中的方法进行处理。

206、将所述装饰部件平移至所述目标部位在所述图像中的位置处,以使得所述装饰部件匹配所述目标部位。

具体的,参照opencv识别的目标部位的位置,将上述装饰部件平移至目标位置对应位置,从而使得基于预设模型生成的装饰部件刚好覆盖住图像或者视频中的目标部位。其平移公式可以如下所示:

[xnnew,ynnew]=[xn,yn]+[xcv+widthcv/2,ycv+heightcv/2];

其中,xnnew为装饰部件的任一点n平移后的横坐标,ynnew为点n平移后的纵坐标。xn为点n平移前的横坐标,yn为点n平移前的纵坐标。xcv+widthcv/2为横坐标的平移大小,ycv+heightcv/2为纵坐标的平移大小。其中,xcv为目标部位的目标框的左上角顶点的横坐标,ycv为目标部位的目标框的左上角顶点的纵坐标。

可见,本申请实施例中,电子设备通过获得图像中的目标部位,以及获取该目标部位的特征信息,该特征信息包括倾斜角度以及位置。并进一步的,根据该特征信息调整预设模型,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。将该装饰部件平移至所述目标部位在所述图像中的位置处,以使得该装饰部件匹配该目标部位。采用本申请,基于图像中目标部位的特征信息对预设模型进行自适应调整,调整后的预设模型可以用来生成与目标部位匹配的装饰部件,并使得该装饰部件匹配该目标部位。从而提升图像处理的效果以及智能化程度。

在一个可能的示例中,所述根据所述特征信息调整所述预设模型的尺寸以及倾斜角度之前,所述方法还包括:对预设模型进行关键点标注,得到多个关键点;确定所述预设模型的最小外接矩形,并且获取所述最小外接矩形的四个顶点的初始坐标;根据所述四个顶点的初始坐标计算所述预设模型的中心点的坐标;建立以所述中心点为坐标原点的坐标系;计算所述预设模型的各个所述关键点在所述坐标系的目标坐标;所述根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,包括:根据所述特征信息调整所述预设模型各个所述关键点在所述坐标系的目标坐标,以调整所述预设模型的尺寸以及倾斜角度。

具体的,预设模型以人耳模型为例,如图3所示,电子设备首先需要预先设定一个待使用的人耳模型。电子设备对预设模型进行关键点标注,可以采用的是由68个关键点标注,也可以是100个,或者50个。关键点的个数取决于预设模型的轮廓的复杂程度等。由68个关键点构成了具有耳朵形状的轮廓。并且以这68个关键点为骨架,后续生成装饰部件时可添加任意想要的图案或形状做虚拟装扮。然后如图4所示,确定该预设模型的最小外接矩形。并且获取该最小外接矩形的四个顶点的初始坐标;设定第n个标记点的坐标为[xn,yn]。计所有标记点坐标的最小值为xmin和ymin,最大值为xmax和ymax。则矩形框的四个顶点的坐标分别为[xmin,ymin]、[xmax,ymin]、[xmin,ymax]、[xmax,ymax]。其中矩形框宽度width-model的计算方式为width-model=xmax-xmin,高度height-model的计算方式为height-model=ymax-ymin。预设模型的中心点为矩形框的几何中心点,如图4标注所示,其坐标为[(xmin+xmax)/2,(ymin+ymax)/2]。

进一步的,由于当前的坐标系是以矩形框的左上角顶点的坐标为坐标原点建立的坐标系,该坐标系横轴为x轴,从左至右依次增大;纵轴为y轴,从上至下依次增大。为了便于后续对该预设模型的进一步调整,因此在求得中心点的坐标后,建立以中心点的坐标为坐标原点的坐标系,并基于此求得其他多个关键点的目标坐标。也即将整个预设模型平移至中心点与坐标原点重合的位置。

进一步的,根据该特征信息调整该预设模型的尺寸以及倾斜角度,可以理解为,根据该特征信息调整该预设模型各个该关键点在该坐标系的目标坐标,通过目标坐标的调整,实现对预设模型的尺寸以及倾斜角度的调整。

可见,电子设备对预设模型进行多个关键点标注,便于确定该预设模型的最小外接矩形,以及该最小外接矩形的四个顶点的初始坐标。进一步将该矩形的中心点坐标作为预设模型的中心点坐标。进一步的建立以所述中心点为坐标原点的坐标系,根据所述坐标系重新获取所述多个关键点的目标坐标,最终实现该预设模型的位置归零。并且基于对多个关键点的目标坐标的调整,来实现对预设模型的尺寸以及倾斜角度的调整。

在一个可能的示例中,所述计算所述预设模型的各个所述关键点在所述坐标系的目标坐标,包括:获取所述多个关键点中每一个关键点的初始坐标;根据所述每一个关键点的初始坐标以及所述中心点的坐标计算所述每一个关键点的目标坐标。

具体的,电子设备在建立以所述中心点为坐标原点的坐标系后,根据所述坐标系重新获取所述多个关键点的目标坐标,也即求得各个关键点平移后的坐标。得到预设模型的中心点后,以该中心点为参考点,将整个模型框架平移至坐标原点。平移后的坐标系仍然以横轴为x轴,从左至右依次增大;纵轴为y轴,从上至下依次增大。平移的方法为:将预设模型的多个关键点中的任意一个关键点的坐标[xn,yn]减去中心点[(xmin+xmax)/2,(ymin+ymax)/2]。即:[xnnew,ynnew]=[xn,yn]-[(xmin+xmax)/2,(ymin+ymax)/2]。

可见,电子设备在平移预设模型时,根据每一个关键点的初始坐标以及该中心点的坐标计算该每一个关键点的目标坐标,从而实现平移单位以及平移方向的确定,以此完成预设模型的平移操作。简化操作步骤,提升平移的准确程度和速度。

在一个可能的示例中,所述根据所述目标框的顶点坐标获取所述目标部位的倾斜角度以及位置,包括:根据所述目标框的顶点坐标确定所述目标部位的位置,并且根据所述目标框的顶点坐标计算所述目标框的宽高比;分别计算预设模型在不同的倾斜角度的宽高比;若所述预设模型的倾斜角度为第一角度值时,所述预设模型的宽高比匹配所述目标框的宽高比,则将所述第一角度值作为所述目标部位的倾斜角度。

具体的,电子设备得到目标框的顶点坐标后,由于目标框完全框选了目标部位,可以理解为目标框为目标部位的最小外接矩形。因此确定目标框各个顶点的坐标,便确定了目标部位的位置。显然,电子设备很容易根据该目标框的顶点坐标计算该目标框的宽高比,例如宽=关于纵坐标对称的顶点的横坐标之差的绝对值,高=关于横坐标对称的顶点的纵坐标之差的绝对值,再进一步计算得出宽高比即可。目标框的宽高比可以记为widthcv/heightcv。

另外,电子设备在计算目标部位的倾斜角度时,以目标部位为耳朵为例。由于在图像中,耳朵的倾斜角度可能跟预设模型如耳朵模型的倾斜角度有差别。可以假设二者都在同一平面中,只考虑二维空间的角度差别。由于耳朵属于人脸侧面,因此无法参照眼睛和鼻子的相对位置,来矫正其角度不一致的问题。根据预设模型的矩形框的计算可知,将预设模型旋转不同的角度,可得到不同的矩形框即矩形框的宽高比不同。如图5所示,图左为初始倾斜角度下的预设模型,图右为将预设模型顺时针旋转45度的效果。初始倾斜角度下预设模型的外接矩形框的宽高比为0.5196,而旋转45度后的预设模型,其矩形宽高比为0.6752。宽高比的不同,对应着模型旋转角度的不同。预设模型任意一点旋转坐标变换的过程如下:

其中,θ为旋转角度。(x,y)为预设模型某一关键点在初始倾斜角度下的原始坐标,(xnew,ynew)为该某一关键点在旋转角度θ后的坐标。

因此,电子设备在已知目标部位的最小外接矩形的矩形框的宽高比为widthcv/heightcv之后,依次将预设模型顺时针旋转0-90度,并对应计算相应矩阵的宽高比。找到与widthcv/heightcv数值最接近的情况,其反向对应的旋转角度即为预设模型需要调整的旋转角度,也即目标部位的倾斜角度。比如预设模型旋转50度时,其宽高比最接近于目标框的矩形框的宽高比,则50度为第一角度值,为目标部位的倾斜角度。将预设模型按照第一角度值旋转其坐标,其对应的新的矩形框的宽高分别为:width-model-rot和height-model-rot。本申请实施例中示例性的以顺时针旋转的情况为例进行了说明,如果需要确定逆时针旋转的角度,也可以参照此方法进行。预设模型按照逆时针旋转还是按照顺时针,既可以是电子设备检测用户输入的旋转方向,也可以是电子设备检测图像中人的头像的偏转角度,由该偏转角度确定。

可见,电子设备根据目标框的顶点坐标确定该目标部位的位置,并且根据该目标框的顶点坐标计算所述目标框的宽高比;分别计算预设模型在不同的倾斜角度的宽高比。以预设模型的宽高比匹配该目标框的宽高比时的倾斜角度作为目标部位的倾斜角度。简化倾斜角度以及目标部位的确定过程,提升计算效率。

在一个可能的示例中,所述根据所述目标部位的尺寸缩放处理所述预设模型的尺寸,包括:获取所述目标部位对应的目标框,并且获取所述目标部位的宽值及所述目标部位的高值;获取所述预设模型的宽值及所述预设模型的高值;分别计算所述目标部位与所述预设模型的宽值比以及所述目标部位与所述预设模型的高值比;确定所述宽值比与所述高值比中的较大值,则按照所述较大值缩放处理所述预设模型的尺寸。

具体的,电子设备根据该目标部位的尺寸缩放处理该预设模型的尺寸时,需要计算缩放因子。还是以目标部位为耳朵为例,为了使预设模型的大小与图像中耳朵的大小相匹配,需要将预设模型做等比例缩放。等比缩放的原则是使得预设模型方框可以完全匹配包含目标部位的目标框,且缩放后的预设模型的最小外接矩形面积最小。参考旋转后的预设模型的矩形框和opencv检测出来的矩形框,缩放因子计算如下:

scalex=widthcv/width-model-rot;

scaley=heightcv/height-model-rot;

scale=max{scalex,scaley};

其中,scalex为横坐标的缩放比例,widthcv为目标框的宽度,width-model-rot为旋转后的预设模型的最小外接矩形的宽度;scaley为纵坐标的缩放比例,heightcv为目标框的高度,height-model-rot为旋转后的预设模型的最小外接矩形的高度;scale为缩放因子,max{scalex,scaley}为选取scalex与scaley中值最大的作为缩放因子。也即为了保证缩放后的预设模型的宽高比例不变,又要能完全匹配目标框,因此选择横坐标的缩放比例与纵坐标的缩放比例中最大的值作为缩放因子,来对旋转调整后的预设模型进行缩放处理。当然,先对预设模型进行缩放处理还是进行缩放处理的顺序不做限定,此处,是以先进行旋转处理,再进行缩放处理为例进行说明。

进一步的,得到缩放因子后,将预设模型任意一点的坐标进行缩放,并计算缩放后的预设模型矩形框。即:

其中,x为缩放前预设模型某一关键点的横坐标,y为缩放前预设模型该关键点的纵坐标;xnew为缩放后预设模型该关键点的横坐标,ynew为缩放后预设模型该关键点的纵坐标。

整个缩放过程如图6所示。图6左的数字以及圆圈表示预设模型的多个关键点,虚线框表示预设模型的最小外接矩形框,实线框表示opencv识别的目标部位的目标框。矩形框中的星点表示矩形框的中心点,此处两个矩形的中心点重合。也即预设模型的最小外接矩形框的中心点与目标框的中心点重合。对比虚线框和实线框的大小,根据缩放因子scale对预设模型坐标进行缩放,得到下面如图6右侧所示的预设模型。

可见,在对预设模型进行缩放处理时,电子设备先计算缩放因子,并且在保证缩放后预设模型能全面匹配目标框的前提下,进行最小程度的缩放,即选择横、纵坐标缩放比例中最大值进行预设模型的缩放,保证缩放后的预设模型比例不变。保障缩放效果的同时,以此提升预设模型匹配目标部位的效果。

再请参见图7,是本发明实施例的一种目标部位匹配装置700的功能单元示意图,本发明实施例的原版视频识别装置700可以为上述电子设备的内置装置或者也可以为上述电子设备的外接设备。

本发明实施例的所述装置的一个实现方式中,所述装置700包括获取单元410,处理单元420,其中:

所述获取单元410,用于获取图像中的目标部位;

所述获取单元410,还用于获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置;

所述处理单元420,用于确定与所述目标部位对应的预设模型,所述预设模型的形状结构与所述目标部位的形状结构匹配;

所述处理单元420,还用于根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。

在一个可能的示例中,所述处理单元420,用于根据所述特征信息调整所述预设模型的尺寸以及倾斜角度之前,还用于对预设模型进行关键点标注,得到多个关键点;确定所述预设模型的最小外接矩形,并且获取所述最小外接矩形的四个顶点的初始坐标;根据所述四个顶点的初始坐标计算所述预设模型的中心点坐标;建立以所述中心点为坐标原点的坐标系;计算所述预设模型的各个所述关键点在所述坐标系的目标坐标;所述根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,包括:根据所述特征信息调整所述预设模型各个所述关键点在所述坐标系的目标坐标,以调整所述预设模型的尺寸以及倾斜角度。

在一个可能的示例中,在所述计算所述预设模型的各个所述关键点在所述坐标系的目标坐标方面,所述处理单元420,具体用于获取所述多个关键点中每一个关键点的初始坐标;根据所述每一个关键点的初始坐标以及所述中心点的坐标计算所述每一个关键点的目标坐标。

在一个可能的示例中,在所述获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置方面,所述获取单元410,具体用于以目标框的形式框选所述目标部位,得到目标框;获取所述目标框的顶点坐标;根据所述目标框的顶点坐标获取所述目标部位的倾斜角度以及位置;将所述倾斜角度以及位置作为所述目标部位的特征信息。

在一个可能的示例中,在所述根据所述目标框的顶点坐标获取所述目标部位的倾斜角度以及位置方面,所述处理单元420,具体用于根据所述目标框的顶点坐标确定所述目标部位的位置,并且根据所述目标框的顶点坐标计算所述目标框的宽高比;分别计算预设模型在不同的倾斜角度的宽高比;若所述预设模型的倾斜角度为第一角度值时,所述预设模型的宽高比匹配所述目标框的宽高比,则将所述第一角度值作为所述目标部位的倾斜角度。

在一个可能的示例中,所述根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,所述处理单元420,具体用于根据所述目标部位的倾斜角度旋转处理所述预设模型,以使得旋转处理后的预设模型的倾斜角度匹配所述目标部位的倾斜角度;根据所述目标部位的顶点位置确定所述目标部位的尺寸;根据所述目标部位的尺寸缩放处理所述预设模型的尺寸,以使得缩放处理后的预设模型的尺寸匹配所述目标部位的尺寸。

在一个可能的示例中,根据所述目标部位的尺寸缩放处理所述预设模型的尺寸,所述处理单元420,具体用于获取所述目标部位对应的目标框,并且获取所述目标部位的宽值及所述目标部位的高值;获取所述预设模型的宽值及所述预设模型的高值;分别计算所述目标部位与所述预设模型的宽值比以及所述目标部位与所述预设模型的高值比;确定所述宽值比与所述高值比中的较大值,则按照所述较大值缩放处理所述预设模型的尺寸。

在一个可能的示例中,所述处理单元420,用于根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型之后,还用于根据所述调整后的预设模型生成与所述目标部位匹配的装饰部件;将所述装饰部件平移至所述目标部位在所述图像中的位置处,以使得所述装饰部件匹配所述目标部位。

再请参见图8,是本发明实施例的一种电子设备的结构示意图,本发明实施例的电子设备对应于前文所述的电子设备,所述电子设备包括供电模块等结构,并包括处理器801、存储装置802以及通信接口803。所述处理器801、存储装置802以及通信接口803之间可以交互数据。

所述存储装置802可以包括易失性存储器(volatilememory),例如随机存取存储器(random-accessmemory,ram);存储装置802也可以包括非易失性存储器(non-volatilememory),例如快闪存储器(flashmemory),固态硬盘(solid-statedrive,ssd)等;所述存储装置802还可以包括上述种类的存储器的组合。

所述处理器801可以是中央处理器801(centralprocessingunit,cpu)。在一个实施例中,所述处理器801还可以是图形处理器801(graphicsprocessingunit,gpu)。所述处理器801也可以是由cpu和gpu的组合。在一个实施例中,所述存储装置802用于存储程序指令。所述处理器801可以调用所述程序指令,执行如下步骤:

获取图像中的目标部位;

获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置;

确定与所述目标部位对应的预设模型,所述预设模型的形状结构与所述目标部位的形状结构匹配;

根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,其中,所述调整后的预设模型用于生成与所述目标部位匹配的装饰部件。

在一个可能的示例中,所述处理器801,用于根据所述特征信息调整所述预设模型的尺寸以及倾斜角度之前,还用于对预设模型进行关键点标注,得到多个关键点;确定所述预设模型的最小外接矩形,并且获取所述最小外接矩形的四个顶点的初始坐标;根据所述四个顶点的初始坐标计算所述预设模型的中心点的坐标;建立以所述中心点为坐标原点的坐标系;根据所述坐标系重新获取所述多个关键点的目标坐标;所述根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,包括:根据所述特征信息调整所述预设模型各个所述关键点在所述坐标系的目标坐标,以调整所述预设模型的尺寸以及倾斜角度。

在一个可能的示例中,在所述计算所述预设模型的各个所述关键点在所述坐标系的目标坐标方面,所述处理器801,具体用于:获取所述多个关键点中每一个关键点的初始坐标;根据所述每一个关键点的初始坐标以及所述中心点的坐标计算所述每一个关键点的目标坐标。

在一个可能的示例中,在所述获取所述目标部位的特征信息,所述特征信息包括倾斜角度以及位置方面,所述处理器801,具体用于:以目标框的形式框选所述目标部位,得到目标框;获取所述目标框的顶点坐标;根据所述目标框的顶点坐标获取所述目标部位的倾斜角度以及位置;将所述倾斜角度以及位置作为所述目标部位的特征信息。

在一个可能的示例中,在所述根据所述目标框的顶点坐标获取所述目标部位的倾斜角度以及位置方面,所述处理器801,具体用于:根据所述目标框的顶点坐标确定所述目标部位的位置,并且根据所述目标框的顶点坐标计算所述目标框的宽高比;分别计算预设模型在不同的倾斜角度的宽高比;若所述预设模型的倾斜角度为第一角度值时,所述预设模型的宽高比匹配所述目标框的宽高比,则将所述第一角度值作为所述目标部位的倾斜角度。

在一个可能的示例中,所述根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型,所述处理器801,具体用于:根据所述目标部位的倾斜角度旋转处理所述预设模型,以使得旋转处理后的预设模型的倾斜角度匹配所述目标部位的倾斜角度;根据所述目标部位的顶点位置确定所述目标部位的尺寸;根据所述目标部位的尺寸缩放处理所述预设模型的尺寸,以使得缩放处理后的预设模型的尺寸匹配所述目标部位的尺寸。

在一个可能的示例中,根据所述目标部位的尺寸缩放处理所述预设模型的尺寸,所述处理器801,具体用于:获取所述目标部位对应的目标框,并且获取所述目标部位的宽值及所述目标部位的高值;获取所述预设模型的宽值及所述预设模型的高值;分别计算所述目标部位与所述预设模型的宽值比以及所述目标部位与所述预设模型的高值比;确定所述宽值比与所述高值比中的较大值,则按照所述较大值缩放处理所述预设模型的尺寸。

在一个可能的示例中,所述处理器801,用于根据所述特征信息调整所述预设模型的尺寸以及倾斜角度,得到调整后的预设模型之后,还用于根据所述调整后的预设模型生成与所述目标部位匹配的装饰部件;将所述装饰部件平移至所述目标部位在所述图像中的位置处,以使得所述装饰部件匹配所述目标部位。

本申请实施例提供了一种芯片,该芯片包括处理器与数据接口,该处理器通过该数据接口读取存储器上存储的指令,执行如上述方法实施例中记载的任一方法的部分或全部步骤。

本申请实施例还提供一种计算机存储介质,其中,该计算机存储介质存储用于电子数据交换的计算机程序,该计算机程序使得计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤。

本申请实施例还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行如上述方法实施例中记载的任一方法的部分或全部步骤。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(read-onlymemory,rom)或随机存储记忆体(randomaccessmemory,ram)等。

以上所揭露的仅为本发明的部分实施例而已,当然不能以此来限定本发明之权利范围,本领域普通技术人员可以理解实现上述实施例的全部或部分流程,并依本发明权利要求所作的等同变化,仍属于发明所涵盖的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1