图像处理方法、装置和系统及存储介质与流程

本发明涉及人工智能(ai)领域，更具体地涉及一种图像处理方法、装置和系统及存储介质。

背景技术

人脸关键点定位在人脸识别、表情识别、姿态识别中都有重要的应用。目前主流的人脸关键点定位方法主要利用机器学习算法从人脸关键点标注数据中学习。当前的人脸关键点标注数据主要依赖于人工标注，即需要以人工方式标注获得大量的、在不同场景下(例如各种不同姿态、光照、表情下)的人脸关键点标注数据。这种人工标注方式效率低、成本高。

技术实现要素：

考虑到上述问题而提出了本发明。本发明提供了一种图像处理方法、装置和系统及存储介质。

根据本发明一方面，提供了一种图像处理方法。该方法包括：获取初始人脸图像；基于初始人脸图像进行三维重建，以获得三维人头模型；在三维人头模型上预定义人脸关键点信息；对三维人头模型进行变换；将经变换的三维人头模型渲染为二维人脸图像；以及根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据。

示例性地，在将经变换的三维人头模型渲染为二维人脸图像之前，图像处理方法还包括：在经变换的三维人头模型上添加附加信息，其中，附加信息包括背景、头发和光照中的一项或多项。

示例性地，在经变换的三维人头模型上添加附加信息包括：在经变换的三维人头模型上随机添加附加信息。

示例性地，人脸关键点信息包括与人脸内部关键点相关的内部点信息，二维人脸关键点包括二维内部关键点。

示例性地，内部点信息包括三维人头模型中的三维内部关键点的位置信息，根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据包括：根据投影关系以及三维内部关键点的位置信息，确定三维内部关键点在二维人脸图像所在的成像平面中投影获得的二维内部关键点并获得二维内部关键点的位置信息。

示例性地，人脸关键点信息包括与人脸轮廓关键点相关的轮廓点信息，二维人脸关键点包括二维轮廓关键点。

示例性地，轮廓点信息包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息，根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据包括：确定三维轮廓点集与三维人头模型中的预定义的起点平面的交集为三维起点候选集；根据投影关系以及三维轮廓点集的位置信息，确定三维轮廓点集和三维起点候选集在二维人脸图像所在的成像平面中投影获得的二维轮廓点集和二维起点候选集及二维轮廓点集和二维起点候选集的位置；从二维起点候选集中选择轮廓起点和轮廓终点；基于轮廓起点、轮廓终点和二维轮廓点集的外轮廓线确定人脸轮廓线；以及基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息包括：根据预定义的人脸部位剔除条件剔除人脸轮廓线中的、属于特定人脸部位的点，以获得新的人脸轮廓线；将新的人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息包括：将人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，对三维人头模型进行变换包括：对三维人头模型进行刚体变换；和/或对三维人头模型进行非刚体变换。

示例性地，三维人头模型包括网格模型和纹理模型。

示例性地，图像处理方法还包括：利用二维人脸图像和人脸关键点标注数据训练用于人脸关键点定位算法的回归器。

根据本发明另一方面，提供了一种图像处理装置。该装置包括：初始图像获取模块，用于获取初始人脸图像；三维重建模块，用于基于初始人脸图像进行三维重建，以获得三维人头模型；预定义模块，用于在三维人头模型上预定义人脸关键点信息；变换模块，用于对三维人头模型进行变换；渲染模块，用于将经变换的三维人头模型渲染为二维人脸图像；以及关键点确定模块，用于根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据。

示例性地，图像处理装置还包括：添加模块，用于在渲染模块将经变换的三维人头模型渲染为二维人脸图像之前，在经变换的三维人头模型上添加附加信息，其中，附加信息包括背景、头发和光照中的一项或多项。

示例性地，添加模块包括：随机添加子模块，用于在经变换的三维人头模型上随机添加附加信息。

示例性地，人脸关键点信息包括与人脸内部关键点相关的内部点信息，二维人脸关键点包括二维内部关键点。

示例性地，内部点信息包括三维人头模型中的三维内部关键点的位置信息，关键点确定模块包括：内部关键点确定子模块，用于根据投影关系以及三维内部关键点的位置信息，确定三维内部关键点在二维人脸图像所在的成像平面中投影获得的二维内部关键点并获得二维内部关键点的位置信息。

示例性地，人脸关键点信息包括与人脸轮廓关键点相关的轮廓点信息，二维人脸关键点包括二维轮廓关键点。

示例性地，轮廓点信息包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息，关键点确定模块包括：三维确定子模块，用于确定三维轮廓点集与三维人头模型中的预定义的起点平面的交集为三维起点候选集；二维确定子模块，用于根据投影关系以及三维轮廓点集的位置信息，确定三维轮廓点集和三维起点候选集在二维人脸图像所在的成像平面中投影获得的二维轮廓点集和二维起点候选集及二维轮廓点集和二维起点候选集的位置；选择子模块，用于从二维起点候选集中选择轮廓起点和轮廓终点；轮廓线确定子模块，用于基于轮廓起点、轮廓终点和二维轮廓点集的外轮廓线确定人脸轮廓线；以及轮廓关键点确定子模块，用于基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，轮廓关键点确定子模块包括：剔除单元，用于根据预定义的人脸部位剔除条件剔除人脸轮廓线中的、属于特定人脸部位的点，以获得新的人脸轮廓线；第一等分单元，用于将新的人脸轮廓线等分；以及第一轮廓关键点确定单元，用于确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，轮廓关键点确定子模块包括：第二等分单元，用于将人脸轮廓线等分；以及第二轮廓关键点确定单元，用于确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，变换模块包括：刚体变换子模块，用于对三维人头模型进行刚体变换；和/或非刚体变换子模块，用于对三维人头模型进行非刚体变换。

示例性地，三维人头模型包括网格模型和纹理模型。

示例性地，图像处理装置还包括：训练模块，用于利用二维人脸图像和人脸关键点标注数据训练用于人脸关键点定位算法的回归器。

根据本发明另一方面，提供了一种图像处理系统，包括处理器和存储器，其中，存储器中存储有计算机程序指令，计算机程序指令被处理器运行时用于执行以下步骤：获取初始人脸图像；基于初始人脸图像进行三维重建，以获得三维人头模型；在三维人头模型上预定义人脸关键点信息；对三维人头模型进行变换；将经变换的三维人头模型渲染为二维人脸图像；以及根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据。

示例性地，在计算机程序指令被处理器运行时所用于执行的将经变换的三维人头模型渲染为二维人脸图像的步骤之前，计算机程序指令被处理器运行时还用于执行以下步骤：在经变换的三维人头模型上添加附加信息，其中，附加信息包括背景、头发和光照中的一项或多项。

示例性地，计算机程序指令被处理器运行时所用于执行的在经变换的三维人头模型上添加附加信息的步骤包括：在经变换的三维人头模型上随机添加附加信息。

示例性地，人脸关键点信息包括与人脸内部关键点相关的内部点信息，二维人脸关键点包括二维内部关键点。

示例性地，内部点信息包括三维人头模型中的三维内部关键点的位置信息，计算机程序指令被处理器运行时所用于执行的根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据的步骤包括：根据投影关系以及三维内部关键点的位置信息，确定三维内部关键点在二维人脸图像所在的成像平面中投影获得的二维内部关键点并获得二维内部关键点的位置信息。

示例性地，人脸关键点信息包括与人脸轮廓关键点相关的轮廓点信息，二维人脸关键点包括二维轮廓关键点。

示例性地，轮廓点信息包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息，计算机程序指令被处理器运行时所用于执行的根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据的步骤包括：确定三维轮廓点集与三维人头模型中的预定义的起点平面的交集为三维起点候选集；根据投影关系以及三维轮廓点集的位置信息，确定三维轮廓点集和三维起点候选集在二维人脸图像所在的成像平面中投影获得的二维轮廓点集和二维起点候选集及二维轮廓点集和二维起点候选集的位置；从二维起点候选集中选择轮廓起点和轮廓终点；基于轮廓起点、轮廓终点和二维轮廓点集的外轮廓线确定人脸轮廓线；以及基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，计算机程序指令被处理器运行时所用于执行的基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息的步骤包括：根据预定义的人脸部位剔除条件剔除人脸轮廓线中的、属于特定人脸部位的点，以获得新的人脸轮廓线；将新的人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，计算机程序指令被处理器运行时所用于执行的基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息的步骤包括：将人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，计算机程序指令被处理器运行时所用于执行的对三维人头模型进行变换的步骤包括：对三维人头模型进行刚体变换；和/或对三维人头模型进行非刚体变换。

示例性地，三维人头模型包括网格模型和纹理模型。

示例性地，计算机程序指令被处理器运行时还用于执行以下步骤：利用二维人脸图像和人脸关键点标注数据训练用于人脸关键点定位算法的回归器。

根据本发明另一方面，提供了一种存储介质，在存储介质上存储了程序指令，程序指令在运行时用于执行以下步骤：获取初始人脸图像；基于初始人脸图像进行三维重建，以获得三维人头模型；在三维人头模型上预定义人脸关键点信息；对三维人头模型进行变换；将经变换的三维人头模型渲染为二维人脸图像；以及根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据。

示例性地，程序指令在运行时所用于执行的将经变换的三维人头模型渲染为二维人脸图像的步骤之前，计算机程序指令被处理器运行时还用于执行以下步骤：在经变换的三维人头模型上添加附加信息，其中，附加信息包括背景、头发和光照中的一项或多项。

示例性地，程序指令在运行时所用于执行的在经变换的三维人头模型上添加附加信息的步骤包括：在经变换的三维人头模型上随机添加附加信息。

示例性地，人脸关键点信息包括与人脸内部关键点相关的内部点信息，二维人脸关键点包括二维内部关键点。

示例性地，内部点信息包括三维人头模型中的三维内部关键点的位置信息，程序指令在运行时所用于执行的根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据的步骤包括：根据投影关系以及三维内部关键点的位置信息，确定三维内部关键点在二维人脸图像所在的成像平面中投影获得的二维内部关键点并获得二维内部关键点的位置信息。

示例性地，人脸关键点信息包括与人脸轮廓关键点相关的轮廓点信息，二维人脸关键点包括二维轮廓关键点。

示例性地，轮廓点信息包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息，程序指令在运行时所用于执行的根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据的步骤包括：确定三维轮廓点集与三维人头模型中的预定义的起点平面的交集为三维起点候选集；根据投影关系以及三维轮廓点集的位置信息，确定三维轮廓点集和三维起点候选集在二维人脸图像所在的成像平面中投影获得的二维轮廓点集和二维起点候选集及二维轮廓点集和二维起点候选集的位置；从二维起点候选集中选择轮廓起点和轮廓终点；基于轮廓起点、轮廓终点和二维轮廓点集的外轮廓线确定人脸轮廓线；以及基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，程序指令在运行时所用于执行的基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息的步骤包括：根据预定义的人脸部位剔除条件剔除人脸轮廓线中的、属于特定人脸部位的点，以获得新的人脸轮廓线；将新的人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，程序指令在运行时所用于执行的基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息的步骤包括：将人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，程序指令在运行时所用于执行的对三维人头模型进行变换的步骤包括：对三维人头模型进行刚体变换；和/或对三维人头模型进行非刚体变换。

示例性地，三维人头模型包括网格模型和纹理模型。

示例性地，程序指令在运行时还用于执行以下步骤：利用二维人脸图像和人脸关键点标注数据训练用于人脸关键点定位算法的回归器。

根据本发明实施例的图像处理方法、装置和系统及存储介质，能够非常简单快速地生成大量的、各种不同场景下的人脸图像及人脸关键标注数据。与人工标注方式相比，上述方法、装置和系统及存储介质效率高、成本低，并且，将通过上述方法、装置和系统存储介质获得的人脸图像和人脸关键标注数据作为训练数据，可以训练获得性能更鲁棒的人脸关键点检测器。

附图说明

通过结合附图对本发明实施例进行更详细的描述，本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1示出用于实现根据本发明实施例的图像处理方法和装置的示例电子设备的示意性框图；

图2示出根据本发明一个实施例的图像处理方法的示意性流程图；

图3a和3b分别示出根据本发明实施例的、基于同一初始人脸图像获得的纹理模型和网格模型的示意图；

图3c和3d分别示出与图3a和图3b对应的、变换后的纹理模型和网格模型的示意图；

图4a-4d示出根据本发明实施例的网格模型的示意图；

图5示出根据本发明一个实施例的图像处理装置的示意性框图；以及

图6示出根据本发明一个实施例的图像处理系统的示意性框图。

具体实施方式

为了使得本发明的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例，本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。

为了解决上文所述的问题，本发明实施例提供一种图像处理方法、装置和系统及存储介质，其可以通过三维人头模型的变换和渲染获得不同场景下(例如各种不同姿态、光照、表情下)的人脸图像，并获得相应的人脸关键点标注数据。利用本发明实施例提供的图像处理方法，可以简单、方便、快速地生成大量的、各种不同场景下的人脸图像及人脸关键标注数据。

首先，参照图1来描述用于实现根据本发明实施例的图像处理方法和装置的示例电子设备100。

如图1所示，电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108和图像采集装置110，这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意，图1所示的电子设备100的组件和结构只是示例性的，而非限制性的，根据需要，所述电子设备也可以具有其他组件和结构。

所述处理器102可以是中央处理单元(cpu)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元，并且可以控制所述电子设备100中的其它组件以执行期望的功能。

所述存储装置104可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(ram)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(rom)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器102可以运行所述程序指令，以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据，例如所述应用程序使用和/或产生的各种数据等。

所述输入装置106可以是用户用来输入指令的装置，并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。

所述输出装置108可以向外部(例如用户)输出各种信息(例如图像和/或声音)，并且可以包括显示器、扬声器等中的一个或多个。

所述图像采集装置110可以采集人脸图像(包括视频帧)，并且将所采集的人脸图像存储在所述存储装置104中以供其它组件使用。图像采集装置110可以是常规摄像头。应当理解，图像采集装置110仅是示例，电子设备100可以不包括图像采集装置110。在这种情况下，可以利用其他图像采集装置采集人脸图像，并将采集的人脸图像发送给电子设备100。

示例性地，用于实现根据本发明实施例的图像处理方法和装置的示例电子设备可以在诸如个人计算机或远程服务器等的设备上实现。

下面，将参考图2描述根据本发明实施例的图像处理方法。图2示出根据本发明一个实施例的图像处理方法200的示意性流程图。如图2所示，图像处理方法200包括以下步骤。

在步骤s210，获取初始人脸图像。

初始人脸图像可以是任何合适的包含人脸的图像。初始人脸图像可以是摄像头等图像采集装置采集到的原始图像，也可以是对原始图像进行预处理之后获得的图像。

初始人脸图像可以由外部设备(例如云端服务器)发送到电子设备100以由电子设备100的处理器102进行处理，还可以由电子设备100包括的图像采集装置110(例如摄像头)采集并传送到处理器102进行处理，还可以由电子设备100包括的存储装置104存储并传送到处理器102进行处理。

在步骤s220，基于初始人脸图像进行三维重建，以获得三维人头模型。

示例性而非限制性地，步骤s220可以采用任何合适的现有的或将来可能实现的人脸三维重建技术实现。示例性地，在步骤s220所获得的三维人头模型可以包括网格模型和纹理模型。本领域技术人员可以理解网格模型和纹理模型的数据结构和意义，本文不做赘述。

在步骤s230，在三维人头模型上预定义人脸关键点信息。

示例性地，人脸关键点可以包括人脸内部关键点和/或人脸轮廓关键点。相应地，人脸关键点信息可以包括与人脸内部关键点相关的内部点信息和/或与人脸轮廓关键点相关的轮廓点信息。示例性地，人脸内部关键点是指眉、眼、鼻、嘴等部位上的点。

示例性地，可以在网格模型上预先定义出人脸关键点或可能成为人脸关键点的点。例如，如果期望最终获得的人脸关键点标注数据包括人脸内部关键点的位置信息，则可以在网格模型上预先定义哪些点是人脸内部关键点。又例如，如果期望最终获得的人脸关键点标注数据包括人脸轮廓关键点的位置信息，则可以在网格模型上预先定义哪些点可能成为人脸轮廓关键点。

在步骤s240，对三维人头模型进行变换。

示例性而非限制性地，步骤s240可以包括：对三维人头模型进行刚体变换；和/或对三维人头模型进行非刚体变换。示例性地，刚体变换可以包括旋转、缩放和平移中的一种或多种。对三维人头模型进行刚体变换可以改变人脸的姿态、位置等。示例性地，非刚体变换可以包括表情变换。对三维人头模型进行非刚体变换可以改变人脸的表情。

在步骤s250，将经变换的三维人头模型渲染为二维人脸图像。

步骤s250可以采用常规的渲染技术实现。示例性地，可以将上述网格模型和纹理模型作为渲染算法的输入，渲染算法可以输出渲染获得的二维人脸图像。

在步骤s260，根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置作为人脸关键点标注数据。

如上文所述，三维人头模型具有预定义的人脸关键点信息。例如，可以在三维人头模型上预先定义出人脸关键点或可能成为人脸关键点的点。三维人头模型上的哪些点是人脸关键点或者是可能成为人脸关键点的点这样的信息是不随三维人头模型的变换而变化的。因此，经变换的三维人头模型可以维持预定义的人脸关键点信息。

经变换的三维人头模型与二维人脸图像之间具有一种投影关系。基于投影关系可以确定经变换的三维人头模型上的各个点在投影到二维人脸图像所在的成像平面之后的位置信息(例如坐标)。例如，如果在三维人头模型上预定义人脸内部关键点的位置信息，则可以确定二维人脸图像上的、对应的人脸内部关键点的位置信息。在下文的描述中，为了方便区分，将三维人头模型上的人脸内部关键点称为三维内部关键点，二维人脸图像中的人脸内部关键点称为二维内部关键点。对于人脸轮廓关键点，如果在三维人头模型上预定义可能成为人脸轮廓关键点的点的位置信息，同样可以根据投影关系确定二维人脸图像中的人脸轮廓关键点的位置信息。

本领域技术人员可以理解，图2所示的图像处理方法200的各步骤的执行顺序仅是示例而非限制，例如，步骤s250可以在步骤s260之后或与其同时执行。

根据本发明实施例的图像处理方法，基于初始人脸图像生成三维人头模型，并通过三维人头模型的变换和渲染获得二维人脸图像及相应的人脸关键点标注数据。上述方法能够非常简单快速地生成大量的、各种不同场景下的人脸图像及人脸关键标注数据。与人工标注方式相比，上述方法效率高、成本低，并且，将通过上述方法获得的人脸图像和人脸关键标注数据作为训练数据，可以训练获得性能更鲁棒的人脸关键点检测器。

示例性地，根据本发明实施例的图像处理方法可以在具有存储器和处理器的设备、装置或者系统中实现。

根据本发明实施例的图像处理方法可以部署在独立的设备处，例如，可以部署在个人计算机或服务器处。替代地，根据本发明实施例的图像处理方法还可以分布地部署在服务器端(或云端)和客户端处。例如，可以在客户端采集或存储初始人脸图像，客户端将采集到或所存储的初始人脸图像传送给服务器端(或云端)，由服务器端(或云端)进行图像处理。

根据本发明实施例，在步骤s250之前，图像处理方法200还可以包括：在经变换的三维人头模型上添加附加信息。

示例性地，附加信息可以包括背景、头发和光照中的一项或多项。添加附加信息之后，所渲染出的二维人脸图像可以包含除人脸之外的附加信息，这样，可以方便地获得在各种不同背景、光照条件等场景下的人脸图像。如果利用包含各种附加信息的二维人脸图像训练人脸关键点检测器，则可以提升训练效果，获得精度更高的人脸关键点检测器。

在一个示例中，在经变换的三维人头模型上添加附加信息可以包括：在经变换的三维人头模型上随机添加附加信息。以随机方式添加附加信息可以获得更加丰富的、变化性更大的二维人脸图像和人脸关键点标注数据，使得采用该二维人脸图像和人脸关键点标注数据作为训练数据的人脸关键点检测器的训练效果更好。当然，也可以在经变换的三维人头模型上添加预设的附加信息。

根据本发明实施例，人脸关键点信息可以包括与人脸内部关键点相关的内部点信息，二维人脸关键点可以包括二维内部关键点。如果期望在最终获得的人脸关键点标注数据中包括人脸内部关键点的位置信息，则可以在三维人头模型上预先定义好与人脸内部关键点相关的内部点信息。如下文所述，该内部点信息可以包括三维人头模型中的三维内部关键点的位置信息。

根据本发明实施例，内部点信息可以包括三维人头模型中的三维内部关键点的位置信息，步骤s260可以包括：根据投影关系以及三维内部关键点的位置信息，确定所述三维内部关键点在所述二维人脸图像所在的成像平面中投影获得的二维内部关键点并获得所述二维内部关键点的位置信息。人脸关键点标注数据包括二维内部关键点的位置信息。

图3a和3b分别示出根据本发明实施例的、基于同一初始人脸图像获得的纹理模型和网格模型的示意图；图3c和3d分别示出与图3a和图3b对应的、变换后的纹理模型和网格模型的示意图。如图3a和图3b所示，三维人头模型上具有预定义的人脸内部关键点，即三维内部关键点。可以理解，三维人头模型上的人脸内部关键点的定义是相对三维人头模型而言的，该人脸内部关键点的定义不随人脸的姿态和表情的变化而变化。例如，假设定义瞳孔中心点为人脸内部关键点之一，则即使三维人头模型转动，如图3c和3d所示的那样，使得人脸朝向其他方向，瞳孔中心点为人脸内部关键点这个定义也是不变的。因此，在三维人头模型转动结束之后，可以根据此时三维人头模型的朝向及其与二维人脸图像之间的投影关系，计算获得二维人脸图像中的瞳孔中心点的坐标(即瞳孔中心点的位置信息)，从而确定这一人脸内部关键点的位置。其他人脸内部关键点情况相同，不做赘述。

根据本发明实施例，人脸关键点信息可以包括与人脸轮廓关键点相关的轮廓点信息，二维人脸关键点可以包括二维轮廓关键点。如果期望在最终获得的人脸关键点标注数据中包括人脸轮廓关键点的位置信息，则可以在三维人头模型上预先定义好与人脸轮廓关键点相关的轮廓点信息。如下文所述，该轮廓点信息可以包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息。

根据本发明实施例，轮廓点信息可以包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息，步骤s260可以包括：确定三维轮廓点集与三维人头模型中的预定义的起点平面的交集为三维起点候选集；根据投影关系以及三维轮廓点集的位置信息，确定三维轮廓点集和三维起点候选集在二维人脸图像所在的成像平面中投影获得的二维轮廓点集和二维起点候选集及二维轮廓点集和二维起点候选集的位置；从二维起点候选集中选择轮廓起点和轮廓终点；基于轮廓起点、轮廓终点和二维轮廓点集的外轮廓线确定人脸轮廓线；以及基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。人脸关键点标注数据包括二维轮廓关键点的位置信息。

人脸轮廓关键点可以随着人脸姿态的变化而变化。如果渲染获得的二维人脸图像中的人脸与初始人脸图像中的人脸朝向不同，则二者中的人脸轮廓关键点可能发生变化。因此，在三维人头模型上，可以预先定义可能成为人脸轮廓关键点的三维轮廓点集。最终获得的二维人脸图像中的人脸轮廓关键点(即二维轮廓关键点)与三维轮廓点集中的某些点之间存在对应关系。

图4a-4d示出根据本发明实施例的网格模型的示意图。参见图4a，在三维人头模型上预先定义可能成为人脸轮廓关键点的三维轮廓点集s，也就是预先定义三维轮廓点集s在三维人头模型中的位置信息。此外，在三维人头模型上，还可以预先定义“起点平面”。在一个示例中，起点平面定义为在三维人头模型的正视图下的、经过人两眼中心连线的水平面，如图4b所示。起点平面可以用于定义人脸轮廓的左右起点(即轮廓起点和轮廓终点)。起点平面和三维轮廓点集s的交集称为三维起点候选集t。可以理解，上述起点平面的定义仅为示例而非对本发明的限制，起点平面可以具有其他合适的定义。

在三维人头模型旋转一定角度之后(如图4c或4d所示)，将当前获得的三维人头模型(即经变换的三维人头模型)投影在成像平面，以获得二维人脸图像。成像平面即二维人脸图像所在的平面。三维轮廓点集s和三维起点候选集t分别对应于成像平面下的二维轮廓点集s’和二维起点候选集t’。示例性地，如图4c所示，可以将二维起点候选集t’的最左点a和最右点b分别定义为轮廓起点和轮廓终点。基于轮廓起点a、轮廓终点b和二维轮廓点集s’的外轮廓线可以确定人脸轮廓线l(在图4c中为以a和b为端点并经过c的曲线)。随后，可以将人脸轮廓线l上的某些点视为人脸轮廓关键点，以获得所需的二维轮廓关键点及其位置信息。

根据本发明实施例，基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息可以包括：根据预定义的人脸部位剔除条件剔除人脸轮廓线中的、属于特定人脸部位的点，以获得新的人脸轮廓线；将新的人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

特定人脸部位可以由用户预先定义，其可以是任何合适的部位。示例性而非限制性地，特定人脸部位可以包括鼻子。也就是说，在人脸轮廓线中，剔除鼻子部位的点。继续参考图4d，示出剔除鼻子部位的点之后获得的新的人脸轮廓线。可以将图4d所示的新的人脸轮廓线等分，并将等分点视为所需的二维轮廓关键点。将属于特定人脸部位(诸如鼻子部位)的点剔除，可以获得更加符合实际的人脸轮廓关键点，从而能够更加真实准确地反映人脸的轮廓信息。

根据本发明实施例，基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息可以包括：将人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

示例性地，可以不剔除属于特定人脸部位的点，直接将人脸轮廓线等分来获得二维轮廓关键点。

根据本发明实施例，图像处理方法200还可以包括：利用二维人脸图像和人脸关键点标注数据训练用于人脸关键点定位算法的回归器。

示例性地，回归器(可以用于组成上述人脸关键点检测器)可以包括随机森林或神经网络。本领域技术人员可以理解回归器的训练方式，本文不做赘述。利用二维人脸图像和人脸关键点标注数据训练获得的回归器对人脸关键点的定位精度高，速度快。

根据本发明另一方面，提供一种图像处理装置。图5示出了根据本发明一个实施例的图像处理装置500的示意性框图。

如图5所示，根据本发明实施例的图像处理装置500包括初始图像获取模块510、三维重建模块520、预定义模块530、变换模块540、渲染模块550和关键点确定模块560。所述各个模块可分别执行上文中结合图2-4描述的图像处理方法的各个步骤/功能。以下仅对该图像处理装置500的各部件的主要功能进行描述，而省略以上已经描述过的细节内容。

初始图像获取模块510用于获取初始人脸图像。初始图像获取模块510可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

三维重建模块520用于基于初始人脸图像进行三维重建，以获得三维人头模型。三维重建模块520可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

预定义模块530用于在三维人头模型上预定义人脸关键点信息。预定义模块530可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

变换模块540用于对三维人头模型进行变换。变换模块540可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

渲染模块550用于将经变换的三维人头模型渲染为二维人脸图像。渲染模块550可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

关键点确定模块560用于根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据。关键点确定模块560可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

根据本发明实施例，图像处理装置500还包括：添加模块(未示出)，用于在渲染模块将经变换的三维人头模型渲染为二维人脸图像之前，在经变换的三维人头模型上添加附加信息，其中，附加信息包括背景、头发和光照中的一项或多项。

根据本发明实施例，添加模块包括：随机添加子模块，用于在经变换的三维人头模型上随机添加附加信息。

根据本发明实施例，人脸关键点信息包括与人脸内部关键点相关的内部点信息，二维人脸关键点包括二维内部关键点。

根据本发明实施例，内部点信息包括三维人头模型中的三维内部关键点的位置信息，关键点确定模块560包括：内部关键点确定子模块，用于根据投影关系以及三维内部关键点的位置信息，确定三维内部关键点在二维人脸图像所在的成像平面中投影获得的二维内部关键点并获得二维内部关键点的位置信息。

根据本发明实施例，人脸关键点信息包括与人脸轮廓关键点相关的轮廓点信息，二维人脸关键点包括二维轮廓关键点。

根据本发明实施例，轮廓点信息包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息，关键点确定模块560包括：三维确定子模块，用于确定三维轮廓点集与三维人头模型中的预定义的起点平面的交集为三维起点候选集；二维确定子模块，用于根据投影关系以及三维轮廓点集的位置信息，确定三维轮廓点集和三维起点候选集在二维人脸图像所在的成像平面中投影获得的二维轮廓点集和二维起点候选集及二维轮廓点集和二维起点候选集的位置；选择子模块，用于从二维起点候选集中选择轮廓起点和轮廓终点；轮廓线确定子模块，用于基于轮廓起点、轮廓终点和二维轮廓点集的外轮廓线确定人脸轮廓线；以及轮廓关键点确定子模块，用于基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

根据本发明实施例，轮廓关键点确定子模块包括：剔除单元，用于根据预定义的人脸部位剔除条件剔除人脸轮廓线中的、属于特定人脸部位的点，以获得新的人脸轮廓线；第一等分单元，用于将新的人脸轮廓线等分；以及第一轮廓关键点确定单元，用于确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

根据本发明实施例，轮廓关键点确定子模块包括：第二等分单元，用于将人脸轮廓线等分；以及第二轮廓关键点确定单元，用于确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

根据本发明实施例，变换模块540包括：刚体变换子模块，用于对三维人头模型进行刚体变换；和/或非刚体变换子模块，用于对三维人头模型进行非刚体变换。

根据本发明实施例，三维人头模型包括网格模型和纹理模型。

根据本发明实施例，图像处理装置500还包括：训练模块(未示出)，用于利用二维人脸图像和人脸关键点标注数据训练用于人脸关键点定位算法的回归器。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

图6示出了根据本发明一个实施例的图像处理系统600的示意性框图。图像处理系统600包括图像采集装置610、存储器620、以及处理器630。

图像采集装置610用于采集初始人脸图像。图像采集装置610是可选的，图像处理系统600可以不包括图像采集装置610。在这种情况下，可以利用其他图像采集装置采集所需的初始人脸图像，并将采集的初始人脸图像发送给图像处理系统600。此外，初始人脸图像还可以存储在存储器620中，或者由其他外部存储设备发送给图像处理系统600。

所述存储器620存储用于实现根据本发明实施例的图像处理方法中的相应步骤的程序代码。

所述处理器630用于运行所述存储器620中存储的程序代码(即计算机程序指令)，以执行根据本发明实施例的图像处理方法的相应步骤，并且用于实现根据本发明实施例的图像处理装置500中的初始图像获取模块510、三维重建模块520、预定义模块530、变换模块540、渲染模块550和关键点确定模块560。

在一个实施例中，所述程序代码被所述处理器630运行时用于执行以下步骤：获取初始人脸图像；基于初始人脸图像进行三维重建，以获得三维人头模型；在三维人头模型上预定义人脸关键点信息；对三维人头模型进行变换；将经变换的三维人头模型渲染为二维人脸图像；以及根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据。

在一个实施例中，在所述程序代码被所述处理器630运行时所用于执行的将经变换的三维人头模型渲染为二维人脸图像的步骤之前，所述程序代码被所述处理器630运行时还用于执行：在经变换的三维人头模型上添加附加信息，其中，附加信息包括背景、头发和光照中的一项或多项。

在一个实施例中，所述程序代码被所述处理器630运行时所用于执行的在经变换的三维人头模型上添加附加信息的步骤包括：在经变换的三维人头模型上随机添加附加信息。

在一个实施例中，人脸关键点信息包括与人脸内部关键点相关的内部点信息，二维人脸关键点包括二维内部关键点。

在一个实施例中，内部点信息包括三维人头模型中的三维内部关键点的位置信息，所述程序代码被所述处理器630运行时所用于执行的根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据的步骤包括：根据投影关系以及三维内部关键点的位置信息，确定三维内部关键点在二维人脸图像所在的成像平面中投影获得的二维内部关键点并获得二维内部关键点的位置信息。

在一个实施例中，人脸关键点信息包括与人脸轮廓关键点相关的轮廓点信息，二维人脸关键点包括二维轮廓关键点。

在一个实施例中，轮廓点信息包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息，所述程序代码被所述处理器630运行时所用于执行的根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据的步骤包括：确定三维轮廓点集与三维人头模型中的预定义的起点平面的交集为三维起点候选集；根据投影关系以及三维轮廓点集的位置信息，确定三维轮廓点集和三维起点候选集在二维人脸图像所在的成像平面中投影获得的二维轮廓点集和二维起点候选集及二维轮廓点集和二维起点候选集的位置；从二维起点候选集中选择轮廓起点和轮廓终点；基于轮廓起点、轮廓终点和二维轮廓点集的外轮廓线确定人脸轮廓线；以及基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

在一个实施例中，所述程序代码被所述处理器630运行时所用于执行的基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息的步骤包括：根据预定义的人脸部位剔除条件剔除人脸轮廓线中的、属于特定人脸部位的点，以获得新的人脸轮廓线；将新的人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

在一个实施例中，所述程序代码被所述处理器630运行时所用于执行的基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息的步骤包括：将人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

在一个实施例中，所述程序代码被所述处理器630运行时所用于执行的对三维人头模型进行变换的步骤包括：对三维人头模型进行刚体变换；和/或对三维人头模型进行非刚体变换。

在一个实施例中，三维人头模型包括网格模型和纹理模型。

在一个实施例中，所述程序代码被所述处理器630运行时还用于执行：利用二维人脸图像和人脸关键点标注数据训练用于人脸关键点定位算法的回归器。

此外，根据本发明实施例，还提供了一种存储介质，在所述存储介质上存储了程序指令，在所述程序指令被计算机或处理器运行时用于执行本发明实施例的图像处理方法的相应步骤，并且用于实现根据本发明实施例的图像处理装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(rom)、可擦除可编程只读存储器(eprom)、便携式紧致盘只读存储器(cd-rom)、usb存储器、或者上述存储介质的任意组合。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时可以使得计算机或处理器实现根据本发明实施例的图像处理装置的各个功能模块，并且/或者可以执行根据本发明实施例的图像处理方法。

在一个实施例中，所述计算机程序指令在运行时用于执行以下步骤：获取初始人脸图像；基于初始人脸图像进行三维重建，以获得三维人头模型；在三维人头模型上预定义人脸关键点信息；对三维人头模型进行变换；将经变换的三维人头模型渲染为二维人脸图像；以及根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据。

在一个实施例中，在所述计算机程序指令在运行时所用于执行的将经变换的三维人头模型渲染为二维人脸图像的步骤之前，所述计算机程序指令在运行时还用于执行：在经变换的三维人头模型上添加附加信息，其中，附加信息包括背景、头发和光照中的一项或多项。

在一个实施例中，所述计算机程序指令在运行时所用于执行的在经变换的三维人头模型上添加附加信息的步骤包括：在经变换的三维人头模型上随机添加附加信息。

在一个实施例中，人脸关键点信息包括与人脸内部关键点相关的内部点信息，二维人脸关键点包括二维内部关键点。

在一个实施例中，内部点信息包括三维人头模型中的三维内部关键点的位置信息，所述计算机程序指令在运行时所用于执行的根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据的步骤包括：根据投影关系以及三维内部关键点的位置信息，确定三维内部关键点在二维人脸图像所在的成像平面中投影获得的二维内部关键点并获得二维内部关键点的位置信息。

在一个实施例中，人脸关键点信息包括与人脸轮廓关键点相关的轮廓点信息，二维人脸关键点包括二维轮廓关键点。

在一个实施例中，轮廓点信息包括三维人头模型中的、可能成为人脸轮廓关键点的三维轮廓点集的位置信息，所述计算机程序指令在运行时所用于执行的根据经变换的三维人头模型与二维人脸图像之间的投影关系以及人脸关键点信息，确定二维人脸图像中的二维人脸关键点并获得二维人脸关键点的位置信息作为人脸关键点标注数据的步骤包括：确定三维轮廓点集与三维人头模型中的预定义的起点平面的交集为三维起点候选集；根据投影关系以及三维轮廓点集的位置信息，确定三维轮廓点集和三维起点候选集在二维人脸图像所在的成像平面中投影获得的二维轮廓点集和二维起点候选集及二维轮廓点集和二维起点候选集的位置；从二维起点候选集中选择轮廓起点和轮廓终点；基于轮廓起点、轮廓终点和二维轮廓点集的外轮廓线确定人脸轮廓线；以及基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

在一个实施例中，所述计算机程序指令在运行时所用于执行的基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息的步骤包括：根据预定义的人脸部位剔除条件剔除人脸轮廓线中的、属于特定人脸部位的点，以获得新的人脸轮廓线；将新的人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

在一个实施例中，所述计算机程序指令在运行时所用于执行的基于人脸轮廓线确定二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息的步骤包括：将人脸轮廓线等分；以及确定获得的等分点为二维人脸图像中的二维轮廓关键点并获得二维轮廓关键点的位置信息。

在一个实施例中，所述计算机程序指令在运行时所用于执行的对三维人头模型进行变换的步骤包括：对三维人头模型进行刚体变换；和/或对三维人头模型进行非刚体变换。

在一个实施例中，三维人头模型包括网格模型和纹理模型。

在一个实施例中，所述计算机程序指令在运行时还用于执行：利用二维人脸图像和人脸关键点标注数据训练用于人脸关键点定位算法的回归器。

根据本发明实施例的图像处理系统中的各模块可以通过根据本发明实施例的实施图像处理的电子设备的处理器运行在存储器中存储的计算机程序指令来实现，或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。

根据本发明实施例的图像处理方法及装置，能够非常简单快速地生成大量的、各种不同场景下的人脸图像及人脸关键标注数据。与人工标注方式相比，上述方法和装置效率高、成本低，并且，将通过上述方法和装置获得的人脸图像和人脸关键标注数据作为训练数据，可以训练获得性能更鲁棒的人脸关键点检测器。

尽管这里已经参考附图描述了示例实施例，应理解上述示例实施例仅仅是示例性的，并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改，而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个设备，或一些特征可以忽略，或不执行。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该本发明的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如相应的权利要求书所反映的那样，其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域的技术人员可以理解，除了特征之间相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(dsp)来实现根据本发明实施例的图像处理装置中的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本发明的具体实施方式或对具体实施方式的说明，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。