人脸识别方法及装置、电子设备和计算机可读存储介质与流程

1.本公开涉及图像处理技术领域，具体而言，涉及一种人脸识别方法、人脸识别装置、电子设备以及计算机可读存储介质。


背景技术：

2.随着计算机技术的发展，图像处理技术应用到了越来越多的领域，例如，人脸识别领域。人脸识别是基于人的脸部特征信息进行身份识别的一种生物识别技术。
3.现今由于戴口罩的人越来越多，基于戴口罩人脸进行人脸识别的场景也越来越多。戴口罩人脸识别与普通人脸识别不同，戴口罩人脸识别往往是将现场拍摄的戴口罩人脸图像与底库中不戴口罩的证件照进行比对以判断是否为同一个人。
4.需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现要素：

5.本公开的目的在于提供一种人脸识别方法、人脸识别装置、电子设备以及计算机可读存储介质，进而至少在一定程度上克服现有技术中提取人眼部的特征进行人脸识别时只能提取局部人脸特征，以及基于戴口罩人脸模型进行人脸识别时戴口罩人脸模型训练数据难以获取的问题。
6.本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。
7.根据本公开的第一方面，提供一种人脸识别方法，包括：获取待识别人脸图像；获取预先训练的目标人脸识别模型；目标人脸识别模型通过无遮挡人脸图像，以及根据无遮挡人脸图像生成的有遮挡人脸图像训练得到；由目标人脸识别模型对待识别人脸图像进行人脸识别。
8.可选的，目标人脸识别模型通过以下方式训练得到：获取无遮挡人脸图像集，从无遮挡人脸图像集确定无遮挡人脸图像，并生成无遮挡人脸图像对应的有遮挡人脸图像；通过无遮挡人脸图像和有遮挡人脸图像对待训练人脸识别模型进行训练，确定待训练人脸识别模型的分类损失函数；通过第一人脸识别模型确定无遮挡人脸图像的第一人脸特征，通过待训练人脸识别模型确定无遮挡人脸图像的第二人脸特征，并通过待训练人脸识别模型确定有遮挡人脸图像的第三人脸特征；根据第一人脸特征、第二人脸特征和第三人脸特征确定第一人脸识别模型与待训练人脸识别模型之间的对比损失函数；根据分类损失函数和对比损失函数更新待训练人脸识别模型的模型参数，以得到目标人脸识别模型。
9.可选的，生成无遮挡人脸图像对应的有遮挡人脸图像，包括：对无遮挡人脸图像进行数据增广处理，以得到增广人脸图像；确定增广人脸图像的人脸关键点，并根据增广人脸图像的人脸关键点从遮挡图像库中选取初始遮挡图像；确定增广人脸图像的增广图像信息，并根据增广图像信息对初始遮挡图像进行调整，以得到遮挡图像；确定无遮挡人脸图像
的遮挡覆盖区域，通过仿射变换处理将遮挡图像添加至遮挡覆盖区域，以生成有遮挡人脸图像。
10.可选的，通过第一人脸识别模型确定无遮挡人脸图像的第一人脸特征，包括：对无遮挡人脸图像进行人脸检测处理，以确定无遮挡人脸图像的人脸关键点；根据无遮挡人脸图像的人脸关键点对无遮挡人脸图像进行图像裁剪处理，以生成无遮挡人脸图像的初始特征图；将初始特征图输入至第一人脸识别模型，以得到第一人脸特征。
11.可选的，根据第一人脸特征、第二人脸特征和第三人脸特征确定第一人脸识别模型与待训练人脸识别模型之间的对比损失函数，包括：确定第一无遮挡人脸图像和对应的第一有遮挡人脸图像；根据第一无遮挡人脸图像的第一人脸特征、第一无遮挡人脸图像的第二人脸特征和第一有遮挡人脸图像的第三人脸特征确定正例对距离；将无遮挡人脸图像集中除第一无遮挡人脸图像之外的无遮挡人脸图像确定为第二无遮挡人脸图像，并根据第二无遮挡人脸图像生成对应的第二有遮挡人脸图像；根据第一无遮挡人脸图像的第二人脸特征、第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定负例对距离；根据正例对距离和负例对距离确定对比损失函数。
12.可选的，根据第一无遮挡人脸图像的第一人脸特征、第一无遮挡人脸图像的第二人脸特征和第一有遮挡人脸图像的第三人脸特征确定正例对距离，包括：将第一无遮挡人脸图像的第一人脸特征和第一无遮挡人脸图像的第二人脸特征之间的特征距离确定为第一特征距离；将第一无遮挡人脸图像的第一人脸特征和第一有遮挡人脸图像的第三人脸特征之间的特征距离确定为第二特征距离；根据第一特征距离和第二特征距离确定正例对距离。
13.可选的，根据第一无遮挡人脸图像的第二人脸特征、第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定负例对距离，包括：根据第一无遮挡人脸图像的第二人脸特征和第二无遮挡人脸图像的第一人脸特征确定第一无遮挡人脸图像对应的负例对特征距离；根据第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定第一有遮挡人脸图像对应的负例对特征距离；根据第一无遮挡人脸图像对应的负例对特征距离和第一有遮挡人脸图像对应的负例对特征距离确定负例对距离。
14.根据本公开的第二方面，提供一种人脸识别装置，包括：图像获取模块，用于获取待识别人脸图像；模型获取模块，用于获取预先训练的目标人脸识别模型；目标人脸识别模型通过无遮挡人脸图像，以及根据无遮挡人脸图像生成的有遮挡人脸图像训练得到；人脸识别模块，用于由目标人脸识别模型对待识别人脸图像进行人脸识别。
15.可选的，人脸识别装置还包括模型训练模块，用于获取无遮挡人脸图像集，从无遮挡人脸图像集确定无遮挡人脸图像，并生成无遮挡人脸图像对应的有遮挡人脸图像；通过无遮挡人脸图像和有遮挡人脸图像对待训练人脸识别模型进行训练，确定待训练人脸识别模型的分类损失函数；通过第一人脸识别模型确定无遮挡人脸图像的第一人脸特征，通过待训练人脸识别模型确定无遮挡人脸图像的第二人脸特征，并通过待训练人脸识别模型确定有遮挡人脸图像的第三人脸特征；根据第一人脸特征、第二人脸特征和第三人脸特征确定第一人脸识别模型与待训练人脸识别模型之间的对比损失函数；根据分类损失函数和对比损失函数更新待训练人脸识别模型的模型参数，以得到目标人脸识别模型。
16.可选的，模型训练模块包括图像生成单元，用于对无遮挡人脸图像进行数据增广处理，以得到增广人脸图像；确定增广人脸图像的人脸关键点，并根据增广人脸图像的人脸关键点从遮挡图像库中选取初始遮挡图像；确定增广人脸图像的增广图像信息，并根据增广图像信息对初始遮挡图像进行调整，以得到遮挡图像；确定无遮挡人脸图像的遮挡覆盖区域，通过仿射变换处理将遮挡图像添加至遮挡覆盖区域，以生成有遮挡人脸图像。
17.可选的，模型训练模块还包括特征提取单元，用于对无遮挡人脸图像进行人脸检测处理，以确定无遮挡人脸图像的人脸关键点；根据无遮挡人脸图像的人脸关键点对无遮挡人脸图像进行图像裁剪处理，以生成无遮挡人脸图像的初始特征图；将初始特征图输入至第一人脸识别模型，以得到第一人脸特征。
18.可选的，模型训练模块还包括损失函数确定单元，用于确定第一无遮挡人脸图像和对应的第一有遮挡人脸图像；根据第一无遮挡人脸图像的第一人脸特征、第一无遮挡人脸图像的第二人脸特征和第一有遮挡人脸图像的第三人脸特征确定正例对距离；将无遮挡人脸图像集中除第一无遮挡人脸图像之外的无遮挡人脸图像确定为第二无遮挡人脸图像，并根据第二无遮挡人脸图像生成对应的第二有遮挡人脸图像；根据第一无遮挡人脸图像的第二人脸特征、第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定负例对距离；根据正例对距离和负例对距离确定对比损失函数。
19.可选的，损失函数确定单元包括正例对距离确定子单元，用于将第一无遮挡人脸图像的第一人脸特征和第一无遮挡人脸图像的第二人脸特征之间的特征距离确定为第一特征距离；将第一无遮挡人脸图像的第一人脸特征和第一有遮挡人脸图像的第三人脸特征之间的特征距离确定为第二特征距离；根据第一特征距离和第二特征距离确定正例对距离。
20.可选的，损失函数确定单元还包括负例对距离确定子单元，用于根据第一无遮挡人脸图像的第二人脸特征和第二无遮挡人脸图像的第一人脸特征确定第一无遮挡人脸图像对应的负例对特征距离；根据第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定第一有遮挡人脸图像对应的负例对特征距离；根据第一无遮挡人脸图像对应的负例对特征距离和第一有遮挡人脸图像对应的负例对特征距离确定负例对距离。
21.根据本公开的第三方面，提供一种电子设备，包括：处理器；以及存储器，所述存储器上存储有计算机可读指令，所述计算机可读指令被所述处理器执行时实现根据上述任意一项所述的人脸识别方法。
22.根据本公开的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现根据上述任意一项所述的人脸识别方法。
23.本公开提供的技术方案可以包括以下有益效果：
24.本公开的示例性实施例中的人脸识别方法，获取待识别人脸图像；获取预先训练的目标人脸识别模型；目标人脸识别模型通过无遮挡人脸图像，以及根据无遮挡人脸图像生成的有遮挡人脸图像训练得到；由目标人脸识别模型对待识别人脸图像进行人脸识别。一方面，将无遮挡人脸图像和根据无遮挡人脸图像生成的有遮挡人脸图像作为目标人脸识别模型的训练数据，可以解决现有的模型训练数据难以获取的问题。另一方面，采用无遮挡人脸图像和对应生成的有遮挡人脸图像训练目标人脸识别模型，可以极大的提高目标人脸
识别模型的鲁棒性。
25.应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
26.此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：
27.图1示意性示出了根据本公开的示例性实施方式的人脸识别方法的流程图；
28.图2示意性示出了根据本公开的示例性实施方式的训练目标人脸识别模型的流程图；
29.图3示意性示出了根据本公开的示例性实施方式的生成有遮挡人脸图像的流程图；
30.图4示意性示出了根据本公开的示例性实施方式的在无遮挡人脸图像上添加的口罩模板图；
31.图5示意性示出了根据本公开的示例性实施方式的由第一人脸识别模型提取人脸特征的过程图；
32.图6示意性示出了根据本公开的示例性实施方式的通过在线生成有遮挡人脸图像以训练目标人脸识别模型的过程图；
33.图7示意性示出了根据本公开的示例性实施方式的人脸识别装置的方框图；
34.图8示意性示出了根据本公开一示例性实施例的电子设备的框图；
35.图9示意性示出了根据本公开一示例性实施例的计算机可读存储介质的示意图。
具体实施方式
36.现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本公开将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。
37.此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知结构、方法、装置、实现、材料或者操作以避免模糊本公开的各方面。
38.附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个软件硬化的模块中实现这些功能实体或功能实体的一部分，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
39.戴口罩人脸识别与普通人脸识别不同，戴口罩人脸识别往往是将现场拍摄的戴口
罩人脸图像与底库中不戴口罩的证件照进行比对以判断是否为同一个人。对于戴口罩人脸识别模型的训练不仅需要一个人的正常人脸图像，还需要同一个人的戴口罩人脸图像。目前进行戴口罩人脸识别的可以通过下述方法进行。
40.(1)在传统的全人脸特征提取网络上新增局部特征提取模块，用来提取人眼处的特征，使得整体识别更倾向于学习眼部特征，从而可以增强眼部特征识别的精度。该方法还提出一种新的增量式损失函数，将类别内的所有图片提取的特征进行一定的留存，实现更严格的眼部特征提取约束，实现精准区分。
41.(2)使用亚洲人人脸图像集中的图像，裁剪出鼻梁以上的图像包含眼睛和额头作为戴口罩人脸识别的训练数据集，然后采用该训练集训练得到戴口罩人脸识别模型，进而进行部署和使用。
42.(3)将戴口罩的人脸识别图像和不戴口罩的人脸识别图像输入到第一个基本单元，然后将其输出继续输入到当前的注意力模块，通过当前注意力模块对当前基本单元输出的图像特征进行自加权处理得到图像特征。该特征一直往后续的基本单元传递，得到最后的图像特征后进行模型训练，然后继续传递下一个用户的人脸图像进行训练，直到训练收敛。
43.其中，方式(1)和方式(2)主要是利用眼部识别模型作为戴口罩人脸识别模型或者作为主要的口罩人脸识别模型，这种方式忽略了人脸轮廓等信息，并且在戴口罩人脸识别场景下，底库图像往往也是不戴口罩的人脸图像，具备提取全脸完好特征的条件，但是眼部识别模型却只能利用该图片的局部信息。而通过方式(3)进行人脸识别时，同时需要真实采集到同一个人的戴口罩人脸图像和不戴口罩人脸图像，然而这样的图像极其难以采集，到目前为止仍然没有大规模的公开戴口罩人脸数据集。即便是现场采集的人脸数据集，同一时刻采集到的同一个人的图片也要么是戴口罩的要么是不戴口罩的，几乎不可能同时采集到同一个人的戴口罩人脸图像和不戴口罩人脸图像。
44.基于此，在本示例实施例中，首先提供了一种人脸识别方法，可以利用服务器来实现本公开的人脸识别方法，也可以利用终端设备来实现本公开所述的方法，其中，本公开中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(personal digital assistant，pda)、导航装置、可穿戴设备等移动终端，以及诸如台式计算机等固定终端。图1示意性示出了根据本公开的一些实施例的人脸识别方法流程的示意图。参考图1，该人脸识别方法可以包括以下步骤：
45.步骤s110，获取待识别人脸图像。
46.步骤s120，获取预先训练的目标人脸识别模型；目标人脸识别模型通过无遮挡人脸图像，以及根据无遮挡人脸图像生成的有遮挡人脸图像训练得到。
47.步骤s130，由目标人脸识别模型对待识别人脸图像进行人脸识别。
48.根据本示例实施例中的人脸识别方法，一方面，将无遮挡人脸图像和根据无遮挡人脸图像生成的有遮挡人脸图像作为目标人脸识别模型的训练数据，可以解决现有的模型训练数据难以获取的问题。另一方面，采用无遮挡人脸图像和对应生成的有遮挡人脸图像训练目标人脸识别模型，可以极大的提高目标人脸识别模型的鲁棒性。
49.下面，将对本示例实施例中的人脸识别方法进行进一步的说明。
50.在步骤s110中，获取待识别人脸图像。
51.在本公开的一些示例性实施方式中，待识别人脸图像可以是待进行人脸识别处理的人脸图像。待识别人脸图像可以正常的无遮挡人脸图像，还可以是有遮挡的人脸图像。其中，无遮挡人脸图像可以是面部信息没有被遮挡的人脸图像，如眼睛、鼻子、嘴巴等面部关键位置处均未被遮挡。有遮挡人脸图像可以是面部信息部分被遮挡的图像，如鼻子、嘴巴等部分面部关键位置被遮挡。可以理解的是，戴口罩的人脸图像可以是一种有遮挡的人脸图像，有遮挡的人脸图像还可以是采用纱巾等其他方式遮挡面部区域的人脸图像，本公开对此不作任何特殊限定。
52.获取待识别人脸图像，以待识别人脸图像进行人脸识别处理。待识别人脸图像可以是通过下述方式获取的图像：通过图像采集设备实时拍摄人脸所采集到的待识别人脸图像；还可以是预先已生成的待识别人脸图像等。对于有遮挡的人脸图像，本公开主要以戴口罩的人脸图像为例进行说明。
53.在步骤s120中，获取预先训练的目标人脸识别模型；目标人脸识别模型通过无遮挡人脸图像，以及根据无遮挡人脸图像生成的有遮挡人脸图像训练得到。
54.在本公开的一些示例性实施方式中，目标人脸识别模型可以是对待识别人脸图像进行人脸识别处理的人脸识别模型。
55.在获取到无遮挡人脸图像时，可以生成与无遮挡人脸图像对应的有遮挡人脸图像，根据无遮挡人脸图像和有遮挡人脸图像作为训练数据对模型进行训练，以得到目标人脸识别模型。由于同时获取到同一人的无遮挡人脸图像和有遮挡人脸图像较为困难，因此，将无遮挡人脸图像和根据无遮挡人脸图像生成对应的有遮挡人脸图像作为目标人脸识别模型的模型训练数据，可以有效解决模型的训练数据难以获取的问题。
56.根据本公开的一些示例性实施例，目标人脸识别模型通过以下方式训练得到：获取无遮挡人脸图像集，从无遮挡人脸图像集确定无遮挡人脸图像，并生成无遮挡人脸图像对应的有遮挡人脸图像；通过无遮挡人脸图像和有遮挡人脸图像对待训练人脸识别模型进行训练，确定待训练人脸识别模型的分类损失函数；通过第一人脸识别模型确定无遮挡人脸图像的第一人脸特征，通过待训练人脸识别模型确定无遮挡人脸图像的第二人脸特征，并通过待训练人脸识别模型确定有遮挡人脸图像的第三人脸特征；根据第一人脸特征、第二人脸特征和第三人脸特征确定第一人脸识别模型与待训练人脸识别模型之间的对比损失函数；根据分类损失函数和对比损失函数更新待训练人脸识别模型的模型参数，以得到目标人脸识别模型。
57.其中，无遮挡人脸图像集可以是包含多个无遮挡人脸图像的集合。待训练人脸识别模型可以是初始构建的人脸识别模型。分类损失函数可以是采用待训练人脸识别模型对有遮挡人脸图像和无遮挡人脸图像分别进行人脸识别时所确定出的损失函数，分类损失函数可以用于衡量真实值和模型输出的预测值之间不一致的程度。第一人脸识别模型可以是目前常用的普通人脸识别模型，仅采用无遮挡人脸图像作为训练数据得到的人脸识别模型。
58.第一人脸特征可以是采用第一人脸识别模型对无遮挡人脸图像进行特征提取后得到的人脸特征。第二人脸特征可以是采用待训练人脸识别模型对无遮挡人脸图像进行特征提取后得到的人脸特征。第三人脸特征可以是采用待训练人脸识别模型对有遮挡人脸图像进行特征提取后得到的人脸特征。对比损失函数可以是分别采用第一人脸识别模型和待
训练人脸识别模型进行人脸识别时所确定出的损失函数。对比损失函数可以用于强化待训练人脸识别模型对有遮挡人脸图像的预测值和对应的真实值的识别准确度。模型参数可以是待训练人脸识别模型的相关参数，例如，模型参数可以包括神经网络中的权重和偏置值等。
59.参考图2，图2示意性示出了根据本公开的示例性实施方式的训练目标人脸识别模型的流程图。
60.在步骤s210中，获取无遮挡人脸图像集，无遮挡人脸图像集中可以包含了大量的不同人的无遮挡人脸图像，每个人的图像均有一个对应的身份标识(identity document，id)，身份标识可以是用于区分不同人的身份信息的标识，例如，身份标识可以是身份证号码等。在每次对待训练人脸识别模型进行模型训练时，可以从无遮挡人脸图像集中选取一定数据量的无遮挡人脸图像(即数据采样)。举例而言，可以根据训练模型的所使用的设备的设备参数确定采样图像的采样数据量(即批次大小)，例如，可以根据机器显存大小确定采样数据量的值，例如，可以将采样数据量确定为128、256、512等。每次数据采样采集到的数据对应的id不同，即如果采样数据量为128，则从无遮挡人脸图像集选取128个id，并从128个id中随机选取一个图像，构成本训练批次。即从无遮挡人脸图像集中确定无遮挡人脸图像。在确定出无遮挡人脸图像后，可以生成无遮挡人脸图像对应的有遮挡人脸图像。
61.根据本公开的一些示例性实施例，对无遮挡人脸图像进行数据增广处理，以得到增广人脸图像；确定增广人脸图像的人脸关键点，并根据增广人脸图像的人脸关键点从遮挡图像库中选取初始遮挡图像；确定增广人脸图像的增广图像信息，并根据增广图像信息对初始遮挡图像进行调整，以得到遮挡图像；确定无遮挡人脸图像的遮挡覆盖区域，通过仿射变换处理将遮挡图像添加至遮挡覆盖区域，以生成有遮挡人脸图像。
62.其中，数据增广处理可以是对无遮挡人脸图像进行随机裁剪、调整图像亮度以及随机翻转等操作的处理过程。增广人脸图像可以是对无遮挡人脸图像进行数据增广处理得到的人脸图像。人脸关键点可以是在人脸检测时用于标定面部关键信息的点。遮挡图像库可以是存储初始遮挡图像的数据库，例如，遮挡图像库可以是口罩图像库。初始遮挡图像可以是遮挡图像库中存储的遮挡图像，如口罩图像。遮挡图像可以是根据增广人脸图像的增广图像信息对初始遮挡图像进行调整后得到的图像。遮挡覆盖区域可以是对无遮挡人脸图像进行遮挡的区域。
63.参考图3，图3示意性示出了根据本公开的示例性实施方式的生成有遮挡人脸图像的流程图。在步骤s310中，在获取到无遮挡人脸图像后，可以对无遮挡人脸图像进行随机裁剪、调整图像亮度以及随机翻转等相关数据增广处理，以得到增广人脸图像。在步骤s320中，在得到增广人脸图像后，对增广人脸图像进行关键点检测得到人脸关键点。根据人脸关键点从遮挡图像库中随机选取一个初始口罩图像(即口罩模板)。参考图4，图4示意性示出了根据本公开的示例性实施方式的在无遮挡人脸图像上添加的口罩模板图。遮挡图像库中可以提供多个遮挡图像，以便后续随机选取一口罩模板用于生成有遮挡人脸图像。在步骤s330中，根据增广人脸图像的增广图像信息对初始口罩图像进行调整，以得到遮挡图像，即口罩图像。例如，可以根据增广人脸图像的人脸亮度对初始口罩图像的亮度进行调整，使得二者色差接近。在步骤s340中，在无遮挡人脸图像中确定对应的遮挡覆盖区域，并通过仿射变换将口罩图像添加到遮挡覆盖区域，即将口罩的左右边界对齐到人脸颊两侧，将口罩下
部对齐到人脸下巴处。
64.需要说明的是，在本公开中并不是将所有无遮挡人脸图像离线添加口罩图像后再进行训练，而是在读取图像进行训练时为无遮挡人脸图像在线添加口罩图像，这是因为在人脸识别中往往要对每一张图像进行多次训练，如果预先固定好某个图像对应的口罩模版，则每次训练该图像时其对应的戴口罩图像均是一样的，这将导致最终训练的模型鲁棒性不够强。为无遮挡人脸图像在线添加口罩图像的方式可以保证对同一张图像进行不同轮次的迭代时其对应的戴口罩人脸图像均是不同的，从而使得最终训出的模型更加鲁棒。
65.在步骤s220中，在获取到无遮挡人脸图像，并根据无遮挡人脸图像生成对应的有遮挡人脸图像后，可以将无遮挡人脸图像和有遮挡人脸图像输入至待训练人脸识别模型进行训练，确定待训练人脸识别模型的分类损失函数。
66.具体的，针对数据采样阶段选取的一个批次的图像，均对应生成一个批次的戴口罩人脸图像，假如预先设定的采样数据量大小为128，则混入戴口罩人脸图像之后图像总数将变为256，将原图像和戴口罩人脸图像同时送入待训练人脸识别模型进行训练；其中，戴口罩人脸图像的标签和原图像的标签一致，标签可以采用数字表示，如1、2、3等。待训练人脸识别模型的分类损失函数可以选用目前主流的人脸识别损失函数，例如附加角度差额损失函数(additive angular margin loss)，该分类损失函数如公式1所示。
[0067][0068]
其中，m可以表示训练样本数量，假设预先设定的采样数据量大小为128，当混入戴口罩人脸图像的数据后，此处m等于256；c可以表示总的类别数目，如一批训练数据总共包含8000个人的人脸图像，则c等于8000。
[0069]
在步骤s230中，通过第一人脸识别模型确定无遮挡人脸图像的第一人脸特征，通过待训练人脸识别模型确定无遮挡人脸图像的第二人脸特征，并通过待训练人脸识别模型确定有遮挡人脸图像的第三人脸特征。
[0070]
根据本公开的一些示例性实施例，对无遮挡人脸图像进行人脸检测处理，以确定无遮挡人脸图像的人脸关键点；根据无遮挡人脸图像的人脸关键点对无遮挡人脸图像进行图像裁剪处理，以生成无遮挡人脸图像的初始特征图；将初始特征图输入至第一人脸识别模型，以得到第一人脸特征。其中，初始特征图可以是对无遮挡人脸图像进行图像裁剪处理得到的人脸图像。
[0071]
参考图5，图5示意性示出了根据本公开的示例性实施方式的由第一人脸识别模型提取人脸特征的过程图。在获取到无遮挡人脸图像后，可以对无遮挡人脸图像进行人脸检测处理，确定出与无遮挡人脸图像对应的人脸检测框，并确定出人脸检测框中无遮挡人脸图像的人脸关键点；无遮挡人脸图像的人脸关键点的坐标可以是根据原始的无遮挡人脸图像的像素坐标确定的。根据无遮挡人脸图像的人脸关键点对无遮挡人脸图像进行人脸对齐和图像裁剪处理，得到无遮挡人脸图像的初始特征图。将得到的初始特征图输入至第一人脸识别模型，以通过第一人脸识别模型对无遮挡人脸图像进行特征提取以得到第一人脸特征。具体的，第一人脸识别模型可以是根据现有技术中常用的人脸识别数据集以及任意一种通用的人脸识别模型的模型训练方式得到。
[0072]
在步骤s240中，根据第一人脸特征、第二人脸特征和第三人脸特征确定第一人脸识别模型与待训练人脸识别模型之间的对比损失函数。具体的，对比损失函数的确定过程可以通过下述方式进行：
[0073]
根据本公开的一些示例性实施例，确定第一无遮挡人脸图像和对应的第一有遮挡人脸图像；根据第一无遮挡人脸图像的第一人脸特征、第一无遮挡人脸图像的第二人脸特征和第一有遮挡人脸图像的第三人脸特征确定正例对距离；将无遮挡人脸图像集中除第一无遮挡人脸图像之外的无遮挡人脸图像确定为第二无遮挡人脸图像，并根据第二无遮挡人脸图像生成对应的第二有遮挡人脸图像；根据第一无遮挡人脸图像的第二人脸特征、第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定负例对距离；根据正例对距离和负例对距离确定对比损失函数。
[0074]
其中，第一无遮挡人脸图像可以是当前选定的样本图像，可以采用样本x表示。第一有遮挡人脸图像可以是根据第一无遮挡人脸图像生成的图像，可以采用xm表示。第一无遮挡人脸图像的第一人脸特征可以是由第一人脸识别模型对第一无遮挡人脸图像进行特征提取所得到的人脸特征，可以采用fc表示。第一无遮挡人脸图像的第二人脸特征可以是由待训练人脸识别模型对第一无遮挡人脸图像进行特征提取所得到的人脸特征，可以采用f
cm
表示。第一有遮挡人脸图像的第三人脸特征可以是由待训练人脸识别模型对第一有遮挡人脸图像进行特征提取所得到的人脸特征，可以采用fm表示。
[0075]
第二无遮挡人脸图像可以是无遮挡人脸图像集中除第一无遮挡人脸图像之外的其他无遮挡人脸图像，第二无遮挡人脸图像的数量可以是多个。第二有遮挡人脸图像可以是根据第二无遮挡人脸图像对应生成的图像。第二无遮挡人脸图像的第一人脸特征可以是由第一人脸识别模型对第二无遮挡人脸图像进行特征提取所得到的人脸特征。
[0076]
正例对可以是同一人的无遮挡人脸图像和有遮挡人脸图像组成的图像对。正例对距离可以是同一人的无遮挡人脸图像的图像特征和有遮挡人脸图像的图像特征之间的距离。负例对可以是某一人的无遮挡人脸图像和不同于该人的有遮挡人脸图像组成的图像对。负例对距离可以是某一人的无遮挡人脸图像的图像特征和不同于该人的有遮挡人脸图像的图像特征之间的距离。
[0077]
为了进一步强化待训练人脸模型对于有遮挡人脸图像和无遮挡人脸图像库中的图像进行比对的识别精度，可以采用优化的对比损失函数配合分类损失函数对待训练人脸识别模型进行优化。因为第一人脸识别模型对无遮挡人脸图像(即普通人脸)的识别精度较高，所以采用对比损失函数优化待训练人脸识别模型可以在模型能够提取有遮挡人脸特征的前提下尽量接近第一人脸识别模型，采用这种方式训练出的模型将能够更好地提取无遮挡人脸特征，也可以提高有遮挡人脸图像(戴口罩人脸)和无遮挡人脸图像(普通人脸)的比对精度。
[0078]
在确定出第一无遮挡人脸图像的第一人脸特征、第一无遮挡人脸图像的第二人脸特征和第一有遮挡人脸图像的第三人脸特征后，可以根据第一无遮挡人脸图像的第一人脸特征、第一无遮挡人脸图像的第二人脸特征和第一有遮挡人脸图像的第三人脸特征确定正例对距离。
[0079]
根据本公开的一些示例性实施例，将第一无遮挡人脸图像的第一人脸特征和第一无遮挡人脸图像的第二人脸特征之间的特征距离确定为第一特征距离；将第一无遮挡人脸
图像的第一人脸特征和第一有遮挡人脸图像的第三人脸特征之间的特征距离确定为第二特征距离；根据第一特征距离和第二特征距离确定正例对距离。
[0080]
其中，第一特征距离可以是第一无遮挡人脸图像的第一人脸特征和第一无遮挡人脸图像的第二人脸特征之间的特征距离，可以采用d
pc
表示。第二特征距离可以是第一无遮挡人脸图像的第一人脸特征和第一有遮挡人脸图像的第三人脸特征之间的特征距离，可以采用d
pm
表示。具体的，第一特征距离如公式2所示，第二特征距离如公式3所示。
[0081]dpc
＝(f
c-f
cm
)2ꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(公式2)
[0082]dpm
＝(f
c-fm)2ꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(公式3)
[0083]
确定第二无遮挡人脸图像的第一人脸特征后，可以根据第一无遮挡人脸图像的第二人脸特征、第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定负例对距离。
[0084]
根据本公开的一些示例性实施例，根据第一无遮挡人脸图像的第二人脸特征和第二无遮挡人脸图像的第一人脸特征确定第一无遮挡人脸图像对应的负例对特征距离；根据第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定第一有遮挡人脸图像对应的负例对特征距离；根据第一无遮挡人脸图像对应的负例对特征距离和第一有遮挡人脸图像对应的负例对特征距离确定负例对距离。
[0085]
其中，第一无遮挡人脸图像对应的负例对特征距离可以是第一无遮挡人脸图像的第二人脸特征和第二无遮挡人脸图像的第一人脸特征之间的特征距离。第一有遮挡人脸图像对应的负例对特征距离可以是第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征之间的特征距离。
[0086]
由于在数据采样阶段严格限制一个批次内采样的数据id均不一样，所以采样的一批训练数据均可以与该批次的其他所有样本图像配成负例对。假设初始设定的批次大小为n，则输入待训练人脸识别模型的每个样本x可以与输入第一人脸识别模型的n-1个样本配成负例对；同理，输入待训练人脸识别模型的每个样本xm也可以与输入第一人脸识别模型的n-1个样本配成负例对。因此，可以计算每个无遮挡人脸图像的负例对距离和每个有遮挡人脸图像的负例对距离；无遮挡人脸图像的负例对距离的平方可以采用d
nc
表示，有遮挡人脸图像的负例对距离的平方可以采用d
nm
表示。无遮挡人脸图像对应的负例对特征距离如公式4所示，有遮挡人脸图像对应的负例对特征距离如公式5所示。
[0087][0088][0089]
在确定出正例对距离和负例对距离后，可以根据正例对距离和负例对距离确定对比损失函数，对比损失函数的计算方法如公式6～公式8所示。
[0090][0091]dneg
＝max(margin-d
nc
,0)2+max(margin-d
nm
,0)2ꢀꢀꢀꢀ
(公式7)
[0092]
[0093]
其中，margin可以是预先设定的常数，margin的值可以使得在模型训练时，负例之间隔得尽可能远，正例尽可能近。y的取值是1或0，如果当前训练样本对为正例对，则y的值为1；如果当前训练样本对为负例对，则y的值为0。
[0094]
在步骤s250中，根据分类损失函数和对比损失函数更新待训练人脸识别模型的模型参数，以得到目标人脸识别模型。在计算出待训练模型的分类损失函数以及与第一人脸识别模型之间的对比损失函数后，可以通过分类损失函数和对比损失函数更新待训练人脸识别模型的模型参数，直至分类损失函数和对比损失函数的损失函数值收敛，确定此时待训练人脸识别模型的模型参数的参数值，即可得到目标人脸识别模型。
[0095]
参考图6，图6示意性示出了根据本公开的示例性实施方式的通过在线生成有遮挡人脸图像以训练目标人脸识别模型的过程图。对无遮挡人脸图像进行人脸对齐和关键点检测处理后，可以根据识别出的人脸关键点在线生成对应的有遮挡人脸图像。将有遮挡人脸图像输入至待训练人脸识别模型，并确定待训练人脸识别模型的分类损失函数。另外，确定待训练人脸识别模型和第一人脸识别模型之间的对比损失函数，根据分类损失函数和对比损失函数更新待训练人脸识别模型的模型训练，直至损失函数收敛，以得到目标人脸识别模型。通过预先训练第一人脸识别模型，将其特征作为目标人脸识别模型的一个监督信息，同时将生成的有遮挡人脸图像和原来的无遮挡人脸图像混合后采用分类训练的方式作为目标人脸识别模型的另一个监督信息，通过这两个监督信息对待训练人脸识别模型进行训练，使得模型可以更好的提取无遮挡人脸图像的人脸特征，也可以提高有遮挡人脸图像的和无遮挡人脸图像之间的比对精度。
[0096]
在步骤s130中，由目标人脸识别模型对待识别人脸图像进行人脸识别。
[0097]
在本公开的一些示例性实施方式中，人脸识别可以是对待识别人脸图像进行人脸识别的过程。在获取到待识别人脸图像后，可以将待识别人脸图像输入至目标人脸识别模型，以通过目标人脸识别模型输出待识别人脸图像的预测值，判断待识别人脸图像是否为某一人。
[0098]
需要说明的是，本公开所使用的术语“第一”、“第二”、“第三”等，仅是为了区分不同的无遮挡人脸图像、不同的有遮挡人脸图像、不同的人脸特征、不同的特征距离等，并不应对本公开造成任何限制。
[0099]
综上所述，本公开的示例性实施例中的人脸识别方法，获取待识别人脸图像；获取预先训练的目标人脸识别模型；目标人脸识别模型通过无遮挡人脸图像，以及根据无遮挡人脸图像生成的有遮挡人脸图像训练得到；由目标人脸识别模型对待识别人脸图像进行人脸识别。一方面，将无遮挡人脸图像和根据无遮挡人脸图像生成的有遮挡人脸图像作为目标人脸识别模型的训练数据，可以解决现有的模型训练数据难以获取的问题。另一方面，采用无遮挡人脸图像和对应生成的有遮挡人脸图像训练目标人脸识别模型，可以极大的提高目标人脸识别模型的鲁棒性。又一方面，将第一人脸识别模型的输出特征作为目标人脸识别模型的一个监督信息，同时将生成的有遮挡人脸图像和原来的无遮挡人脸图像混合后采用分类训练的方式作为目标人脸识别模型的另一个监督信息，可以进一步提高对有遮挡人脸图像和无遮挡人脸图像库进行比对的识别精度。
[0100]
需要说明的是，尽管在附图中以特定顺序描述了本发明中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤
才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。
[0101]
此外，在本示例实施例中，还提供了一种人脸识别装置。参考图7，该人脸识别装置700可以包括：图像获取模块710、模型获取模块720以及人脸识别模块730。
[0102]
具体的，图像获取模块710用于获取待识别人脸图像；模型获取模块720用于获取预先训练的目标人脸识别模型；目标人脸识别模型通过无遮挡人脸图像，以及根据无遮挡人脸图像生成的有遮挡人脸图像训练得到；人脸识别模块730用于由目标人脸识别模型对待识别人脸图像进行人脸识别。
[0103]
人脸识别装置700采用根据无遮挡人脸图像以及根据无遮挡人脸图像生成的有遮挡人脸图像作为训练数据得到目标人脸识别模型，采用目标人脸识别模型对待识别人脸图像进行人脸识别，可以解决现有的有遮挡人脸识别模型进行人脸识别时，将眼部识别模型作为主要的有遮挡人脸识别模型时忽略了人脸轮廓等信息，以及有遮挡人脸识别模型的训练数据难以采集的问题。
[0104]
在本公开的一种示例性实施方案中，人脸识别装置700还包括模型训练模块，用于获取无遮挡人脸图像集，从无遮挡人脸图像集确定无遮挡人脸图像，并生成无遮挡人脸图像对应的有遮挡人脸图像；通过无遮挡人脸图像和有遮挡人脸图像对待训练人脸识别模型进行训练，确定待训练人脸识别模型的分类损失函数；通过第一人脸识别模型确定无遮挡人脸图像的第一人脸特征，通过待训练人脸识别模型确定无遮挡人脸图像的第二人脸特征，并通过待训练人脸识别模型确定有遮挡人脸图像的第三人脸特征；根据第一人脸特征、第二人脸特征和第三人脸特征确定第一人脸识别模型与待训练人脸识别模型之间的对比损失函数；根据分类损失函数和对比损失函数更新待训练人脸识别模型的模型参数，以得到目标人脸识别模型。
[0105]
在本公开的一种示例性实施方案中，模型训练模块包括图像生成单元，用于对无遮挡人脸图像进行数据增广处理，以得到增广人脸图像；确定增广人脸图像的人脸关键点，并根据增广人脸图像的人脸关键点从遮挡图像库中选取初始遮挡图像；确定增广人脸图像的增广图像信息，并根据增广图像信息对初始遮挡图像进行调整，以得到遮挡图像；确定无遮挡人脸图像的遮挡覆盖区域，通过仿射变换处理将遮挡图像添加至遮挡覆盖区域，以生成有遮挡人脸图像。
[0106]
在本公开的一种示例性实施方案中，模型训练模块还包括特征提取单元，用于对无遮挡人脸图像进行人脸检测处理，以确定无遮挡人脸图像的人脸关键点；根据无遮挡人脸图像的人脸关键点对无遮挡人脸图像进行图像裁剪处理，以生成无遮挡人脸图像的初始特征图；将初始特征图输入至第一人脸识别模型，以得到第一人脸特征。
[0107]
在本公开的一种示例性实施方案中，模型训练模块还包括损失函数确定单元，用于确定第一无遮挡人脸图像和对应的第一有遮挡人脸图像；根据第一无遮挡人脸图像的第一人脸特征、第一无遮挡人脸图像的第二人脸特征和第一有遮挡人脸图像的第三人脸特征确定正例对距离；将无遮挡人脸图像集中除第一无遮挡人脸图像之外的无遮挡人脸图像确定为第二无遮挡人脸图像，并根据第二无遮挡人脸图像生成对应的第二有遮挡人脸图像；根据第一无遮挡人脸图像的第二人脸特征、第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定负例对距离；根据正例对距离和负例对距离确定对比损
失函数。
[0108]
在本公开的一种示例性实施方案中，损失函数确定单元包括正例对距离确定子单元，用于将第一无遮挡人脸图像的第一人脸特征和第一无遮挡人脸图像的第二人脸特征之间的特征距离确定为第一特征距离；将第一无遮挡人脸图像的第一人脸特征和第一有遮挡人脸图像的第三人脸特征之间的特征距离确定为第二特征距离；根据第一特征距离和第二特征距离确定正例对距离。
[0109]
在本公开的一种示例性实施方案中，损失函数确定单元还包括负例对距离确定子单元，用于根据第一无遮挡人脸图像的第二人脸特征和第二无遮挡人脸图像的第一人脸特征确定第一无遮挡人脸图像对应的负例对特征距离；根据第一有遮挡人脸图像的第三人脸特征和第二无遮挡人脸图像的第一人脸特征确定第一有遮挡人脸图像对应的负例对特征距离；根据第一无遮挡人脸图像对应的负例对特征距离和第一有遮挡人脸图像对应的负例对特征距离确定负例对距离。
[0110]
上述中各人脸识别装置的虚拟模块的具体细节已经在对应的人脸识别方法中进行了详细的描述，因此此处不再赘述。
[0111]
应当注意，尽管在上文详细描述中提及了人脸识别装置的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
[0112]
此外，在本公开的示例性实施例中，还提供了一种能够实现上述方法的电子设备。
[0113]
所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施例、完全的软件实施例(包括固件、微代码等)，或硬件和软件方面结合的实施例，这里可以统称为“电路”、“模块”或“系统”。
[0114]
下面参考图8来描述根据本发明的这种实施例的电子设备800。图8显示的电子设备800仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
[0115]
如图8所示，电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于：上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830、显示单元840。
[0116]
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元810执行，使得所述处理单元810执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施例的步骤。
[0117]
存储单元820可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)821和/或高速缓存存储单元822，还可以进一步包括只读存储单元(rom)823。
[0118]
存储单元820可以包括具有一组(至少一个)程序模块825的程序/实用工具824，这样的程序模块825包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
[0119]
总线830可以表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
[0120]
电子设备800也可以与一个或多个外部设备870(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备800交互的设备通信，和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口850进行。并且，电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。如图所示，网络适配器860通过总线830与电子设备800的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备800使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
[0121]
通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施例的方法。
[0122]
在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施例中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施例的步骤。
[0123]
参考图9所示，描述了根据本发明的实施例的用于实现上述方法的程序产品900，其可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
[0124]
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
[0125]
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
[0126]
可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
[0127]
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的
过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
[0128]
此外，上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。
[0129]
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施例。本技术旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。
[0130]
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。