数据处理方法、装置和计算机可读存储介质与流程

1.本公开涉及计算机技术领域，特别涉及一种数据处理方法、装置和计算机可读存储介质。


背景技术：

2.不同公司甚至同一公司的不同部门之间，因行业竞争、隐私安全等问题，数据常常是以孤岛的形式存在的。针对数据孤岛和数据隐私的两难问题，基于“联邦学习”的算法可以有效帮助多个机构在满足用户隐私保护、数据安全的要求下，进行数据使用和联合建模。“联邦学习”包括横向联邦、纵向联邦以及迁移联邦。其中纵向联邦学习主要用于用户重叠率较高，而数据特征重叠率较小情况下的联合模型训练。
3.纵向联邦学习技术把数据集按照纵向(即特征维度)切分，并取出双方用户相同而用户特征不完全相同的那部分数据进行训练。其将不同特征在加密的状态下加以聚合，进一步增强联合模型预测能力。
4.目前，进行联邦学习的双方一般存在一方有标签，另一方缺失标签的情况。


技术实现要素：

5.发明人发现：针对目前联邦学习的双方一方有标签，另一方缺失标签的情况，标签缺失方可能存在大量特征数据，但是并不是所有特征对于最终的结果都能起作用，可能存在大量无效特征，这些无效特征用于联邦学习提高了联合模型训练过程的复杂度，降低了学习效率和准确性。
6.本公开所要解决的一个技术问题是：如何提高联邦学习的效率和准确性。
7.根据本公开的一些实施例，提供的一种数据处理方法，包括：标签缺失方接收标签持有方发送的对象的标签信息，标签信息包括：标签持有方加密后的各个标签的标签向量；标签缺失方根据标签信息，利用注意力机制确定本地持有的对象的各项特征相对于标签的重要度；标签缺失方根据各项特征相对于标签的重要度，调整各项特征对应的特征向量；标签缺失方将各项特征调整后的特征向量输入联合模型中标签缺失方所持有的模型进行联邦学习。
8.在一些实施例中，标签缺失方所持有的模型中嵌入层之后接入注意力机制模块；标签缺失方根据标签信息，利用注意力机制确定本地持有的对象的各项特征相对于标签的重要度包括：标签缺失方将嵌入层输出的各项特征对应的特征向量，以及标签信息输入注意力机制模块，得到注意力机制模块输出的标签持有方加密后的各项特征相对于标签的权重；标签缺失方根据标签持有方加密后的各项特征相对于标签的权重，确定各项特征相对于标签的重要度。
9.在一些实施例中，标签缺失方根据标签持有方加密后的各项特征相对于标签的权重，确定各项特征相对于标签的重要度包括：标签缺失方对标签持有方加密后的各项特征相对于标签的权重进行加密；标签缺失方将标签缺失方和标签持有方加密后的各项特征相
对于标签的权重，发送至标签持有方；标签缺失方接收标签持有方进行解密后返回的标签缺失方加密后的各项特征相对于标签的权重；标签缺失方对标签缺失方加密后的各项特征相对于标签的权重进行解密，得到各项特征相对于标签的权重，作为各项特征相对于标签的重要度。
10.在一些实施例中，在注意力机制模型内，利用预设函数计算标签持有方加密后的各个标签的标签向量与各项特征的特征向量对应的注意力得分；利用softmax激活函数将注意力得分映射为标签持有方加密后的各项特征相对于标签的权重。
11.在一些实施例中，标签持有方和标签缺失方进行加密的方法为同态加密或者差分隐私或者混淆电路或者秘密共享。
12.在一些实施例中，标签缺失方根据各项特征相对于标签的重要度，调整各项特征对应的特征向量包括：针对每项特征，标签缺失方将该特征对应的特征向量分别与特征相对于标签的权重相乘，得到各项特征调整后的特征向量。
13.在一些实施例中，对象为电话号码，标签为用户类别，各项特征包括用户的通信行为特征；其中，用户类别包括：普通用户、骚扰电话、外卖、快递、推销员中至少一项；或者，对象为用户，标签为借贷风险级别，各项特征包括用户消费行为数据；或者，对象为用户，标签为保险风险级别，各项特征包括用户出行数据。
14.在一些实施例中，该方法还包括：在联合模型训练完成后，获取待识别对象的各项特征；将待识别对象的各项特征输入联合模型，得到输出的待识别对象对应的标签，并进行显示。
15.根据本公开的另一些实施例，提供的一种数据处理装置，其中，数据处理装置设置于标签缺失方，包括：接收单元，用于接收标签持有方发送的对象的标签信息，标签信息包括：标签持有方加密后的各个标签的标签向量；确定单元，用于根据标签信息，利用注意力机制确定本地持有的对象的各项特征相对于标签的重要度；调整单元，用于根据各项特征相对于标签的重要度，调整各项特征对应的特征向量；模型输入单元，用于将各项特征调整后的特征向量输入联合模型中标签缺失方所持有的模型进行联邦学习。
16.在一些实施例中，标签缺失方所持有的模型中嵌入层之后接入注意力机制模块；确定单元用于将嵌入层输出的各项特征对应的特征向量，以及标签信息输入注意力机制模块，得到注意力机制模块输出的标签持有方加密后的各项特征相对于标签的权重；根据标签持有方加密后的各项特征相对于标签的权重，确定各项特征相对于标签的重要度。
17.在一些实施例中，确定单元用于对标签持有方加密后的各项特征相对于标签的权重进行加密；将标签缺失方和标签持有方加密后的各项特征相对于标签的权重，发送至标签持有方；接收标签持有方进行解密后返回的标签缺失方加密后的各项特征相对于标签的权重；对标签缺失方加密后的各项特征相对于标签的权重进行解密，得到各项特征相对于标签的权重，作为各项特征相对于标签的重要度。
18.在一些实施例中，在注意力机制模型内，利用预设函数计算标签持有方加密后的各个标签的标签向量与各项特征的特征向量对应的注意力得分；利用softmax激活函数将注意力得分映射为标签持有方加密后的各项特征相对于标签的权重。
19.在一些实施例中，标签持有方和标签缺失方进行加密的方法为同态加密或者差分隐私或者混淆电路或者秘密共享。
20.在一些实施例中，调整单元用于针对每项特征，将该特征对应的特征向量分别与特征相对于标签的权重相乘，得到各项特征调整后的特征向量。
21.在一些实施例中，对象为电话号码，标签为用户类别，各项特征包括用户的通信行为特征；其中，用户类别包括：普通用户、骚扰电话、外卖、快递、推销员中至少一项；或者，对象为用户，标签为借贷风险级别，各项特征包括用户消费行为数据；或者，对象为用户，标签为保险风险级别，各项特征包括用户出行数据。
22.在一些实施例中，该装置还包括：应用单元，用于在联合模型训练完成后，获取待识别对象的各项特征；将待识别对象的各项特征输入联合模型，得到输出的待识别对象对应的标签，并进行显示。
23.根据本公开的又一些实施例，提供的一种数据处理装置，包括：处理器；以及耦接至处理器的存储器，用于存储指令，指令被处理器执行时，使处理器执行如前述任意实施例的数据处理方法。
24.根据本公开的再一些实施例，提供的一种非瞬时性计算机可读存储介质，其上存储有计算机程序，其中，该程序被处理器执行时实现前述任意实施例数据处理方法的步骤。
25.本公开中标签持有方可以将对象的标签信息发送至标签缺失方，标签缺失方通过注意力机制确定本地持有的所述对象的各项特征相对于所述标签的重要度，进而可以根据重要度调整各项特征对应的特征向量，利用调整后的特征向量进行联邦学习。标签持有方发送的标签的标签向量是经过加密的避免了数据的泄露。标签缺失方根据注意力机制可以激活重要特征，去除无效特征，减小联合模型训练难度，同时提高了联合模型的准确率和训练效率。
26.通过以下参照附图对本公开的示例性实施例的详细描述，本公开的其它特征及其优点将会变得清楚。
附图说明
27.为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
28.图1示出本公开的一些实施例的数据处理方法的流程示意图。
29.图2示出本公开的一些实施例的标签缺失方所持有的模型的结构示意图。
30.图3示出本公开的另一些实施例的数据处理方法的流程示意图。
31.图4示出本公开的一些实施例的数据处理装置的结构示意图。
32.图5示出本公开的另一些实施例的数据处理装置的结构示意图。
33.图6示出本公开的又一些实施例的数据处理装置的结构示意图。
具体实施方式
34.下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使
用的任何限制。基于本公开中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
35.本公开提出一种数据处理方法，下面结合图1进行描述。
36.图1为本公开数据处理方法一些实施例的流程图。如图1所示，该实施例的方法包括：步骤s102～s108。
37.在步骤s102中，标签缺失方接收标签持有方发送的对象的标签信息。
38.标签持有方和标签缺失方采用联邦学习的方法共同对联合模型进行训练。标签缺失方和标签持有方各自持有模型共同构成联合模型。标签缺失方和标签持有方分别用本地的数据对各自持有的模型进行训练，训练的中间结果和模型的梯度信息可以在隐私保护的情况下进行聚合，用于后续的训练过程。联邦学习过程包括样本id对齐和联合模型的训练过程，样本id对齐即确定双方包含的相同的id，属于现有技术，在此不再赘述。
39.标签缺失方可以拥有大量的特征数据，但是缺失对象的标签。而标签持有方则拥有对象的标签。例如，运营商不同数据源之间在不暴露彼此数据的情况下，可以进行联合模型的训练。例如，联合模型用于识别电话号码的用户类别。即对象为电话号码，标签为用户类别，用户类别例如包括：普通用户、骚扰电话、外卖、快递、推销员中至少一项，不限于所举示例。运营商中某些部门可能属于标签持有方，拥有对象的标签，和一部分数据，例如用户注册时间，用户活动范围等等。但是这些特征太少，不足以训练准确率更高的模型。因此，可以联合其他部门进行联合模型的训练，而其他部门只拥有对象的特征数据，属于标签缺失方，例如，该号码每月的通话时长，通话所发生的时段，每月通话次数，短途通话次数等等。不同部门的数据用于联合模型训练，就可以得到更准确的模型用来识别电话号码的用户类别。
40.又例如，联合模型用于预测用户的借贷风险。即对象为用户，标签为借贷风险级别。银行方可以作为标签持有方，电商平台可以作为标签缺失方。电商平台可以提供用户的消费行为数据，注册信息等，例如各种类型的商品的购买数据等。银行方和电商平台可以进行联邦学习，得到的联合模型可以更加准确的预测用户的借贷风险。
41.又例如，联合模型用于预测用户的保险风险。即对象为用户，标签为保险风险级别。保险公司可以作为标签持有方，互联网平台可以作为标签缺失方。互联网平台可以提供用户的出行数据等。保险公司和互联网平台可以进行联邦学习，得到的联合模型可以更加准确的预测用户的保险风险。
42.上述只是用于说明联邦学习，标签持有方和标签缺失方的一些示例，本公开的方法可以应用于各种应用场景，不限于所举示例。
43.标签缺失方和标签持有方共同训练联合模型，各自所持有的模型中包括嵌入(embedding)层，嵌入层即用于将输入的文本信息转换为特征向量的模块。本公开对联合模型进行改进，在标签持有方所持有的模型嵌入层增加输出接口。在标签持有方将训练数据(包括标签)输入所持有的模型后，经过嵌入层之后将各个标签的标签向量通过输出接口输出。标签向量是将各个标签形成序列，生成一个对应的向量。标签持有方对各个标签的标签向量进行加密后发送到标签缺失方。即标签信息例如包括：标签持有方加密后的各个标签的标签向量，例如表示为[l
e
]
b
，l
e
表示各个标签的标签向量，[l
e
]
b
表示标签持有方b进行加密后的各个标签的标签向量。加密方法可以采用联邦学习中的加密方法，例如同态加密或
者混淆电路或者秘密共享等，不限于所举示例。这些加密方法可以允许直接对密文进行特定的运算，得到的数据仍是加密的结果，且与对明文进行同样的操作再将结果加密一样。
[0044]
在步骤s104中，标签缺失方根据标签信息，利用注意力机制确定本地持有的对象的各项特征相对于标签的重要度。
[0045]
在一些实施例中，对标签缺失方所持有的模型进行改进，嵌入层之后接入注意力机制模块。如图2所示，对标签缺失方所持有的模型中可以包括嵌入层，还可以包括其他运算模块，输出层等，根据具体模型进行设置。现有的联合模型中不包括用于对各项特征的特征向量进行处理的注意力机制模块，嵌入层输出的各项特征的特征向量直接输入后续的其他模块。本公开加入注意力机制模块，嵌入层输出的各项特征的特征向量输入注意力机制模块，标签持有方发送的标签信息[l
e
]
b
也被输入注意力机制模块。
[0046]
在一些实施例中，标签缺失方将嵌入层输出的各项特征对应的特征向量，以及标签信息输入注意力机制模块，得到注意力机制模块输出的标签持有方加密后的各项特征相对于标签的权重；标签缺失方根据标签持有方加密后的各项特征相对于标签的权重，确定各项特征相对于标签的重要度。例如，标签持有方加密后的各项特征相对于标签权重表示为[w]
b
，w表示各项特征相对于标签权重向量。
[0047]
在一些实施例中，在注意力机制模型内，利用预设函数计算标签持有方加密后的各个标签的标签向量与各项特征的特征向量对应的注意力得分；利用softmax激活函数将注意力得分映射为标签持有方加密后的各项特征相对于标签的权重。例如，计算标签持有方加密后的各个标签的标签向量与各项特征的特征向量的内积，作为注意力得分。例如，一项特征的特征向量可以表示为f
e
，注意力得分可以根据以下公式计算。
[0048]
[r(
f，l)
]
b
＝f
e
·
[l
e
]
b
ꢀꢀꢀꢀꢀꢀꢀ
(1)
[0049]
进一步，各项特征相对于标签的权重可以采用以下公式表示。
[0050][0051]
公式(2)中，i，j表示特征的编号，[w
i
]
b
表示第i个特征相对于标签的权重经过标签持有方加密后的结果，[r
i
]
b
，[r
j
]
b
是根据公式(1)计算得到，1≤i≤n，1≤j≤n，i，j为正整数，n为特征的总数。注意力得分的计算方法可以采用其他现有方法，不限于所举示例。
[0052]
进一步，标签缺失方对标签持有方加密后的各项特征相对于标签的权重进行二次加密，例如，加密后的结果表示为[[w]
b
]
a
，即对[w]
b
再次进行加密。标签缺失方的加密方法和标签持有方的加密方法相同。标签缺失方将标签缺失方和标签持有方加密后的各项特征相对于标签的权重[[w]
b
]
a
，发送至标签持有方。标签缺失方接收标签持有方对二次加密的结果进行解密后返回的标签缺失方加密后的各项特征相对于标签的权重；即标签持有方进行解密，得到[w]
a
。标签缺失方对标签缺失方加密后的各项特征相对于标签的权重进行解密，得到各项特征相对于标签的权重w，作为各项特征相对于标签的重要度。
[0053]
上述过程中采用加密传输的方法，保证传输的信息的安全性，同时可以使标签持有方也无法获知各项特征相对于标签的重要度，保证了数据的隐私性。
[0054]
在步骤s106中，标签缺失方根据各项特征相对于标签的重要度，调整各项特征对应的特征向量。
[0055]
如图2所示，注意力机制模块的结果输出后经过标签持有方和标签缺失方的加密
和解密过程后得到各项特征相对于标签的权重，返回至模型中的调整模块。在该模块可以预设运算函数对特征向量进行调整，例如针对每项特征，标签缺失方将该特征对应的特征向量分别与特征相对于标签的权重相乘，得到各项特征调整后的特征向量。这样可以使各项特征的特征向量体现相对于标签的重要程度。
[0056]
在步骤s108中，标签缺失方将各项特征调整后的特征向量输入联合模型中标签缺失方所持有的模型进行联邦学习。
[0057]
如图2所示，调整后的特征向量被输入模型中后续的运算模块。
[0058]
上述实施例的方法中标签持有方可以将对象的标签信息发送至标签缺失方，标签缺失方通过注意力机制确定本地持有的对象的各项特征相对于标签的重要度，进而可以根据重要度调整各项特征对应的特征向量，利用调整后的特征向量进行联邦学习。标签持有方发送的标签向量是经过加密的避免了数据的泄露。标签缺失方根据注意力机制可以激活重要特征，去除无效特征，减小联合模型训练难度，同时提高了联合模型的准确率和训练效率。
[0059]
下面结合图3描述本公开的数据处理方法的另一些实施例。
[0060]
图3为本公开数据处理方法另一些实施例的流程图。如图3所示，该实施例的方法包括：步骤s302～s322。
[0061]
在步骤s302中，标签持有方获取所持有的模型的嵌入层生成的对象的各个标签的标签向量。
[0062]
在步骤s304中，标签持有方对各个标签的标签向量进行加密，得到对象的标签信息。
[0063]
标签持有方对标签向量进行加密可以防止标签信息被标签缺失方获得，保证了信息隐私安全。
[0064]
在步骤s306中，标签持有方将对象的标签信息发送至标签缺失方。
[0065]
在步骤s308中，标签缺失方获取所持有的模型的嵌入层生成的对象的各项特征的特征向量。
[0066]
步骤s308与步骤s302～s306可以不分先后顺序。
[0067]
在步骤s310中，标签缺失方将对象的标签信息和各项特征的特征向量输入注意力机制模块，得到标签持有方加密后的各项特征相对于标签的权重。
[0068]
在步骤s312中，标签缺失方对标签持有方加密后的各项特征相对于标签的权重进行二次加密，并将二次加密后的结果发送至标签持有方。
[0069]
在步骤s314中，标签持有方对二次加密的结果进行解密，得到标签缺失方加密后的各项特征相对于标签的权重，并返回至标签缺失方。
[0070]
在步骤s316中，标签缺失方对标签缺失方加密后的各项特征相对于标签的权重进行解密，得到各项特征相对于标签的权重。
[0071]
在步骤s318中，标签缺失方根据各项特征相对于标签的权重，调整各项特征对应的特征向量。
[0072]
在步骤s320中，标签缺失方将各项特征调整后的特征向量输入联合模型中标签缺失方所持有的模型进行训练。
[0073]
在步骤s322中，标签持有方对持有的模型进行训练。
[0074]
对联合模型训练的过程可以参考现有技术，例如，标签持有方和标签缺失方在本地计算训练梯度，对梯度的更新进行加密，并将加密的结果发送到中间服务器，或者发送至其中一方；中间服务器或其中一方执行安全聚合，将汇总结果发回给标签持有方和标签缺失方；标签持有方和标签缺失方使用解密的梯度更新各自的模型。上述过程可以参考现有计算，在此不再赘述。
[0075]
在一些实施例中，联合模型训练好之后，获取待识别对象的各项特征。将待识别对象的各项特征输入联合模型，得到输出的待识别对象对应的标签，并进行显示。
[0076]
例如，获取待识别电话号码对应的各项特征，输入联合模型，得到待识别电话号码对应的用户类别，在终端进行显示。
[0077]
本公开还提供一种数据处理装置，可以设置于标签缺失方，下面结合图4进行描述。
[0078]
图4为本公开数据处理装置的一些实施例的结构图。如图4所示，该实施例的装置40包括：接收单元410，确定单元420，调整单元430模型输入单元440。
[0079]
接收单元410用于接收标签持有方发送的对象的标签信息，标签信息包括：标签持有方加密后的各个标签的标签向量。
[0080]
在一些实施例中，对象为电话号码，标签为用户类别，各项特征包括用户的通信行为特征；其中，用户类别包括：普通用户、骚扰电话、外卖、快递、推销员中至少一项；或者，对象为用户，标签为借贷风险级别，各项特征包括用户消费行为数据；或者，对象为用户，标签为保险风险级别，各项特征包括用户出行数据。
[0081]
确定单元420用于根据标签信息，利用注意力机制确定本地持有的对象的各项特征相对于标签的重要度。
[0082]
在一些实施例中，标签缺失方所持有的模型中嵌入层之后接入注意力机制模块；确定单元420用于将嵌入层输出的各项特征对应的特征向量，以及标签信息输入注意力机制模块，得到注意力机制模块输出的标签持有方加密后的各项特征相对于标签的权重；根据标签持有方加密后的各项特征相对于标签的权重，确定各项特征相对于标签的重要度。
[0083]
在一些实施例中，确定单元420用于对标签持有方加密后的各项特征相对于标签的权重进行加密；将标签缺失方和标签持有方加密后的各项特征相对于标签的权重，发送至标签持有方；接收标签持有方进行解密后返回的标签缺失方加密后的各项特征相对于标签的权重；对标签缺失方加密后的各项特征相对于标签的权重进行解密，得到各项特征相对于标签的权重，作为各项特征相对于标签的重要度。
[0084]
在一些实施例中，在注意力机制模型内，利用预设函数计算标签持有方加密后的各个标签的标签向量与各项特征的特征向量对应的注意力得分；利用softmax激活函数将注意力得分映射为标签持有方加密后的各项特征相对于标签的权重。
[0085]
在一些实施例中，标签持有方和标签缺失方进行加密的方法为同态加密或者差分隐私或者混淆电路或者秘密共享。
[0086]
调整单元430用于根据各项特征相对于标签的重要度，调整各项特征对应的特征向量。
[0087]
在一些实施例中，调整单元430用于针对每项特征，将该特征对应的特征向量分别与特征相对于标签的权重相乘，得到各项特征调整后的特征向量。
[0088]
模型输入单元440用于将各项特征调整后的特征向量输入联合模型中标签缺失方所持有的模型进行联邦学习。
[0089]
在一些实施例中，该装置还包括：应用单元450，用于在联合模型训练完成后，获取待识别对象的各项特征；将待识别对象的各项特征输入联合模型，得到输出的待识别对象对应的标签，并进行显示。
[0090]
本公开的实施例中的数据处理装置可由各种计算设备或计算机系统来实现，下面结合图4以及图5进行描述。
[0091]
图5为本公开数据处理装置的一些实施例的结构图。如图5所示，该实施例的装置50包括：存储器510以及耦接至该存储器510的处理器520，处理器520被配置为基于存储在存储器510中的指令，执行本公开中任意一些实施例中的数据处理方法。
[0092]
其中，存储器510例如可以包括系统存储器、固定非易失性存储介质等。系统存储器例如存储有操作系统、应用程序、引导装载程序(boot loader)、数据库以及其他程序等。
[0093]
图6为本公开数据处理装置的另一些实施例的结构图。如图6所示，该实施例的装置60包括：存储器610以及处理器620，分别与存储器510以及处理器520类似。还可以包括输入输出接口630、网络接口640、存储接口650等。这些接口630，640，650以及存储器610和处理器620之间例如可以通过总线660连接。其中，输入输出接口630为显示器、鼠标、键盘、触摸屏等输入输出设备提供连接接口。网络接口640为各种联网设备提供连接接口，例如可以连接到数据库服务器或者云端存储服务器等。存储接口650为sd卡、u盘等外置存储设备提供连接接口。
[0094]
本领域内的技术人员应当明白，本公开的实施例可提供为方法、系统、或计算机程序产品。因此，本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用非瞬时性存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0095]
本公开是参照根据本公开实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解为可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0096]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0097]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0098]
以上所述仅为本公开的较佳实施例，并不用以限制本公开，凡在本公开的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本公开的保护范围之内。