模型训练方法、优化训练数据集的方法及其装置与流程

本公开涉及人工智能领域，尤其涉及机器学习领域，具体地，涉及模型训练方法、优化训练数据集的方法、及其装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术：

在进行模型训练的过程中，需要从大量的训练数据中选择有效的训练数据用于进行模型训练，以便避免诸如实体类别不均衡的情况，从而提升模型的性能。然而，由于训练数据集中的训练数据量过于庞大，并且训练数据的质量参差不齐，导致需要耗费客观的人力成本才能实现训练数据的优化选择，并且还需要工作人员具备专业的知识水平。

技术实现要素：

本公开提供了一种模型训练方法、优化训练数据集的方法、及其装置、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的第一方面，提供了一种模型训练方法。该方法可以包括基于包含标注信息的第一训练数据集训练所述模型。进而，可以利用经训练的模型确定第一训练数据集中的训练数据的预测结果。该方法还可以包括如果预测结果不同于训练数据的相应标注信息，将训练数据确定为第二训练数据集的至少第一部分，第二训练数据集不同于第一训练数据集。此外，该方法可以进一步包括基于第二训练数据集训练所述模型。

根据本公开的第二方面，提供了一种优化训练数据集的方法，该方法可以包括利用经训练的模型确定用于训练模型的第一训练数据集中的训练数据的预测结果。此外，该方法还可以包括如果预测结果不同于训练数据的相应标注信息，将训练数据确定为第二训练数据集的至少第一部分，第二训练数据集不同于第一训练数据集，并且用于进一步训练模型。

在本公开的第三方面中，提供了一种模型训练装置，包括：第一模型训练模块，被配置为基于包含标注信息的第一训练数据集训练所述模型；预测结果确定模块，被配置为利用经训练的所述模型确定所述第一训练数据集中的训练数据的预测结果；第一训练数据集确定模块，被配置为如果所述预测结果不同于所述训练数据的相应标注信息，将所述训练数据确定为第二训练数据集的至少第一部分，所述第二训练数据集不同于所述第一训练数据集；第二模型训练模块，被配置为基于所述第二训练数据集训练所述模型。

在本公开的第四方面中，提供了一种优化训练数据集的装置，包括：预测结果确定模块，被配置为利用经训练的模型确定用于训练所述模型的第一训练数据集中的训练数据的预测结果；以及第一训练数据集确定模块，被配置为如果所述预测结果不同于所述训练数据的相应标注信息，将所述训练数据确定为第二训练数据集的至少第一部分，所述第二训练数据集不同于所述第一训练数据集，并且用于进一步训练所述模型。

在本公开的第五方面中，提供了一种电子设备，包括一个或多个处理器；以及存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现根据本公开的第一方面、第二方面的方法。

在本公开的第六方面中，提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现根据本公开的第一方面、第二方面的方法。

在本公开的第七方面中，提供了一种计算机程序产品，计算机程序在被处理器执行时实现根据本公开的第一方面、第二方面的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1示出了本公开的多个实施例能够在其中实现的示例环境的示意图；

图2示出了根据本公开的实施例的模型训练的过程的流程图；

图3示出了根据本公开的实施例的模型训练的详细过程的流程图；

图4示出了根据本公开的实施例的用于训练实体识别模型的主要架构的示意性框图。

图5示出了根据本公开的实施例的优化训练数据集的过程的流程图；

图6示出了根据本公开的实施例的模型训练装置的框图；

图7示出了根据本公开的实施例的优化训练数据集的装置的框图；以及

图8示出了能够实施本公开的多个实施例的计算设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

在本公开的实施例的描述中，术语“包括”及其类似用语应当理解为开放性包含，即“包括但不限于”。术语“基于”应当理解为“至少部分地基于”。术语“一个实施例”或“该实施例”应当理解为“至少一个实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。

应理解，在进行模型训练时通常会遇到由于训练数据集的质量不高(诸如，存在噪音)而导致训练出的模型的性能不满足要求的问题。为了解决此问题，传统方式是通过纯人工标注的方式来对训练数据集进行数据清洗和标注。例如，在对实体识别模型进行训练时，如果发现训练好的模型不能满足性能要求，工作人员就需要依赖专业知识对训练数据集进行清洗、筛选、甚至重新标注，从而调整实体类别分布。经过优化的数据集会继续用于训练该实体识别模型，如果该模型的性能仍然不能满足性能要求。就需要通过不断地执行上述操作来对样本数据进行人工调整，直到模型效果达标。由此可见，上述模型训练过程需要耗费可观的人力成本，且由于每个领域均需要相应的专业知识，故上述模型训练过程也无法进行领域迁移。

为此，本公开提供了一种模型训练方法，该方法能够在训练过程中优化训练数据集，并将训练数据集用于最终的模型训练，从而可以在不依赖人工标注的前提下提升模型训练的效果。此外，本公开还提供了一种优化训练数据集的方法。

根据本公开的实施例，提出了一种模型训练方案。在该方案中，可以基于经标注的一个训练数据集来进行模型训练，并且在确定训练好的模型的性能不达标的情况下，利用该模型来确定该训练数据集的各个训练数据的预测结果。如果存在预测结果不同于相应标注信息的训练数据，则将该训练数据收集到增强的训练数据集中。该增强的训练数据集中还可以包含预测结果处于阈值边界的训练数据以及少量预测结果优秀的训练数据。通过形成增强的训练数据集，可以利用该增强的训练数据集进一步训练上述模型。以此方式，实现了高效、准确的模型训练。

对应于上述模型训练方法，本公开还提供了一种优化训练数据集的方法。例如，可以利用经训练的模型确定用于训练该模型的训练数据集中的训练数据的预测结果。如果该预测结果不同于训练数据的相应标注信息，则可以将该训练数据收集到增强的训练数据集中。该增强的训练数据集可以用于进一步训练该模型。以此方式，可以按照不依赖人工标注的方式实现训练数据集的优化。

以下将参照附图来具体描述本公开的实施例。图1示出了本公开的多个实施例能够在其中实现的示例环境100的示意图。如图1所示，本公开以实体识别模型为例示出了模型训练和应用的方式。示例环境100中包含输入的待识别文本110、计算设备120和经计算设备120确定的识别结果130。

在一些实施例中，用户输入的待识别文本110可以是任意文本串。通过识别该文本串中的命名实体，可以进一步实现信息提取、问答系统、句法分析、机器翻译等众多自然语言处理任务。基于计算设备120的处理，可以确定待识别文本110的识别结果130，例如，待识别文本“张三演唱aaa”的识别结果是“张三(人名)”以及“aaa(歌名)”(张三可以是某歌手的名字，aaa可以是某歌曲名)。

在一些实施例中，计算设备120可以包括但不限于个人计算机、服务器计算机、手持或膝上型设备、移动设备(诸如移动电话、个人数字助理pda、媒体播放器等)、消费电子产品、小型计算机、大型计算机、云计算资源等。

下文将以机器学习模型对计算设备120中的模型的训练和使用进行描述。如图1所示，示例环境100总体上可以包括模型训练系统160和模型应用系统170。作为示例，模型训练系统160和/或模型应用系统170可以在如图1所示的计算设备120中实现。应当理解，仅出于示例性的目的描述示例环境100的结构和功能并不旨在限制本文所描述主题的范围。本文所描述主题可以在不同的结构和/或功能中实施。

如前所述，确定待识别文本110的识别结果130的过程可以分为两个阶段：模型训练阶段和模型应用阶段。作为示例，在模型训练阶段中，模型训练系统160可以利用训练数据集150来训练用于实现命名实体识别的识别模型140。应理解，训练数据集150可以是多个参考特征数据(作为模型140的输入)以及相应的参考标注信息(作为模型140的输出)的组合。在模型应用阶段中，模型应用系统170可以接收经训练的识别模型140，从而由识别模型140基于待识别文本110来确定识别结果130。

在其他实施例中，识别模型140可以被构建为学习网络。在一些实施例中，该学习网络可以包括多个网络，其中每个网络可以是一个多层神经网络，其可以由大量的神经元组成。通过训练过程，每个网络中的神经元的相应参数能够被确定。这些网络中的神经元的参数被统称为识别模型140的参数。

识别模型140的训练过程可以以迭代方式来被执行，直至识别模型140的参数中的至少部分参数收敛或者直至达到预定迭代次数，由此获得最终的模型参数。

上文描述的技术方案仅用于示例，而非限制本发明。应理解，还可以按照其他方式和连接关系来布置各个网络。为了更清楚地解释本公开方案的原理，下文将参考图2来更详细描述模型训练的过程。

图2示出了根据本公开的实施例的模型训练的过程200的流程图。在某些实施例中，过程200可以在图1的计算设备120中实现。现参照图2并结合图1描述根据本公开实施例的用于训练模型的过程200。为了便于理解，在下文描述中提及的具体实例均是示例性的，并不用于限定本公开的保护范围。

在202，计算设备120可以基于包含标注信息的第一训练数据集训练模型。如上所述，该模型可以是用于文本实体识别的识别模型140。在某些实施例中，为了训练识别模型140，计算设备120可以将第一训练数据集应用于待训练的识别模型140，以确定该识别模型140的收敛的参数。以此方式，可以初步实现模型的训练。如果该模型的性能达标，则可以直接输出该模型以用于文本实体识别。

在204，计算设备120可以利用经训练的识别模型140确定第一训练数据集中的训练数据的预测结果。为了更为详细地描述本公开的实施例，现结合图3描述该过程。图3示出了根据本公开的实施例的模型训练的详细过程300的流程图。在某些实施例中，过程300可以在图1的计算设备120中实现。现参照图3并结合图1描述根据本公开实施例的用于训练模型的详细过程300。为了便于理解，在下文描述中提及的具体实例均是示例性的，并不用于限定本公开的保护范围。

在302，计算设备120可以确定经训练的识别模型140的效果参数，也就是说，可以对识别模型140的效果进行评估。在某些实施例中，效果评估的方式可以是评估识别模型140的准确率、召回率。作为示例，经标注的训练数据“张三演唱aaa”中，“张三”的实体类型被标注为“歌手”，“aaa”的实体类型被标注为“歌曲”。在模型训练过程中，将训练数据“张三演唱aaa”输入识别模型140后，识别模型140输出的预测结果如果是“张三”的实体类型为“演员”，“aaa”的实体类型为“歌曲”，则“张三”的实体类型即预测错误并且没有预测出实体类型“歌手”，因此“张三”的预测结果未被召回。由此，计算设备120可以逐一确定每个训练数据的召回情况，并统计召回率作为效果参数。

在304，计算设备120可以将经确定的效果参数与预定效果进行比较。例如，可以将确定的召回率与阈值召回率进行比较。当确定效果达标时，进入306，计算设备120可以输出经训练的模型。当确定效果不达标时，进入308。在308，计算设备120可以将第一训练数据集中的训练数据施加至经训练的识别模型140，以确定上述预测结果。以此方式，可以通过对模型效果进行评估来确定是否自动进行训练数据的优化工作。

回到206，计算设备120会对确定的预测结果和该训练数据的相应标注信息进行比较。如果预测结果不同于相应标注信息，计算设备120就可以将该训练数据确定为第二训练数据集的至少第一部分。应理解，第二训练数据集不同于上述第一训练数据集。也就是说，计算设备120可以将被预测错误的训练数据添加到第二训练数据集。

在某些实施例中，为了丰富第二训练数据集的样本，可以在第二训练数据集中进一步添加其他训练数据。作为示例，计算设备120可以将第一训练数据集中预测结果与相应标注信息相同的训练数据中的部分训练数据确定为第二训练数据集的第二部分。应理解，该第二部分不同于上述第一部分。也就是说，计算设备120可以从大量被预测正确的训练数据中选择少量训练数据，并将这些训练数据添加至第二训练数据集。

作为另一示例，在训练数据的相应标注信息用于指示预测结果应当落入的范围时，计算设备120可以判定训练数据的预测结果是否处于该范围的边界，或者说，该预测结果是否等于该范围的临界值。如果预测结果等于训练数据的相应标注信息所指示的范围的临界值，计算设备120可以将该训练数据确定为第二训练数据集的第三部分。应理解，该第三部分不同于上述第一部分，也不同于上述第二部分。也就是说，计算设备120可以将具有“难分”预测结果的训练数据添加至第二训练数据集，用于进行有针对性的模型训练。

通过重新创建上述第二训练数据集，在208，计算设备120可以基于该第二训练数据集训练识别模型140。

通过上述实施例，提出了一种模型训练方法，通过改进学习框架，在模型训练过程中去除了人工标注的步骤。以此方式，本公开可以根据模型预测出现的问题优化下一轮模型训练的样本数据，从而提升了模型效果。并且，由于去除了人工标注的步骤，故可以更加有效的降低人力成本，且具有较好的扩展及迁移能力。

为了更清晰的展示本公开的技术方案，下面将参照图4描述根据本公开的其中一个具体实施方式的模型训练架构。图4示出了根据本公开的实施例的用于训练实体识别模型的主要架构400的示意性框图。应理解，本公开的实施例均是示例性的，实体识别模型可以被其他任何学习模型所替换。

如图4所示，训练数据410可以是具有大量训练样本以及相应标注信息的训练数据集。为了完成模型训练，训练数据410被输入到计算设备420中。计算设备420包含多个用于模型训练的单元，例如，模型训练单元421、效果评估单元422、训练数据筛选单元423和经优化的训练数据424。

在模型训练单元421，可以基于训练数据410执行模型训练过程，从而可以训练出相应的识别模型。之后，效果评估单元422可以对训练出的模型进行效果评估。当评估的效果不达标时，训练数据筛选单元423会将训练数据410重新输入训练好的识别模型，并逐一确定每个训练数据的预测结果。训练数据筛选单元423从所有结果中挑选出预测错误的训练数据、以及预测结果位于边界的训练数据、以及少量预测正确的训练数据，并将这些训练数据确定为优化的训练数据424。基于优化的训练数据424，模型训练单元421可以进一步执行模型训练过程，并且上述其他单元也可以继续执行上述过程，直至模型效果达标。当模型效果达标后，计算设备420可以输出实体识别模型430，以用于进行文本实体识别。

此外，针对本公开提出的模型训练方式，下面会详细介绍该训练方式中的训练数据集的优化过程。图5示出了根据本公开的实施例的优化训练数据集的过程500的流程图。

如图5所示，在502，计算设备120可以利用经训练的模型确定用于训练模型的第一训练数据集中的训练数据的预测结果。具体地，计算设备120可以对模型的效果进行评估。之后，在504，计算设备120可以对确定的预测结果和该训练数据的相应标注信息进行比较。如果预测结果不同于相应标注信息，计算设备120就可以将该训练数据确定为第二训练数据集的至少第一部分。也就是说，计算设备120可以将被预测错误的训练数据添加到第二训练数据集。以此方式，可以在不需要人工标注的前提下对训练数据进行筛选和优化，从而提升模型训练的效率。

在某些实施例中，为了丰富第二训练数据集的样本，可以在第二训练数据集中进一步添加其他训练数据。作为示例，计算设备120可以将第一训练数据集中预测结果与相应标注信息相同的训练数据中的部分训练数据确定为第二训练数据集的第二部分。也就是说，计算设备120可以从大量被预测正确的训练数据中选择少量训练数据，并将这些训练数据添加至第二训练数据集。

作为另一示例，在训练数据的相应标注信息用于指示预测结果应当落入的范围时，计算设备120可以判定训练数据的预测结果是否处于该范围的边界，或者说，该预测结果是否等于该范围的临界值。如果预测结果等于训练数据的相应标注信息所指示的范围的临界值，计算设备120可以将该训练数据确定为第二训练数据集的第三部分。也就是说，计算设备120可以将具有“难分”预测结果的训练数据添加至第二训练数据集，用于进行有针对性的模型训练。

图6示出了根据本公开的实施例的用于模型训练的装置600的框图。如图6所示，装置600可以包括：第一模型训练模块602，被配置为基于包含标注信息的第一训练数据集训练所述模型；预测结果确定模块604，被配置为利用经训练的所述模型确定所述第一训练数据集中的训练数据的预测结果；第一训练数据集确定模块606，被配置为如果所述预测结果不同于所述训练数据的相应标注信息，将所述训练数据确定为第二训练数据集的至少第一部分，所述第二训练数据集不同于所述第一训练数据集；第二模型训练模块608，被配置为基于所述第二训练数据集训练所述模型。

在本公开的实施例中，模型是实体识别模型。

在本公开的实施例中，预测结果确定模块604包括：效果参数确定模块，被配置为确定经训练的所述模型的效果参数；以及判定模块，被配置为如果经确定的所述效果参数不符合预定效果，将所述第一训练数据集中的训练数据施加至经训练的所述模型，以确定所述预测结果。

在本公开的实施例中，该装置600，还包括：第二训练数据集确定模块，被配置为将所述第一训练数据集中预测结果与相应标注信息相同的训练数据中的部分训练数据确定为所述第二训练数据集的第二部分，所述第二部分不同于所述第一部分。

在本公开的实施例中，训练数据的相应标注信息用于指示所述预测结果应当落入的范围，并且装置600还包括：第三训练数据集确定模块，被配置为如果所述预测结果等于所述训练数据的相应标注信息所指示的所述范围的临界值，将所述训练数据确定为所述第二训练数据集的第三部分，所述第三部分不同于所述第一部分。

在本公开的实施例中，第一模型训练模块602进一步被配置为：将所述第一训练数据集应用于待训练的所述模型，以确定所述模型的收敛的参数。

图7示出了根据本公开的实施例的用于优化训练数据集的装置700的框图。如图7所示，装置700可以包括：预测结果确定模块702，被配置为利用经训练的模型确定用于训练所述模型的第一训练数据集中的训练数据的预测结果；以及第一训练数据集确定模块704，被配置为如果所述预测结果不同于所述训练数据的相应标注信息，将所述训练数据确定为第二训练数据集的至少第一部分，所述第二训练数据集不同于所述第一训练数据集，并且用于进一步训练所述模型。

在本公开的实施例中，装置700还包括：第二训练数据集确定模块，被配置为将所述第一训练数据集中预测结果与相应标注信息相同的训练数据中的部分训练数据确定为所述第二训练数据集的第二部分，所述第二部分不同于所述第一部分。

在本公开的实施例中，训练数据的相应标注信息用于指示所述预测结果应当落入的范围，并且装置700还包括：第三训练数据集确定模块，被配置为如果所述预测结果等于所述训练数据的相应标注信息所指示的所述范围的临界值，将所述训练数据确定为所述第二训练数据集的第三部分，所述第三部分不同于所述第一部分。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图8示出了能够实施本公开的多个实施例的计算设备800的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(rom)802中的计算机程序或者从存储单元808加载到随机访问存储器(ram)803中的计算机程序，来执行各种适当的动作和处理。在ram803中，还可存储设备800操作所需的各种程序和数据。计算单元801、rom802以及ram803通过总线804彼此相连。输入/输出(i/o)接口805也连接至总线804。

设备800中的多个部件连接至i/o接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如过程200、300、500。例如，在一些实施例中，过程200、300、500可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由rom802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到ram803并由计算单元801执行时，可以执行上文描述的过程200、300、500的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行过程200、300、500。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。