众包平台实现方法及装置、存储介质和电子设备与流程

本公开涉及数据处理技术领域，具体而言，涉及一种众包平台实现方法、众包平台实现装置、存储介质和电子设备。

背景技术：

随着大数据时代的来临，越来越多的数据开始被唤醒、发现、使用。然而，这些数据具有不规范化、复杂化和多样化的特点，这将导致这些数据可能不会被计算机自动识别，而成为无效数据被抛弃，使得数据的使用价值大大降低。为了提升数据质量并挖掘数据价值，需要人工将数据进行归类、整理、编辑、纠错和批注等工作。

首先，需要手动将数据标注任务拆分为多个子任务并分发给多个标注人员；随后，各标注人员根据接收到的子任务中数据的数据类型选择对应的单机版标注工具进行标注；接下来，需要将各标注人员标注后的数据进行整合并保存。

然而，一方面，标注数据未进行规范化，导致多个标注人员的标注结果数据可能出现不一致的情况，缺乏对数据质量的控制；另一方面，数据拆分等过程需要人为干预，效率较低。

鉴于此，需要一种众包平台实现方法、众包平台实现装置、存储介质和电子设备。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现要素：

本公开的目的在于提供一种众包平台实现方法、众包平台实现装置、存储介质和电子设备，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。

根据本公开的一个方面，提供一种众包平台实现方法，包括：

获取由发布方发送并经由中转仓库规范化处理后的待标注数据集；

将所述待标注数据集划分成数据子集；

将所述数据子集发送至用户端以供标注人员进行标注；

接收所述用户端发送的标注后的数据；以及

比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计。

在本公开的一种示例性实施例中，比较针对同一数据子集进行标注的多个标注人员的标注后的数据并根据比较结果对所述多个标注人员进行绩效统计包括：

确定针对同一数据子集进行标注的多个标注人员的标注后的数据之间的差异内容；

将所述差异内容对应的待标注数据提供给裁定人员，由所述裁定人员对所述差异内容对应的待标注数据进行标注以得到与所述差异内容对应的标准答案；

根据所述标准答案对所述多个标注人员进行绩效统计。

在本公开的一种示例性实施例中，所述众包平台实现方法还包括：

将所述多个标注人员的标注后的数据的相同内容以及所述标准答案发送至所述中转仓库以供所述发布方获取。

在本公开的一种示例性实施例中，所述众包平台实现方法还包括：

获取针对所述数据子集的标注建议；

在将所述数据子集发送至用户端时，将所述标注建议发送至用户端以便所述标注人员获知所述标注建议。

在本公开的一种示例性实施例中，获取针对所述数据子集的标注建议包括：

获取标准数据集；

基于所述标准数据集确定针对所述数据子集的标注建议；

获取所述标注建议。

在本公开的一种示例性实施例中，所述众包平台实现方法还包括：

在将所述数据子集发送至用户端时，获取针对所述数据子集的标注规则以控制所述用户端基于所述标注规则渲染标注界面。

根据本公开的一个方面，提供一种众包平台实现装置，包括：

数据集获取模块，用于获取由发布方发送并经由中转仓库规范化处理后的待标注数据集；

数据集划分模块，用于将所述待标注数据集划分成数据子集；

数据子集发送模块，用于将所述数据子集发送至用户端以供标注人员进行标注；

数据接收模块，用于接收所述用户端发送的标注后的数据；以及

绩效统计模块，用于比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计。

在本公开的一种示例性实施例中，所述绩效统计模块包括：

差异内容确定单元，用于确定针对同一数据子集进行标注的多个标注人员的标注后的数据之间的差异内容；

差异内容发送单元，用于将所述差异内容对应的待标注数据提供给裁定人员，由所述裁定人员对所述差异内容对应的待标注数据进行标注以得到与所述差异内容对应的标准答案；

绩效统计单元，用于根据所述标准答案对所述多个标注人员进行绩效统计。

在本公开的一种示例性实施例中，所述众包平台实现装置还包括：

数据发送模块，用于将所述多个标注人员的标注后的数据的相同内容以及所述标准答案发送至所述中转仓库以供所述发布方获取。

在本公开的一种示例性实施例中，所述众包平台实现装置还包括：

标注建议获取模块，用于获取针对所述数据子集的标注建议；

标注建议发送模块，用于在将所述数据子集发送至用户端时，将所述标注建议发送至用户端以便所述标注人员获知所述标注建议。

在本公开的一种示例性实施例中，所述标注建议获取模块包括：

标准数据集获取单元，用于获取标准数据集；

标注建议确定单元，用于基于所述标准数据集确定针对所述数据子集的标注建议；

标注建议获取单元，用于获取所述标注建议。

在本公开的一种示例性实施例中，所述众包平台实现装置还包括：

标注规则获取模块，用于在将所述数据子集发送至用户端时，获取针对所述数据子集的标注规则以控制所述用户端基于所述标注规则渲染标注界面。

根据本公开的一个方面，提供一种存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的众包平台实现方法。

根据本公开的一个方面，提供一种电子设备，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的众包平台实现方法。

在本公开的一些实施例所提供的技术方案中，通过将由中转仓库规范化处理后的待标注数据集划分成数据子集，将数据子集发送至用户端以供标注人员进行标注，并比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计，一方面，可以实现自动化的数据分发过程，无需人工参与，提高了工作效率；另一方面，通过比较针对同一数据子集进行标注的多个标注人员的标注后的数据并根据比较结果对所述多个标注人员进行绩效统计，省去了人工统计标注人员绩效的过程；再一方面，采用中转仓库对数据预先进行规范化处理，避免了数据格式不一致的情况。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示意性示出了根据本公开的示例性实施方式的众包平台实现方法的流程图；

图2示出了根据本公开的示例性实施方式的众包平台实现方法对应的架构的示意图；

图3示意性示出了根据本公开的示例性实施方式的众包平台实现装置的方框图；

图4示意性示出了根据本公开的示例性实施方式的绩效统计模块的方框图；

图5示意性示出了根据本公开的示例性实施方式的众包平台实现装置的另一方框图；

图6示意性示出了根据本公开的示例性实施方式的众包平台实现装置的又一方框图；

图7示意性示出了根据本公开的示例性实施方式的标注建议获取模块的方框图；

图8示意性示出了根据本公开的示例性实施方式的众包平台实现装置的再一方框图；

图9示出了根据本公开的示例性实施方式的存储介质的示意图；以及

图10示意性示出了根据本公开的示例性实施方式的电子设备的方框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的步骤。例如，有的步骤还可以分解，而有的步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

图1示意性示出了本公开的示例性实施方式的众包平台实现方法的流程图。参考图1，所述众包平台实现方法可以包括以下步骤：

s10.获取由发布方发送并经由中转仓库规范化处理后的待标注数据集；

s12.将所述待标注数据集划分成数据子集；

s14.将所述数据子集发送至用户端以供标注人员进行标注；

s16.接收所述用户端发送的标注后的数据；以及

s18.比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计。

在本公开的示例性实施方式的众包平台实现方法中，通过将由中转仓库规范化处理后的待标注数据集划分成数据子集，将数据子集发送至用户端以供标注人员进行标注，并比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计，一方面，可以实现自动化的数据分发过程，无需人工参与，提高了工作效率；另一方面，通过比较针对同一数据子集进行标注的多个标注人员的标注后的数据并根据比较结果对所述多个标注人员进行绩效统计，省去了人工统计标注人员绩效的过程；再一方面，采用中转仓库对数据预先进行规范化处理，避免了数据格式不一致的情况。

下面将对本公开的众包平台实现方法的各步骤进行详细说明。

在步骤s10中，获取由发布方发送并经由中转仓库规范化处理后的待标注数据集。

首先，发布方可以根据自身需求确定需要进行标注的数据集，并将该数据集通过发布方的终端(例如，计算机)发送至一中转仓库，其中，数据集中的数据可以包含图片数据、文本数据、表格数据、视频数据等，本示例性实施方式中对此不做特殊限定。另外，本公开所述的中转仓库可以是具有存储功能的数据处理单元，并且该中转仓库可以配置有满足发布方数据传输协议的一个或多个接口。

接下来，中转仓库可以对接收到的数据集进行规范化处理。具体的，可以将来自发布方的数据格式转换成众包平台统一处理的数据格式，例如，将图片格式的数据转换成二进制形式的数据。一方面，系统开发人员可以自行编译数据转换代码并存储在中转仓库中，当接收到数据集时，中转仓库可以判断该数据集的数据格式是否与众包平台统一处理的数据格式相同，如果不相同，则触发运行该数据转换代码的指令以将该数据集的数据格式转换为众包平台进行统一处理的数据格式；另一方面，中转仓库可以集成有市面上现有的数据转换模块，以对发布方发送的数据格式进行转换。在本公开的实施方式中，待标注数据集可以包括经中转仓库规范化处理后的数据集和/或中转仓库判断出发布方的数据格式与众包平台的数据格式相同的数据集。

根据本公开的一些实施例，在确定出待标注数据集后，中转仓库可以将待标注数据集发送至众包平台。另外，根据另外一些实施例，众包平台可以实时监视中转仓库中是否存在待标注数据集，并在判断出中转仓库中存在待标注数据集时，可以向中转仓库发送获取待标注数据集的请求，随后，中转仓库可以响应该请求将待标注数据集发送至众包平台。

本发明通过配置中转仓库，一方面，可以将发布方的数据格式转换成众包平台统一处理的数据格式，解决了发布方数据多样性与众包平台数据规范性之间矛盾的问题，进而确保标注后的数据格式能够统一，便于整合；另一方面，通过将中转仓库配置在发布方与众包平台之间，可以避免众包平台直接暴露于发布方，数据安全性得到了提高。

s12.将所述待标注数据集划分成数据子集。

根据本公开的一些实施例，众包平台可以将待标注数据集等分成数据子集。等分的数量可以与标注人员的数量相适应，例如，标注人员为100人，则可以将待标注数据等分成100个数据子集。

根据另外一些实施例，众包平台还可以根据待标注数据集中的数据类型进行划分以确定出数据子集，例如，人物图片的数据与企业报表的数据属于不同的数据类型。另外，可以预先配置数据对应的数据类型，众包平台在接收到待标注数据后，首先可以确定待标注数据中包含的数据类型，接下来，可以根据不同的数据类型对待标注数据进行划分。

容易理解的是，根据另外一些实施例，可以将等分的构思与按数据类型划分的构思相结合。例如，当待标注数据例如存在三种类型的数据时，众包平台可以分别对这三种类型的数据进行100等分，以得到300个数据子集，然后，将300个数据子集分配给100位标注人员以确保每个标注人员均能对三种类型的数据各标注一次。

此外，众包平台还可以基于现有的数据集划分手段对待标注数据集进行划分，这些手段可以包括例如k折交叉验证、留一法、随机划分法等。另外，开发人员也可以根据业务需要自行定义划分规则，本示例性实施方式中对此不做特殊限定。

s14.将所述数据子集发送至用户端以供标注人员进行标注。

在本公开的示例性实施方式中，用户端可以是供标注人员进行标注操作的终端，并且可以包括pc终端和/或例如手机的移动终端。

一方面，标注人员可以通过用户端向众包平台发送获取待标注数据子集的请求，众包平台可以响应该请求将数据子集发送至用户端以供标注人员进行标注；另一方面，众包平台可以预先确定出用户端的路径，并在划分出数据子集后，基于预先确定的路径将数据子集发送至各用户端以供标注人员进行标注。

另外，本公开对众包平台与用户端的数据传输协议不做特殊限定，例如，基于安全性的考虑，该数据传输协议可以为https协议。

根据本公开的一些实施例，众包平台可以获取针对数据子集的标注建议，并在将数据子集发送至用户端时，将该标注建议发送至用户端，随后，标注人员可以查看标注建议并将标注建议作为参考进行标注过程。

首先，众包平台可以获取标准数据集，其中，该标注数据集可以是经过人工反复核定的数据集，可以认为这些数据集满足标注要求；接下来，众包平台可以基于标准数据集确定针对数据子集的标注建议，具体的，可以基于标准数据集并结合机器学习的训练过程确定标注建议，另外，在机器学习的过程中还可以结合第三方数据，该第三方数据可以包括但不限于发布方的历史标注建议、大数据分析出的发布方标注偏好及其它建议性数据；随后，众包平台可以获取标注建议并发送至用户端。

此外，本公开的众包平台实现方法还可以包括借助于一机器辅助标注服务平台确定出标注建议，众包平台可以从该机器辅助标注服务平台获取标注建议。其中，该机器辅助标注服务平台的功能可以包括但不限于归一服务、结构化服务、清洗服务、数据分类和标注服务等。

通过向标注人员发送标注建议，有利于标注人员迅速掌握标注方式、减少不必要的错误、提高了标注效率。

根据本公开的一些实施例，在将数据子集发送至用户端时，众包平台可以获取针对数据子集的标注规则，并基于该标注规则向用户端发送界面配置指令，用户端可以响应界面配置指令渲染供标注人员进行数据标注的界面，以规范标注人员的操作方式。具体的，标注规则可以是由发布方规定的数据标注规则，这些规则可以包括但不限于格式规则、应当标注项目的指示等，其中，应当标注项目的指示可以包括例如应当以填空或选择的方式进行标注。另外，用户端的界面可以例如是web页面、也可以是用户端本地界面，本示例性实施方式中对此不做特殊限定。

通过获取标注规则，有助于提高标注人员进行标注操作的规范性，避免了业务逻辑可能出现的错误，确保了标注后数据的合理性。

s16.接收所述用户端发送的标注后的数据。

在标注人员对待标注数据的数据子集标注完成后，标注人员可以通过用户端将标注后的数据发送至众包平台。例如，可以通过https协议将标注后的数据发送至众包平台。

s18.比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计。

在本公开的示例性实施方式中，为了确保标注后数据的正确性，可以采用多个标注人员标注同一数据子集的方式。具体的，在标注完并由众包平台接收后，首先，众包平台可以确定针对同一数据子集进行标注的多个标注人员的标注后的数据之间的差异内容；接下来，众包平台可以确定出这些差异内容对应的待标注数据并将这些待标注数据发送给一标注的裁定人员，由该裁定人员对这些数据进行标注并将标注后的数据作为这些待标注数据的标准答案，其中，裁定人员可以是预先评选出的标注正确率较高的人员并且裁定人员可以为一个人或多个人；随后，裁定人员可以将标准答案发送至众包平台；接下来，众包平台可以基于标准答案对所述多个标注人员进行绩效统计。

容易理解的是，当一标注人员标注后的数据存在较多与标准答案不同的内容时，该标注人员的绩效较低；当另一标注人员标注后的数据与标准答案一致或大致相同时，该标注人员的绩效较高。另外，本公开不对具体统计过程进行限定。另外，针对裁定人员，可以将一段时期内绩效均较高的标注人员委任为标注裁定人员。

此外，还应当注意的是，一方面，由于标注人员同时标注出错且出错类型相同的概率较小，因此，针对同一数据子集，多个标注人员进行标注后相同的标注内容，可以认为这些标注内容正确；另一方面，若多个标注人员标注后的数据相同或一致，即不存在差异内容，则众包平台可以直接确定这些标注人员标注后的数据均正确，在待标注数据较复杂的情况下，可以认为这些标注人员具有较高的业务水平。

本公开的绩效统计过程可以与一些技术中的绩效统计过程相同，本公开对此不做特殊限定。

另外，众包平台可以将上述差异内容对应的标准答案发送至这些标注人员的用户端，标注人员在获知这些反馈结果后，可以查看出标注错误的数据，以帮助标注人员提高业务水平。

本公开的众包平台实现方法还可以包括众包平台对接收到的标注后的数据进行整合，本公开对具体整合的过程不做特殊限定。

根据本公开的一些实施例，众包平台还可以将标注后的数据的相同内容以及标准答案发送至所述中转仓库，以供所述发布方获取。

此外，由于发布方的数据格式可能与标注后的数据格式不一致，因此，中转仓库还可以用于将标注后的数据格式转换成发布方的数据格式。接下来，中转仓库可以基于中转仓库与发布方的数据传输协议将数据发送至发布方。

综上所述，实现了基于众包平台的数据标注过程。

下面将结合图2对本公开的众包平台实现方法对应的架构进行说明。

首先，发布方21可以根据自身需求向中转仓库22发送需要标注的数据集；随后，中转仓库22可以对需要标注的数据集进行规范化处理，并将处理后的待标注数据集发送至众包平台23；接下来，众包平台23可以将待标注数据集划分成数据子集并分别发送至用户端，如图2所示，用户端可以包括但不限于用户端24、用户端25和用户端29，本公开对用户端的数量不做特殊限定；然后，各标注人员针对待标注的数据子集完成标注操作后，可以通过各用户端将标注后的数据发送至众包平台23；接下来，众包平台23可以比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计。此外，众包平台23还可以将比较结果反馈给各用户端的标注人员，以帮助各标注人员提高业务能力。另外，众包平台23可以将多个标注人员的标注后的数据的相同内容以及所述标准答案发送至所述中转仓库22以供发布方21获取。

应当注意，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

进一步的，本示例实施方式中还提供了一种众包平台实现装置。

图3示意性示出了本公开的示例性实施方式的众包平台实现装置的方框图。参考图3，根据本公开的示例性实施方式的众包平台实现装置3可以包括数据集获取模块31、数据集划分模块33、数据子集发送模块35、数据接收模块37和绩效统计模块39，其中：

数据集获取模块31，可以用于获取由发布方发送并经由中转仓库规范化处理后的待标注数据集；

数据集划分模块33，可以用于将所述待标注数据集划分成数据子集；

数据子集发送模块35，可以用于将所述数据子集发送至用户端以供标注人员进行标注；

数据接收模块37，可以用于接收所述用户端发送的标注后的数据；以及

绩效统计模块39，可以用于比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计。

在本公开的示例性实施方式的众包平台实现装置中，一方面，可以实现自动化的数据分发过程，无需人工参与，提高了工作效率；另一方面，通过比较针对同一数据子集进行标注的多个标注人员的标注后的数据并根据比较结果对所述多个标注人员进行绩效统计，省去了人工统计标注人员绩效的过程；再一方面，采用中转仓库对数据预先进行规范化处理，避免了数据格式不一致的情况。

根据本公开的示例性实施例，参考图4，绩效统计模块39可以包括差异内容确定单元401、差异内容发送单元403和绩效统计单元405，其中：

差异内容确定单元401，可以用于确定针对同一数据子集进行标注的多个标注人员的标注后的数据之间的差异内容；

差异内容发送单元403，可以用于将所述差异内容对应的待标注数据提供给裁定人员，由所述裁定人员对所述差异内容对应的待标注数据进行标注以得到与所述差异内容对应的标准答案；

绩效统计单元405，可以用于根据所述标准答案对所述多个标注人员进行绩效统计。

在实现了绩效统计的同时，通过获取标准答案，可以确保返回至发布方的标注后的数据的正确性，并且可以将标准答案发送至标注人员，以得到标注人员的业务水平。

根据本公开的示例性实施例，参考图5，众包平台实现装置5相比于众包平台实现装置3，除包括数据集获取模块31、数据集划分模块33、数据子集发送模块35、数据接收模块37、绩效统计模块39外，还可以包括数据发送模块51，其中：

数据发送模块51，可以用于将所述多个标注人员的标注后的数据的相同内容以及所述标准答案发送至所述中转仓库以供所述发布方获取。

通过将标注后的数据发送至中转仓库，一方面，可以将众包平台的数据格式转换成发布方的数据格式，解决了发布方数据多样性与众包平台数据规范性之间矛盾的问题；另一方面，通过将中转仓库配置在发布方与众包平台之间，可以避免众包平台直接暴露于发布方，数据安全性得到了提高。

根据本公开的示例性实施例，参考图6，众包平台实现装置6相比于众包平台实现装置3，除包括数据集获取模块31、数据集划分模块33、数据子集发送模块35、数据接收模块37、绩效统计模块39外，还可以包括标注建议获取模块61和标注建议发送模块63，其中：

标注建议获取模块61，可以用于获取针对所述数据子集的标注建议；

标注建议发送模块63，可以用于在将所述数据子集发送至用户端时，将所述标注建议发送至用户端以便所述标注人员获知所述标注建议。

通过向标注人员发送标注建议，有利于标注人员迅速掌握标注方式、减少不必要的错误、提高了标注效率。

根据本公开的示例性实施例，参考图7，标注建议获取模块61可以包括标准数据集获取单701、标注建议确定单元703和标注建议获取单元705；其中：

标准数据集获取单701，可以用于获取标准数据集；

标注建议确定单元703，可以用于基于所述标准数据集确定针对所述数据子集的标注建议；

标注建议获取单元705，可以用于获取所述标注建议。

根据本公开的示例性实施例，参考图8，众包平台实现装置8相比于众包平台实现装置3，除包括数据集获取模块31、数据集划分模块33、数据子集发送模块35、数据接收模块37、绩效统计模块39外，还可以包括标注规则获取模块81，其中：

标注规则获取模块81，可以用于在将所述数据子集发送至用户端时，获取针对所述数据子集的标注规则以控制所述用户端基于所述标注规则渲染标注界面。

通过获取标注规则，有助于提高标注人员进行标注操作的规范性，避免了业务逻辑可能出现的错误，确保了标注后数据的合理性。

容易理解的是，虽然数据发送模块51被描述在众包平台实现装置5中，然而，数据发送模块51还可以包含于众包平台实现装置6和/或众包平台实现装置8中。类似地，虽然标注建议获取模块61和标注建议发送模块63被描述在众包平台实现装置6中，然而，标注建议获取模块61和标注建议发送模块63还可以包含于众包平台实现装置5和/或众包平台实现装置8中。类似地，虽然标注规则获取模块81被描述在众包平台实现装置8中，然而，标注规则获取模块81还可以包含于众包平台实现装置5和/或众包平台实现装置6中。

由于本发明实施方式的程序运行性能分析装置的各个功能模块与上述方法发明实施方式中相同，因此在此不再赘述。

在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。

参考图9所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品900，其可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

在本公开的示例性实施例中，还提供了一种能够实现上述方法的电子设备。

所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图10来描述根据本发明的这种实施方式的电子设备1000。图10显示的电子设备1000仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图10所示，电子设备1000以通用计算设备的形式表现。电子设备1000的组件可以包括但不限于：上述至少一个处理单元1010、上述至少一个存储单元1020、连接不同系统组件(包括存储单元1020和处理单元1010)的总线1030、显示单元1040。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元1010执行，使得所述处理单元1010执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元1010可以执行如图1中所示的步骤s10：获取由发布方发送并经由中转仓库规范化处理后的待标注数据集；步骤s12：将所述待标注数据集划分成数据子集；步骤s14：将所述数据子集发送至用户端以供标注人员进行标注；步骤s16：接收所述用户端发送的标注后的数据；以及步骤s18：比较针对同一数据子集进行标注的多个标注人员的标注后的数据，并根据比较结果对所述多个标注人员进行绩效统计。

存储单元1020可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)10201和/或高速缓存存储单元10202，还可以进一步包括只读存储单元(rom)10203。

存储单元1020还可以包括具有一组(至少一个)程序模块10205的程序/实用工具10204，这样的程序模块10205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线1030可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备1000也可以与一个或多个外部设备1100(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备1000交互的设备通信，和/或与使得该电子设备1000能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口1050进行。并且，电子设备1000还可以通过网络适配器1060与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。如图所示，网络适配器1060通过总线1030与电子设备1000的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备1000使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。

此外，上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。