语料标注方法和装置与流程

本发明涉及计算机互联网领域，具体而言，涉及一种语料标注方法和装置。

背景技术：

在现在的大数据时代，数据无疑是所有大数据生存的根基，而如何有效而快速的收集数据则是大数据团队的竞争优势，在收集数据的过程中，可能会需要对语料进行标注。

现有技术中已经有的关于语料标注的具体展现方案主要针对情感标注，主要包括两种方式，第一种方式是直接将打标注的结果存入数据库并将标注结果展示在句子末尾，第二种方式是直接打乱句子结构，将标注的结果直接插入句子中，并且存入数据库中的是被插入结果的句子以及打标注的句子起始位置；在对句子进行标注的时候，往往会需要对句子进行二次标注、三次标注等多次标注，例如，如果需要在句子中进行二次标注，采用上述两种方式时，由于句子结尾或者句中插入有标注结果，因此一次标注后句子的起始位置不是原始句子的起始位置，为了准确的知道二次标注在原始句子中的位置，需要去掉句子中的一次标注的结果，也就是说，由于存入数据库的句子都加入了存有结果的标签，因此句子的结构发生了变化，如果一句话内需要打标注的词语较多，每次想要获取打标注的真正位置，都必须经过计算，去掉之前标注的标注结果，因此会导致重复计算位置，耗费时间又耗费性能。

针对上述现有技术中在进行语料标注时将标注结果插入句中或显示在句子末尾导致的多次标注时重复计算句子位置的问题，目前尚未提出有效的解决方案。

技术实现要素：

本发明实施例提供了一种语料标注方法和装置，以至少解决现有技术中在进行语料标注时将标注结果插入句中或显示在句子末尾导致的多次标注时重复计算句子位置的技术问题。

根据本发明实施例的一个方面，提供了一种语料标注方法，包括：检测对待标注句子的文本选择操作；在文本选择操作结束得到选择文本后，确定选择文本对应的标签；在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中。

根据本发明实施例的另一方面，还提供了一种语料标注装置，包括：检测模块，用于检测对待标注句子的文本选择操作；第一确定模块，用于在文本选择操作结束得到选择文本后，确定选择文本对应的标签；处理模块，用于在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中。

根据本发明实施例的另一方面，还提供了一种存储介质，存储介质包括存储的程序，其中，在程序运行时控制存储介质所在设备执行上述语料标注方法。

根据本发明实施例的另一方面，还提供了一种处理器，处理器用于运行程序，其中，程序运行时执行上述语料标注方法。

根据本发明实施例的另一方面，还提供了一种终端，包括：检测模块，用于检测对待标注句子的文本选择操作；第一确定模块，用于在文本选择操作结束得到选择文本后，确定选择文本对应的标签；处理模块，用于在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中；处理器，处理器运行程序，其中，程序运行时对于从检测模块、第一确定模块和处理模块输出的数据执行上述语料标注方法。

根据本发明实施例的另一方面，还提供了一种终端，包括：检测模块，用于检测对待标注句子的文本选择操作；第一确定模块，用于在文本选择操作结束得到选择文本后，确定选择文本对应的标签；处理模块，用于在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中；存储介质，用于存储程序，其中，程序在运行时对于从检测模块、第一确定模块和处理模块输出的数据执行上述语料标注方法。

在本发明实施例中，通过检测对待标注句子的文本选择操作；在文本选择操作结束得到选择文本后，确定选择文本对应的标签；在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中，达到了对语料进行标注的目的，并且由于在待标注句子的节点以外的位置显示标注有选择文本对应的标签的待标注句子，不会影响句子结构，因此对句子多次标注标签的时候，每次在将选择文本在待标注句子中的位置信息存储在预设数据库中时，不需要去除上一次标注的结果，从而实现了减少重复计算、提高句子的语料标注速度和标注结果的准确率的技术效果，进而解决了现有技术中在进行语料标注时将标注结果插入句中或显示在句子末尾导致的多次标注时重复计算句子位置的技术问题。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的一种语料标注方法的示意图；

图2是根据本发明实施例的一种可选的语料标注方法的示意图；

图3是根据本发明实施例的一种可选的语料标注方法的示意图；以及

图4是根据本发明实施例的一种语料标注装置的示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例1

根据本发明实施例，提供了一种语料标注方法的方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1是根据本发明实施例的语料标注方法，如图1所示，该方法包括如下步骤：

步骤s102，检测对待标注句子的文本选择操作。

具体的，可以预先构建语料标注平台，检测对待标注句子的文本选择操作的过程可以在语料标注平台上实现，并显示在页面上，其中，对待标注句子的文本选择操作可以由鼠标实现。

步骤s104，在文本选择操作结束得到选择文本后，确定选择文本对应的标签。

具体的，在得到选择文本后，可以根据选择文本的具体内容，确定选择文本对应的标签，其中，确定的过程可以是用户自主确定的过程，也可以是提供一些可选的标签供用户进行选择，标签可以是基于情感标注的标签，也可以是基于命名实体类别标注的标签。

步骤s106，在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中。

具体的，对待标注句子标注的结果显示的位置是在待标注句子节点之外的位置，而不是在待标注句子中插入标签或者节点，因此不会影响句子结构。

在本发明实施例中，通过检测对待标注句子的文本选择操作；在文本选择操作结束得到选择文本后，确定选择文本对应的标签；在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中，达到了对语料进行标注的目的，并且由于在待标注句子的节点以外的位置显示选择文本对应的标签，不会影响句子结构，因此对句子多次标注标签的时候，每次在将选择文本在待标注句子中的位置信息存储在预设数据库中时，不需要去除上一次标注的结果，从而实现了减少重复计算、提高句子的语料标注速度和标注结果的准确率的技术效果，进而解决了现有技术中在进行语料标注时将标注结果插入句中或显示在句子末尾导致的多次标注时重复计算句子位置的技术问题。

在一种可选的实施例中，步骤s102中检测对待标注句子的文本选择操作之前，方法还包括：

步骤s202，获取待标注文本；

步骤s204，对待标注文本进行分句操作，得到至少一个待标注句子。

具体的，在获取到待标注文本后，可以使用分句机制对待标注文本进行分句操作，图2为根据分句机制进行分句后的待标注文本的一个实施例，经过分句操作后的待标注文本展示在页面上，供用户对待标注句子进行文本选择操作。

在一种可选的实施例中，步骤s104中在文本选择操作结束得到选择文本后，确定选择文本对应的标签包括：

步骤s302，在文本选择操作结束得到选择文本后，触发显示包含至少一个预设标签的标签选择框；

步骤s304，根据对预设标签的选择结果，确定选择文本对应的标签。

具体的，图3为本实施例的一种具体实施方式，如图3所示，选择文本为“议，其中指出”，具体可以用鼠标框选待标注句子中的该选择文本，当文本选择操作结束后，会显示一个标签选择框，具体为在待标注句子靠近选择文本的位置显示一个标签选择框，标签选择框中包含一个或多个预设标签供用户进行点选，选择其中一个标签，则该选中的标签即为选择文本对应的标签，以此实现对待标注句子的语料标志，图3中的标签为命名实体分类标签，可选的，如图3所示，标签选择框中还可以包括对选择文本的撤销命令，当用户框选待标注句子中的文本后，发现有误，即可选择标签选择框中的撤销命令，撤销对该文本的选择。

在一种可选的实施例中，步骤s302中在文本选择操作结束得到选择文本后，触发显示包含至少一个预设标签的标签选择框包括：

步骤s402，在文本选择操作结束得到选择文本后，根据选择文本的位置信息，计算标签选择框的显示位置；

步骤s404，在显示位置显示标签选择框。

在一种可选的实施例中，标签为命名实体类别标签。

在一种具体的实施例中，在对语料进行实体标注时，具体流程如下：

步骤s1，确定命名实体类别的标签，加入词包中，供后续显示于标签选择框中；

步骤s2，基于鼠标事件，在mouseup(放松鼠标按钮)的时候，对dom(documentobjectmodel，文档对象模型)创建区域范围，即createrange，并加入dom元素中，初始化待标注文本的区域，包含其内部的节点，以及记录待标注文本的起始和结束位置；

此处需要注意的是，因为本发明针对的是单句标注语料，在初始化待标注文本时，可以限制跨语句选择文本，具体设置为：针对一个句子，可以用一个li标签包含，如果跨两个li进行选择文本，则直接隐藏注销鼠标选择事件；

步骤s3，在鼠标框选结束，得到选择文本的起始位置之后，需要操作dom元素，创建div，中间包含ul,li标签，每一个标签内部，则是需要标注的语料；

步骤s4，弹窗(即标签选择框)内的dom元素生成完毕之后，计算该弹窗的显示位置；

具体的，在计算弹窗的显示位置时，首先需要获取弹窗内的dom元素所属的父级元素，即句子的index，然后计算句子在其container内的位置，以及该元素li的高度；然后计算弹窗的高度，需要衡量父级元素li距离containner上边沿的距离是否足以有弹窗的高度，没有的话，需要在父级元素li的高度的基础上，与父级元素li与上边沿高度相加作为对弹窗最小的上边距；如果足够，需要用父级元素li距离containner上边距的距离减去弹窗高度，作为弹窗的纵向显示位置；而横向方面，可在获取到选择文本的起始位置的基础上进行计算，显示弹窗的横向位置。

步骤s5，获得句子的信息的基础上，就是为弹窗内部的li父级元素绑定点击事件，点击之后，链接数据库接口，将句子信息以及标注结果，通过接口发送到数据库进行存储；

步骤s6，在页面上，只将对句子的标注结果的字段保存在句子以外的位置，并显示该结果；在一个句子中标注有多个标签的情况下，在同一个句子内部，标注第二个标签的时候，选择文本的起始位置可以直接在鼠标事件的时候获取到，不需要经过任何计算，既节省计算性能，又可以快速简单的将标注结果存入数据库。

实施例2

根据本发明实施例，提供了一种语料标注装置的产品实施例，图4是根据本发明实施例的语料标注装置，如图4所示，该装置包括检测模块、第一确定模块和处理模块，其中，检测模块，用于检测对待标注句子的文本选择操作；第一确定模块，用于在文本选择操作结束得到选择文本后，确定选择文本对应的标签；处理模块，用于在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中。

在本发明实施例中，通过检测模块检测对待标注句子的文本选择操作；第一确定模块在文本选择操作结束得到选择文本后，确定选择文本对应的标签；处理模块在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中，达到了对语料进行标注的目的，并且由于在待标注句子的节点以外的位置显示标注有选择文本对应的标签的待标注句子，不会影响句子结构，因此对句子多次标注标签的时候，每次在将选择文本在待标注句子中的位置信息存储在预设数据库中时，不需要去除上一次标注的结果，从而实现了减少重复计算、提高句子的语料标注速度和标注结果的准确率的技术效果，进而解决了现有技术中在进行语料标注时将标注结果插入句中或显示在句子末尾导致的多次标注时重复计算句子位置的技术问题。

此处需要说明的是，上述检测模块、第一确定模块和处理模块对应于实施例1中的步骤s102至步骤s106，上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以在诸如一组计算机可执行指令的计算机系统中执行。

在一种可选的实施例中，装置还包括获取模块和分句模块，其中，获取模块，用于在检测模块检测对待标注句子的文本选择操作之前，获取待标注文本；分句模块，用于对待标注文本进行分句操作，得到至少一个待标注句子。

此处需要说明的是，上述获取模块和分句模块对应于实施例1中的步骤s202至步骤s204，上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以在诸如一组计算机可执行指令的计算机系统中执行。

在一种可选的实施例中，第一确定模块包括触发模块和第二确定模块，其中，触发模块，用于在文本选择操作结束得到选择文本后，触发显示包含至少一个预设标签的标签选择框；第二确定模块，用于根据对预设标签的选择结果，确定选择文本对应的标签。

此处需要说明的是，上述触发模块和第二确定模块对应于实施例1中的步骤s302至步骤s304，上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以在诸如一组计算机可执行指令的计算机系统中执行。

在一种可选的实施例中，触发模块包括计算模块和显示模块，其中，计算模块，用于在文本选择操作结束得到选择文本后，根据选择文本的位置信息，计算标签选择框的显示位置；显示模块，用于在显示位置显示标签选择框。

此处需要说明的是，上述计算模块和显示模块对应于实施例1中的步骤s402至步骤s404，上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以在诸如一组计算机可执行指令的计算机系统中执行。

在一种可选的实施例中，标签为命名实体类别标签。

上述语料标注装置包括处理器和存储器，上述检测模块、第一确定模块和处理模块等均作为程序单元存储在存储器中，由处理器执行存储在存储器中的上述程序单元来实现相应的功能。

处理器中包含内核，由内核去存储器中调取相应的程序单元。内核可以设置一个或以上，通过调整内核参数来实现对语料的标注。

存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(ram)和/或非易失性内存等形式，如只读存储器(rom)或闪存(flashram)，存储器包括至少一个存储芯片。

实施例3

根据本发明实施例，提供了一种存储介质的产品实施例，其上存储有程序，在程序运行时控制存储介质所在设备执行上述语料标注方法，或该程序被处理器执行时实现上述语料标注方法。

实施例4

根据本发明实施例，提供了一种处理器的产品实施例，该处理器用于运行程序，其中，程序运行时执行上述语料标注方法。

实施例5

根据本发明实施例，提供了一种终端的产品实施例，该终端包括检测模块、第一确定模块、处理模块和处理器，其中，检测模块，用于检测对待标注句子的文本选择操作；第一确定模块，用于在文本选择操作结束得到选择文本后，确定选择文本对应的标签；处理模块，用于在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中；处理器，处理器运行程序，其中，程序运行时对于从检测模块、第一确定模块和处理模块输出的数据执行上述语料标注方法。

实施例6

根据本发明实施例，提供了一种终端的产品实施例，该终端包括检测模块、第一确定模块、处理模块和存储介质，其中，检测模块，用于检测对待标注句子的文本选择操作；第一确定模块，用于在文本选择操作结束得到选择文本后，确定选择文本对应的标签；处理模块，用于在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中；存储介质，用于存储程序，其中，程序在运行时对于从检测模块、第一确定模块和处理模块输出的数据执行上述语料标注方法。

实施例7

根据本发明实施例，提供了一种设备的产品实施例，该设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序，处理器执行程序时实现以下步骤：

步骤s102，检测对待标注句子的文本选择操作；

步骤s104，在文本选择操作结束得到选择文本后，确定选择文本对应的标签；

步骤s106，在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中。

其中，步骤s102中检测对待标注句子的文本选择操作之前，方法还包括：步骤s202，获取待标注文本；步骤s204，对待标注文本进行分句操作，得到至少一个待标注句子。

其中，步骤s104中在文本选择操作结束得到选择文本后，确定选择文本对应的标签包括：步骤s302，在文本选择操作结束得到选择文本后，触发显示包含至少一个预设标签的标签选择框；步骤s304，根据对预设标签的选择结果，确定选择文本对应的标签。

其中，步骤s302中在文本选择操作结束得到选择文本后，触发显示包含至少一个预设标签的标签选择框包括：步骤s402，在文本选择操作结束得到选择文本后，根据选择文本的位置信息，计算标签选择框的显示位置；步骤s404，在显示位置显示标签选择框。

本发明中的设备可以是服务器、pc、pad、手机等。

实施例8

根据本发明实施例，提供了一种计算机程序产品的产品实施例，当在数据处理设备上执行时，适于执行初始化有如下方法步骤的程序：

步骤s102，检测对待标注句子的文本选择操作；

步骤s104，在文本选择操作结束得到选择文本后，确定选择文本对应的标签；

步骤s106，在待标注句子的节点以外的位置显示选择文本对应的标签，以及将标注有选择文本对应的标签的待标注句子的位置信息和选择文本在待标注句子中的位置信息存储在预设数据库中。

其中，步骤s102中检测对待标注句子的文本选择操作之前，方法还包括：步骤s202，获取待标注文本；步骤s204，对待标注文本进行分句操作，得到至少一个待标注句子。

其中，步骤s104中在文本选择操作结束得到选择文本后，确定选择文本对应的标签包括：步骤s302，在文本选择操作结束得到选择文本后，触发显示包含至少一个预设标签的标签选择框；步骤s304，根据对预设标签的选择结果，确定选择文本对应的标签。

其中，步骤s302中在文本选择操作结束得到选择文本后，触发显示包含至少一个预设标签的标签选择框包括：步骤s402，在文本选择操作结束得到选择文本后，根据选择文本的位置信息，计算标签选择框的显示位置；步骤s404，在显示位置显示标签选择框。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。

存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(ram)和/或非易失性内存等形式，如只读存储器(rom)或闪存(flashram)。存储器是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitorymedia)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。

以上仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。