一种基于图的关键词抽取方法与流程

文档序号:11950220阅读:来源:国知局

技术特征:

1.一种基于图的关键词抽取方法,其特征在于,包括以下步骤:

对文本信息进行预处理,所述预处理包括分词处理、词性标注处理和命名实体识别处理;

计算节点特征,以及计算词汇的统计关系和词汇的语义关系;所述节点特征包括:节点的统计特征、位置特性、词性特征和实体特征;所述实体特征包括实体类型特征和命名实体链接特征;

根据所述节点特征计算节点权重,以及根据所述词汇的统计关系和词汇的语义关系计算边权重;

根据所述节点权重和所述边权重计算候选词的分值;

根据候选词的分值排序结果以及文本大小信息确定该文本的关键词。

2.根据权利要求1所述的方法,其特征在于,在所述对文本信息进行预处理步骤之后,以及在所述计算节点特征步骤之前,还包括去停用词步骤。

3.根据权利要求1所述的方法,其特征在于,所述根据所述节点特征计算节点权重步骤包括:

通过公式(3)计算基于TF*IDF的候选词统计特征:

Feature1(Vi)=TF(Vi)*IDF(Vi) (3)

Feature1(Vi)=TFi,j*IDFi

其中,词频(Term Frequency,TF)指的是某一个给定的词语在该文件中出现的次数,ni,j是词Vi在文件j中的出现次数,而分母则是在文件j中所有字词的出现次数之和。

IDF(Inverse Document Frequency,IDF)是反文档频率,|D|是语料库中文档的总数,|j:{Vi∈dj}|是包含Vi的文档数;

通过公式(4)计算候选词的位置特征:

通过公式(5)计算候选词的词性特征:

通过公式(6)计算候选词的实体类型特征:

通过公式(7)计算候选词的实体特性:

4.根据权利要求1所述的方法,其特征在于,所述计算词汇的统计关系和词汇的语义关系步骤包括:

通过公式(8)计算词汇统计关系STJ(Vi,Vj):

<mrow> <msub> <mi>S</mi> <mi>TJ</mi> </msub> <mrow> <mo>(</mo> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mrow> <msub> <mi>n</mi> <mi>L</mi> </msub> <mrow> <mo>(</mo> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> </mrow> <mrow> <mi>k</mi> <mo>&times;</mo> <mrow> <mo>(</mo> <mi>L</mi> <mo>-</mo> <mn>1</mn> <mo>)</mo> </mrow> </mrow> </mfrac> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>8</mn> <mo>)</mo> </mrow> </mrow>

其中,k为词Vi和Vj共现的窗口个数,L为窗口大小。

通过公式(9)计算词汇的语义关系SYY(Vi,Vj):

<mrow> <msub> <mi>S</mi> <mi>YY</mi> </msub> <mrow> <mo>(</mo> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <munderover> <mi>&Sigma;</mi> <mrow> <mi>n</mi> <mo>=</mo> <mn>1</mn> </mrow> <mn>4</mn> </munderover> <msub> <mi>&beta;</mi> <mi>i</mi> </msub> <munderover> <mi>&Pi;</mi> <mrow> <mi>k</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>n</mi> </munderover> <msub> <mi>Sim</mi> <mi>k</mi> </msub> <mrow> <mo>(</mo> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>9</mn> <mo>)</mo> </mrow> </mrow>

其中,βi(1≤i≤4)是可调节的参数,且有:β1234=1;Sim1(Vi,Vj)为第一独立义原描述式,即两个义原的相似度,计算公式如下:

<mrow> <msub> <mi>Sim</mi> <mn>1</mn> </msub> <mrow> <mo>(</mo> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mi>&alpha;</mi> <mrow> <mi>d</mi> <mo>+</mo> <mi>&alpha;</mi> </mrow> </mfrac> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>10</mn> <mo>)</mo> </mrow> </mrow>

其中,Vi和Vj表示两个义原,d是Vi和Vj在义原层次体系中的路径长度,是一个正整数。α是一个可调节的参数;Sim2(Vi,Vj)为其他独立义原描述式;Sim3(Vi,Vj)为关系义原描述式;Sim4(Vi,Vj)为符号义原描述式。

5.根据权利要求1所述的方法,其特征在于,计算节点权重步骤包括:

通过公式(11)计算节点权重:

<mrow> <mi>N</mi> <mi>o</mi> <mi>d</mi> <mi>e</mi> <mrow> <mo>(</mo> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mn>1</mn> <mi>n</mi> </mfrac> <msubsup> <mi>&Sigma;</mi> <mrow> <mi>k</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>n</mi> </msubsup> <msub> <mi>&alpha;</mi> <mi>k</mi> </msub> <msub> <mi>Feature</mi> <mi>k</mi> </msub> <mrow> <mo>(</mo> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>11</mn> <mo>)</mo> </mrow> </mrow>

其中:Featurei为被打分词的特征,αki为第k个特征的权重,即不同的特征对被打分词的分值计算的贡献是不同的,Featurek(Vi)∈[0,1.1]。

6.根据权利要求1所述的方法,其特征在于,所述根据词汇的统计关系和词汇的语义关系计算边权重步骤包括:

通过公式(12)计算边的权重:

<mrow> <mi>E</mi> <mi>d</mi> <mi>g</mi> <mi>e</mi> <mrow> <mo>(</mo> <mrow> <msub> <mi>S</mi> <mrow> <mi>T</mi> <mi>J</mi> </mrow> </msub> <mrow> <mo>(</mo> <mrow> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> </mrow> <mo>)</mo> </mrow> <mo>,</mo> <msub> <mi>S</mi> <mrow> <mi>Y</mi> <mi>Y</mi> </mrow> </msub> <mrow> <mo>(</mo> <mrow> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> </mrow> <mo>)</mo> </mrow> </mrow> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mrow> <mrow> <mo>(</mo> <mrow> <msup> <mi>&beta;</mi> <mn>2</mn> </msup> <mo>+</mo> <mn>1</mn> </mrow> <mo>)</mo> </mrow> <mo>*</mo> <msub> <mi>S</mi> <mrow> <mi>T</mi> <mi>J</mi> </mrow> </msub> <mrow> <mo>(</mo> <mrow> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> </mrow> <mo>)</mo> </mrow> <mo>*</mo> <msub> <mi>S</mi> <mrow> <mi>Y</mi> <mi>Y</mi> </mrow> </msub> <mrow> <mo>(</mo> <mrow> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> </mrow> <mo>)</mo> </mrow> </mrow> <mrow> <msup> <mi>&beta;</mi> <mn>2</mn> </msup> <msub> <mi>S</mi> <mrow> <mi>T</mi> <mi>J</mi> </mrow> </msub> <mrow> <mo>(</mo> <mrow> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> </mrow> <mo>)</mo> </mrow> <mo>+</mo> <msub> <mi>S</mi> <mrow> <mi>Y</mi> <mi>Y</mi> </mrow> </msub> <mrow> <mo>(</mo> <mrow> <msub> <mi>V</mi> <mi>i</mi> </msub> <mo>,</mo> <msub> <mi>V</mi> <mi>j</mi> </msub> </mrow> <mo>)</mo> </mrow> </mrow> </mfrac> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>12</mn> <mo>)</mo> </mrow> </mrow>

其中,β决定计算边权重时,侧重词汇统计关系STJ(Vi,Vj),或者词汇语义关系SYY(Vi,Vj),β可以设定为1、2或者1/2,β=1时则视二者一样重要。

7.根据权利要求1所述的方法,其特征在于,所述根据节点权重和边权重计算候选词的分值步骤包括:

通过公式(13)计算候选词的分值:

Score(Vi)=(1-d)*Node(Vi)+d*Node(Vi)*Edge(STJ(Vi,Vj),

SYY(Vi,Vj))*Score(Vj)(13)

其中,Node(Vi)是被打分词的权重,Edge(STJ(Vi,Vj),SYY(Vi,Vj))是被打分词和被打分词之间的边权重,它由两部分构成:STJ(Vi,Vj)是Vi与相邻词Vj在窗口L中的统计关系,SYY(Vi,Vj)是Vi与Vj的语义关系。

8.根据权利要求1所述的方法,其特征在于,所述根据候选词的分值排序结果以及文本大小信息确定该文本的关键词步骤包括,根据候选词的分值排序结果以及文本大小抽取Top N个分值最高的词作为该文本的关键词。

当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1