基于神经网络生成文本摘要的方法与流程

文档序号:14677344发布日期:2018-06-12 21:41阅读:来源:国知局
基于神经网络生成文本摘要的方法与流程

技术特征:

1.一种基于神经网络生成文本摘要的方法,其中,该方法包括如下步骤:

S100、将原始文本进行分词处理,对经过分词处理后的单词进行向量化表示得到词向量;

S200、将步骤S100中得到的每个句子的全部词向量按顺序输入第一循环神经网络的第一层,得到输入每个词后的句子状态向量,其中,每个句子的最后一个状态向量代表该句子的句向量;

S300、将每个句子的句向量按顺序输入到第一循环神经网络的第二层,得到输入每个句子后对应的文档状态向量,其中,输入最后一个句子得到的文档状态向量为摘要的初始结构;

S400、将所述摘要的初始结构输入到第二循环神经网络进行解码;

S500、将解码获取的每个单词对应的向量和所述摘要的初始结构输入到所述第二循环神经网络,得到摘要的第一个单词和摘要文档的第一个状态向量;然后将得到的所述第一个单词和得到所述第一个摘要文档的状态向量输入到所述第二循环神经网络中,得到摘要的第二个单词和摘要文档的第二个状态向量;将得到的新单词和得到该新的摘要文档的状态向量循环输入到所述第二循环神经系统中,直到摘要生成完毕。

2.如权利要求1所述的基于神经网络生成文本摘要的方法,其中,所述第一神经网络包括多个层级结构,用于生成表示句子级别和文档级别的文本状态向量。

3.如权利要求2所述的游戏的基于神经网络生成文本摘要的方法,其中,所述第一循环神经网络为多层双向GRU神经网络,每个所述层级结构包括多个相连的GRU网络模块,并且,

不同所述层级结构的所述GRU网络模块的参数不同,以便处理不同级别的文本。

4.如权利要求3所述的基于神经网络生成文本摘要的方法,其中,所述GRU神经网络包括两个层级结构,

所述第一循环神经网络的第一层用于生成表示句子级别的文本状态向量;

所述第一循环神经网络的第二层用于生成表示文档级别的文本状态向量。

5.如权利要求4所述的基于神经网络生成文本摘要的方法,其中,所述第一循环神经网络的第一层包括多个相连的GRU1网络模块,用于得到每个句子的状态向量;

所述第一循环神经网络的第二层包括多个相连的GRU2网络模块,用于得到所述文档状态向量。

6.如权利要求5所述的基于神经网络生成文本摘要的方法,其中,所述第二循环神经网络为GRU解码神经网络,包括多个相连的GRU3网络模块。

7.如权利要求6所述的基于神经网络生成文本摘要的方法,其中,所述GRU1网络模块、所述GRU2网络模块和所述GRU3网络模块的结构相同,参数不同。

8.如权利要求5所述的基于神经网络生成文本摘要的方法,其中,步骤S200中将步骤S100中得到的每个句子的全部词向量按顺序输入第一循环神经网络的第一层,得到输入每个词后的句子状态向量包括:

将第i个所述词向量和第i-1所述词向量对应句子的状态向量输入到第i个所述GRU1网络模块中,经过第i个所述GRU1网络模块处理得到输入第i个词向量后句子的状态向量。

9.如权利要求5所述的基于神经网络生成文本摘要的方法,其中,步骤S300中将每个句子的句向量按顺序输入到第一循环神经网络的第二层,得到输入每个句子后对应的文档状态向量包括:

将第i个所述句向量和第i-1个所述句向量对应的文档状态向量输入到第i个所述GRU2网络模块中,经过第i个所述GRU2网络模块处理得到输入第i个所述句向量后对应的文档状态向量。

10.如权利要求1所述的基于神经网络生成文本摘要的方法,其中,步骤S100中采用Word2Vec中基于层次化soft-max的CBOW模型对所述经过分词处理后的单词进行向量化表示。

当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1