基于人工智能的文章分类方法及装置、设备与可读介质与流程

文档序号:11250910阅读:919来源:国知局
基于人工智能的文章分类方法及装置、设备与可读介质与流程

【技术领域】

本发明涉及计算机应用技术领域,尤其涉及一种基于人工智能的文章分类方法及装置、设备与可读介质。



背景技术:

人工智能(artificialintelligence;ai),是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。

随着网络科技的发展,网络上的电子多媒体使用越来越普及。为了有效地对网络上的各种新闻资讯进行有效地管理,通常可以将新闻资讯分为不同的主题类别。

现有技术中通过建立层级的主题分类体系,来对新闻资讯的文章的主题类别进行管理。例如新闻资讯可以被分为“娱乐”、“体育”、“教育”等等主题类别。在这个基础上,还可以进一步细分,比如“体育”可以分为“足球”,“篮球”,“羽毛球”等。这样,在为用户展示文章时可以进行分类展示,用户也可以按照主题分类体系中的主题类别选择自己感兴趣的主题类别进行阅读。为了有效地对网络中的新闻资讯的文章进行有效地分类,现有技术中多采用人工标识的方法来为文章进行分类。例如具体可以在文章发布之前,由网站工作人员根据新闻资讯的文章的标题,主观对该文章进行分类,并打上对应主题类别的标签。

但是,现有技术中由工作人员根据新闻资讯的文章的标题,主观对该文章进行分类,不仅费时费力,而且对文章分类的准确性也非常差。



技术实现要素:

本发明提供了一种基于人工智能的文章分类方法及装置、设备与可读介质,用于提高对文章分类的准确性。

本发明提供一种基于人工智能的文章分类方法,所述方法包括:

获取目标文章的文本;

对所述目标文章的文本进行至少两种不同分词粒度的分词处理,得到各所述分词粒度对应的分词;

根据所述目标文章的各所述分词粒度对应的分词和在目标分类体系中预先训练的各层级的打分标签模型,预测所述目标文章与各所述层级上的各个主题类别的相似度;

根据所述目标文章与各所述层级上的各个主题类别的相似度以及预设的相似度阈值,对所述目标文章在各所述层级上进行分类。

进一步可选地,如上所述的方法中,根据所述目标文章与各所述层级上的各个主题类别的相似度以及预设的相似度阈值,对所述目标文章在各所述层级上进行分类之后,所述方法还包括:

校验所述目标文章在各所述层级上的分类。

进一步可选地,如上所述的方法中,校验所述目标文章在各所述层级上的分类,具体包括如下至少一种:

检测所述目标文章的各所述层级的分类是否冲突;若冲突,取消所述目标文章在下游层级的分类;

若所述目标文章的特定层级的分类为特定主题类别时,检测所述目标文章中的特定关键词的出现频率是否达到预设频率阈值,若未达到,取消所述目标文章在所述特定层级的所述特定主题类别的分类;和

若所述目标文章的特定层级的分类为特定主题类别时,检测所述目标文章中是否出现特定关键词,若出现,取消所述目标文章在所述特定层级的所述特定主题类别的分类。

进一步可选地,如上所述的方法中,根据所述目标文章的各所述分词粒度对应的分词和在目标分类体系中预先训练的各层级的打分标签模型,预测所述目标文章与各所述层级上的各个主题类别的相似度之前,所述方法还包括:

从各资讯网站抓取数个训练语料,各所述训练语料包括训练文章和所述训练文章在对应的所述资讯网站中的原分类;

将各所述训练语料中的所述训练文章在对应的所述资讯网站中的原分类映射为所述目标分类体系中的主题类别;

对各所述训练语料的文本进行至少两种不同分词粒度的分词处理,得到数个正例的训练数据;

根据所述数个正例的训练数据,构造各所述正例的训练数据中的训练语料在各所述层级上的多个不相干的主题类别,生成数个负例的训练数据;

使用所述数个正例的训练数据和所述数个负例的训练数据,训练各层级的所述打分标签模型。

本发明还提供一种基于人工智能的文章分类装置,所述装置包括:

获取模块,用于获取目标文章的文本;

分词模块,用于对所述目标文章的文本进行至少两种不同分词粒度的分词处理,得到各所述分词粒度对应的分词;

预测模块,用于根据所述目标文章的各所述分词粒度对应的分词和在目标分类体系中预先训练的各层级的打分标签模型,预测所述目标文章与各所述层级上的各个主题类别的相似度;

分类模块,用于根据所述目标文章与各所述层级上的各个主题类别的相似度以及预设的相似度阈值,对所述目标文章在各所述层级上进行分类。

进一步可选地,如上所述的装置中,还包括:

校验模块,用于校验所述目标文章在各所述层级上的分类。

进一步可选地,如上所述的装置中,

所述校验模块,具体用于执行如下至少一种:

检测所述目标文章的各所述层级的分类是否冲突;若冲突,取消所述目标文章在下游层级的分类;

若所述目标文章的特定层级的分类为特定主题类别时,检测所述目标文章中的特定关键词的出现频率是否达到预设频率阈值,若未达到,取消所述目标文章在所述特定层级的所述特定主题类别的分类;和

若所述目标文章的特定层级的分类为特定主题类别时,检测所述目标文章中是否出现特定关键词,若出现,取消所述目标文章在所述特定层级的所述特定主题类别的分类。

进一步可选地,如上所述的装置中,还包括:

抓取模块,用于从各资讯网站抓取数个训练语料,各所述训练语料包括训练文章和所述训练文章在对应的所述资讯网站中的原分类;

映射模块,用于将各所述训练语料中的所述训练文章在对应的所述资讯网站中的原分类映射为所述目标分类体系中的主题类别,

正例生成模块,用于对各所述训练语料的文本进行至少两种不同分词粒度的分词处理,得到数个正例的训练数据;

负例生成模块,用于根据所述数个正例的训练数据,构造各所述正例的训练数据中的训练语料在各所述层级上的多个不相干的主题类别,生成数个负例的训练数据;

训练模块,用于使用所述数个正例的训练数据和所述数个负例的训练数据,训练各层级的所述打分标签模型。

本发明还提供一种计算机设备,所述设备包括:

一个或多个处理器;

存储器,用于存储一个或多个程序,

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上所述的基于人工智能的文章分类方法。

本发明还提供一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上所述的基于人工智能的文章分类方法。

本发明的基于人工智能的文章分类方法及装置、设备与可读介质,通过获取目标文章的文本;对目标文章的文本进行至少两种不同分词粒度的分词处理,得到各分词粒度对应的分词;根据目标文章的各分词粒度对应的分词和在目标分类体系中预先训练的各层级的打分标签模型,预测目标文章与各层级上的各个主题类别的相似度;根据目标文章与各层级上的各个主题类别的相似度以及预设的相似度阈值,对目标文章在各层级上进行分类。本发明的技术方案,通过获取目标文章的文本进行至少两种不同分词粒度的分词,可以使得预测目标文章与各层级上的各个主题类别的相似度时,输入至打分标签模型中的该目标文章的信息量非常丰富,从而能够准确预测出目标文章与各层级上的各个主题类别的相似度;进而能够非常准确地对该目标文章在该层级上进行分类。因此,本发明的技术方案,不仅对文章进行分类的准确性较高,而且能够自动地实现对文章进行分类,省时、省力,对文章分类的效率非常高。

【附图说明】

图1为本发明的基于人工智能的文章分类方法实施例的流程图。

图2为本发明的基于人工智能的文章分类装置实施例一的结构图。

图3为本发明的基于人工智能的文章分类装置实施例二的结构图。

图4为本发明的计算机设备实施例的结构图。

图5为本发明提供的一种计算机设备的示例图。

【具体实施方式】

为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。

图1为本发明的基于人工智能的文章分类方法实施例的流程图。如图1所示,本实施例的基于人工智能的文章分类方法,具体可以包括如下步骤:

100、获取目标文章的文本;

本发明的基于人工智能的文章分类方法的执行主体为基于人工智能的文章分类装置,该基于人工智能的文章分类装置可以为一电子的实体装置,也可以为采用软件集成的装置。

本实施例中的目标文章为网络上的新闻资讯对应的文章,为了对网络上的新闻资讯进行有效地管理,每一个新闻资讯发布之后,均需要将该新闻资讯的文章作为目标文章,采用本实施例的基于人工智能的文章分类方法对该新闻资讯对应的文章进行分类。

101、对目标文章的文本进行至少两种不同分词粒度的分词处理,得到各分词粒度对应的分词;

本实施例中,需要对目标文章的文本进行至少两种不同分词粒度的分词处理,例如至少两种不同的分词粒度可以包括基本粒度、混版粒度等不同的分词粒度。本实施例中通过对目标文章的文本进行至少两种不同分词粒度的分词处理,以获取该目标文章的文本各种粒度的分词信息,以更加准确地对目标文章的文本进行分类。

需要说明的是,目标文章的文本不仅包括标题还包括正文。本实施例中,在对目标文章的文本按照每一种分词粒度进行分词时,可以按照该种分词粒度分别对目标文章的标题和正文进行分词,得到该分词粒度下、该目标文章对应的标题的分词和该目标文章对应的正文的分词。

102、根据目标文章的各分词粒度对应的分词和在目标分类体系中预先训练的各层级的打分标签模型,预测目标文章与各层级上的各个主题类别的相似度;

本实施例的目标分类体系为本实施例中对目标文章进行分类的依据。网站为了管理文章,可以预先定义好该目标分类体系中包括几层主题类别,以及每一层所包括的主题类别。本实施例中,对于目标分类体系中的每一层级还预先训练有对应的打分标签模型,每一层级的打分标签模型中可以预先训练有目标分类体系中该层级的各个主题类别的一维向量。该打分标签模型在预测目标文章与各层级上的各个主题类别的相似度的时候,可以将各分词粒度对应的分词输入至该打分标签模型,然后打分标签模型便可以根据内部预先训练好的该层级的各个主题类别的一维向量,分别预测出该目标文章与该层级上的各个主题类别的相似度。其中输入该打分标签模型的各分词粒度对应的分词具体可以采用词向量的形式输入,而每个词对应的词向量也可以通过预先训练确定。比如相同语义的词,对应的词向量的相似度应该是比较高,如果词向量的相似度不高,可以调整词向量中的数值,使得两个词向量的相似度朝向升高的方向改变。同理,如不同语义的词,对应的词向量的相似度应该是比较低,如果词向量的相似度较高,可以调整词向量的数值,使得两个词向量的相似度朝向降低的方向改变。通过不断训练和调整,可以确定每个词的词表。

在向该打分标签模型输入各分词粒度对应的分词时,可以将各分词粒度、以及目标文章的标题和正文的分词分域输入。例如对于采用两种分词粒度对目标文章的标题和正文进行分词时,对应输入的分词可以分为如下四个域:(分词粒度1对应的标题分词)、(分词粒度1对应的正文分词)、(分词粒度2对应的标题分词)以及(分词粒度2对应的正文分词)。然后打分标签模型根据输入的各种分词粒度的分词,来准确预测该目标文章与该层级上的各个主题类别的相似度。实际应用中,在对目标文章进行分词时,选择的分词粒度的种类越多,各种大小信息量的分词越丰富,虽然计算过程会略有复杂,但是打分标签模型预测的该目标文章与该层级上的各个主题类别的相似度越准确。

本实施例的打分标签模型可以采用词袋(bag-of-words;bow)模型或者卷积神经网络(convolutionalneuralnetwork;cnn)模型的架构进行训练得到。

103、根据目标文章与各层级上的各个主题类别的相似度以及预设的相似度阈值,对目标文章在各层级上进行分类。

对于目标分类体系中的每一个层级,打分标签模型预测的是目标文章与该层级上的各个主题类别的相似度。即目标分类体系中该层级包括有多少个主题类别,该层级的打分标签模型便可以输出多少个相似度,分别为该目标文章与该层级上的各个主题类的相似度。然后可以判断该层级的打分标签模型输出的各个相似度与相似度阈值的大小关系,若目标文章与该层级的某个主题类别的相似度大于或者等于预设的相似度阈值,此时该目标文章在该层级上可以分配至该主题类别中;否则若目标文章与该层级的某个主题类别的相似度小于预设的相似度阈值,此时该目标文章在该层级上不可以分至该主题类别中。本实施例中,具体可以通过为该目标文章打上主题类别的标签,以标识该目标文章在该层级上分配至该主题类别中。

采用本实施例的技术方案,目标文章在目标分类体系中可以被分至多个主题类别中,也有可能不会分配至任一主题类别中。

而且可选地,本实施例的目标分类体系中所有层级的所有主题类别的预设的相似度阈值可以相同;也可以每一层级的所有主题类别的预设的相似度阈值相同,不同层级的主题类别对应的预设的相似度阈值不相同;或者各个主题类别的预设的相似度阈值也可以均不相同。或者也可以仅对较为特殊的主题类别设置较大或者较小的预设的相似度阈值,其它主题类别设置相同的预设的相似度阈值。例如,对容易分错的主题类别的预设的相似度阈值进行独立控制,加大预设的相似度阈值。比如主题类别为“搞笑”比较难以分类,那么只有当打分标签模型预测到目标文章与该主题类别的相似度阈值足够高时,目标文章才会被分到这个主题类别。

本实施例的基于人工智能的文章分类方法,通过获取目标文章的文本;对目标文章的文本进行至少两种不同分词粒度的分词处理,得到各分词粒度对应的分词;根据目标文章的各分词粒度对应的分词和在目标分类体系中预先训练的各层级的打分标签模型,预测目标文章与各层级上的各个主题类别的相似度;根据目标文章与各层级上的各个主题类别的相似度以及预设的相似度阈值,对目标文章在各层级上进行分类。本实施例的技术方案,通过获取目标文章的文本进行至少两种不同分词粒度的分词,可以使得预测目标文章与各层级上的各个主题类别的相似度时,输入至打分标签模型中的该目标文章的信息量非常丰富,从而能够准确预测出目标文章与各层级上的各个主题类别的相似度;进而能够非常准确地对该目标文章在该层级上进行分类。因此,本实施例的技术方案,不仅对文章进行分类的准确性较高,而且能够自动地实现对文章进行分类,省时、省力,对文章分类的效率非常高。

进一步可选地,在上述实施例的技术方案的基础上,步骤103“根据目标文章与各层级上的各个主题类别的相似度以及预设的相似度阈值,对目标文章在各层级上进行分类”之后,所述方法还包括:校验目标文章在各层级上的分类。

本实施例中,在对目标文章在各层上进行分类之后,还可以进一步校验目标文章在各层级上的分类,以进一步提高对目标文章分类的准确性。

例如,校验目标文章在各层级上的分类,具体可以包括如下至少一种方式:

(a1)检测目标文章的各层级的分类是否冲突;若冲突,取消目标文章在下游层级的分类;否则,若不冲突,则暂不执行任何操作。

本实施例的基于人工智能的文章分类装置,可以进一步检测目标文章在各层级的分类对应的主题类别的相关性,若上下两层级的主题类别完全不相关,可以认为上下两层的主题类别相冲突。此时可以保留上游层级的主题类别的分类,而取消该目标文章在下游层级的主题类别的分类。

例如,若某目标文章在一级分类中打上了“娱乐”的标签,即表示在第一层被分配至主题类别为“娱乐”的分类中;而位于该“娱乐”之下的二级分类中打上了“篮球”的标签,即表示在第二层被分配至主题类别为“篮球”的分类中;此时,可以保留一级分类中的主题类别为“娱乐”的分类,而一级分类之下的二级分类中取消主题类别为“篮球”的分类。

(a2)若目标文章的特定层级的分类为特定主题类别时,检测目标文章中的特定关键词的出现频率是否达到预设频率阈值,若未达到,取消目标文章在特定层级的所述特定主题类别的分类;若达到,暂不执行任何操作;和

(a3)若目标文章的特定层级的分类为特定主题类别时,检测目标文章中是否出现特定关键词,若出现,取消目标文章在特定层级的特定主题类别的分类;否则,暂不执行任何操作。

本实施例还可以针对某些特征主题类别的要求对目标文章的分类进行校验。例如,可以采用正则表达式进行匹配,符合某一要求才属于某个主题类别,或者符合某一要求就一定不属于某个主题类别。例如,根据上述步骤(a2)的校验方式,若二级分类的主题类别为“电影”的条件,可以要求目标文章中出现关键词“电影”必须出现预设频率阈值以上的次数,如二次以上。这样,可以对所有二级分类的主题类别为“电影”的目标文章进行检测,若目标文章中该特定关键词“电影”的出现频率未达到预设频率阈值,此时可以直接取消该目标文章在二级分类中的主题类别为“电影”的分类。

再例如,根据上述步骤(a3)的校验方式,若目标文章的二级分类的主题类别为“熊猫”时,检测目标文章中是否出现特定关键词“直播”,若出现,则取消目标文章在二级分类的主题类别为“熊猫”的分类。

实际应用中,上述(a1)、(a2)和(a3)三种校验目标文章在各层级上的分类的方式,可以互相配合来使用。而且,通过上述校验,可以进一步提高目标文章分类的准确性。

进一步可选地,在上述实施例的技术方案的基础上,在步骤102“根据目标文章的各分词粒度对应的分词和在目标分类体系中预先训练的各层级的打分标签模型,获取目标文章与各层级上的各个主题类别的相似度”之前,还可以包括如下步骤:

(b1)从各资讯网站抓取数个训练语料,各训练语料包括训练文章和训练文章在对应的资讯网站中的原分类;

本实施例中,训练语料的获取具体可以从各门户网站等资讯网站抓取,抓取的训练语料可以包括新闻资讯的文章的标题和正文,必要时还可以抓取该文章的统一资源定位符(uniformresourcelocator;url),以便于可以根据url对抓取的信息进行清洗。另外,在每一个资讯网站中的每一文章中还标识有该文章在该资讯网站的分类体系中的分类,因此,在抓取该文章作为训练语料时,还需要抓取该文章在该资讯网站中的分类,此处称为原分类。例如,若从新浪新闻中抓取教育类目下的新闻文章作为训练语料时,抓取的该文章的原分类为“教育”。

(b2)将各训练语料中的训练文章在对应的资讯网站中的原分类映射为目标分类体系中的主题类别;

由于不同的资讯网站的分类体系的主题类别的划分以及类别的定义并不相同,为了将训练语料能够在本实施例的目标分类体系中进行训练,因此,本实施例中,需要将各训练语料中的训练文章在对应的资讯网站中的原分类映射为目标分类体系中的分类。在映射时,尽量保证原分类的名称和目标分类体系中的主题类别的名称相同。如果目标分类体系中不存在与原分类名称相同的主题名称,此时还可以对原分类以及目标分类体系中的每一个主题类别进行语义分析,获取与原分类语义相同的主题类别,将原分类映射在目标体系下与该原分类语义相同的主题类别。还可以根据原分类和目标分类体系中的每一个主题类别所包括的范围,来将原分类映射至目标分类体系下的某一主题类别中。例如,目标分类体系下设置一级类别包含人文类,而不包括历史类,那么可以将来源中历史类的资讯映射到认为类这一主题类别中。

进一步可选地,在上述步骤(b1)之后,步骤(b2)之前,还可以人工采样评估某个来源在各个类别上的准确,例如人工手动地从某资讯网站选择10篇文章,发现8篇的类别标识的都不准确。此时可以根据url,舍弃从该资讯网站的抓取的所有训练语料资源。

进一步可选地,本实施例中,还可以对各训练语料进行清洗。例如对内容或者标题缺失的劣质训练语料,以及由于定义不同造成的错误分类资源进行过滤。比如在原分类为房产,但是主题和内容都是“棚户改造”的训练语料;在做映射时,该训练语料被映射到目标分类体系下的主题类别为“房产”的分类中,此时在对训练语料清洗时,可以对具有关键词“棚户改造”的资讯进行过滤。

(b3)对各训练语料的文本进行至少两种不同分词粒度的分词处理,得到数个正例的训练数据;

例如,具体可以按照步骤101的方式对各训练语料进行至少两种不同分词粒度的分词处理,得到数个正例的训练数据。正例的训练数据即为正确的训练数据版本。每个训练数据中可以包括训练语料对应的至少两种分词粒度的分词,该训练数据在该目标分类体系中主题类别以及该训练数据为正例。

(b4)根据数个正例的训练数据,构造各正例的训练数据中的训练语料在各层级上的多个不相干的主题类别,生成数个负例的训练数据;

在训练打分标签模型的时候,不仅需要正例,还需要负例,因此,本实施例中还需要根据各正例的训练数据,构造各训练数据中训练语料在各层级上的多个不相干的主题类别,从而生成负例的训练数据;负例的训练数据即为错误的训练数据版本。对于每一个正例的训练数据,可以生成对应三个或者四个负例的训练数据,具体数量可以根据实际需求来设置。同理每个训练数据中可以包括训练语料对应的至少两种分词粒度的分词,该训练数据在该目标分类体系中构造的主题类别以及该训练数据为负例。

(b4)使用数个正例的训练数据和数个负例的训练数据,训练打分标签模型。

本实施例的各层级的打分标签模型中设置有该层级的所有主题类别对应的一维向量。在训练之前,对于该层级的所有主题类别的一维向量可以随机预设初始值。然后开始训练时,先向打分标签模型输入一个训练数据,输入时,训练数据中的训练语料对应的至少两种分词粒度的分词同样可以分域输入;且输入时,具体可以采用词向量表示每一个分词,词向量的表示方式可以参考上述相关实施例的记载。然后打分标签模型根据该输入的训练数据的信息,预测该训练数据与该层级的每一个主题类别的相似度。例如若该训练数据为正例时,可以判断该训练数据与正例中确定的主题类别的相似度是否达到预设相似度阈值,若未达到,调整该主题类别对应的一维向量以及打分标签模型的参数,使得输出的该训练数据与正例中确定的主题类别的相似度朝向增大的方向变化;若该训练数据为负例时,可以判断该训练数据与负例中确定的主题类别的相似度是否小于预设相似度阈值,若未小于,调整该主题类别对应的一维向量以及打分标签模型的参数,使得输出的该训练数据与辅例中确定的主题类别的相似度朝向较小的方向变化;经过无数条训练数据的训练,可以使得训练的打分标签模型能够准确预测出目标文章与该层级上的各个主题类别的相似度。此时打分标签模型的参数和其中的该层级的各主题类别的一维向量确定,对应的打分标签模型确定。

上述实施例的基于人工智能的文章分类方法,通过获取目标文章的文本进行至少两种不同分词粒度的分词,可以使得预测目标文章与各层级上的各个主题类别的相似度时,输入至打分标签模型中的该目标文章的信息量非常丰富,从而能够准确预测出目标文章与各层级上的各个主题类别的相似度;进而能够非常准确地对该目标文章在该层级上进行分类。因此,上述实施例的技术方案,不仅对文章进行分类的准确性较高,而且能够自动地实现对文章进行分类,省时、省力,对文章分类的效率非常高。

图2为本发明的基于人工智能的文章分类装置实施例一的结构图。如图2所示,本实施例的基于人工智能的文章分类装置,具体可以包括:获取模块10、分词模块11和预测模块12和分类模块13。

其中获取模块10用于获取目标文章的文本;分词模块11用于对获取模块10获取的目标文章的文本进行至少两种不同分词粒度的分词处理,得到各分词粒度对应的分词;预测模块12用于根据分词模块11获取的目标文章的各分词粒度对应的分词和在目标分类体系中预先训练的各层级的打分标签模型,预测目标文章与各层级上的各个主题类别的相似度;分类模块13用于根据预测模块12预测的目标文章与各层级上的各个主题类别的相似度以及预设的相似度阈值,对目标文章在各所述层级上进行分类。

本实施例的基于人工智能的文章分类装置,通过采用上述模块实现文章分类的实现原理以及技术效果与上述相关方法实施例的实现相同,详细可以参考上述相关方法实施例的记载,在此不再赘述。

图3为本发明的基于人工智能的文章分类装置实施例二的结构图。如图3所示,本实施例的基于人工智能的文章分类装置,在上述图2所示实施例的技术方案的基础上,进一还可以包括如下技术方案。

如图3所示,本实施例的基于人工智能的文章分类装置还包括:校验模块14。

该校验模块14用于校验分类模块13得到的目标文章在各层级上的分类。

进一步可选地,本实施例的基于人工智能的文章分类装置中,该校验模块14具体用于执行如下至少一种:

检测目标文章的各层级的分类是否冲突;若冲突,取消目标文章在下游层级的分类;

若目标文章的特定层级的分类为特定主题类别时,检测目标文章中的特定关键词的出现频率是否达到预设频率阈值,若未达到,取消目标文章在特定层级的特定主题类别的分类;和

若目标文章的特定层级的分类为特定主题类别时,检测目标文章中是否出现特定关键词,若出现,取消目标文章在所述特定层级的特定主题类别的分类。

进一步可选地,本实施例的基于人工智能的文章分类装置中,还包括:

抓取模块15用于从各资讯网站抓取数个训练语料,各训练语料包括训练文章和训练文章在对应的资讯网站中的原分类;

映射模块16用于将抓取模块15抓取的各训练语料中的训练文章在对应的资讯网站中的原分类映射为目标分类体系中的主题类别,

正例生成模块17用于对映射模块16处理后的各训练语料的文本进行至少两种不同分词粒度的分词处理,得到数个正例的训练数据;

负例生成模块18用于根据正例生成模块17获取的数个正例的训练数据,构造各正例的训练数据中的训练语料在各层级上的多个不相干的主题类别,生成数个负例的训练数据;

训练模块19用于使用正例生成模块17生成的数个正例的训练数据和负例生成模块18生成的数个负例的训练数据,训练各层级的打分标签模型。

对应地,预测模块12用于根据分词模块11获取的目标文章的各分词粒度对应的分词和在目标分类体系中训练模块19预先训练的各层级的打分标签模型,预测目标文章与各层级上的各个主题类别的相似度。

本实施例的基于人工智能的文章分类装置,通过采用上述模块实现文章分类的实现原理以及技术效果与上述相关方法实施例的实现相同,详细可以参考上述相关方法实施例的记载,在此不再赘述。

图4为本发明的计算机设备实施例的结构图。如图4所示,本实施例的计算机设备,包括:一个或多个处理器30,以及存储器40,存储器40用于存储一个或多个程序,当存储器40中存储的一个或多个程序被一个或多个处理器30执行,使得一个或多个处理器30实现如上实施例的基于人工智能的文章分类方法。图4所示实施例中以包括多个处理器30为例。

例如,图5为本发明提供的一种计算机设备的示例图。图5示出了适于用来实现本发明实施方式的示例性计算机设备12a的框图。图5显示的计算机设备12a仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示,计算机设备12a以通用计算设备的形式表现。计算机设备12a的组件可以包括但不限于:一个或者多个处理器16a,系统存储器28a,连接不同系统组件(包括系统存储器28a和处理器16a)的总线18a。

总线18a表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(isa)总线,微通道体系结构(mac)总线,增强型isa总线、视频电子标准协会(vesa)局域总线以及外围组件互连(pci)总线。

计算机设备12a典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备12a访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。

系统存储器28a可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(ram)30a和/或高速缓存存储器32a。计算机设备12a可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34a可以用于读写不可移动的、非易失性磁介质(图5未显示,通常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如cd-rom,dvd-rom或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18a相连。系统存储器28a可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明上述图1-图3各实施例的功能。

具有一组(至少一个)程序模块42a的程序/实用工具40a,可以存储在例如系统存储器28a中,这样的程序模块42a包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42a通常执行本发明所描述的上述图1-图3各实施例中的功能和/或方法。

计算机设备12a也可以与一个或多个外部设备14a(例如键盘、指向设备、显示器24a等)通信,还可与一个或者多个使得用户能与该计算机设备12a交互的设备通信,和/或与使得该计算机设备12a能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口22a进行。并且,计算机设备12a还可以通过网络适配器20a与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。如图所示,网络适配器20a通过总线18a与计算机设备12a的其它模块通信。应当明白,尽管图中未示出,可以结合计算机设备12a使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。

处理器16a通过运行存储在系统存储器28a中的程序,从而执行各种功能应用以及数据处理,例如实现上述实施例所示的基于人工智能的文章分类方法。

本发明还提供一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上述实施例所示的基于人工智能的文章分类方法。

本实施例的计算机可读介质可以包括上述图5所示实施例中的系统存储器28a中的ram30a、和/或高速缓存存储器32a、和/或存储系统34a。

随着科技的发展,计算机程序的传播途径不再受限于有形介质,还可以直接从网络下载,或者采用其他方式获取。因此,本实施例中的计算机可读介质不仅可以包括有形的介质,还可以包括无形的介质。

本实施例的计算机可读介质可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、rf等等,或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c++,还包括常规的过程式程序设计语言—诸如”c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。

上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(read-onlymemory,rom)、随机存取存储器(randomaccessmemory,ram)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1