数据存储方法、装置、计算机设备及存储介质与流程

文档序号:18642830发布日期:2019-09-11 23:45阅读:197来源:国知局
数据存储方法、装置、计算机设备及存储介质与流程

本发明涉及数据采集技术领域,尤其涉及一种数据存储方法、装置、计算机设备及存储介质。



背景技术:

目前,企业的大事件信息,在时间维度上具有分散性,比较难以搜集并集中整理。而且一般每一企业在对自身企业发展的数据整理,是属于偏人工文本操作的,缺少自动化获取的工具。而且,一般每一企业是各自整理自身的企业历史数据,并未形成一个可以集中查看所有企业的历史事件的企业历史数据查询平台。



技术实现要素:

本发明实施例提供了一种数据存储方法、装置、计算机设备及存储介质,旨在解决现有技术中企业在对自身企业发展的数据整理,是属于偏人工文本操作的,缺少自动化获取并整理数据,导致效率低下的问题。

第一方面,本发明实施例提供了一种数据存储方法,其包括:

根据所接收的企业名称爬取对应的源数据集,将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据;其中,每一处理后数据对应一个企业历史信息列表;

将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集;以及

获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;其中,时间轴或日历的名称由与各企业信息列表对应的企业名称所生成,所述发展轨迹数据为添加了企业历史信息列表的时间轴形式或日历形式的数据;

将所述发展轨迹数据通过时间轴或日历进行显示。

第二方面,本发明实施例提供了一种数据存储装置,其包括:

源数据爬取单元,用于根据所接收的企业名称爬取对应的源数据集,将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据;其中,每一处理后数据对应一个企业历史信息列表;

去重单元,用于将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集;以及

轨迹数据获取单元,用于获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;其中,时间轴或日历的名称由与各企业信息列表对应的企业名称所生成,所述发展轨迹数据为添加了企业历史信息列表的时间轴形式或日历形式的数据;

数据显示单元,用于将所述发展轨迹数据通过时间轴或日历进行显示。

第三方面,本发明实施例又提供了一种计算机设备,其包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的数据存储方法。

第四方面,本发明实施例还提供了一种计算机可读存储介质,其中所述计算机可读存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的数据存储方法。

本发明实施例提供了一种数据存储方法、装置、计算机设备及存储介质。该方法包括根据所接收的企业名称爬取对应的源数据集,将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据;其中,每一处理后数据对应一个企业历史信息列表;将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集;以及获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;将所述发展轨迹数据通过时间轴或日历进行显示。该方法采用数据爬取技术,实现了自动从网络爬取企业相关信息,在抽取企业相关信息的关键信息后,对所有关键信息根据时间进行排序,得到企业的发展轨迹数据。

附图说明

为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的数据存储方法的应用场景示意图;

图2为本发明实施例提供的数据存储方法的流程示意图;

图3为本发明实施例提供的数据存储方法的另一流程示意图;

图4为本发明实施例提供的数据存储方法的子流程示意图;

图5为本发明实施例提供的数据存储方法的另一子流程示意图;

图6为本发明实施例提供的数据存储方法的另一子流程示意图;

图7为本发明实施例提供的数据存储装置的示意性框图;

图8为本发明实施例提供的数据存储装置的另一示意性框图;

图9为本发明实施例提供的数据存储装置的子单元示意性框图;

图10为本发明实施例提供的数据存储装置的另一子单元示意性框图;

图11为本发明实施例提供的数据存储装置的另一子单元示意性框图;

图12为本发明实施例提供的计算机设备的示意性框图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。

请参阅图1和图2,图1为本发明实施例提供的数据存储方法的应用场景示意图,图2为本发明实施例提供的数据存储方法的流程示意图,该数据存储方法应用于服务器中,该方法通过安装于服务器中的应用软件进行执行。

如图2所示,该方法包括步骤s110~s140。

s110、根据所接收的企业名称爬取对应的源数据集,将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据;其中,每一处理后数据对应一个企业历史信息列表。

在本实施例中,为了获取某一或多个企业的发展轨迹,可以通过爬虫工具爬取海量与对应企业相关的网页内容。例如当需获取企业a相关的网页内容时,对部署在服务器中的爬虫工具设置与企业a相关的待爬取网页清单,通过爬虫工具从与待爬取网页清单网页的网页服务器中获取了与企业a相关的网页内容作为源数据集。之后需要对源数据集进行预处理,得到与企业发展进程相关的历史文本数据。具体的,可将每一篇从网页爬取的文本数据进行标题关键词列表和正文关键词列表的提取。

在一实施例中,如图4所示,步骤s110包括:

s111、将所述源数据集所包括的多篇文本数据中各文本数据的标题和正文分别通过词频-逆文本频率指数模型进行关键词信息抽取,得到与各文本数据对应的标题关键词列表和正文关键词列表;

s112、将所述源数据集所包括的多篇文本数据中各文本数据的发表时间及企业事件发生时间进行识别,得到与每一文本数据对应的文本关键时间信息;

s113、将所述源数据集中每一文本数据对应的标题关键词列表、正文关键词列表和文本关键时间信息进行封装组合,得到与每一文本数据对应的企业历史信息列表,以得到与每一源数据对应的处理后数据。

在本实施例中,当通过tf-idf模型(即termfrequency–inversedocumentfrequency,表示词频-逆文本频率指数模型)对所述源数据集所包括的多篇文本数据中各文本数据的标题和正文均进行关键词信息抽取,可以将每一篇文本数据简化表述为对应的关键词列表。

之后,将所述源数据集所包括的多篇文本数据中各文本数据的发表时间及企业事件发生时间进行识别时,文本数据的发表时间即是扫描文本的标题下方的文本发表时间(一般网络上的新闻稿,新闻标题的下方为该新闻的发表时间),且企业事件发生时间的识别过程即是扫描文本数据的正文内容,判断是否包含x1年x2月x3日x4时x5分等时间点的文本内容,若有则对该文本内容进行识别以得到企业事件发生时间。

由于每一文本数据都简化为了标题关键词列表、正文关键词列表和文本关键时间信息的组合,故可以将每一源数据对应的各文本数据通过企业历史信息列表来简化表示,即每一源数据对应的处理后数据均可用对应的企业历史信息列表来表示。

s120、将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集。

在本实施例中,之所以进行重复数据的判断,是有可能爬虫爬取了多个网页的新闻内容,其均是描述该企业的同一企业事件,只是该新闻内容被多家网站同时转载;同样的网页内容,在进行预处理后,得到的处理后数据是相同的,故多个相同的处理后数据只需保留一项且其余的均进行去重删除即可,这样能有效的防止获取重复的企业事件信息。

在一实施例中,如图5所示,步骤s120包括:

s121、获取每一处理后数据,根据每一处理后数据中所包括的标题关键词列表和正文关键词列表,判断与源数据集所包括多篇文本数据一一对应的处理后数据是否存在重复的处理后数据;

s122、若与源数据集所包括多篇文本数据一一对应的处理后数据中存在重复的处理后数据,将多个相同的处理后数据中任意选定一组保存并删除未被选定保存的处理后数据,得到与源数据对应的去重后数据集。

在本实施例中,若源数据集所包括多篇文本数据一一对应的处理后数据中存在重复的处理后数据,表示爬虫爬取了多个网页的新闻内容,其均是描述该企业的同一企业事件,此时只需保存其中一个网页的新闻内容即可,将其他重复多余的处理后数据进行删除,得到与源数据对应的去重后数据集。若源数据集所包括多篇文本数据一一对应的处理后数据中不存在重复的处理后数据,则保留所述源数据集作为去重后数据集。通过去重处理,有效精简了数据集的大小。

s130、获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;其中,时间轴或日历的名称由与各企业信息列表对应的企业名称所生成,所述发展轨迹数据为添加了企业历史信息列表的时间轴形式或日历形式的数据。

在本实施例中,由于去重后数据集删除了重复的企业历史信息列表,而且每一企业历史信息列表中均包括企业事件发生时间,故可按照企业事件发生时间对各企业历史信息列表进行排序,将每一企业历史信息列表根据企业事件发生时间添加至对应的时间节点上,以得到企业的发展轨迹数据。

具体是先由与各企业信息列表对应的企业名称生成具有命名的时间轴或日历,然后将每一企业历史信息列表根据企业事件发生时间添加至时间轴或日历对应的时间节点,时间轴或日历对应的时间节点上仅进行高亮标识,而且点击该时间节点时对应弹出该时间节点当日对应的一个或多个企业历史信息列表。

在一实施例中,如图6所示,步骤s130包括:

s131、根据各企业信息列表中包括的企业事件发生时间,对各企业历史信息列表进行降序排序,得到排序后企业历史信息列表集合;

s132、将所述排序后企业历史信息列表集合中各按企业事件发生时间的降序顺序依次添加至预先设置的时间轴或日历对应的时间节点上,以得到与所述企业名称对应的发展轨迹数据。

在本实施例中,可按照企业事件发生时间对各企业历史信息列表进行排序,将每一企业历史信息列表根据企业事件发生时间添加至时间轴或者日历对应的日期上,得到一种以时间轴或日历为载体的,可选定某一日期查看企业历史信息列表及其具体文本内容的发展轨迹数据。

s140、将所述发展轨迹数据通过时间轴或日历进行显示。

在本实施例中,当将各企业历史信息列表根据企业事件发生时间添加至时间轴或者日历对应的日期上后,通过时间轴或日历显示所述发展轨迹数据。为了节省显示空间,一般初始只显示以企业名称命名的时间轴或者日历,添加了企业历史信息列表的时间节点高亮标识,用户点击了该时间节点后,显示对应的企业历史信息列表。

在一实施例中,如图3所示,步骤s140之后还包括:

s150、若检测到所录入的检索关键词,将所述检索关键词与企业历史信息列表进行比对,获取与所述检索关键词的皮尔逊相似度超出预设的相似度阈值的企业历史信息列表,以作为检索推送结果。

在本实施例中,将源数据集中各源数据进行预处理和去重处理后,得到与每一文本数据一一对应的企业历史信息列表,此时这些企业历史信息列表按时间先后顺序映射到对应时间节点后形成企业的发展轨迹数据。由于每一企业历史信息列表中均包括标题关键词列表、正文关键词列表、及文本关键时间信息,所录入的检索关键词可以与每一企业历史信息列表中的各关键词进行比对,筛选得到与检索关键词最近似的企业历史信息列表作为检索推送结果。

具体的,获取与所述检索关键词的皮尔逊相似度超出预设的相似度阈值的企业历史信息列表,以作为检索推送结果。在计算企业历史信息列表中各关键词与所述检索关键词之间的皮尔逊相似度时,可以将企业历史信息列表中各关键词和所述检索关键词均通过word2vec模型(word2vec模型是一种用于将词语转化为词向量的模型)转化为词向量,然后计算各关键词对应的词向量与检索关键词对应的词向量之间的皮尔逊相似度。

计算任意两个向量之间的皮尔逊相关系数,可以通过以下公式进行计算:

其中,e表示数学期望;

ρx,y的取值范围是(0,1),当ρx,y越接近1表示两个列向量的相似程度越高,当ρx,y越接近0表示两个向量的相似程度越低。

该方法实现了自动从网络爬取企业相关信息,在抽取企业相关信息的关键信息后,对所有关键信息根据时间进行排序,得到企业的发展轨迹数据。

本发明实施例还提供一种数据存储装置,该数据存储装置用于执行前述数据存储方法的任一实施例。具体地,请参阅图7,图7是本发明实施例提供的数据存储装置的示意性框图。该数据存储装置100可以配置于服务器中。

如图7所示,数据存储装置100包括源数据爬取单元110、去重单元120、轨迹数据获取单元130,数据显示单元140。

源数据爬取单元110,用于根据所接收的企业名称爬取对应的源数据集,将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据;其中,每一处理后数据对应一个企业历史信息列表。

在本实施例中,为了某一或多个企业的发展轨迹,可以通过爬虫工具爬取海量与对应企业相关的网页内容。例如当需获取企业a相关的网页内容时,对部署在服务器中的爬虫工具设置与企业a相关的待爬取网页清单,通过爬虫工具从与待爬取网页清单网页的网页服务器中获取了与企业a相关的网页内容作为源数据集。之后需要对源数据集进行预处理,得到与企业发展进程相关的历史文本数据。具体的,可将每一篇从网页爬取的文本数据进行标题关键词列表和正文关键词列表的提取。

在一实施例中,如图9所示,源数据爬取单元110包括:

关键词抽取单元111,用于将所述源数据集所包括的多篇文本数据中各文本数据的标题和正文分别通过词频-逆文本频率指数模型进行关键词信息抽取,得到与各文本数据对应的标题关键词列表和正文关键词列表;

时间信息识别单元112,用于将所述源数据集所包括的多篇文本数据中各文本数据的发表时间及企业事件发生时间进行识别,得到与每一文本数据对应的文本关键时间信息;

数据组合单元113,用于将所述源数据集中每一文本数据对应的标题关键词列表、正文关键词列表和文本关键时间信息进行封装组合,得到与每一文本数据对应的企业历史信息列表,以得到与每一源数据对应的处理后数据。

在本实施例中,当通过tf-idf模型(即termfrequency–inversedocumentfrequency,表示词频-逆文本频率指数模型)对所述源数据集所包括的多篇文本数据中各文本数据的标题和正文均进行关键词信息抽取,可以将每一篇文本数据简化表述为对应的关键词列表。

之后,将所述源数据集所包括的多篇文本数据中各文本数据的发表时间及企业事件发生时间进行识别时,文本数据的发表时间即是扫描文本的标题下方的文本发表时间(一般网络上的新闻稿,新闻标题的下方为该新闻的发表时间),且企业事件发生时间的识别过程即是扫描文本数据的正文内容,判断是否包含x1年x2月x3日x4时x5分等时间点的文本内容,若有则对该文本内容进行识别以得到企业事件发生时间。

由于每一文本数据都简化为了标题关键词列表、正文关键词列表和文本关键时间信息的组合,故可以将每一源数据对应的各文本数据通过企业历史信息列表来简化表示,即每一源数据对应的处理后数据均可用对应的企业历史信息列表来表示。

去重单元120,用于将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集。

在本实施例中,之所以进行重复数据的判断,是有可能爬虫爬取了多个网页的新闻内容,其均是描述该企业的同一企业事件,只是该新闻内容被多家网站同时转载;同样的网页内容,在进行预处理后,得到的处理后数据是相同的,故多个相同的处理后数据只需保留一项且其余的均进行去重删除即可,这样能有效的防止获取重复的企业事件信息。

在一实施例中,如图10所示,去重单元120包括:

数据比对单元121,用于获取每一处理后数据,根据每一处理后数据中所包括的标题关键词列表和正文关键词列表,判断与源数据集所包括多篇文本数据一一对应的处理后数据是否存在重复的处理后数据;

数据删除单元122,用于若与源数据集所包括多篇文本数据一一对应的处理后数据中存在重复的处理后数据,将多个相同的处理后数据中任意选定一组保存并删除未被选定保存的处理后数据,得到与源数据对应的去重后数据集。

在本实施例中,若源数据集所包括多篇文本数据一一对应的处理后数据中存在重复的处理后数据,表示爬虫爬取了多个网页的新闻内容,其均是描述该企业的同一企业事件,此时只需保存其中一个网页的新闻内容即可,将其他重复多余的处理后数据进行删除,得到与源数据对应的去重后数据集。通过去重处理,有效精简了数据集的大小。

轨迹数据获取单元130,用于获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;其中,时间轴或日历的名称由与各企业信息列表对应的企业名称所生成,所述发展轨迹数据为添加了企业历史信息列表的时间轴形式或日历形式的数据。

在本实施例中,由于去重后数据集删除了重复的企业历史信息列表,而且每一企业历史信息列表中均包括企业事件发生时间,故可按照企业事件发生时间对各企业历史信息列表进行排序,将每一企业历史信息列表根据企业事件发生时间添加至对应的时间节点上,以得到企业的发展轨迹数据。

具体是先由与各企业信息列表对应的企业名称生成具有命名的时间轴或日历,然后将每一企业历史信息列表根据企业事件发生时间添加至时间轴或日历对应的时间节点,时间轴或日历对应的时间节点上仅进行高亮标识,而且点击该时间节点时对应弹出该时间节点当日对应的一个或多个企业历史信息列表。

在一实施例中,如图11所示,轨迹数据获取单元130包括:

降序排序单元131,用于根据各企业信息列表中包括的企业事件发生时间,对各企业历史信息列表进行降序排序,得到排序后企业历史信息列表集合;

轨迹数据映射单元132,用于将所述排序后企业历史信息列表集合中各按企业事件发生时间的降序顺序依次添加至预先设置的时间轴或日历对应的时间节点上,以得到与所述企业名称对应的发展轨迹数据。

在本实施例中,可按照企业事件发生时间对各企业历史信息列表进行排序,将每一企业历史信息列表根据企业事件发生时间添加至时间轴或者日历对应的日期上,得到一种以时间轴或日历为载体的,可选定某一日期查看企业历史信息列表及其具体文本内容的发展轨迹数据。

数据显示单元140,用于将所述发展轨迹数据通过时间轴或日历进行显示。

在本实施例中,当将各企业历史信息列表根据企业事件发生时间添加至时间轴或者日历对应的日期上后,通过时间轴或日历显示所述发展轨迹数据。为了节省显示空间,一般初始只显示以企业名称命名的时间轴或者日历,添加了企业历史信息列表的时间节点高亮标识,用户点击了该时间节点后,显示对应的企业历史信息列表。

在一实施例中,如图8所示,数据存储装置100还包括:

检索单元150,用于若检测到所录入的检索关键词,将所述检索关键词与企业历史信息列表进行比对,获取与所述检索关键词的皮尔逊相似度超出预设的相似度阈值的企业历史信息列表,以作为检索推送结果。

在本实施例中,将源数据集中各源数据进行预处理和去重处理后,得到与每一文本数据一一对应的企业历史信息列表,此时这些企业历史信息列表按时间先后顺序映射到对应时间节点后形成企业的发展轨迹数据。由于每一企业历史信息列表中均包括标题关键词列表、正文关键词列表、及文本关键时间信息,所录入的检索关键词可以与每一企业历史信息列表中的各关键词进行比对,筛选得到与检索关键词最近似的企业历史信息列表作为检索推送结果。

具体的,获取与所述检索关键词的皮尔逊相似度超出预设的相似度阈值的企业历史信息列表,以作为检索推送结果。在计算企业历史信息列表中各关键词与所述检索关键词之间的皮尔逊相似度时,可以将企业历史信息列表中各关键词和所述检索关键词均通过word2vec模型(word2vec模型是一种用于将词语转化为词向量的模型)转化为词向量,然后计算各关键词对应的词向量与检索关键词对应的词向量之间的皮尔逊相似度。

该装置实现了自动从网络爬取企业相关信息,在抽取企业相关信息的关键信息后,对所有关键信息根据时间进行排序,得到企业的发展轨迹数据。

上述数据存储装置可以实现为计算机程序的形式,该计算机程序可以在如图12所示的计算机设备上运行。

请参阅图12,图12是本发明实施例提供的计算机设备的示意性框图。该计算机设备500是服务器,服务器可以是独立的服务器,也可以是多个服务器组成的服务器集群。

参阅图12,该计算机设备500包括通过系统总线501连接的处理器502、存储器和网络接口505,其中,存储器可以包括非易失性存储介质503和内存储器504。

该非易失性存储介质503可存储操作系统5031和计算机程序5032。该计算机程序5032被执行时,可使得处理器502执行数据存储方法。

该处理器502用于提供计算和控制能力,支撑整个计算机设备500的运行。

该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境,该计算机程序5032被处理器502执行时,可使得处理器502执行数据存储方法。

该网络接口505用于进行网络通信,如提供数据信息的传输等。本领域技术人员可以理解,图12中示出的结构,仅仅是与本发明方案相关的部分结构的框图,并不构成对本发明方案所应用于其上的计算机设备500的限定,具体的计算机设备500可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。

其中,所述处理器502用于运行存储在存储器中的计算机程序5032,以实现如下功能:根据所接收的企业名称爬取对应的源数据集,将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据;其中,每一处理后数据对应一个企业历史信息列表;将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集;获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;其中,时间轴或日历的名称由与各企业信息列表对应的企业名称所生成,所述发展轨迹数据为添加了企业历史信息列表的时间轴形式或日历形式的数据;以及将所述发展轨迹数据通过时间轴或日历进行显示。

在一实施例中,处理器502在执行所述获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;将所述发展轨迹数据通过时间轴或日历进行显示的步骤之后,还执行如下操作:若检测到所录入的检索关键词,将所述检索关键词与企业历史信息列表进行比对,获取与所述检索关键词的皮尔逊相似度超出预设的相似度阈值的企业历史信息列表,以作为检索推送结果。

在一实施例中,处理器502在执行所述将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据的步骤时,执行如下操作:将所述源数据集所包括的多篇文本数据中各文本数据的标题和正文分别通过词频-逆文本频率指数模型进行关键词信息抽取,得到与各文本数据对应的标题关键词列表和正文关键词列表;将所述源数据集所包括的多篇文本数据中各文本数据的发表时间及企业事件发生时间进行识别,得到与每一文本数据对应的文本关键时间信息;将所述源数据集中每一文本数据对应的标题关键词列表、正文关键词列表和文本关键时间信息进行封装组合,得到与每一文本数据对应的企业历史信息列表,以得到与每一源数据对应的处理后数据。

在一实施例中,处理器502在执行所述将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集的步骤时,执行如下操作:获取每一处理后数据,根据每一处理后数据中所包括的标题关键词列表和正文关键词列表,判断与源数据集所包括多篇文本数据一一对应的处理后数据是否存在重复的处理后数据;若与源数据集所包括多篇文本数据一一对应的处理后数据中存在重复的处理后数据,将多个相同的处理后数据中任意选定一组保存并删除未被选定保存的处理后数据,得到与源数据对应的去重后数据集。

在一实施例中,处理器502在执行所述将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据的步骤时,执行如下操作:根据各企业信息列表中包括的企业事件发生时间,对各企业历史信息列表进行降序排序,得到排序后企业历史信息列表集合;将所述排序后企业历史信息列表集合中各按企业事件发生时间的降序顺序依次添加至预先设置的时间轴或日历对应的时间节点上,以得到与所述企业名称对应的发展轨迹数据。

本领域技术人员可以理解,图12中示出的计算机设备的实施例并不构成对计算机设备具体构成的限定,在其他实施例中,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。例如,在一些实施例中,计算机设备可以仅包括存储器及处理器,在这样的实施例中,存储器及处理器的结构及功能与图12所示实施例一致,在此不再赘述。

应当理解,在本发明实施例中,处理器502可以是中央处理单元(centralprocessingunit,cpu),该处理器502还可以是其他通用处理器、数字信号处理器(digitalsignalprocessor,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现成可编程门阵列(field-programmablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

在本发明的另一实施例中提供计算机可读存储介质。该计算机可读存储介质可以为非易失性的计算机可读存储介质。该计算机可读存储介质存储有计算机程序,其中计算机程序被处理器执行时实现以下步骤:根据所接收的企业名称爬取对应的源数据集,将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据;其中,每一处理后数据对应一个企业历史信息列表;将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集;获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;其中,时间轴或日历的名称由与各企业信息列表对应的企业名称所生成,所述发展轨迹数据为添加了企业历史信息列表的时间轴形式或日历形式的数据;以及将所述发展轨迹数据通过时间轴或日历进行显示。

在一实施例中,所述获取所述去重后数据集中所包括的企业历史信息列表,将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据;将所述发展轨迹数据通过时间轴或日历进行显示之后,还包括:若检测到所录入的检索关键词,将所述检索关键词与企业历史信息列表进行比对,获取与所述检索关键词的皮尔逊相似度超出预设的相似度阈值的企业历史信息列表,以作为检索推送结果。

在一实施例中,所述将所述源数据集进行预处理,得到与所述源数据集所包括多篇文本数据一一对应的处理后数据,包括:将所述源数据集所包括的多篇文本数据中各文本数据的标题和正文分别通过词频-逆文本频率指数模型进行关键词信息抽取,得到与各文本数据对应的标题关键词列表和正文关键词列表;将所述源数据集所包括的多篇文本数据中各文本数据的发表时间及企业事件发生时间进行识别,得到与每一文本数据对应的文本关键时间信息;将所述源数据集中每一文本数据对应的标题关键词列表、正文关键词列表和文本关键时间信息进行封装组合,得到与每一文本数据对应的企业历史信息列表,以得到与每一源数据对应的处理后数据。

在一实施例中,所述将所述源数据中所包括多篇文本数据一一对应的处理后数据进行去重,得到与源数据对应的去重后数据集,包括:获取每一处理后数据,根据每一处理后数据中所包括的标题关键词列表和正文关键词列表,判断与源数据集所包括多篇文本数据一一对应的处理后数据是否存在重复的处理后数据;若与源数据集所包括多篇文本数据一一对应的处理后数据中存在重复的处理后数据,将多个相同的处理后数据中任意选定一组保存并删除未被选定保存的处理后数据,得到与源数据对应的去重后数据集。

在一实施例中,所述将各企业信息列表根据所包括的文本中企业事件发生时间及对应的企业历史信息列表对应添加至时间轴或日历对应的时间节点,得到与企业名称对应的发展轨迹数据,包括:根据各企业信息列表中包括的企业事件发生时间,对各企业历史信息列表进行降序排序,得到排序后企业历史信息列表集合;将所述排序后企业历史信息列表集合中各按企业事件发生时间的降序顺序依次添加至预先设置的时间轴或日历对应的时间节点上,以得到与所述企业名称对应的发展轨迹数据。

所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的设备、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。

在本发明所提供的几个实施例中,应该理解到,所揭露的设备、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为逻辑功能划分,实际实现时可以有另外的划分方式,也可以将具有相同功能的单元集合成一个单元,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接,也可以是电的,机械的或其它的形式连接。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。

另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read-onlymemory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1