一种智能数据存取方法、装置及设备与流程

文档序号:14174962阅读:212来源:国知局
一种智能数据存取方法、装置及设备与流程

本发明涉及数据处理技术领域,更具体地说,涉及一种智能数据存取方法、装置、设备及计算机可读存储介质。



背景技术:

随着大数据时代的到来,数据的存储需求越来越大,数据读取请求的响应速度越来越被关注。传统的数据存储系统为了提高数据读取速度在存储数据时通常是通过数据访问频率将待存储的数据区分为热数据和冷数据,然后将热数据存放在一类硬盘或者一个存储区间内,冷数据存放在另一类硬盘或者另一个存储区间内,这样在读取数据时,就能较快的根据待读取数据的热度到相应的硬盘或者存储区间内读取。

现有技术中通常是由类似计数器的模块通过记录待读取数据的访问次数来确定该数据属于热数据还是冷数据,进而再到与热数据或冷数据对应的硬盘或存储区间实现对应的数据读取操作。但是这种实现数据读取的方式确定待读取数据属于热数据还是冷数据所需时间较长,数据读取效率较差。

综上所述,如何提供一种数据读取效率较高的数据存储技术方案,是目前本领域技术人员亟待解决的问题。



技术实现要素:

本发明的目的是提供一种智能数据存取方法、装置、设备及计算机可读存储介质,以解决现有技术中存在的数据读取效率较差的问题。

为了实现上述目的,本发明提供如下技术方案:

一种智能数据存取方法,包括:

接收待处理数据流;

将所述待处理数据流输入至预先训练得到的智能模块中,所述智能模块为利用预设量的、设定有对应分类标签的数据流训练得到的,所述智能模块具有识别输入至该智能模块的数据流的分类标签并输出该分类标签的功能;

获取所述智能模块输出的所述待处理数据流的分类标签为目标分类标签,并查找与该目标分类标签具有对应关系的存储区间为目标存储区间,基于该目标存储区间实现与所述待处理数据流对应的数据存取操作。

优选的,获取所述智能模块输出的所述待处理数据流的分类标签为目标分类标签,包括:

获取所述智能模块输出的所述待处理数据流的分类标签为目标分类标签,所述目标分类标签包括所述待处理数据流本身的类型、所述待处理数据流对应数据的数据信息,所述待处理数据流本身的类型包括待存储数据及读取数据请求,所述数据信息包括数据类型及数据访问频率。

优选的,还包括:

如果未查找到目标存储区间且所述待处理数据流为待存储数据,则将所述待存储数据存储至空闲的存储区间,并存储该存储区间与所述目标分类标签的对应关系,所述空闲的存储区间为未存储有其他数据的存储区间;如果未查找到目标存储区间且所述待处理数据流为读取数据请求,则返回获取数据失败的信息。

优选的,确定与所述目标分类标签对应的存储区间为目标存储区间,包括:

判断映射地址区间表中是否存在与所述目标分类标签对应的地址区间,如果是,则确定该地址区间对应存储区间为目标存储区间;所述映射地址区间表为预先创建的存储有分类标签及地址区间之间的对应关系的表。

优选的,基于所述目标存储区间实现与所述待处理数据流对应的数据存取操作之前,还包括:

将用于实现数据存储的数据存储介质划分为多个存储区间,并确定每个存储区间的起始地址为该存储区间的地址区间,其中每个存储区间对应一分类标签。

一种智能数据存取装置,包括:

接收模块,用于:接收待处理数据流;

输入模块,用于:将所述待处理数据流输入至预先训练得到的智能模块中,所述智能模块为利用预设量的、设定有对应分类标签的数据流训练得到的,所述智能模块具有识别输入至该智能模块的数据流的分类标签并输出该分类标签的功能;

操作模块,用于:获取所述智能模块输出的所述待处理数据流的分类标签为目标分类标签,并查找与该目标分类标签具有对应关系的存储区间为目标存储区间,基于该目标存储区间实现与所述待处理数据流对应的数据存取操作。

优选的,所述操作模块包括:

获取单元,用于:获取所述智能模块输出的所述待处理数据流的分类标签为目标分类标签,所述目标分类标签包括所述待处理数据流本身的类型、所述待处理数据流对应数据的数据信息,所述待处理数据流本身的类型包括待存储数据及读取数据请求,所述数据信息包括数据类型及数据访问频率。

优选的,还包括:

处理模块,用于:如果未查找到目标存储区间且所述待处理数据流为待存储数据,则将所述待存储数据存储至空闲的存储区间,并存储该存储区间与所述目标分类标签的对应关系,所述空闲的存储区间为未存储有其他数据的存储区间;如果未查找到目标存储区间且所述待处理数据流为读取数据请求,则返回获取数据失败的信息。

一种智能数据存取设备,包括:

存储器,用于存储计算机程序;

处理器,用于执行所述计算机程序时实现如上任一项所述智能数据存取方法的步骤。

一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上任一项所述智能数据存取方法的步骤。

本发明提供了一种智能数据存取方法、装置、设备及计算机可读存储介质,其中该方法包括:接收待处理数据流;将所述待处理数据流输入至预先训练得到的智能模块中,所述智能模块为利用预设量的、设定有对应分类标签的数据流训练得到的,所述智能模块具有识别输入至该智能模块的数据流的分类标签并输出该分类标签的功能;获取所述智能模块输出的所述待处理数据流的分类标签为目标分类标签,并查找与该目标分类标签具有对应关系的存储区间为目标存储区间,基于该目标存储区间实现与所述待处理数据流对应的数据存取操作。本申请中通过具有分类器功能的智能模块自动将待处理数据流快速而准确的打上对应分类标签,进而基于该分类标签确定待处理数据流对应存储区间以实现对应数据存取操作,能够实现高效存取数据的目的。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为本发明实施例提供的一种智能数据存取方法的流程图;

图2为本发明实施例提供的一种智能数据存取装置的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

请参阅图1,其示出了本发明实施例提供的一种智能数据存取方法的流程图,可以包括:

s11:接收待处理数据流。

待处理数据流即为待处理的数据流,也即任一待处理的数据流均可以为本申请中的待处理数据流。

s12:将待处理数据流输入至预先训练得到的智能模块中,智能模块为利用预设量的、设定有对应分类标签的数据流训练得到的,智能模块具有识别输入至该智能模块的数据流的分类标签并输出该分类标签的功能。

预设量可以根据实际需要确定,预设量越大对应训练得到的智能模块的精度越高。获取预设量的数据流,且每个数据流均设定有对应的分类标签,以利用这些设定有分类标签的数据流训练得到能够起到分类器功能的智能模块,该智能模块能够对输入智能模块的数据流进行分类标签的识别,即智能模块能够输出与输入的数据流对应的分类标签。

s13:获取智能模块输出的待处理数据流的分类标签为目标分类标签,并查找与该目标分类标签具有对应关系的存储区间为目标存储区间,基于该目标存储区间实现与待处理数据流对应的数据存取操作。

智能模块输出与输入的待处理数据流对应的分类标签为目标分类标签,由此能够查找与该分类标签具有对应关系的存储区间为目标存储区间,该存储区间中存储有需要读取的数据(对应待处理数据流为读取数据请求)或者为待存储数据应存入的位置(对应待处理数据流为待存储数据),从而能够在该存储区间内完成对应的数据存取操作。

本发明公开的技术方案中,预先利用预设量的设定有对应分类标签的数据流训练得到具有分类器功能的智能模块,从而在接收到待处理数据流时将其输入至智能模块,并获取智能模块输出的待处理数据流的分类标签,进而查找与该分类标签对应的存储区间并基于该存储区间实现对应数据存取操作;本申请中通过具有分类器功能的智能模块自动将待处理数据流快速而准确的打上对应分类标签,进而基于该分类标签确定待处理数据流对应存储区间以实现对应数据存取操作,能够实现高效存取数据的目的。

本发明实施例提供的一种智能数据存取方法,获取智能模块输出的待处理数据流的分类标签为目标分类标签,可以包括:

获取智能模块输出的待处理数据流的分类标签为目标分类标签,目标分类标签包括待处理数据流本身的类型、待处理数据流对应数据的数据信息,待处理数据流本身的类型包括待存储数据及读取数据请求,数据信息包括数据类型及数据访问频率。

需要说明的是,分类标签可以包括待处理数据流对应数据的数据类型(如可以包括图片数据、文档数据等类型)、待处理数据流对应数据的数据访问频率及待处理数据流本申请的类型,其中待处理数据流本身的类型包括待存储数据及读取数据请求。可见,本申请公开的上述技术方案相对于现有技术中只对其进行简单分类,能细粒度的分类数据流,具体来说,现有技术中分类的依据单一,只能将数据简单的分成热数据及冷数据,分类粒度很粗糙,不能区分数据的具体类型,导致各种类型的数据混合在一起,不利于快速的访问或者存储某一种类型的数据。本申请中智能模块不仅能准确的判别出输入至智能模块的数据流是待存储数据还是读取数据请求,而且能对待存储数据及读取数据请求所请求的数据作出智能化的分类、确定其对应的分类标签,进而基于该标签确定对应存储区间,加快了数据存取速度。

本发明实施例提供的一种智能数据存取方法,还可以包括:

如果未查找到目标存储区间且待处理数据流为待存储数据,则将待存储数据存储至空闲的存储区间,并存储该存储区间与目标分类标签的对应关系,空闲的存储区间为未存储有其他数据的存储区间;如果未查找到目标存储区间且待处理数据流为读取数据请求,则返回获取数据失败的信息。

通过上述方式,在未查找到与待处理数据流的分类标签对应的存储区间且待处理数据流为待存储数据的情况下,将待存储数据存储至一新的存储区间(即空闲的存储区间)并存储该存储区间与待处理数据流的分类标签的对应关系,从而实现数据存储,且在下次读取该数据或者有同样分类标签的数据需要存储时可以基于该新的存储区间实现对应存取操作;在未查找到与待处理数据流的分类标签对应的存储区间且待处理数据流为读取数据请求的情况下则返回获取数据失败的信息,以使得待处理数据流的发送方能够获知该信息以使得对应的其他操作。可见,智能模块主要具有三项功能:一、区分待处理数据流是读取数据请求还是待存储数据;二、如果待处理数据流是待存储数据,则识别待存储数据的数据类型及数据访问频率以确定出该待存储数据的分类标签;三、如果待处理数据是读取数据请求,则识别该请求需要获取的数据的数据类型及数据访问频率,以确定该请求需要获取的数据的分类标签。

本发明实施例提供的一种智能数据存取方法,确定与目标分类标签对应的存储区间为目标存储区间,可以包括:

判断映射地址区间表中是否存在与目标分类标签对应的地址区间,如果是,则确定该地址区间对应存储区间为目标存储区间;映射地址区间表为预先创建的存储有分类标签及地址区间之间的对应关系的表。

本申请中可以预先创建一映射地址区间表实现分类标签及地址区间之间的对应关系的存储,这张表的key为分类标签,value为地址区间,从而能够基于该映射地址区间表快速实现分类标签对应地址区间的查询以实现对应数据存取操作,极大提高了待处理数据流的响应速度,增强了用户体验。。

本发明实施例提供的一种智能数据存取方法,基于目标存储区间实现与待处理数据流对应的数据存取操作之前,还可以包括:

将用于实现数据存储的数据存储介质划分为多个存储区间,并确定每个存储区间的起始地址为该存储区间的地址区间,其中每个存储区间对应一分类标签。

可以将实现数据存储的数据存储介质根据实际需要划分为多个存储区间,每个存储区间对应一分类标签,即分类标签与存储区间之间一一对应,从而同一分类标签的数据均存储在同一存储区间中,方便对于数据的存取。对应的,映射地址区间表中存储的每个地址区间均可以用该地址区间的首地址来表示,从而方便对于该地址区间的查找。

另外,本发明一种具体实现方式中,可以先确定是否存在与待处理数据流的分类标签对应的存储区间,如果是,则判断待处理数据流的类型,如果待处理数据流为待存储数据,则将该待存储数据存储至对应存储区间,如果待处理数据流为读取数据请求,则由对应存储区间获取该请求对应数据;如果否,则判断待处理数据流的类型,如果待处理数据流为待存储数据,则将待存储数据存储至一新的存储区间并存储该存储区间与待存储数据流的分类标签之间的对应关系,如果待处理数据流为读取数据请求,则返回获取数据失败的信息。当然也可以根据实际需要按照其他流程实现本发明实施例提供的上述智能数据存取方法,均在本发明的保护范围之内。

本发明实施例还提供了一种智能数据存取装置,如图2所示,可以包括:

接收模块11,用于:接收待处理数据流;

输入模块12,用于:将待处理数据流输入至预先训练得到的智能模块中,智能模块为利用预设量的、设定有对应分类标签的数据流训练得到的,智能模块具有识别输入至该智能模块的数据流的分类标签并输出该分类标签的功能;

操作模块13,用于:获取智能模块输出的待处理数据流的分类标签为目标分类标签,并查找与该目标分类标签具有对应关系的存储区间为目标存储区间,基于该目标存储区间实现与待处理数据流对应的数据存取操作。

本发明实施例提供的一种智能数据存取装置,操作模块可以包括:

获取单元,用于:获取智能模块输出的待处理数据流的分类标签为目标分类标签,目标分类标签包括待处理数据流本身的类型、待处理数据流对应数据的数据信息,待处理数据流本身的类型包括待存储数据及读取数据请求,数据信息包括数据类型及数据访问频率。

本发明实施例提供的一种智能数据存取装置,还可以包括:

处理模块,用于:如果未查找到目标存储区间且待处理数据流为待存储数据,则将待存储数据存储至空闲的存储区间,并存储该存储区间与目标分类标签的对应关系,空闲的存储区间为未存储有其他数据的存储区间;如果未查找到目标存储区间且待处理数据流为读取数据请求,则返回获取数据失败的信息。

本发明实施例提供的一种智能数据存取装置,操作模块可以包括:

判断单元,用于:判断映射地址区间表中是否存在与目标分类标签对应的地址区间,如果是,则确定该地址区间对应存储区间为目标存储区间;映射地址区间表为预先创建的存储有分类标签及地址区间之间的对应关系的表。

本发明实施例提供的一种智能数据存取装置,还可以包括:

划分模块,用于:将用于实现数据存储的数据存储介质划分为多个存储区间,并确定每个存储区间的起始地址为该存储区间的地址区间,其中每个存储区间对应一分类标签。

本发明实施例还提供了一种智能数据存取设备,可以包括:

存储器,用于存储计算机程序;

处理器,用于执行计算机程序时实现如上述任一项实施例提供的智能数据存取方法的步骤。

本发明实施例还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时可以实现如上任一项实施例提供的智能数据存取方法的步骤。

本发明实施例提供的一种智能数据存取装置、智能数据存取设备及计算机可读存储介质中相关部分的说明请参见本发明实施例提供的一种智能数据存取方法中对应部分的详细说明,在此不再赘述。另外,本发明实施例提供的上述技术方案中与现有技术中对应技术方案实现原理一致的部分并未详细说明,以免过多赘述。

对所公开的实施例的上述说明,使本领域技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1