数据查询方法、数据监测方法及装置的制造方法

文档序号:10655130阅读:188来源:国知局
数据查询方法、数据监测方法及装置的制造方法
【专利摘要】本发明实施例提供一种数据查询方法、数据监测方法及装置。该数据监测方法包括;向各存储节点发送数据查询请求,该数据查询请求用于查询目标数据类型的总数据量;接收各存储节点发送的数据查询响应,每个数据查询响应中包含对应存储节点中存储的目标数据类型的数据量,其中,每个存储节点中存储的目标数据类型的数据量是对应存储节点根据目标数据类型对应的目标队列的数据存储记录获得的;根据每个存储节点中存储的目标数据类型的数据量,获得目标数据类型的总数据量,从而实现了对各类型数据的数据量的实时了解,也为后续其他处理过程提供了依据。
【专利说明】
数据查询方法、数据监测方法及装置
技术领域
[0001]本发明实施例涉及数据处理领域,尤其涉及一种数据查询方法、数据监测方法及装置。【背景技术】
[0002]假设如下的应用场景:某互联网服务平台维护多种不同的服务,包括对不同服务产生的数据进行存储维护、访问维护等。也就是说,每种服务对应一种数据类型,每种服务在运行过程中产生的数据输入到该服务平台中,由该服务平台进行数据存储,另外,某些用户可能会有使用存储的这些数据的需求,该服务平台还可以对用户访问数据进行访问控制。
[0003]目前,一种进行数据存储的方式是:基于对可能产生的数据量的预估,配置一定数量的存储节点。在进行数据存储的过程中,基于数据安全等考虑,将数据进行分布式冗余备份存储处理。简单来说存储过程为:将依次输入到该服务平台的一定量的数据按照一定的规则进行分片处理,将每个数据分片复制一定的份数,从而将该数据分片以及其复本分别存储到不同的存储节点中。
[0004]在一定的实际应用中,由于上述平台维护了多种不同的服务,不管是访问平台存储的数据的访问用户,还是平台的维护者,可能会存在想要了解每种服务的数据输入情况或者说数据存储情况,以便获知各个服务的使用情况,以及为对存储节点进行负载均衡、扩容等提供依据。因此,一种进行数据监测的方式亟待提供。
【发明内容】

[0005]本发明实施例提供一种数据监测方法、装置及存储节点,用以实现对各类型数据的存储情况的实时监测。
[0006]本发明实施例提供一种数据查询方法,包括:
[0007]接收数据查询请求,所述数据查询请求用于查询目标数据类型的数据量;
[0008]根据所述目标数据类型对应的目标队列的数据存储记录,确定所述目标数据类型的数据量;[〇〇〇9]发送数据查询响应,所述数据查询响应中包含所述目标数据类型的数据量。
[0010]本发明实施例提供一种数据监测方法,包括:
[0011]向各存储节点发送数据查询请求,所述数据查询请求用于查询目标数据类型的总数据量;
[0012]接收各存储节点发送的数据查询响应,每个所述数据查询响应中包括对应存储节点对应的所述目标数据类型的数据量;
[0013]根据每个存储节点中存储的所述目标数据类型的数据量,获得所述目标数据类型的总数据量。
[0014]本发明实施例提供一种数据查询装置,包括:
[0015]接收模块,用于接收数据查询请求,所述数据查询请求用于查询目标数据类型的数据量;
[0016]确定模块,用于根据所述目标数据类型对应的目标队列的数据存储记录,确定所述目标数据类型的数据量;
[0017]发送模块,用于发送数据查询响应,所述数据查询响应中包含所述目标数据类型的数据量。
[0018]本发明实施例提供一种数据监测装置,包括:
[0019]发送模块,用于向各存储节点发送数据查询请求,所述数据查询请求用于查询目标数据类型的总数据量;
[0020]接收模块,用于接收各存储节点发送的数据查询响应,每个所述数据查询响应中包括对应存储节点对应的所述目标数据类型的数据量;
[0021]第一确定模块,用于根据每个存储节点中存储的所述目标数据类型的数据量,获得所述目标数据类型的总数据量。
[0022]本发明实施例提供的数据查询方法、数据监测方法及装置,当需要监测获知各类数据类型的数据的存储数据量时,通过向各存储节点发送用于查询某个或某些数据类型的数据量的查询请求,由于每个存储节点在对数据进行存储过程中,针对每种数据类型有一对应的队列用以缓存数据,在从队列中将数据存到存储节点的存储空间的过程中,形成该队列的数据存储记录,因此,每个存储节点可以基于与所需查询的数据类型对应的队列的数据存储记录,获得该数据类型的数据量,最终通过累计各存储节点的反馈结果,能够获得该某个或某些数据类型的总数据量,以实现对各类型数据的数据量的实时了解,为后续其他处理过程提供依据。【附图说明】
[0023]为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0024]图1为本发明数据查询方法实施例一的流程图;
[0025]图2为本发明数据监测方法实施例二的流程图;[〇〇26]图3为本发明数据监测方法实施例三的流程图;
[0027]图4为本发明数据监测方法实施例四的流程图;
[0028]图5为本发明数据查询装置实施例的结构示意图;
[0029]图6为本发明数据监测装置实施例一的结构示意图;
[0030]图7为本发明数据监测装置实施例二的结构示意图;[0031 ]图8为本发明数据监测装置实施例三的结构示意图。【具体实施方式】[〇〇32]为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0033]在具体介绍本发明提供的数据监测方法前,首先对该数据监测方法可以适用于的应用场景进行简单介绍:在某个集群中配置有多个存储节点(实现为存储设备或者服务器) 用于进行数据存储。其中,需要进行存储的数据类型可以是多种不同的数据类型,比如某企业提供多种不同的软件服务,每种软件服务所对应的数据的数据类型各不相同,每种软件服务在运行过程中产生的数据都存储到上述集群中的某个存储节点中,具体的存储过程不属于本发明的重点,因此不赘述。随着各类型数据的不断存入,当用户有想要知道每种类型的数据当前的数据量的情况时,可以采用本发明提供的数据监测方法实现。[〇〇34]该数据监测的意义一方面是为了满足提供某服务的用户,或者维护上述集群的用户对某服务对应的数据量情况的及时了解,另一方面,也为集群用户判定存储节点是否足以支持海量数据的存储、读取提供一种判定方式,以为存储节点的负载均衡、扩大、访问等提供依据。
[0035]图1为本发明数据查询方法实施例一的流程图,该实施例提供的数据查询方法可以由数据查询装置执行,该数据查询装置可以设置在任一存储节点中。如图1所示,包括如下步骤:
[0036]步骤101、接收数据查询请求,该数据查询请求用于查询目标数据类型的数据量。
[0037]步骤102、根据目标数据类型对应的目标队列的数据存储记录,确定目标数据类型的数据量。
[0038]步骤103、发送数据查询响应,数据查询响应中包含目标数据类型的数据量。
[0039]本实施例中,当用户想要查询某类型数据的数据量时,可以触发上述数据查询请求向各存储节点的发送。具体实现时,可以在用户的终端设备或者各个存储节点中设置客户端应用,该客户端应用可以被配置为当被启动后,在界面上显示各个存储节点的标识以及各个数据类型的标识,用户可以通过勾选的操作选择需要查询的目标数据类型。默认情况下,可以设置所有的存储节点都被选择。
[0040]可以理解的是,用户选择的上述目标数据类型的个数可以是一个,也可以是多个, 当是多个时,意味着需要查询的是每种目标数据类型的数据量。
[0041]当全部存储节点中的每个存储节点接收到上述数据查询请求后,进行本地存储的目标类型数据的数据量的查询处理过程:
[0042]首先需要说明的一点是:每个存储节点中维护有多个队列,每个队列用于缓存某一类型的数据,即队列与数据类型存在一一对应关系,同时也就是说,一个存储节点中,可以存储多种不同类型的数据。以任一个存储节点来说,当其接收到待存储的某条数据后,其存储过程简单描述为:根据该数据的数据类型确定该数据对应的队列;将该数据存入该对应队列中;基于数据分片机制,当包含该数据的数据分片满足分片划分条件时,需要存储该数据分片,并且,为了避免一份数据分片在发生故障时而导致的安全问题,可以将该数据分片复制几份,从而将该数据分片以及每个复本存到不同的存储节点中。其中,数据分片的划分条件比如为数据量个数达到一定数量,或者数据量大小达到一定阈值大小。并且,在进行上述存储的过程中,生成该队列对应的数据存储记录。[〇〇43]其次值得说明的另一点是:对于某个存储节点来说,可以视为其中存储了两种数据,一种是数据主本,另一种是数据复本,对应于上述数据分片的概念来说,一种是数据分片主本,另一种是数据分片复本,当然,同一数据分片的主本和复本一般不存储于同一存储节点中。虽然同一存储节点中存储了数据主本和数据复本两种数据,但是对于该存储节点所维护的多个队列来说,队列中存储的是数据主本。
[0044]从而,本实施例中,针对任一个存储节点来说,其获得的目标数据类型的数据量包括其本地存储的目标数据类型的数据主本以及存储在其他存储节点中的与该数据主本对应的数据复本。
[0045]可以理解的是,上述主本和复本的概念是为了区分两种数据而自定义的称呼,符合该意义的其他概念也包含在本实施例范围内。
[0046]由于查询过程与存储过程是具有一定关联的,因此,基于上述存储过程,当任一存储节点查询上述目标数据类型的数据量时,首先根据该目标数据类型确定对应的目标队列,进而根据目标队列的数据存储记录,确定目标数据类型的数据量。
[0047]可选的,目标队列用于存储所述目标数据类型对应的数据主本。目标队列的数据存储记录中可以记录有数据分片的数据分片标识以及数据分片的复本个数,即在进行上述存储过程中,每当满足数据分片划分条件时,生成一个数据分片,分配对应的数据分片标识。[〇〇48]从而,上述根据目标数据类型对应的目标队列的数据存储记录,确定目标数据类型的数据量,可以通过如下方式实现:根据数据分片标识的数量、每个数据分片对应的数据量以及每个数据分片对应的复本个数,确定目标数据类型的总数据量。
[0049]本实施例中,数据量可以通过数据个数或者是数据条数来表征。
[0050]针对任一存储节点来说,当其接收到数据查询请求时,其中可能已经存储有一定量的目标数据类型的数据。一般的,该存储节点将一个数据分片的主本在本地进行存储,其多个复本存入到其他存储节点中。
[0051]因此,根据目标队列的数据存储记录中记录的数据分片标识的个数以及每个数据分片对应的复本个数,可以确定该存储节点对应的目标数据类型的数据分片个数,即假设数据分片标识数量为1〇〇,每个数据分片对应的复本数量为2,那么该存储节点对应300个目标数据类型的数据分片(包括100个数据分片主本和200个数据分片复本)。继而,根据每个数据分片对应的数据量,即每个数据分片中包含的数据个数,得到该存储节点对应的总数据量,即总数据个数。[〇〇52]值得说明的是,存储节点对应的目标数据类型的数据量,并非限定于是该存储节点内存储的该目标数据类型的数据量,可以是该存储节点内存储的该目标数据类型的数据分片主本所对应的数据量与其他存储节点中存储的该目标数据类型的数据分片复本所对应的数据量的和。
[0053]另外,可选的,上述目标队列的数据存储记录中还可以记录有队尾数据标识。并且假设存入目标队列中的数据顺次编号,比如数据1、数据2…。相应地,上述根据目标数据类型对应的目标队列的数据存储记录,确定目标数据类型的数据量,可以通过如下方式实现: 根据队尾数据标识所表征的数据量和数据复本个数,确定目标数据类型的总数据量。[〇〇54]因为正常情况下,某存储节点的目标队列中存入的各数据都是要被存储到该存储节点,其复本存入到其他存储节点中的,因此,可以基于当前的目标队列中队尾的数据标识获知当前已经收到了多少个数据,从而根据队尾数据标识所表征的数据量和数据复本个数,也可以确定该存储节点对应的目标数据类型的总数据量。
[0055]针对任一存储节点来说,当其确定了自身对应的目标数据类型的数据量之后,向客户端反馈数据查询响应,以告知该结果,使得客户端侧能够基于接收到的各存储节点的反馈结果,通过累计计算得到目标数据类型的总数据量。
[0056]另外,值得说明的是,每个队列可以是有容量限制的,该容量限制既可以是时间限制,也可以是数量个数限制,比如一个队列被配置为能够存储3天时间内存入的数据,或者能够存储50000条数据。当超出队列的容量限制或者达到一定的容量阈值时,可以删除最开始存入队列的一定量的数据。
[0057]本实施例中,当需要监测获知各类数据类型的数据的存储数据量时,通过向各存储节点发送用于查询某个或某些数据类型的数据量的查询请求,由于每个存储节点在对数据进行存储过程中,针对每种数据类型有一对应的队列用以缓存数据,在从队列中将数据存到存储节点的存储空间的过程中,形成该队列的数据存储记录,因此,每个存储节点可以基于与所需查询的数据类型对应的队列的数据存储记录,获得该数据类型的数据量,最终通过累计各存储节点的反馈结果,能够获得该某个或某些数据类型的总数据量,以实现对各类型数据的数据量的实时了解,为后续其他处理过程提供依据。
[0058]图2为本发明数据监测方法实施例二的流程图,该实施例提供的数据监测方法可以有一数据监测装置来执行,该数据监测装置可以实现为客户端软件应用程序,承载于一定的硬件设备中,该硬件设备可以是任一存储节点,也可以是不同于存储节点的其他设备, 但是该其他设备与各存储节点间具有数据交互。如图2所示,该方法包括如下步骤:[〇〇59]步骤201、向各存储节点发送数据查询请求,该数据查询请求用于查询目标数据类型的总数据量。
[0060]步骤202、接收各存储节点发送的数据查询响应,每个数据查询响应中包含对应存储节点对应的目标数据类型的数据量。
[0061]其中,每个存储节点对应的目标数据类型的数据量是对应存储节点根据目标数据类型对应的目标队列的数据存储记录获得的,目标队列用于存储目标数据类型对应的数据主本。
[0062]步骤203、根据每个存储节点对应的目标数据类型的数据量,获得目标数据类型的总数据量。
[0063]本实施例是从客户端侧,对如何查询获得某目标数据类型的总数据量的过程进行的介绍,具体的实现方式可以参考图1所示实施例中的描述,此处不再赘述。[〇〇64]但是,值得说明的是,客户端对任一目标数据类型的总数据量的查询,可以是以一定时间间隔为周期的周期性查询,该时间间隔可以根据实际情况自适应设定,从而能够及时了解每种类型数据的数据量情况。
[0065]本实施例中,当需要监测获知各类数据类型的数据的存储数据量时,通过向各存储节点发送用于查询某个或某些数据类型的数据量的查询请求,由于每个存储节点在对数据进行存储过程中,针对每种数据类型有一对应的队列用以缓存数据,在从队列中将数据存到存储节点的存储空间的过程中,形成该队列的数据存储记录,因此,每个存储节点可以基于与所需查询的数据类型对应的队列的数据存储记录,获得该数据类型的数据量,最终通过累计各存储节点的反馈结果,能够获得该某个或某些数据类型的总数据量,以实现对各类型数据的数据量的实时了解,为后续其他处理过程提供依据。
[0066]图3为本发明数据监测方法实施例三的流程图,基于图2所示实施例,可以查询获得每个存储节点中每种数据类型对应的数据量,从而可以得到每种数据类型对应的总数据量,即针对任一数据类型,全部存储节点中存储的该任一数据类型的总数据量,在此基础上,如图3所示,还可以包括如下步骤:
[0067]步骤301、根据预设时间段内每次查询获得的各目标数据类型的总数据量,确定预设时间段内总数据量变化量。
[0068]其中,该总数据量变化量表征了全部数据类型的数据的总体数据量变化情况。
[0069]步骤302、若总数据量变化量大于或等于预设数据量阈值,则限制对存储的数据的访问。
[0070]本实施例中,在某一时刻,可以采用如图2所示实施例的方式,分别查询获得每种数据类型的数据量,从而,加和得到全部数据类型的总数据量1。在一定时间间隔后,再次分别查询获得每种数据类型的数据量,加和得到全部数据类型的总数据量2。通过总数据量2 和总数据量1的差值运算,能够得到这段时间内总数据量的变化量。
[0071]如果这段时间内的总数据量变化量比较大,即比如出现数据量突然大幅度增加的情况,则为了降低存储节点的处理压力,保证数据的可靠存入,此时可以限制对数据的访问。
[0072]其中,对用户的数据访问限制,可以是限制:访问数据的用户数量、访问的时间长度、访问的数据类型、访问的数据量多少。
[0073]本实施例中,通过对总数据量变化程度的分析,能够及时发现总数据量突增或突减的情况。基于发现的总数据量突增的情况,通过限制对数据的访问来保证数据的可靠存储处理。
[0074]前述实施例从各数据类型对应的数据量的角度进行了介绍,下面从存储节点的存储负载的角度,本发明还提供了如下的实施例:
[0075]图4为本发明数据监测方法实施例四的流程图,如图4所示,还可以包括如下步骤:
[0076]步骤401、获取每个存储节点中存储的数据量,并确定存储的数据量大于预设阈值的存储节点的个数。[〇〇77]步骤402、若该存储节点的个数大于预设个数,则确定需要增加新的存储节点。
[0078]步骤403、若该存储节点的个数小于预设个数,则确定需要进行存储节点间的负载均衡。[〇〇79] 步骤402与步骤403间不具有时序限定关系。
[0080]本实施例中,客户端还可以查询获得每个存储节点当前存储的数据量多少,其中, 每个存储节点中存储的数据量包括上述提及的数据主本以及数据复本。即在某个存储节点中,其中可能存储有多种数据类型的数据,每种数据类型的数据中既可以包括该类型数据的数据主本,也可以包括该类型数据的数据复本。
[0081]当获得每个存储节点的数据量后,基于与预设阈值的比较,可以获得存储的数据量大于预设阈值的存储节点的个数。如果该个数大于预设个数,说明当前的大多数存储节点都已经趋于重负载,存储能力不足,此时确定需要增加新的存储节点,以扩容存储能力。如果该个数小于预设个数,此时说明有部分存储节点的负载很重,其他大部分存储节点的负载没有那么重,则确定需要进行存储节点间的负载均衡。其中,负载均衡的实现方式可以采用现有的多种负载均衡机制实现,其目的主要是避免数据向负载重的存储节点中的存储。
[0082]通过对每个存储节点中存储的数据量的查询,能够及时基于存储节点的负载情况进行相应的处理,保证数据存储的可靠性。
[0083]图5为本发明数据查询装置实施例的结构示意图,如图5所示,该数据查询装置包括:接收模块11、确定模块12、发送模块13。
[0084]接收模块11,用于接收数据查询请求,所述数据查询请求用于查询目标数据类型的数据量。
[0085]确定模块12,用于根据所述目标数据类型对应的目标队列的数据存储记录,确定所述目标数据类型的数据量,所述目标队列用于存储所述目标数据类型对应的数据主本。
[0086]发送模块13,用于发送数据查询响应,所述数据查询响应中包括所述目标数据类型的数据量。
[0087]可选的,目标队列用于存储所述目标数据类型对应的数据主本。所述目标队列的数据存储记录中记录有数据分片的数据分片标识和所述数据分片的复本个数。[〇〇88]所述确定模块12包括:第一确定单元121。
[0089]第一确定单元121,用于根据数据分片标识的数量、每个数据分片对应的数据量以及每个数据分片对应的复本个数,确定所述目标数据类型的数据量。
[0090]可选的,所述目标队列的数据存储记录中记录有队尾数据标识,存入所述目标队列中的数据顺次编号;所述确定模块12包括:第二确定单元122。
[0091]第二确定单元122,用于根据所述队尾数据标识所表征的数据量和数据复本个数, 确定所述目标数据类型的数据量。
[0092]图5所示数据查询装置可以执行图1以及图2所示实施例的方法,实现原理和技术效果参考图1以及图2所示实施例,不再赘述。
[0093]图6为本发明数据监测装置实施例一的结构示意图,如图6所示,该装置包括:发送模块21、接收模块22、第一确定模块23。
[0094]发送模块21,用于向各存储节点发送数据查询请求,所述数据查询请求用于查询目标数据类型的总数据量。
[0095]接收模块22,用于接收各存储节点发送的数据查询响应,每个所述数据查询响应中包括对应存储节点对应的所述目标数据类型的数据量。
[0096]其中,每个存储节点对应的所述目标数据类型的数据量是对应存储节点根据所述目标数据类型对应的目标队列的数据存储记录获得的,所述目标队列用于存储所述目标数据类型对应的数据主本。
[0097]第一确定模块23,用于根据每个存储节点对应的所述目标数据类型的数据量,获得所述目标数据类型的总数据量。
[0098]图6所示装置可以执行图2所示实施例的方法,实现原理和技术效果参考图1以及图2所示实施例,不再赘述。
[0099]图7为本发明数据监测装置实施例二的结构示意图,如图7所示,在图6所示实施例基础上,该装置还包括:第二确定模块31、访问处理模块32。
[0100]第二确定模块31,用于根据预设时间段内每次查询获得的各目标数据类型的总数据量,确定所述预设时间段内总数据量变化量。
[0101]访问处理模块32,用于若所述总数据量变化量大于或等于预设数据量阈值,则限制对存储的数据的访问。
[0102]图7所示装置可以执行图3所示实施例的方法,实现原理和技术效果参考图3所示实施例,不再赘述。
[0103]图8为本发明数据监测装置实施例三的结构示意图,如图8所示,在图6所示实施例基础上,该装置还包括:获取模块41、第三确定模块42、第四确定模块43。[〇1〇4]获取模块41,用于获取每个存储节点中存储的数据量,并确定存储的数据量大于预设阈值的存储节点的个数。
[0105]第三确定模块42,用于所述存储节点的个数大于预设个数,则确定需要增加新的存储节点。
[0106]第四确定模块43,用于若所述存储节点的个数小于预设个数,则确定需要进行存储节点间的负载均衡。
[0107]图8所示装置可以执行图4所示实施例的方法,实现原理和技术效果参考图4所示实施例,不再赘述。
[0108]以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
[0109]通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如R0M/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机装置(可以是个人计算机,服务器,或者网络装置等)执行各个实施例或者实施例的某些部分所述的方法。[〇11〇]最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换; 而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
【主权项】
1.一种数据查询方法,其特征在于,包括如下的步骤:接收数据查询请求,所述数据查询请求用于查询目标数据类型的数据量;根据所述目标数据类型对应的目标队列的数据存储记录,确定所述目标数据类型的数 据量;发送数据查询响应,所述数据查询响应中包括所述目标数据类型的数据量。2.根据权利要求1所述的方法,其特征在于,所述目标队列用于存储所述目标数据类型 对应的数据主本,所述目标队列的数据存储记录中记录有数据分片的数据分片标识和所述 数据分片的复本个数;所述根据目标数据类型对应的目标队列的数据存储记录,确定所述目标数据类型的数 据量,包括:根据所述数据分片标识的数量、每个数据分片对应的数据量以及每个数据分片对应的 复本个数,确定所述目标数据类型的数据量。3.根据权利要求1所述的方法,其特征在于,所述目标队列的数据存储记录中记录有队 尾数据标识,存入所述目标队列中的数据顺次编号;所述根据目标数据类型对应的目标队列的数据存储记录,确定所述目标数据类型的数 据量,包括:根据所述队尾数据标识所表征的数据量和数据复本个数,确定所述目标数据类型的数据量。4.一种数据监测方法,其特征在于,包括如下的步骤:向各存储节点发送数据查询请求,所述数据查询请求用于查询目标数据类型的总数据 量;接收各存储节点发送的数据查询响应,每个所述数据查询响应中包括对应存储节点对 应的所述目标数据类型的数据量;根据每个存储节点对应的所述目标数据类型的数据量,获得所述目标数据类型的总数据量。5.根据权利要求4所述的方法,其特征在于,所述方法还包括:根据预设时间段内每次查询获得的各目标数据类型的总数据量,确定所述预设时间段 内总数据量变化量;若所述总数据量变化量大于或等于预设数据量阈值,则限制对存储的数据的访问。6.根据权利要求4所述的方法,其特征在于,所述方法还包括:获取每个存储节点中存储的数据量;确定存储的数据量大于预设阈值的存储节点的个数;若所述存储节点的个数大于预设 个数,则确定需要增加新的存储节点;若所述存储节点的个数小于预设个数,则确定需要进行存储节点间的负载均衡。7.—种数据查询装置,其特征在于,包括:接收模块,用于接收数据查询请求,所述数据查询请求用于查询目标数据类型的数据 量;确定模块,用于根据所述目标数据类型对应的目标队列的数据存储记录,确定所述目 标数据类型的数据量;发送模块,用于发送数据查询响应,所述数据查询响应中包括所述目标数据类型的数据量。8.根据权利要求7所述的存储节点,其特征在于,所述目标队列用于存储所述目标数据 类型对应的数据主本,所述目标队列的数据存储记录中记录有数据分片的数据分片标识和 所述数据分片的复本个数;所述确定模块包括:第一确定单元,用于根据所述数据分片标识的数量、每个数据分片对应的数据量以及 每个数据分片对应的复本个数,确定所述目标数据类型的数据量。9.根据权利要求7所述的存储节点,其特征在于,所述目标队列的数据存储记录中记录 有队尾数据标识,存入所述目标队列中的数据顺次编号;所述确定模块包括:第二确定单元,用于根据所述队尾数据标识所表征的数据量和数据复本个数,确定所 述目标数据类型的数据量。10.—种数据监测装置,其特征在于,包括:发送模块,用于向各存储节点发送数据查询请求,所述数据查询请求用于查询目标数 据类型的总数据量;接收模块,用于接收各存储节点发送的数据查询响应,每个所述数据查询响应中包括 对应存储节点对应的所述目标数据类型的数据量;第一确定模块,用于根据每个存储节点中存储的所述目标数据类型的数据量,获得所 述目标数据类型的总数据量。11.根据权利要求10所述的数据监测装置,其特征在于,还包括:第二确定模块,用于根据预设时间段内每次查询获得的各目标数据类型的总数据量, 确定所述预设时间段内总数据量变化量;访问处理模块,用于若所述总数据量变化量大于或等于预设数据量阈值,则限制对存 储的数据的访问。12.根据权利要求10所述的数据监测装置,其特征在于,还包括:获取模块,用于获取每个存储节点中存储的数据量,并确定存储的数据量大于预设阈 值的存储节点的个数;第三确定模块,用于所述存储节点的个数大于预设个数,则确定需要增加新的存储节占.第四确定模块,用于若所述存储节点的个数小于预设个数,则确定需要进行存储节点 间的负载均衡。
【文档编号】G06F17/30GK106021284SQ201610282721
【公开日】2016年10月12日
【申请日】2016年4月29日
【发明人】赵富欣
【申请人】乐视控股(北京)有限公司, 乐视网信息技术(北京)股份有限公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1