数据循环存储方法、装置、服务器及存储介质与流程

文档序号:37226562发布日期:2024-03-05 15:31阅读:16来源:国知局
数据循环存储方法、装置、服务器及存储介质与流程

本申请涉及物联网,尤其涉及一种数据循环存储方法、装置、服务器及存储介质。


背景技术:

1、在物联网系统中,设备端基于各种传感器采集数据,并以其作为设备数据通过网络上报到云端(即服务器端),云端对设备上报的经加密协议加密后的设备数据进行清洗,并存至服务器对应的数据库中。用户可通过云端提供的数据分析引擎对设备数据进行分析统计等处理,以得到分析结果。

2、通常地,考虑到存储空间带来的成本问题,在完成分析后,用户会选择把旧数据删除以腾出存储空间来存储新的设备数据,从而达到节省成本的目的。

3、相关技术通常采用elasticsearch引擎对数据进行管理、分析等处理,elasticsearch(简称es)引擎是一个分布式、高扩展、高实时的搜索与数据分析引擎,其提供了基于查询的删除方式和基于索引的删除方式的两种删除方式。

4、且相关技术中通常把相同类型的设备数据存到同一个索引里,以减少索引数量,因此,基于索引的删除方式是删除整个索引以将索引中存储的数据删除,但该方式在多用户的情形下容易导致其他用户的设备数据被错误删除。而基于查询的删除方式在运行时需要消耗大量的内存资源和cpu(central processing unit,中央处理器)资源,在es引擎中对该方式存在资源限制,从而使得该方式的删除速度非常缓慢。因此,在提供给用户的存储空间有限的情况下,难以实现对存储空间的循环利用。


技术实现思路

1、本申请提供了一种数据循环存储方法、装置、服务器及存储介质,本方案能够在存储空间被占满后对所存储的设备数据进行快速删除以循环利用存储空间,以便于新数据的录入。

2、第一方面,本申请提供一种数据循环存储方法,应用于服务器,服务器搭载有es引擎,es引擎用于通过索引存储设备数据,该方法包括:

3、基于所配置的用户存储空间的容量,确定在用户存储空间内可配置的索引和索引信息,索引信息包括在用户存储空间内可配置的索引数量以及各索引对应的存储容量;

4、根据索引和索引数量,确定对应各用户存储空间的索引数组,以生成用于维护各用户存储空间内所有索引对应的索引状态的索引列表;

5、根据对所接收到的设备数据解析得到的用户标识,在索引列表中选取第一目标索引,以将设备数据存储至第一目标索引;

6、基于索引信息中的第一目标索引对应的存储容量,更新第一目标索引的索引状态;

7、在第一目标索引对应的索引状态为存满状态的情况下,在索引列表中选取第二目标索引作为存储设备数据的索引,第二目标索引为索引列表内在循环选取顺序上与第一目标索引连续的下一索引,循环选取顺序为以索引数组内各索引的排序进行循环的顺序;

8、基于第二目标索引的索引状态,确定是否进行索引删除操作,以在进行索引删除操作后循环使用用户存储空间。

9、第二方面,本申请还提供了一种数据循环存储装置,应用于服务器,服务器搭载有es引擎,es引擎用于通过索引存储设备数据,该装置包括:

10、索引配置模块,配置为基于所配置的用户存储空间的容量,确定在用户存储空间内可配置的索引和索引信息,索引信息包括在用户存储空间内可配置的索引数量以及各索引对应的存储容量;

11、列表生成模块,配置为根据索引和索引数量,确定对应各用户存储空间的索引数组,以生成用于维护各用户存储空间内所有索引对应的索引状态的索引列表;

12、第一数据存储模块,配置为根据对所接收到的设备数据解析得到的用户标识,在索引列表中选取第一目标索引,以将设备数据存储至第一目标索引;

13、状态更新模块,配置为基于索引信息中的第一目标索引对应的存储容量,更新第一目标索引的索引状态;

14、索引选取模块,配置为在第一目标索引对应的索引状态为存满状态的情况下,在索引列表中选取第二目标索引作为存储设备数据的索引,第二目标索引为索引列表内在循环选取顺序上与第一目标索引连续的下一索引,循环选取顺序为以索引数组内各索引的排序进行循环的顺序;

15、第二数据存储模块,配置为基于第二目标索引的索引状态,确定是否进行索引删除操作,以在进行索引删除操作后循环使用用户存储空间。

16、第三方面,本申请还提供了一种服务器,其包括:

17、一个或多个处理器;

18、存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上述的数据循环存储方法。

19、第四方面,本申请还提供了一种存储有计算机可执行指令的存储介质,计算机可执行指令在由处理器执行时用于执行如上述的数据循环存储方法。

20、在本申请方案中,服务器通过按照用户对应的用户存储空间预配置相应的索引,并利用索引列表对索引的索引状态进行维护,以将对应同一用户的设备数据按照所设置的顺序依次存储至相应的索引中,从而在所有索引均存满后,不断地对删除索引并维护索引数组,重新利用清除数据后的索引,实现索引的循环存储利用,以便于始终保持新的设备数据的录入。



技术特征:

1.一种数据循环存储方法,其特征在于,应用于服务器,所述服务器搭载有es引擎,所述es引擎用于通过索引存储设备数据,所述方法包括:

2.根据权利要求1所述的数据循环存储方法,其特征在于,所述基于所配置的用户存储空间的容量,确定在所述用户存储空间内可配置的索引和索引信息,所述索引信息包括在所述用户存储空间内可配置的索引数量以及各索引对应的存储容量,包括:

3.根据权利要求1所述的数据循环存储方法,其特征在于,所述服务器还搭载有redis服务,所述redis服务用于缓存所述索引列表,并根据各索引的索引状态更新所述索引列表,以对所述索引列表进行维护。

4.根据权利要求1所述的数据循环存储方法,其特征在于,所述基于所述索引信息中的所述第一目标索引对应的存储容量,更新所述第一目标索引的索引状态,包括:

5.根据权利要求1所述的数据循环存储方法,其特征在于,所述基于所述第二目标索引的索引状态,确定是否进行索引删除操作,以在进行索引删除操作后循环使用所述用户存储空间,包括:

6.根据权利要求1或5所述的数据循环存储方法,其特征在于,所述基于所述第二目标索引的索引状态,确定是否进行索引删除操作,以在进行索引删除操作后循环使用所述用户存储空间,包括:

7.根据权利要求1所述的数据循环存储方法,其特征在于,所述方法还包括:

8.一种数据循环存储装置,其特征在于,应用于服务器,所述服务器搭载有es引擎,所述es引擎用于通过索引存储设备数据,所述装置包括:

9.一种服务器,其特征在于,包括:

10.一种存储有计算机可执行指令的存储介质,其特征在于,所述计算机可执行指令在由处理器执行时用于执行如权利要求1-7任一项所述的数据循环存储方法。


技术总结
本申请实施例提供了一种数据循环存储方法、装置、服务器及存储介质,涉及物联网技术领域,本方案的服务器通过按照用户对应的用户存储空间预配置相应的索引,并利用索引列表对索引的索引状态进行维护,以将对应同一用户的设备数据按照所设置的顺序依次存储至相应的索引中,从而在所有索引均存满后,不断地对删除索引并维护索引数组,重新利用清除数据后的索引,实现索引的循环存储利用,以便于始终保持新的设备数据的录入。

技术研发人员:周立功,叶玉琳,黎大恒
受保护的技术使用者:广州致远电子股份有限公司
技术研发日:
技术公布日:2024/3/4
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1