一种针对大量数据处理的方法与流程

文档序号:22735719发布日期:2020-10-31 09:13阅读:117来源:国知局

本发明涉及数据处理术领域,尤其涉及一种针对大量数据处理的方法。



背景技术:

随着互联网时代的高速发展,人们的生活发生了巨大的变化。人们会利用互联网进行工作、学习和生活,其中利用互联网的便利寻找学习资料、工作资料、购置生活用品的现象已经非常普遍。现代社会已经进入高科技时代,所有的办公环境及沟通交流都是通过电子产品,数据的产生速度及共享速度也成指数增长,从而导致数据量的剧增。但由于数据的来源及类型变得复杂多样性,数据量非常庞大,与传统的数据有很大的区别。在传统数据中,数据存储、处理及分析的数据量相对较少,可以采用关系型数据库和并行仓库处理,难以保证扩展性。

在通信过程中,经常有需要获取一组连续数据统计信息的情况,例如在前端需要获取大量用户的相关信息。通用的做法是前端发送一个请求,后端针对这个请求,回复一段很长的数据回复。



技术实现要素:

本发明提供的一种技术方案是一种针对大量数据处理的方法,其解决大量数据的获取过程中,如果数据量很大,会消耗客户端和服务端的大量资源,导致获取速度慢甚至无法获取任何数据的问题。

本发明的技术方案是:对于用户、设备等相互传输的请求信息,前端页面发送http请求给服务器,请求略大于一定数量的用户信息时,http服务器内存会增大,回复较慢,从而导致前端加载时间长,会卡住一段时间后才能正常显示。

前端页面发送http请求给服务器,请求大于一定数量的用户信息并达到更高的存储临界值后,会因为返回太慢,整个页面无响应而报错。

因此,为了解决上述问题,对于用户、设备等相互传输的http请求信息,首先需要以一定顺序进行存储,并且按序给予数字id,一般可以根据发送顺序或者接收顺序进行排序存储。

在服务器获取客户端的http请求时,需要带有上一次获取的最大id号以及所需要获取的记录条数n。

服务器收到后,将大于此id号的数据,按id从小到大排序,将排序中id最小的n条记录返回给客户端。

这样每次请求最多会拿到n条记录,当总数为m条时,最多需请求要m/n+1次。

客户端的第一个请求所带的id号,需要小于数字id的最小值,一般来说,数字id的值域为正整数,第一个请求所带的id号为0。

所需要的记录条数n可变,取值一般以一条记录长度不超过整个系统的瓶颈长度(实际常使用的n值为50或100)。

本发明的优点是:

1、减少单个请求前端相应时间,尽快在前端进行展示或处理。

2、减少后端内存或存储空间消耗,有效解决系统瓶颈。

3、对于信息总量没有限制,在响应时间充分的情况下,可以无限扩展。

具体实施方式

实施例1

对于用户、设备等相互传输的http请求信息,首先需要以一定顺序进行存储,并且按序给予数字id,一般可以根据发送顺序或者接收顺序进行排序存储。

在服务器获取客户端的http请求时,需要带有上一次获取的最大id号以及所需要获取的记录条数n。

服务器收到后,将大于此id号的数据,按id从小到大排序,将排序中id最小的n条记录返回给客户端。

这样每次请求最多会拿到n条记录,当总数为m条时,最多需请求要m/n+1次。

客户端的第一个请求所带的id号,需要小于数字id的最小值,一般来说,数字id的值域为正整数,第一个请求所带的id号为0。

所需要的记录条数n可变,取值一般以一条记录长度不超过整个系统的瓶颈长度(实际常使用的n值为50或100)。

例如一次实际收发过程,id号0~9999,n=50,此时对于id在0到49的50条记录,前端可以在小于1毫秒的时间内获取并进行分页展示,后续的记录会依次向后端申请获得,并不影响前端展示,在使用者看来,页面获取的时间很短(小于1ms),相比之下,如果同时获取10000条记录,则前端刷新需要1s到2s的时间,大约是1000倍,并且消耗的瞬时内存和队列长度均为分次请求的50倍。

本发明实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明的。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下,对上述实施例进行修饰或改变。因此,举凡所属技术领域中具有通常知识者在未脱离本发明的所揭示的精神与技术思想下所完成的一切等效修饰或改变,仍应由本发明的权利要求所涵盖。



技术特征:

1.一种针对大量数据处理的方法,包括;服务器和客户端;在客户端上进行前端页面发送请求信息给服务器;服务器从待接收的数据中获取请求信息;

其特征在于:请求信息包括用户信息和设备信息;对于客户端上输入的请求信息进行顺序存储于所述服务器中,且对请求信息安存储顺序标定数字id;

服务器获取请求信息时附带有上一次获取的多条请求信息的数字id中最大id号及请求信息所需要获取的记录条数n;

服务器对单次获取动作所接受到的请求信息中大于所述最大id号的数字id进行升序排列;在升序排列的数字id中将前n条请求信息的记录返回给客户端。

2.根据权利要求1所述的一种针对大量数据处理的方法,其特征在于:所述客户端的第一个请求信息的id号为零。

3.根据权利要求1所述的一种针对大量数据处理的方法,其特征在于:所述数字id的值域为正整数。

4.根据权利要求1所述的一种针对大量数据处理的方法,其特征在于:所述记录条数n的取值范围为:单条记录的长度值至整个系统的瓶颈长度值。

5.根据权利要求4所述的一种针对大量数据处理的方法,其特征在于:所述记录条数n的取值为50或100。


技术总结
本发明公开了一种针对大量数据处理的方法,对于用户、设备等相互传输的http请求信息,首先需要以一定顺序进行存储,并且按序给予数字id,一般可以根据发送顺序或者接收顺序进行排序存储。在服务器获取客户端的http请求时,需要带有上一次获取的最大id号以及所需要获取的记录条数n。服务器收到后,将大于此id号的数据,按id从小到大排序,将排序中id最小的n条记录返回给客户端。该方法减少单个请求前端相应时间,尽快在前端进行展示或处理;减少后端内存或存储空间消耗,有效解决系统瓶颈;对于信息总量没有限制,在响应时间充分的情况下,可以无限扩展。

技术研发人员:曹越
受保护的技术使用者:上海缔安科技股份有限公司
技术研发日:2020.07.02
技术公布日:2020.10.30
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1