一种基于云计算平台的数据处理系统及方法与流程

文档序号:14071014阅读:492来源:国知局

本发明属于云计算平台的数据处理技术领域,特别是涉及一种基于云计算平台的数据处理系统及一种基于云计算平台的数据处理方法。



背景技术:

数据处理是对数据(包括数值的和非数值的)进行分析和加工的技术过程。包括对各种原始数据的分析、整理、计算、编辑等的加工和处理。比数据分析含义广。随着计算机的日益普及,在计算机应用领域中,数值计算所占比重很小,通过计算机数据处理进行信息管理已成为主要的应用。如测绘制图管理、仓库管理、财会管理、交通运输管理,技术情报管理、办公室自动化等。在地理数据方面既有大量自然环境数据(土地、水、气候、生物等各类资源数据),也有大量社会经济数据(人口、交通、工农业等),常要求进行综合性数据处理。

随着物联网技术、云计算技术、大数据技术的发展;数据处理也面临着如何对处理器负载均衡优化的问题。本发明致力于发明一种基于云计算平台的数据处理系统及方法,已解决现有云计算平台对数据处理的负载均衡差的问题。



技术实现要素:

本发明的目的在于提供一种基于云计算平台的数据处理系统及方法,通过负载均衡器内设有云处理节点信息表、云计算节点信息表,实现了对云处理节点、云计算节点的监控和数据的优化分配,解决了现有云计算平台对数据处理的负载均衡差的问题。

为解决上述技术问题,本发明是通过以下技术方案实现的:

本发明为一种基于云计算平台的数据处理系统,包括云计算平台、客户端;所述云计算平台包括处理器集群、服务器集群、云存储节点、负载均衡器;所述客户端通过以太网与云计算平台通信连接;所述处理器集群包括若干云处理节点;任意两所述云处理节点间通信连接;所述服务器集群包括若干云计算节点;任意两所述云计算节点间通信连接;所述云存储节点分别与处理器集群、服务器集群通信连接;所述负载均衡器分别与处理器集群、服务器集群通信连接;所述处理器集群与服务器集群通过以太网通信连接;所述负载均衡器内存储云处理节点信息表、云计算节点信息表;所述云处理节点信息表包括云处理节点ip、承载容量、剩余处理量;所述云计算节点信息表包括云服务器节点ip、cpu利用率;所述负载均衡器根据云处理节点信息表传递数据至云处理节点或云计算节点;所述云处理节点内etl处理器对数据处理;所述etl处理器传递经处理后的数据至云计算节点、云存储节点;所述云计算节点获取云处理节点内数据或获取云存储节点内数据或直接获取客户端数据。

一种基于云计算平台的数据处理的方法,包括步骤如下:

a000:云计算平台获取客户端数据;

a001:负载均衡器根据云处理节点信息表判断是否存在剩余处理量小于承载容量的云处理节点;若存在,则执行a002;若不存在,则执行a005,

a002:则负载均衡器控制传递客户端数据至云处理节点;

a003:云处理节点处理客户端传递数据;

a004:云处理节点根据数据类型传递处理后数据至云存储节点或服务器集群中云计算节点;

a005:负载均衡器根据云计算节点信息表选择传递客户端数据至云计算节点。

优选地,a002中负载均衡器控制传递客户端数据至云处理节点步骤如下:

b000:负载均衡处理器根据云处理节点信息表判断是否存在空闲云处理节点;若存在,则执行b001;若不存在,则执行b002;

b001:负载均衡器传递客户端数据至任意一空闲云处理节点;云处理节点执行b003;

b002:负载均衡器从云处理节点信息表传递客户端数据至剩余处理量占承载容量比率最小的云处理节点;云处理节点执行b003;

b003:云处理节点传递剩余处理量至负载均衡器;

b004:负载均衡器更新云处理节点信息表。

优选地,a003中云处理节点处理完成后传递剩余处理量至负载均衡器;所述负载均衡器更新云处理节点信息表。

优选地,a005中负载均衡器传递客户端数据至云计算节点步骤如下:

c000:负载均衡处理器根据云计算节点信息表判断是否存在空闲云计算节点;若存在,则执行c001;若不存在,则执行c002;

c001:负载均衡器传递客户端数据至任意一空闲云计算节点;云计算节点执行c003;

c002:负载均衡器从云计算节点信息表传递客户端数据至cpu利用率最小的云计算节点;云计算节点执行c003;

c003:云计算节点传递剩余处理量至负载均衡器;

c004:负载均衡器更新云计算节点信息表。

本发明具有以下有益效果:

本发明负载均衡器内设有云处理节点信息表、云计算节点信息表,实现了对云处理节点、云计算节点的监控和数据的优化分配,解决了现有云计算平台对数据处理的负载均衡差的问题,提高了云计算平台的负载均衡性能和云计算节点计算效率。

当然,实施本发明的任一产品并不一定需要同时达到以上所述的所有优点。

附图说明

为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为本发明的一种基于云计算平台的数据处理系统的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。

请参阅图1所示,本发明为一种基于云计算平台的数据处理系统,包括云计算平台、客户端;云计算平台包括处理器集群、服务器集群、云存储节点、负载均衡器;客户端通过以太网与云计算平台通信连接;处理器集群包括若干云处理节点;任意两云处理节点间通信连接;服务器集群包括若干云计算节点;任意两云计算节点间通信连接;云存储节点分别与处理器集群、服务器集群通信连接;负载均衡器分别与处理器集群、服务器集群通信连接;处理器集群与服务器集群通过以太网通信连接;负载均衡器内存储云处理节点信息表、云计算节点信息表;云处理节点信息表包括云处理节点ip、承载容量、剩余处理量;云计算节点信息表包括云服务器节点ip、cpu利用率;负载均衡器根据云处理节点信息表传递数据至云处理节点或云计算节点;云处理节点内etl处理器对数据处理;etl处理器传递经处理后的数据至云计算节点、云存储节点;云计算节点获取云处理节点内数据或获取云存储节点内数据或直接获取客户端数据。

一种基于云计算平台的数据处理的方法,包括步骤如下:

a000:云计算平台获取客户端数据;

a001:负载均衡器根据云处理节点信息表判断是否存在剩余处理量小于承载容量的云处理节点;若存在,则执行a002;若不存在,则执行a005,

a002:则负载均衡器控制传递客户端数据至云处理节点;

a003:云处理节点处理客户端传递数据;

a004:云处理节点根据数据类型传递处理后数据至云存储节点或服务器集群中云计算节点;

a005:负载均衡器根据云计算节点信息表选择传递客户端数据至云计算节点。

其中,a002中负载均衡器控制传递客户端数据至云处理节点步骤如下:

b000:负载均衡处理器根据云处理节点信息表判断是否存在空闲云处理节点;若存在,则执行b001;若不存在,则执行b002;

b001:负载均衡器传递客户端数据至任意一空闲云处理节点;云处理节点执行b003;

b002:负载均衡器从云处理节点信息表传递客户端数据至剩余处理量占承载容量比率最小的云处理节点;云处理节点执行b003;

b003:云处理节点传递剩余处理量至负载均衡器;

b004:负载均衡器更新云处理节点信息表。

其中,a003中云处理节点处理完成后传递剩余处理量至负载均衡器;负载均衡器更新云处理节点信息表。

其中,a005中负载均衡器传递客户端数据至云计算节点步骤如下:

c000:负载均衡处理器根据云计算节点信息表判断是否存在空闲云计算节点;若存在,则执行c001;若不存在,则执行c002;

c001:负载均衡器传递客户端数据至任意一空闲云计算节点;云计算节点执行c003;

c002:负载均衡器从云计算节点信息表传递客户端数据至cpu利用率最小的云计算节点;云计算节点执行c003;

c003:云计算节点传递剩余处理量至负载均衡器;

c004:负载均衡器更新云计算节点信息表。

值得注意的是,上述系统实施例中,所包括的各个单元只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。

另外,本领域普通技术人员可以理解实现上述各实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,相应的程序可以存储于一计算机可读取存储介质中,所述的存储介质,如rom/ram、磁盘或光盘等。

以上公开的本发明优选实施例只是用于帮助阐述本发明。优选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本说明书的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本发明的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本发明。本发明仅受权利要求书及其全部范围和等效物的限制。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1