专利名称：一种基于连接复用的提高服务器并发处理能力的系统及方法
技术领域：
本发明涉及通信领域，尤其涉及一种基于连接复用的提高服务器并发处理能力的系统及方法。
背景技术：
对于客户端与服务器之间采用长连接方式的系统，比如即时消息实现系统，所述即时消息服务器可以实现包括用户权限管理、消息路由、离线消息存储发送、好友名片及分组管理、好友在线状态、输入状态、关键字过滤、文件传输、聊天室、安全等功能。每台即时消息客户端上线时，都需要与即时消息服务器保持长连接，但数据流量确很少，瓶颈主要在即时消息服务器支持的并发连接的客户端的数目，单台即时消息服务器处理并发连接数一般只有数千量级，只能支持几万用户。因此，急需寻找一种提高服务器并发处理能力的技术方案。
发明内容
本发明所要解决的技术问题是针对现有技术的不足，提供一种基于连接复用的能大大提高服务器并发处理能力的系统及方法。本发明解决上 述技术问题的技术方案如下一种基于连接复用的提高服务器并发处理能力的系统，包括一个以上的客户端、一个负载均衡器、一个以上的连接管理器和一个服务器；所述客户端用于向负载均衡器发送访问请求；所述负载均衡器用于根据预定原则为客户端选择连接管理器，建立相应客户端与连接管理器之间的透明连接，并将访问请求传送给相应的连接管理器；所述连接管理器用于为其对应的客户端编号，将携带有客户端编号的访问请求传送给服务器；并将服务器发送的反馈信息发送给对应的客户端；所述服务器对接收的访问请求进行鉴权，并向相应的连接管理器发送反馈信息。在上述技术方案的基础上，本发明还可以做如下改进。进一步，所述负载均衡器还用于预先对连接管理器进行配置。进一步，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。进一步，所述连接管理器还用于预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。进一步，所述服务器还用于预先设置客户端的访问权限和连接管理器的连接权限。本发明解决上述技术问题的另一技术方案如下一种基于连接复用的提高服务器并发处理能力的方法，包括如下步骤所述负载均衡器实时检测是否有来自客户端的访问请求；所述负载均衡器根据预定原则为发送访问请求的客户端选择连接管理器，并建立相应客户端与连接管理器之间的透明连接；所述负载均衡器将访问请求转发给连接管理器；所述每个连接管理器为其对应的客户端编号，并将携带有客户端编号的访问请求传送给服务器；所述服务器对携带有客户端编号的访问请求进行鉴权，并向相应的连接管理器发送反馈信息；所述连接管理器根据反馈信息中携带的客户端编号将反馈信息发送给相应的客户端。在上述技术方案的基础上，本发明还可以做如下改进。进一步，上述技术方案还包括所述负载均衡器预先对所有连接管理器进行配置。进一步，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。进一步，上述技术方案还包括所述`连接管理器预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。进一步，上述技术方案还包括所述服务器预先设置客户端的访问权限和连接管理器的连接权限。本发明的有益效果是本发明增设了负载均衡器和连接管理器，负载均衡器负责为连接管理器分配客户端，连接管理器的作用就是将外部大量客户端发起的连至服务器的长连接汇总为少数连至服务器的长连接，从而使服务器能够处于较为稳定的网络环境并专注于业务逻辑处理；本发明大大提高了单台服务器所能够承受的并发客户端的数目。
图1为本发明所述一种基于连接复用的提高服务器并发处理能力的系统框图；图2为本发明一种基于连接复用的提高服务器并发处理能力的方法流程具体实施例方式以下结合附图对本发明的原理和特征进行描述，所举实例只用于解释本发明，并非用于限定本发明的范围。如图1所示，一种基于连接复用的提高服务器并发处理能力的系统，包括一个以上的客户端、一个负载均衡器、一个以上的连接管理器和一个服务器；所述客户端用于向负载均衡器发送访问请求；所述负载均衡器用于根据预定原则为客户端选择连接管理器，建立相应客户端与连接管理器之间的透明连接，并将访问请求传送给相应的连接管理器；其中，透明连接即负载均衡器对访问请求不做任何处理，只是简单的转发；所述连接管理器用于为其对应的客户端编号，将携带有客户端编号的访问请求传送给服务器；并将服务器发送的反馈信息发送给对应的客户端；所述服务器对接收的访问请求进行鉴权，并向相应的连接管理器发送反馈信息。其中，所述负载均衡器还用于预先对连接管理器进行配置；主要配置包括连接管理器IP地址、端口，负载均衡方式最少连接方式、加权最小连接方式等等。其中，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。其中，所述连接管理器还用于预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。其中，所述服务器还用于预先设置客户端的访问权限和连接管理器的连接权限。如图2所示，一种基于连接复用的提高服务器并发处理能力的方法，包括如下步骤所述负载均衡器实时检测是否有来自客户端的访问请求；
所述负载均衡器根据预定原则为发送访问请求的客户端选择连接管理器，并建立相应客户端与连接管理器之间的透明连接；所述负载均衡器将访问请求转发给连接管理器；所述每个连接管理器为其对应的客户端编号，并将携带有客户端编号的访问请求传送给服务器；所述服务器对携带有客户端编号的访问请求进行鉴权，并向相应的连接管理器发送反馈信息；所述连接管理器根据反馈信息中携带的客户端编号将反馈信息发送给相应的客户端。其中，上述技术方案还包括所述负载均衡器预先对所有连接管理器进行配置。其中，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。其中，上述技术方案还包括所述连接管理器预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息；其中，上述技术方案还包括所述服务器预先设置客户端的访问权限和连接管理器的连接权限。本发明通过连接管理器预先与服务器建立并保持少数几个长连接；当客户端需要与服务器通信时，通过负载均衡器把客户端的连接请求定向到连接管理器；然后通过连接管理器与服务器之间的长连接将访问请求传送给服务器；这样使服务器能够处于较为稳定的网络环境并专注于业务逻辑处理，从而大大提高了单台服务器所能够承受的并发客户端的数目，本发明所述系统中单台服务器最多可以支持30万用户。以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
权利要求
1.一种基于连接复用的提高服务器并发处理能力的系统，其特征在于，包括一个以上的客户端、一个负载均衡器、一个以上的连接管理器和一个服务器； 所述客户端用于向负载均衡器发送访问请求； 所述负载均衡器用于根据预定原则为客户端选择连接管理器，建立相应客户端与连接管理器之间的透明连接，并将访问请求传送给相应的连接管理器； 所述连接管理器用于为其对应的客户端编号，将携带有客户端编号的访问请求传送给服务器；并将服务器发送的反馈信息发送给对应的客户端； 所述服务器对接收的访问请求进行鉴权，并向相应的连接管理器发送反馈信息。
2.根据权利要求1所述一种提高服务器并发处理能力的系统，其特征在于，所述负载均衡器还用于预先对连接管理器进行配置。
3.根据权利要求1或2所述一种基于连接复用的提高服务器并发处理能力的系统，其特征在于，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。
4.根据权利要求1所述一种基于连接复用的提高服务器并发处理能力的系统，其特征在于，所述连接管理器还用于预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。
5.根据权利要求1所述一种基于连接复用的提高服务器并发处理能力的系统，其特征在于，所述服务器还用于预先设置客户端的访问权限和连接管理器的连接权限。
6.一种基于连接复用的提高服务器并发处理能力的方法，其特征在于，包括如下步骤 所述负载均衡器实时检测是否有来自客户端的访问请求； 所述负载均衡器根据预定原则为发送访问请求的客户端选择连接管理器，并建立相应客户端与连接管理器之间的透明连接； 所述负载均衡器将访问请求转发给连接管理器； 所述每个连接管理器为其对应的客户端编号，并将携带有客户端编号的访问请求传送给服务器； 所述服务器对携带有客户端编号的访问请求进行鉴权，并向相应的连接管理器发送反馈信息； 所述连接管理器根据反馈信息中携带的客户端编号将反馈信息发送给相应的客户端。
7.根据权利要求6所述一种提高服务器并发处理能力的方法，其特征在于，还包括所述负载均衡器预先对所有连接管理器进行配置。
8.根据权利要求6或7所述一种提高服务器并发处理能力的方法，其特征在于，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。
9.根据权利要求6所述一种提高服务器并发处理能力的方法，其特征在于，还包括所述连接管理器预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。
10.根据权利要求6所述一种提高服务器并发处理能力的方法，其特征在于，还包括所述服务器预先设置客户端的访问权限和连接管理器的连接权限。
全文摘要
本发明涉及一种基于连接复用的提高服务器并发处理能力的系统及方法，包括负载均衡器为发送访问请求的客户端选择连接管理器，并建立相应客户端与连接管理器之间的透明连接；并将访问请求转发给连接管理器；每个连接管理器为其对应的客户端编号，并将携带有客户端编号的访问请求传送给服务器；服务器对携带有客户端编号的访问请求进行鉴权，并向相应的连接管理器发送反馈信息；连接管理器将反馈信息发送给相应的客户端；本发明通过增设负载均衡器和连接管理器将大量客户端发起的连至服务器的长连接汇总为少数长连接，从而使服务器能够处于较为稳定的网络环境并专注于业务逻辑处理，大大提高了单台服务器所能够承受的并发客户端的数目。
文档编号H04L29/06GK103067359SQ20121054433
公开日2013年4月24日 申请日期2012年12月14日 优先权日2012年12月14日
发明者钟贵华 申请人:北京思特奇信息技术股份有限公司