一种用于互联网系统的过载保护装置和方法
【技术领域】
[0001]本发明的实施例涉及网络计算机系统负载控制，并且更具体地涉及用于互联网系统的过载保护装置和方法。
【背景技术】
[0002]本部分的介绍可促进更好地理解本发明的方面。相应地，本部分的陈述应就此而论来阅读，并且不应被理解为承认什么属于现有技术或者什么不属于现有技术。
[0003]在面对突发性高压力的业务量时，网络计算机系统尤其是互联网应用系统的处理能力会因过载而逐渐下降。这将导致系统处理业务请求的时间变长，而用户因失去耐心不断刷新页面则进一步增加了系统的压力，造成雪崩效应。在这种情况下，系统处理的每个请求都将因超时而无效以致系统对外部呈现的服务能力几乎为O。为避免这种遭遇，一般的处理方式是重启系统。但这么做将直接影响业务的处理和用户对系统提供的服务的使用。
【发明内容】
[0004]用于互联网系统的过载保护装置包括:采集模块，其从到达后端应用之前的网络流量的流量镜像采集数据，决策模块，其根据该数据确定关于该后端应用的负载度，并确定保护策略，保护模块，其执行该保护策略。
[0005]可选地，保护模块根据该保护策略被配置成执行:接收来自客户端的请求，判断该请求是否超时；如果该请求已经超时，则向该客户端返回应答，而不向该后端应用转发，如果该请求未超时，则根据由决策模块计算的负载度，判断该后端应用是否能够处理该请求；如果该后端应用能够处理该请求，则向该后端应用转发该请求，如果该后端应用不能够处理该请求，则延迟转发该请求。
[0006]可选地，该决策模块被配置根据该数据确定该网络流量的业务类型，保护模块根据该保护策略被配置成执行:接收来自客户端的请求，根据该网络流量的业务类型，判断该请求是否为核心业务请求，如果该请求是核心业务请求，则将该请求转发给高性能通道，该高性能通道由该后端应用中的一半以上的节点组成，如果该请求是核心业务请求，则将该请求转发给一般性通道，该一般性通道由除所述高性能通道中的节点以外的节点组成。
[0007]可选地，该决策模块根据该数据确定的关于该后端应用的负载度，被配置成执行:当判断所述负载度超过阈值时，向云调度服务器发送自动扩展命令，使得该云调度服务器通知云运维平台扩展产生可供执行来自客户端的请求的新的后端应用。
[0008]可选地，保护模块根据该保护策略被配置成执行:接收来自客户端的请求，如果该请求未超时，则根据由决策模块计算的负载度，判断该后端应用是否能够处理该请求；如果该后端应用能够处理该请求，则向该后端应用转发该请求，如果该后端应用不能够处理该请求，则向备用资源池中的后端应用转发该请求，其中所述备用资源池中提前部署有多个已经启动的后端应用。
[0009]可选地，所述数据包括错误率、响应时间、每秒请求数。
[0010]一种用于互联网系统的过载保护方法包括:从到达后端应用之前的网络流量的流量镜像采集数据，根据该数据确定关于该后端应用的负载度，并确定保护策略，执行该保护策略。
[0011]可选地，根据该保护策略执行:接收来自客户端的请求，判断该请求是否超时；如果该请求已经超时，则向该客户端返回应答，而不向该后端应用转发，如果该请求未超时，则根据所述负载度，判断该后端应用是否能够处理该请求；如果该后端应用能够处理该请求，则向该后端应用转发该请求，如果该后端应用不能够处理该请求，则延迟转发该请求。
[0012]可选地，根据该数据确定该网络流量的业务类型，根据该保护策略执行:接收来自客户端的请求，根据该网络流量的业务类型，判断该请求是否为核心业务请求，如果该请求是核心业务请求，则将该请求转发给高性能通道，该高性能通道由该后端应用中的一半以上的节点组成，如果该请求是核心业务请求，则将该请求转发给一般性通道，该一般性通道由除所述高性能通道中的节点以外的节点组成。
[0013]可选地，根据该后端应用的负载度，执行:当判断所述负载度超过阈值时，向云调度服务器发送自动扩展命令，使得该云调度服务器通知云运维平台扩展产生可供执行来自客户端的请求的新的后端应用。
[0014]可选地，根据该保护策略执行:接收来自客户端的请求，如果该请求未超时，则根据所述负载度，判断该后端应用是否能够处理该请求；如果该后端应用能够处理该请求，则向该后端应用转发该请求，如果该后端应用不能够处理该请求，则向备用资源池中的后端应用转发该请求，其中所述备用资源池中提前部署有多个已经启动的后端应用。
[0015]本发明一个或多个实施例采用镜像流量的旁路监控，其对原始传递的数据包不会产生任何影响；通过应用层面的应用响应错误率、应用响应时间、应用每秒请求数更精确地判断应用自身是否处于过载状态；以及是提供了多种的保护措施。本发明具有以下一个或多个优势:在系统面临突发性高压力的情况下，系统服务能力不会下降为0，而是会对外展示系统的最大处理能力；为后续的扩容、应急预留了时间，不会中断服务；在突发性高压力请求恢复正常后，自动调整状态；系统能够持续稳定运行，提高了在突发高压力情况下的用户体验。
[0016]当结合附图阅读以下描述时也将理解本发明的实施例的其它特征和优势，其中附图借助于实例示出了本发明的实施例的原理。
【附图说明】
[0017]借助于实例，从以下详细描述和附图中，本发明的各个实施例的上述及其它方面、特征及益处将变得更加明显。
[0018]图1示出根据本发明实施例的过载保护装置在系统中的示意图。
[0019]图2示出根据本发明实施例的实现延迟转发和超时提前处理的流程图。
[0020]图3示出示例性的突发性高压力曲线图。
[0021]图4示出示例性的经过削峰的突发性高压力曲线图。
[0022]图5示出根据本发明实施例的实现保护关键业务的流程图。
[0023]图6示出根据本发明实施例的实现资源自动扩展的过载保护装置在系统中的示意图。
[0024]图7示出根据本发明实施例的采用备用资源池的过载保护的示意图。
【具体实施方式】
[0025]在下文中，将参考实施例描述本发明的原理和主旨。应当理解的是，给出的实施例仅仅是为了本领域技术人员更好地理解本发明并且进一步实践本发明，而不是限制本发明的范围。例如，作为一个实施例的一部分所例示或描述的特征可与另一实施例结合使用而产生另外一个实施例。为了清晰起见，在本说明书中未描述实际实施方式的所有特征。显然，可以理解的是在任何这种实施例的实际研发中，为实现开发人员的特定目标，诸如符合系统相关的约束和业务相关的约束，实施方式将有所不同。
[0026]现在将参考附图描述所公开的主题。在图中示意性描绘了各种结构、系统和设备，这仅是出于说明的目的而非将这些描述与本领域技术人员公知的细节混淆。然而，包括附图是为了描述和解释所公开主题的例示性实例。
[0027]图1示出根据本发明实施例的过载保护装置在系统中的示意图。如图1所示，系统由