业务请求的处理方法、系统及电子设备与流程

文档序号：21406605发布日期：2020-07-07 14:40阅读：186来源：国知局

本发明涉及互联网技术领域，具体涉及一种业务请求的处理方法、系统及电子设备。

背景技术：

在海量服务的后台开发中，经常会遇到业务过载的情况，业务过载也就是当前负载已经超过了系统的最大处理能力。造成业务过载的原因有很多，常见的有业务请求突增，例如，服务节点每秒能够处理的业务请求是100个，但业务请求量突然大幅度增加，实际上每秒的业务请求1000个，服务节点出现了业务过载。业务过载情况的出现，会导致服务卡顿甚至服务完全不可用，从而影响用户的使用体验。

目前，针对服务节点的过载保护方法有很多，其中，负载均衡的方式通过将业务请求量进行分流，以减少单个服务节点的业务请求量，从而控制服务节点的带宽，是一种能够有效防止服务节点业务过载的方法。

但是，发明人在实现本发明的过程中发现，现有技术中的过载保护方法通常是在业务请求的分发操作之前执行，对于已经分发至各个服务节点的业务请求则无法实施过载保护策略。

技术实现要素：

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的业务请求的处理方法、系统及电子设备。

根据本发明的一个方面，提供了一种业务请求的处理方法，包括：

监控第一服务节点的业务量信息，判断业务量信息是否满足预设的业务转移条件；

若是，向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。

可选地，判断业务量信息是否满足预设的业务转移条件具体包括：

根据业务量信息确定第一服务节点的当前业务峰值，判断当前业务峰值是否达到预设峰值阈值；

若是，确定业务量信息满足预设的业务转移条件。

可选地，根据业务量信息确定第一服务节点的当前业务峰值具体包括：

根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；

按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。

可选地，按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值具体包括：

按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点的当前业务量峰值。

可选地，第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点具体包括：

第一服务节点根据业务转移指令中包含的指令参数信息和/或第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；

第一服务节点根据第一服务节点所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。

可选地，第一服务节点根据业务转移指令中包含的第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量进一步包括：

第一服务节点根据预设百分比以及第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；

其中，预设百分比根据第一服务节点所对应的各个业务请求的业务量预估值确定。

可选地，待转移的业务请求根据业务请求的接收时间确定；和/或，待转移的业务请求根据业务请求的业务量预估值确定。

可选地，业务量信息具体包括：网络流量信息和/或网络带宽信息。

可选地，第一服务节点为cdn节点，并且业务请求包括域名解析请求。

根据本发明的另一方面，提供了一种业务请求的处理系统，包括：服务代理装置以及第一服务节点；其中，服务代理装置包括：监控模块、判断模块以及发送模块；

监控模块，适于监控第一服务节点的业务量信息；

判断模块，适于判断业务量信息是否满足预设的业务转移条件；

发送模块，适于若业务量信息满足预设的业务转移条件，向第一服务节点发送业务转移指令；

第一服务节点，适于根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。

可选地，判断模块进一步适于：

根据业务量信息确定第一服务节点的当前业务峰值，判断当前业务峰值是否达到预设峰值阈值；

若是，确定业务量信息满足预设的业务转移条件。

可选地，判断模块进一步适于：

根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；

按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。

可选地，判断模块进一步适于：

按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点的当前业务量峰值。

可选地，第一服务节点进一步适于：根据业务转移指令中包含的指令参数信息和/或第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；

根据第一服务节点所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。

可选地，第一服务节点进一步用于：

根据预设百分比以及第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；

其中，预设百分比根据第一服务节点所对应的各个业务请求的业务量预估值确定。

可选地，待转移的业务请求根据业务请求的接收时间确定；和/或，待转移的业务请求根据业务请求的业务量预估值确定。

可选地，业务量信息具体包括：网络流量信息和/或网络带宽信息。

可选地，第一服务节点为cdn节点，并且业务请求包括域名解析请求。

根据本发明的又一方面，提供了一种电子设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述业务请求的处理方法对应的操作。

根据本发明的再一方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如上述业务请求的处理方法对应的操作。

根本发明所提供的业务请求的处理方法、系统及电子设备，方法包括：监控第一服务节点的业务量信息，判断业务量信息是否满足预设的业务转移条件；若是，则向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。该方式通过对第一服务节点的业务量信息进行监控，当业务量信息满足业务转移条件时，则将第一服务节点的一些业务量请求转移给第二服务节点进行处理，减少第一服务节点需要处理的业务请求量，通过对业务进行分流达到控制第一服务节点的带宽的效果，能够避免突增的业务请求对第一服务节点的强烈冲击，从而保证第一服务节点始终能够正常提供服务。该方式能够在业务请求的分发操作之后，针对已经分发至各个服务节点的业务请求实施过载保护。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明一个实施例的业务请求的处理方法的流程示意图；

图2示出了根据本发明另一个实施例的业务请求的处理方法的流程示意图；

图3示出了根据本发明又一个实施例的业务请求的处理系统的结构示意图；

图4示出了根据本发明实施例的一种电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

图1示出了根据本发明一个实施例的业务请求的处理方法的流程示意图，本实施的执行主体具体为预设的代理服务器，当然，本发明的方案并不以此为限。如图1所示，该方法包括：

步骤s101，监控第一服务节点的业务量信息。

过载保护方法中一个重要环节就是对服务节点的业务量进行实时地监控，以便根据监控得到的业务量信息判断服务节点是否或者可能会出现业务过载的情况。监控第一服务节点的业务量信息是一个持续执行的步骤。

其中，第一服务节点的业务量信息可以是接收的业务请求的数量信息、网络带宽信息、网络流量信息和/或其他能够评估第一服务节点的负载情况的业务量信息，本发明对业务量信息的具体内涵不做限定。

步骤s102，判断业务量信息是否满足预设的业务转移条件；若是，则执行步骤s103；若否，则跳转执行步骤s101。

判断业务量信息是否满足预设的业务转移条件，若满足，则启动过载保护策略；若不满足，则继续对第一服务节点的业务量信息进行监控。其中，预设的业务转移条件可以是针对业务请求的数量的限制条件，也可以是针对网络带宽的限制条件、或者也可以是针对业务请求的流量预估值的条件。总之，若业务量信息满足预设的业务转移条件，则表明第一服务节点可能或者已经出现业务过载的情况，因此，本领域技术人员可以根据实际需要设置预设的业务转移条件。

例如，根据第一服务节点接收到的业务请求的数量进行判断，当第一服务节点接收到的业务请求的数量超过了预设数量阈值的时候，则判定业务量信息满足预设的业务转移条件；或者当服务节点的带宽值超过了预设带宽阈值的时候，则判定业务量信息满足预设的业务转移条件。

步骤s103，向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。

当代理服务器判断出业务量信息满足预设的业务转移条件，则需要将第一服务节点的一些业务请求转移到其他节点进行处理，以减少第一服务节点处理的业务请求，防止业务过载。具体地，代理服务器向第一服务节点发送业务转移指令，第一服务节点根据业务转移指令确定待转移的业务请求，并将待转移的业务请求转移至第二服务节点，由第二服务节点对接收到的待转移的业务请求进行处理。

由此可知，根据本实施例所提供的业务请求的处理方法，监控第一服务节点的业务量信息，然后判断业务量信息是否满足预设的业务转移条件，若是，则向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。该方式通过对第一服务节点的业务量信息进行监控，当业务量信息满足业务转移条件时，则将第一服务节点的一些业务量请求转移给第二服务节点进行处理，减少第一服务节点需要处理的业务请求量，通过对业务进行分流达到控制第一服务节点的带宽的效果，能够避免突增的业务请求对第一服务节点的强烈冲击，从而保证第一服务节点始终能够正常提供服务。该方式能够在业务请求的分发操作之后，针对已经分发至各个服务节点的业务请求实施过载保护。

图2示出了根据本发明另一个实施例的业务请求的处理方法的流程示意图，如图2所示，该方法包括：

步骤s201，监控第一服务节点的业务量信息。

实时地监控第一服务节点的业务量信息，例如业务请求的数量信息，网络流量信息和/或网络带宽信息等等，总之，业务量信息能够表示第一服务节点的负载情况，本发明对业务量信息的具体内涵不做限定。

步骤s202，根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值。

本实施例中，预设的业务转移条件具体是针对于业务量峰值的限制条件，因此，需要根据监控得到的第一服务节点的业务量信息确定当前业务量峰值。

首先，根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值。其中，与当前时间点相对应的预设周期具体指的是与当前时间相邻并且在当前时间之前的一个时间段，预设周期的长度以及预设周期内的多个时间点均可以根据实际需要进行设置。举例来说，设置预设周期的长度为6分钟，每相邻两个时间点之间的时间间隔1分钟或者2分钟，那么，与当前时间相对应的预设周期也就是当前时间之前的6分钟这个时间段。在此情况下，监控第一服务节点的业务量信息的步骤具体为：每隔一分钟采集第一服务节点的业务量数值。

步骤s203，按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。

例如，对多个时间点所对应的业务量数值求平均值，或者求取多个时间点所对应的业务量数值的中位数等等，总之，当前业务量峰值能够准确地表示第一服务节点当前的负载情况。

可选地，步骤s203具体可以包括：按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点的当前业务量峰值。首先对各个时间点所对应的业务量数值进行排序，按照业务量数值的大小进行升序排列或者降序排列，排序之后的各个业务量数值的中位值就是第一服务节点的当前业务量峰值。其中，优选的方案为按照业务量数值的大小进行升序排列，根据升序排列所确定的中位值的准确性更高，与第一服务节点当前的负载情况更加吻合。

步骤s204，判断当前业务峰值是否达到预设峰值阈值；若是，则执行步骤s205；若否，则跳转执行步骤s201。

其中，预设峰值阈值是一个可调的数值，可根据实际需要进行调整。若当前业务峰值达到预设峰值阈值，则表明第一服务节点的业务量信息满足预设的业务转移条件，则执行步骤s205，对第一服务节点的业务请求进行转移；若当前业务峰值未达到预设峰值阈值，则继续监控第一服务节点的业务量信息。

步骤s205，向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。

向第一服务节点发送业务转移指令，第一服务节点根据接收到的业务转移指令确定待转移的业务请求，第一服务节点将待转移的业务请求转移至第二服务节点。其中，确定待转移的业务请求包括两个层面的任务，第一：确定待转移的业务请求的数量，举例来说，第一服务节点所对应的请求有1000个，而第一服务节点每秒能够处理的请求为100个，若仅将200个业务请求转移出去，第一服务节点的负载压力还是很大，因此，需要确定一个合理的待转移的业务请求的数量；第二：确定具体将那些业务请求转移出去，例如，按照各个业务请求的请求时间将距离当前时间最近或者最远的预设数量的业务请求转移出去。

本实施例中，确定待转移的业务请求的数量具体可以包括以下两种实施方式：

第一种方式：第一服务节点根据业务转移指令中包含的指令参数信息，确定待转移的业务请求的数量。其中，指令参数信息具体可以是当前业务量峰值，例如，当前网络流量或者网络带宽的峰值。

第二种方式：第一服务节点根据业务转移指令中包含的第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量。可选地，第一服务节点根据对应的业务请求的总量以及预设百分比，确定待转移的业务请求的数量。

其中，预设百分比是可调的，实时地根据第一服务节点的负载情况进行调节，例如，若业务请求的总量较大，则可以将预设百分比设置得较大。进一步地，为了更加准确地进行负载均衡，还可以根据第一服务节点所对应的各个业务请求的业务量预估值确定预设百分比，当每一个业务请求的业务量预估值都能够明确时，那么就能够确定各个业务请求的业务量总和具体超出第一服务节点能够负载的业务量的程度，则可以根据超出的部分确定待转移的业务请求的数量占第一服务节点所对应的业务请求的总量的比例。

其中，业务请求的业务量预估值具体指的是业务请求能够产生的数据量。业务量预估值可以根据历史数据进行预测，举例来说，针对同一域名，获取历史数据中不同时期该域名所对应的资源的数据量，求取中位数或者平均数得到该域名的业务量预估值。当然，本发明对此不做限定。

上述两种方式的都是根据第一服务节点当前的负载情况确定待转移的业务请求的数量，具体实施时，可单独采取上述两种方式中的一种来确定待转移的业务请求的数量，或者结合上述两种方式来确定待转移的业务请求的数量，本发明对此不做限定。

在确定了待转移的业务请求的数量之后，则需要确定具体将那些业务请求转移到第二服务节点。具体地，第一服务节点根据第一服务节点所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。可选地，待转移的业务请求根据业务请求的接收时间确定，例如，按照时间先后顺序，将先接收的还未处理的20％的业务请求确定为待转移的业务请求，或者将后接收的20％的业务请求确定为待转移的业务请求。进一步可选地，待转移的业务请求根据业务请求的业务量预估值确定，例如，按照业务量预估值从大到小的排列规则对各个业务请求排序，将业务量预估值排在前20％的业务请求确定为待转移的业务请求。

实际应用中，还可以对每一个资源能够占用的网络资源进行限制，假如一个资源占用的网络资源超过了一定的阈值，则把该资源的业务请求转移给第二服务节点，当然，本发明的方案并不以此为限。

其中，第一服务节点向客户端返回重定向协议，客户端根据协议去访问第二服务节点，从而达到将待转移的业务转移至第二服务节点的效果。例如，向待转移的业务请求对应的客户端返回http协议中的302状态码，302状态码中写第二服务节点的ip地址，浏览器在接收到302状态码时，提取第二服务节点的ip地址，向第二服务节点的ip地址发起业务请求。

另外，本实施例的方法可应用于cdn调度系统中，那么第一服务节点具体为cdn节点，第一服务节点的业务请求具体为域名解析请求。

由此可知，本实施例的方法通过实时地监控第一服务节点的业务量信息，并实时根据监控到的业务量信息确定当前业务量峰值，能够更加准确地评估第一服务节点的负载压力，并且当判定出业务量信息满足业务转移条件时，启动业务转移策略对业务请求进行转移，结合多方面因素确定待转移的业务请求，通过上述方式提升业务均衡的准确性，减少第一服务节点需要处理的业务请求量，通过对业务进行分流达到控制第一服务节点的带宽的效果，能够避免突增的业务请求对第一服务节点的强烈冲击，从而保证第一服务节点始终能够正常提供服务。

图3示出了根据本发明又一个实施例的业务请求的处理系统的结构示意图，如图3所示，该系统包括：服务代理装置31以及第一服务节点32；其中，服务代理装置31包括：监控模块311、判断模块312以及发送模块313；

监控模块311，适于监控第一服务节点的业务量信息；

判断模块312，适于判断业务量信息是否满足预设的业务转移条件；

发送模块313，适于若业务量信息满足预设的业务转移条件，向第一服务节点发送业务转移指令；

第一服务节点32，适于根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。

可选地，判断模块312进一步适于：

根据业务量信息确定第一服务节点的当前业务峰值，判断当前业务峰值是否达到预设峰值阈值；

若是，确定业务量信息满足预设的业务转移条件。

可选地，判断模块312进一步适于：

根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；

按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。

可选地，判断模块312进一步适于：

按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点32的当前业务量峰值。

可选地，第一服务节点32进一步适于：根据业务转移指令中包含的指令参数信息和/或第一服务节点32所对应的业务请求的总量，确定待转移的业务请求的数量；根据第一服务节点32所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。

可选地，第一服务节点32进一步用于：

根据预设百分比以及第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；

其中，预设百分比根据第一服务节点所对应的各个业务请求的业务量预估值确定。

可选地，待转移的业务请求根据业务请求的接收时间确定；和/或，待转移的业务请求根据业务请求的业务量预估值确定。

可选地，业务量信息具体包括：网络流量信息和/或网络带宽信息。

可选地，第一服务节点32为cdn节点，并且业务请求包括域名解析请求。

上述各个模块的具体结构和工作原理可参照方法实施例中相应步骤的描述，此处不再赘述。

本申请实施例提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的业务请求的处理方法。

图4示出了根据本发明实施例的一种电子设备的结构示意图，本发明具体实施例并不对电子设备的具体实现做限定。

如图4所示，该电子设备可以包括：处理器(processor)402、通信接口(communicationsinterface)404、存储器(memory)406、以及通信总线408。

其中：

处理器402、通信接口404、以及存储器406通过通信总线408完成相互间的通信。

通信接口404，用于与其它设备比如客户端或其它服务器等的网元通信。

处理器402，用于执行程序410，具体可以执行上述业务请求的处理方法实施例中的相关步骤。

具体地，程序410可以包括程序代码，该程序代码包括计算机操作指令。

处理器402可能是中央处理器cpu，或者是特定集成电路asic(applicationspecificintegratedcircuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。电子设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个cpu；也可以是不同类型的处理器，如一个或多个cpu以及一个或多个asic。

存储器406，用于存放程序410。存储器406可能包含高速ram存储器，也可能还包括非易失性存储器(non-volatilememory)，例如至少一个磁盘存储器。

程序410具体可以用于使得处理器402执行以下操作：

监控第一服务节点的业务量信息，判断业务量信息是否满足预设的业务转移条件；

若是，向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。