网络服务管理方法、装置、服务器及存储介质与流程

本说明书实施例涉及互联网技术领域，尤其涉及一种网络服务管理方法、装置、服务器及存储介质。

背景技术：

随着互联网及智能终端的发展，用户越来越习惯并依赖在手机等终端进行信息搜索、在线购物、浏览新闻、观看视频、在线游戏等各种各样的生活及娱乐活动。用户享受到的每一种网络服务都基于对服务提供系统的维护和管理才能得以实现。

技术实现要素：

本说明书实施例提供一种网络服务管理方法、装置、服务器及存储介质。

第一方面，本说明书实施例提供一种网络服务管理方法，用于为提供所述网络服务的网络服务提供系统确定处理策略，所述方法包括：

获取所述网络服务提供系统当前的指标数据；

根据所述指标数据，确定所述网络服务提供系统当前的负载等级；

根据所述网络服务提供系统当前的负载等级，调整效果最佳策略、性能效果均衡策略、性能最佳策略的策略比例，使得业务流量被按照所述策略比例的配置进行处理。

第二方面，本说明书实施例提供一种网络服务管理装置，用于为提供所述网络服务的网络服务提供系统确定处理策略，所述装置包括：

指标数据获取单元，用于获取所述网络服务提供系统当前的指标数据；

负载等级确定单元，用于根据所述指标数据，确定所述网络服务提供系统当前的负载等级；

策略配置单元，用于根据所述网络服务提供系统当前的负载等级，调整效果最佳策略、性能效果均衡策略、性能最佳策略的策略比例，使得业务流量被按照所述策略比例的配置进行处理。

第三方面，本说明书实施例提供一种服务器，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述任一项所述网络服务管理方法的步骤。

第四方面，本说明书实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述任一项所述网络服务管理方法的步骤。

本说明书实施例有益效果如下：

本说明书实施例提供的网络服务管理方法中，根据指标数据确定负载等级之后，调整效果最佳策略、性能效果均衡策略、性能最佳策略的策略比例，使得业务流量被按照所述策略比例的配置进行处理，例如，若当前的负载等级为最高等级，则降低效果最佳策略的比例，和/或，增加性能效果均衡策略和性能最佳策略。当负载等级为最高级别，说明当前系统的处理压力很大(例如双11流量井喷的情况)，此时可以牺牲处理性能或提高业务效果来解决。由此，可以在流量高峰时，实现对系统策略进行降级，从而保证突发流量到来时系统的正常运行。

附图说明

图1为本说明书实施例的网络服务管理方法应用场景示意图；

图2为本说明书实施例第一方面提供的网络服务管理方法流程图；

图3为本说明书实施例第一方面提供的网络服务管理方法实例示意图；

图4为本说明书实施例第二方面提供的网络服务管理装置结构示意图；

图5为本说明书实施例第三方面提供的网络服务管理服务器结构示意图。

具体实施方式

为了更好的理解上述技术方案，下面通过附图以及具体实施例对本说明书实施例的技术方案做详细的说明，应当理解本说明书实施例以及实施例中的具体特征是对本说明书实施例技术方案的详细的说明，而不是对本说明书技术方案的限定，在不冲突的情况下，本说明书实施例以及实施例中的技术特征可以相互组合。

请参见图1，为本说明书实施例的网络服务管理方法应用场景示意图。终端位于用户侧100，与网络侧200通信。终端中的网络服务客户端101可以是基于互联网实现网络服务(业务)的APP或网站，为用户提供查询(例如搜索引擎等)、交易(例如在线购物、金融等)等服务的界面，并将用户提出的服务请求数据提供给网络侧进行处理；网络侧包括网络服务提供系统201和网络服务管理系统202。其中：网络服务提供系统201用于与网络服务客户端101通信，接收网络服务客户端101的查询或交易等服务请求数据，并经过处理后反馈服务响应数据给网络服务客户端101；网络服务管理系统202用于根据网络服务提供系统201的负载情况对网络服务提供系统201的运行进行维护和管理。

第一方面，本说明书实施例提供一种网络服务管理方法，用于为提供网络服务的网络服务提供系统确定处理策略以及调整资源。请参考图2，包括S201-S203。

S201：获取网络服务提供系统当前的指标数据。

本说明书实施例的指标可以包括系统性能指标和业务效果指标。其中系统性能指标例如包括处理器使用率(cpu)、内存使用率(Mem)、磁盘传输率(Disk)、网络利用率(Network)等。业务效果指标例如包括每秒查询率(qps)、并发数、响应时间(rt)等。系统性能指标数据可以通过查询系统文件获取到相关信息进行计算得到；业务效果指标数据可以通过实时监控业务处理情况并计算得到。

例如，处理器使用率可从系统目录/proc/stat中提取四个数据：用户模式(user)、低优先级的用户模式(nice)、内核模式(system)以及空闲的处理器时间(idle)；然后使用如下公式来计算处理器使用率：

CPU使用率＝100*(user+nice+system)/(user+nice+system+idle)。

再如，内存使用率可以从系统目录/proc/meminfo文件中提取两个数据：当前内存的使用量(cmem)以及内存总量(amem)。然后使用如下公式来计算内存使用率：

内存使用率＝100*(cmem/umem)。

其他指标数据的获取方式类似，不赘述。

S202：根据指标数据，确定网络服务提供系统当前的负载等级。

通过获取各项指标数据后，将各项指标数据与对应的指标阈值进行比较，确定各项指标的分值(水位)，然后综合各项指标分值，计算出负载分值，最终确定出网络服务提供系统当前的负载等级。

在一种可选的实现方式中，根据指标数据确定网络服务提供系统当前的负载等级的步骤包括：

(1)为网络服务提供系统的各项指标设置指标阈值；

(2)将网络服务提供系统的当前各项指标数据分别和对应的指标阈值进行比较，得到各项指标分值；

(3)根据各项指标分值，计算负载分值；

(4)根据负载分值，确定负载等级。

其中上述步骤(4)的实现过程可以包括：

(4.1)设置最低负载阈值、最高负载阈值；

(4.2)将负载分值分别与最低负载阈值、最高负载阈值进行比较，确定出负载等级为最低等级、中间等级或最高等级。

上述通过各项指标分值计算负载分值从而最终确定负载等级的一个具体实现例子如：假设目前系统参考的指标包括cpu、mem、qps、rt四项，则为每项设置一个指标阈值；假设当cpu超过cpu阈值(例如cpu阈值为60％)，则认为cpu为考量指标项，为cpu项记分(具体分值可按照cpu数据与阈值的大小确定，例如当超过阈值很多时记分较高)；假设其他三项均在安全的阈值之内，则不考量这三项，均记分为0。在根据各项指标分值进行计算负载分值时，可预先为不同指标项分配权重(也可以不设置权重)，然后综合计算(例如加权平均)得到负载分值。最后将该负载分值与预置的最低负载阈值、最高负载阈值分别进行比较，确定当前负载分值所处的区间，从而确定当前的负载等级。例如，当负载分值低于最低负载阈值时，确定出负载等级为最低等级；当负载分值高于最高负载阈值时，确定出负载等级为最高等级；当负载分值介于最低负载阈值和最高负载阈值之间时，确定出负载等级为中间等级。

S203：根据网络服务提供系统当前的负载等级，调整效果最佳策略、性能效果均衡策略、性能最佳策略的策略比例，使得业务流量被按照所述策略比例的配置进行处理。

在一种可选的实现方式中，可以通过设置不同的代码执行逻辑，确定不同的处理策略。其中，效果最佳策略对应于计算精度优先的代码执行逻辑，性能最佳策略对应于计算速度优先的代码执行逻辑。其中：所谓的效果最佳可以理解为业务效果好，例如计算更为精准；所谓的性能最佳可以理解为处理性能高，例如处理速度更高(响应时间更短)。以搜索引擎服务系统为例，排序算法越复杂，排序效果越好，但是处理时间越长，这个处理策略就是效果好，性能差；反过来，排序算法越简单，效果越差，但是消耗时间越短，就是效果差，性能好。

例如：若当前的负载等级为最高等级，则降低效果最佳策略的比例，和/或，增加性能效果均衡策略和性能最佳策略。当负载等级为最高级别，说明当前系统的处理压力很大(例如双11流量井喷的情况)，此时只能牺牲处理性能或提高业务效果来解决。同理：若当前的负载等级为最低等级，可降低性能最佳策略的比例，和/或，增加性能效果均衡策略和效果最佳策略的比例。当负载等级为较低级别，说明当前系统的处理压力已过(例如双11已过)，此时可以通过增加效果最佳策略的比例来保证缺省状态下的效果最佳。

“使业务流量被按照策略比例的配置进行处理”的含义是：针对一段时间内的业务请求，按照策略比例，确定被每个策略处理的请求数量；也即将一段时间内的业务请求按照策略比例分配对应的策略进行处理。

在具体应用中，可以通过不同的策略桶来分别实现不同的处理策略以及按照策略比例进行业务处理的配置。例如设置效果桶、均衡桶、性能桶分别对应于效果最佳策略、性能效果均衡策略、性能最佳策略的策略。假设在流量高峰时配置效果桶、均衡桶、性能桶的比例为1:2:7，那么在进行流量处理过程中，控制业务流量按照上述比例被处理，即例如对于一段时间内的10000条业务请求，1000条按照效果桶的效果最佳策略进行处理、2000条按照均衡桶的性能效果均衡策略进行处理、7000条按照性能桶的性能最佳策略进行处理。

可见，上述介绍了在根据指标数据确定负载等级之后，对系统的处理策略的比例进行调整，从而实现对系统策略升降级管理。例如，流量高峰时通过提高性能最佳策略的比例达到降级的效果，策略降级的顺序是：效果最佳策略－>效果性能均衡策略－>性能最佳策略；流量低峰时通过提高效果最佳策略的比例达到升级的效果，策略升级的顺序是：性能最佳策略－>效果性能均衡策略－>效果最佳策略。

除了进行策略升降级调整之外，还可以根据负载等级进行系统资源配置的调整(扩容和缩容)，特别是在流量高峰时进行扩容。因此，在一种可选的实现方式中，在确定所述网络服务提供系统当前的负载等级之后，上述方法还包括S204：根据网络服务提供系统当前的负载等级，为网络服务提供系统调整系统资源。步骤S204可与步骤S203同时或分时进行。例如，若当前的负载等级为最高等级，则通过扩容操作，增加系统资源。例如当流量高峰到来时，通过扩容操作(比如增加部署机器资源)。同理，若当前的负载等级为最低等级，则可通过缩容操作(减少机器资源)，减少系统资源。

下面以搜索引擎系统作为网络服务提供系统的一个具体例子、以策略桶实现不同处理策略的方式，对本说明书实施例提供的网络服务管理方法的一个实例进行示例性介绍。

参见图3，为本说明书实施例提供的网络服务管理方法实例示意图。

对图3中的各组件介绍如下：

1、搜索引擎服务：是搜索引擎的在线服务系统，本说明书实施例中作为被降级和被扩容缩容的系统对象。

其中“降级”是一种形象的说法，其具体实现是通过如前介绍的通过配置不同处理策略之间的分配比例实现的。所谓降级可以理解为是降低或者减少部分服务能力，来保障主要功能可用。例如，系统原来支持功能A、B、C，其中A是主要功能，当性能出现瓶颈，为了保障A的服务，把服务降级，B和C的能力不再提供，A仍然可应用。或者从A变成a(相对A较弱的功能)，尽管能力有减弱，但是还可以提供基本服务。

“扩容缩容”是指资源的增加和减少。比如模块A原来10台机器，扩容到15台，缩容到5台。

2、桶0，桶1，桶2：是根据性能和效果指标制定的，不同服务能力的处理策略。例如桶0(效果桶)、桶1(均衡桶)、桶2(性能桶)分别对应于效果最佳策略、性能效果均衡策略、性能最佳策略的策略。

3、搜索接入层：是流量入口，可以根据不同的处理策略配置比例，将流量引入不同的策略桶。

4、BTS(实验系统)，可以根据配置，以及metrics系统指标，智能的控制当前流量落在哪个策略桶。

BTS智能控制方式例如：

(1)获取当前系统负载等级(水位)。

从amonitor server读取当前系统的cpu，mem，disk等系统指标以及qps和rt的业务指标。比如，cpu使用率45％，mem使用15GB，latency 20ms等。

(2)判断当前系统负载水位是否过高。

比如设置cpu水位超过60％为过高，则当前cpu水位超过60％时，触发降级操作，牺牲效果，提升性能降低水位。

(3)执行降级过程。

通过接口修改降级策略，使降级策略生效。

5、Amonitor server：可以收集搜索引擎服务系统的系统指标，如cpu，qps和rt等，从而可以感知系统当前的负载能力。

6、Hippo(调度系统)，可以对应用进行扩容和缩容操作，例如包括安装部署，引流等操作。

7、智能扩容缩容：通过从amonitor server获得搜索引擎服务系统metrics(指标)，判断当前的容量情况，然后通过决策，给hippo发送指令，完成系统的扩容缩容。

下面以图3实例在流量高峰对系统进行降级、扩容的实现方式介绍如下。

(一)智能降级：

为了达到性能和效果的最优，如前介绍的支持对策略桶的降级(桶0:效果最佳策略、桶1:性能效果均衡策略、桶2:性能最佳策略)。搜索引擎服务系统会秒级汇报状态信息到Amonitor server(metrics收集服务)，智能选桶策略可以从Amonitor server中读到当前的系统指标数据及业务指标数据，确定出当前的系统负载等级，并根据负载等级来选择适合的策略桶。例如：当流量高峰到来，搜索引擎服务的负载等级超过最高阈值，则自动降低效果最佳策略(桶0)的比例来提升性能，保障系统可用；流量高峰期已过，则会自动提升效果最佳策略(桶2)的比例，保障业务效果最优。

(二)智能扩容

为了既可以支撑预期中和预期外的流量，并且可以最优机器分配，智能扩容缩容模块从Amonitor server中读取到搜索引擎服务系统的指标数据，并确定出当前的负载等级，通过Hippo动态调整搜索引擎服务的各个机器资源，进行部署或者卸载等一系列操作，来达到动态扩容缩容的目标，既可以保障分钟级实时优化在线资源，支撑流量峰值，也可以全局最优利用机器资源，同时实现无人值守节省人力成本。

可见，本说明书实施例提供的网络服务管理方法中，根据指标数据确定负载等级之后，根据负载等级对网络服务提供系统的各种处理策略的比例进行调整，例如，可以在流量高峰时，实现对系统策略进行降级，从而保证突发流量到来时系统的正常运行。此外，还可以通过对系统资源的调整，实现对系统的扩容和缩容。

第二方面，基于同一发明构思，本说明书实施例提供一种网络服务管理装置，用于为提供所述网络服务的网络服务提供系统确定处理策略请参考图4，包括：

指标数据获取单元401，用于获取所述网络服务提供系统当前的指标数据；

负载等级确定单元402，用于根据所述指标数据，确定所述网络服务提供系统当前的负载等级；

策略配置单元403，用于根据所述网络服务提供系统当前的负载等级，调整效果最佳策略、性能效果均衡策略、性能最佳策略的策略比例，使得业务流量被按照所述策略比例的配置进行处理。

在一种可选方式中，所述指标数据包括系统性能指标数据和/或业务效果指标数据；其中：系统性能指标包括处理器使用率、内存使用率、磁盘传输率、网络利用率中的一项或多项；业务效果指标包括每秒查询率、并发数、响应时间中的一项或多项。

在一种可选方式中，所述负载等级确定单元402包括：

指标阈值设置子单元4021，用于为所述网络服务提供系统的各项指标设置指标阈值；

指标比较子单元4022，用于将所述网络服务提供系统的当前各项指标数据分别和对应的指标阈值进行比较，得到各项指标分值；

负载分值计算子单元4023，用于根据各项指标分值，计算负载分值；

负载等级确定子单元4024，用于根据所述负载分值，确定所述负载等级。

在一种可选方式中，所述负载等级确定子单元4024具体用于：将所述负载分值分别与预置的最低负载阈值、最高负载阈值进行比较，确定出所述负载等级为最低等级、中间等级或最高等级。

在一种可选方式中，所述处理策略包括效果最佳策略、性能效果均衡策略、性能最佳策略；

在一种可选方式中，所述所述策略配置单元403具体用于：若当前的负载等级为最高等级，则降低所述效果最佳策略的比例，和/或，增加所述性能效果均衡策略和性能最佳策略的比例；若当前的负载等级为最低等级，则降低所述性能最佳策略的比例，和/或，增加所述性能效果均衡策略和效果最佳策略的比例。

在一种可选方式中，还包括：

策略实现单元404，用于通过设置不同的代码执行逻辑，确定不同的处理策略；其中，所述效果最佳策略对应于计算精度优先的代码执行逻辑，所述性能最佳策略对应于计算速度优先的代码执行逻辑。

在一种可选方式中，还包括：

资源调整单元405，用于根据所述网络服务提供系统当前的负载等级，为所述网络服务提供系统调整系统资源。

在一种可选方式中，所述资源调整单元405具体用于：若当前的负载等级为最高等级，则通过扩容操作，增加所述系统资源；若当前的负载等级为最低等级，则通过缩容操作，减少所述系统资源。

第三方面，基于与前述实施例中网络服务管理方法同样的发明构思，本发明还提供一种服务器，如图5所示，包括存储器504、处理器502及存储在存储器504上并可在处理器502上运行的计算机程序，所述处理器502执行所述程序时实现前文所述网络服务管理方法的任一方法的步骤。

其中，在图5中，总线架构(用总线500来代表)，总线500可以包括任意数量的互联的总线和桥，总线500将包括由处理器502代表的一个或多个处理器和存储器504代表的存储器的各种电路链接在一起。总线500还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路链接在一起，这些都是本领域所公知的，因此，本文不再对其进行进一步描述。总线接口506在总线500和接收器501和发送器503之间提供接口。接收器501和发送器503可以是同一个元件，即收发机，提供用于在传输介质上与各种其他装置通信的单元。处理器502负责管理总线500和通常的处理，而存储器504可以被用于存储处理器502在执行操作时所使用的数据。

第四方面，基于与前述实施例中网络服务管理方法的发明构思，本发明还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现前文所述网络服务管理方法的任一方法的步骤。

本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的设备。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令设备的制造品，该指令设备实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本说明书的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本说明书范围的所有变更和修改。

显然，本领域的技术人员可以对本说明书进行各种改动和变型而不脱离本说明书的精神和范围。这样，倘若本说明书的这些修改和变型属于本说明书权利要求及其等同技术的范围之内，则本说明书也意图包含这些改动和变型在内。