基于机器学习的容量管理方法、装置、电子设备及介质与流程

本发明涉及人工智能技术领域，具体而言，涉及一种基于机器学习的容量管理方法、容量管理装置、电子设备以及计算机可读存储介质。

背景技术：

随着大数据的发展，各种业务平台需要处理的数据越来越多，处理数据的容量越来越大，数据平台浪费在多余容量上的花费也越来越多，如何对业务系统的容量进行管理成为了关注的焦点。

目前的业务平台的各个业务系统容量管理需要人工进行统计，不仅效率低下，而且难以反映各种业务系统之间的差别，难以准确地进行容量管理和预警。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现要素：

本发明实施例的目的在于提供一种基于机器学习的容量管理方法、容量管理装置、电子设备以及计算机可读存储介质，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。

根据本发明实施例的第一方面，提供了一种基于机器学习的容量管理方法，包括：获取目标业务平台的各个业务系统的服务器的历史组件容量信息；从所述历史组件容量信息中提取各个业务系统的服务器的组件容量特征；基于所述组件容量特征对容量管理模型进行训练；基于所述容量管理模型对所述目标业务平台的各个业务系统的服务器的组件容量进行调整。

在本发明的一些示例性实施例中，基于前述方案，基于所述组件容量特征对容量管理模型进行训练，包括：将所述组件容量特征按照预定比例分为训练集和验证集；基于所述训练集对所述容量管理模型进行训练；基于所述验证集对经训练的所述容量管理模型的参数进行调整。

在本发明的一些示例性实施例中，基于前述方案，基于所述容量管理模型对所述目标业务平台的各个业务系统的服务器的组件容量进行调整，包括：确定所述目标业务平台的各个业务系统的组件容量信息；提取所述组件容量信息中的所述业务系统的组件容量特征；基于所述组件容量特征以及所述容量管理模型对各个所述业务系统的组件容量进行调整。

在本发明的一些示例性实施例中，基于前述方案，确定所述目标业务平台的各个业务系统的组件容量信息，包括：获取所述目标业务平台的各个业务系统的业务数据；基于所述业务数据确定所述目标业务平台的各个业务系统的业务类型；基于各个业务系统的业务类型以及各个业务系统的组件的使用情况确定各个业务系统的组件容量信息。

在本发明的一些示例性实施例中，基于前述方案，所述业务类型包括：计算密集型业务、输入/输出密集型业务、数据密集型业务。

在本发明的一些示例性实施例中，基于前述方案，所述基于机器学习的容量管理方法还包括：在所述业务系统的组件容量达到预警值时对所述业务系统的组件容量进行预警。

在本发明的一些示例性实施例中，基于前述方案，所述容量管理模型为决策树模型、神经网络模型或支持向量机模型中的任一种。

根据本发明实施例的第二方面，提供一种容量管理装置，包括：信息获取单元，用于获取目标业务平台的各个业务系统的服务器的历史组件容量信息；组件容量特征提取单元，用于从所述历史组件容量信息中提取各个业务系统的服务器的组件容量特征；训练单元，用于基于所述组件容量特征对容量管理模型进行训练；调整单元，用于基于所述容量管理模型对所述目标业务平台的各个业务系统的服务器的组件容量进行调整。

根据本发明实施例的第三方面，提供一种电子设备，包括：处理器；以及存储器，所述存储器上存储有计算机可读指令，所述计算机可读指令被所述处理器执行时实现如上述任意一项所述的基于机器学习的容量管理方法。

根据本发明实施例的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述任意一项所述的基于机器学习的容量管理方法。

在本发明的一些实施例所提供的技术方案中，一方面，从目标业务平台的各个业务系统的服务器的历史组件容量信息中提取各个业务系统的服务器的组件容量特征，基于组件容量特征对容量管理模型进行训练，能够生成对目标业务平台的各个业务系统的容量进行预测和调整的模型；另一方面，基于容量管理模型对目标业务平台的各个业务系统的服务器的组件容量进行调整，能够自动准确地对目标业务平台的各个业务系统的容量进行管理和预警，从而能够降低人力成本，提高管理效率。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示出了根据本发明的一些实施例的基于机器学习的容量管理方法的流程示意图；

图2示出了根据本发明的一些实施例对各个业务系统的服务器的组件容量进行调整的流程示意图；

图3示出了根据本发明的一些实施例确定各个业务系统的组件容量信息的流程示意图；

图4示出了根据本发明的一些实施例的容量管理装置的示意框图；

图5示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本发明将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

图1示出了根据本发明的一些实施例的基于机器学习的容量管理方法的流程示意图，该基于机器学习的容量管理方法可以应用于目标业务平台的服务器。

参照图1所示，在步骤s110中，获取目标业务平台的各个业务系统的服务器的历史组件容量信息。

在示例实施例中，目标业务平台可以为保险业务平台、证券业务平台、金融业务平台。以证券业务平台为例，证券业务平台的业务系统可以包括：操盘系统、对账系统、清算系统等业务系统。可以从各个业务系统的系统日志记录中获取各个业务系统的历史组件容量信息，例如处理器利用情况、内存利用情况、磁盘利用情况、网络带宽数据、数据库使用情况等数据。

在步骤s120中，从所述历史组件容量信息中提取各个业务系统的服务器的组件容量特征。

在示例实施例中，历史组件容量信息可以包括各个业务系统的历史上的处理器利用情况、内存利用情况、磁盘利用情况、网络带宽信息等数据。各个业务系统的服务器的组件容量特征可以包括：各个业务系统的处理器使用占比的最大值和平均值、历史内存使用占比的最大值和平均值以及历史磁盘使用占比的最大值和平均值。

此外，在示例实施例中，各个业务系统的服务器的组件容量特征还可以包括：各个业务系统的业务类型，所述业务类型包括：计算密集型业务、i/o密集型业务、数据密集型业务。其中，计算密集型业务是指该业务主要消耗的是cpu资源例如图像处理业务，i/o密集型业务是指该业务主要使用的是i/o资源例如硬盘读写业务、利用网卡上传和下载业务，数据密集型业务是指占用内存、缓存或硬盘资源的业务，例如搜索业务和存储业务。可以基于各个业务系统的业务数据确定各个业务系统的业务类型，例如，如果一个业务系统频繁地进行磁盘读取、网络连接，可以确定该业务系统为i/o密集型业务。

在步骤s130中，基于所述组件容量特征对容量管理模型进行训练。

在示例实施例中，将提取的各个业务系统的组件容量特征输入到容量管理模型中对容量管理模型进行训练。需要说明的是，容量管理模型为决策树模型、神经网络模型或支持向量机模型中的任一种，也可以是其他适当的机器学习模型，本发明对此不进行特殊限定。

进一步地，在示例实施例中，将所述组件容量特征按照预定比例分为训练集和验证集，例如将所述组件容量特征按照7:3的比例分为训练集合验证集；基于所述训练集对所述容量管理模型进行训练；基于所述验证集对经训练的容量管理模型的参数进行调整。

在步骤s140中，基于所述容量管理模型对所述目标业务平台的各个业务系统的服务器的组件容量进行调整。

在示例实施例中，基于训练后的容量管理模型对各业务系统的各个服务器的组件容量进行调配。例如，业务系统a包括三个服务器，提取的历史组件容量信息表明：服务器a的cpu占比较高、磁盘使用占比较小，服务器b的cpu占比较小，磁盘使用占比较高，可以根据组件容量管理模型将服务器a的cpu的部分容量分配到服务器b，将服务器b的磁盘的部分容量分配给服务器a。

根据图1的示例实施例中的基于机器学习的容量管理方法，一方面，从目标业务平台的各个业务系统的服务器的历史组件容量信息中提取各个业务系统的服务器的组件容量特征，基于组件容量特征对容量管理模型进行训练，能够生成对目标业务平台的各个业务系统的容量进行预测和调整的模型；另一方面，基于容量管理模型对目标业务平台的各个业务系统的服务器的组件容量进行调整，能够自动准确地对目标业务平台的各个业务系统的容量进行管理和预警，从而能够降低人力成本，提高管理效率。

此外，在示例实施例中，在业务系统的组件容量达到预警值时对业务系统的组件容量进行预警。例如，可以通过grafana等前端展示软件对各个业务系统的组件容量进行展示。并在各组件容量达到预警值时进行预警。预警值可以根据各组件的容量的上限设置，例如，处理器使用的最大值设为80％，在超过80％时进行预警，网关的最大连接数设为1000，在超过900时进行预警。

图2示出了根据本发明的一些实施例对各个业务系统的服务器的组件容量进行调整的流程示意图。

参照图2所示，在步骤s210中，确定所述目标业务平台的各个业务系统的组件容量信息。

在示例实施例中，监控目标业务平台的各个业务系统的组件容量信息，根据监控数据确定各个业务系统的组件使用情况。组件容量信息可以包括各个业务系统的历史上的处理器利用情况、内存利用情况、磁盘利用情况、网络带宽信息、数据库使用情况等数据。需要说明的是，在本发明的示例实施例中，组件可以为前端web的组件，也可以为后端服务器中的组件例如cpu、磁盘、内存等。

在步骤s220中，提取所述组件容量信息中的所述业务系统的组件容量特征。

在示例实施例中，各个业务系统的服务器的组件容量特征可以包括：各个业务系统的处理器使用占比的最大值和平均值、历史内存使用占比的最大值和平均值以及历史磁盘使用占比的最大值和平均值。

需要说明的是，在本发明的示例实施例中，组件容量特征不限于此，例如，组件容量特征还可以为业务系统的业务类型、组件在不同时间段的使用峰值以及组件的使用占比的最小值，这同样在本发明的保护范围内。

在步骤s230中，基于所述组件容量特征以及所述容量管理模型对各个所述业务系统的组件容量进行调整。

在示例实施例中，以计算密集型的业务系统为例，可以重点监控该业务系统的cpu使用情况，根据监控得到的cpu使用情况确定该业务系统需要的cpu的计算量，例如，根据监控数据得到某一业务系统的cpu的使用占比为20％，可以通过容量管理模型减小该业务系统的cpu的容量，另一cpu的业务系统的cpu的使用占比为80％，可以通过容量管理模型增加该业务系统的cpu的容量，采用处理性能更强大的cpu；对于i/o密集型业务例如磁盘读写频繁的业务，可以重点监控该业务系统的网络带宽使用情况、网络连接情况、磁盘读写情况，可以采用更大的内存缓冲。

图3示出了根据本发明的一些实施例确定各个业务系统的组件容量信息的流程示意图。

参照图3所示，在步骤s310中，获取所述目标业务平台的各个业务系统的业务数据。

在示例实施例中，目标业务平台可以为保险业务平台、证券业务平台、金融业务平台。以证券业务平台为例，业务系统可以包括：操盘系统、对账系统、清算系统等业务系统。

在示例实施例中，可以从各个业务系统的系统日志记录中获取各个业务系统的业务数据，例如各个系统的网络连接数据、数据库数据操作数据以及读写数据，cpu使用数据。

在步骤s320中，基于所述业务数据确定所述目标业务平台的各个业务系统的业务类型。

在示例实施例中，可以基于各个业务系统的业务数据确定各个业务系统的业务类型，例如，如果一个业务系统频繁地进行磁盘读取、网络连接，可以确定该业务系统为i/o密集型业务；如果一个业务系统需要大量的计算资源，则确定该业务系统为计算密集型业务。

在步骤s330中，基于各个业务系统的业务类型以及各个业务系统的组件的使用情况确定各个业务系统的组件容量信息。

在示例实施例中，可以监控各业务系统的处理器利用情况、内存利用情况、磁盘利用情况、网络带宽数据、数据库使用情况等数据，根据监控数据确定各业务系统的组件的使用情况。将各个业务系统的业务类型以及组件的使用情况作为各个业务系统的组件容量信息。

此外，在本发明的实施例中，还提供了一种容量管理装置。参照图4所示，该容量管理装置400可以包括：信息获取单元410、组件容量特征提取单元420、训练单元430以及调整单元440。信息获取单元410用于获取目标业务平台的各个业务系统的服务器的历史组件容量信息；组件容量特征提取单元420用于从所述历史组件容量信息中提取各个业务系统的服务器的组件容量特征；训练单元430用于基于所述组件容量特征对容量管理模型进行训练；调整单元440用于基于所述容量管理模型对所述目标业务平台的各个业务系统的服务器的组件容量进行调整。

在本发明的一些示例性实施例中，基于前述方案，基于所述组件容量特征对容量管理模型进行训练，包括：将所述组件容量特征按照预定比例分为训练集和验证集；基于所述训练集对所述容量管理模型进行训练；基于所述验证集对经训练的所述容量管理模型的参数进行调整。

在本发明的一些示例性实施例中，基于前述方案，调整单元440包括：容量信息确定单元，用于确定所述目标业务平台的各个业务系统的组件容量信息；提取单元，用于提取所述组件容量信息中的所述业务系统的组件容量特征；组件容量调整单元，用于基于所述组件容量特征以及所述容量管理模型对各个所述业务系统的组件容量进行调整。

在本发明的一些示例性实施例中，基于前述方案，容量信息确定单元被配置为：获取所述目标业务平台的各个业务系统的业务数据；基于所述业务数据确定所述目标业务平台的各个业务系统的业务类型；基于各个业务系统的业务类型以及各个业务系统的组件的使用情况确定各个业务系统的组件容量信息。

在本发明的一些示例性实施例中，基于前述方案，所述业务类型包括：计算密集型业务、输入/输出密集型业务、数据密集型业务。

在本发明的一些示例性实施例中，基于前述方案，所述容量管理装置400还包括：预警单元，用于在所述业务系统的组件容量达到预警值时对所述业务系统的组件容量进行预警。

在本发明的一些示例性实施例中，基于前述方案，所述容量管理模型为决策树模型、神经网络模型或支持向量机模型中的任一种。

由于本发明的示例实施例的容量管理装置400的各个功能模块与上述基于机器学习的容量管理方法的示例实施例的步骤对应，因此在此不再赘述。

在本发明的示例性实施例中，还提供了一种能够实现上述方法的电子设备。

下面参考图5，其示出了适于用来实现本发明实施例的电子设备的计算机系统500的结构示意图。图5示出的电子设备的计算机系统500仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示，计算机系统500包括中央处理单元(cpu)501，其可以根据存储在只读存储器(rom)502中的程序或者从存储部分508加载到随机访问存储器(ram)503中的程序而执行各种适当的动作和处理。在ram503中，还存储有系统操作所需的各种程序和数据。cpu501、rom502以及ram503通过总线504彼此相连。输入/输出(i/o)接口505也连接至总线504。

以下部件连接至i/o接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至i/o接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。

特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(cpu)501执行时，执行本申请的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如上述实施例中所述的基于机器学习的容量管理方法。

例如，所述电子设备可以实现如图1中所示的：步骤s110，获取目标业务平台的各个业务系统的服务器的历史组件容量信息；步骤s120，从所述历史组件容量信息中提取各个业务系统的服务器的组件容量特征；步骤s130，基于所述组件容量特征对容量管理模型进行训练；步骤s140，基于所述容量管理模型对所述目标业务平台的各个业务系统的服务器的组件容量进行调整。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备或装置的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。