数据库实例的调度方法和装置与流程

文档序号:16855207发布日期:2019-02-12 23:11阅读:241来源:国知局
数据库实例的调度方法和装置与流程

本发明涉及数据库技术领域,具体涉及数据库实例的调度方法和装置。



背景技术:

一个数据库可以运行多个数据库实例在一台或多台服务器上。这些服务器实例的资源占用情况不同,因此需要合理地进行调度。现有技术中的调度方案存在一些问题,例如当一台服务器有一种类型资源的负载高时,就认为该台服务器为高负载,但实际上该台服务器上其他类型的资源可能还有空余,这样就造成了资源浪费。



技术实现要素:

鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的数据库实例的调度方法和装置。

依据本发明的一个方面,提供了一种数据库实例的调度方法,包括:

在满足调度条件时,确定各服务器的服务器类别;

确定各待调度数据库实例的实例类别;

基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。

可选地,所述调度条件包括:

到达预设的调度时间,和/或服务器集群中的高负载服务器数量达到预设值。

可选地,所述确定各服务器的服务器类别包括:

根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别。

可选地,所述根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别包括:

根据小波分解方法对服务器特征曲线进行定量分析;所述服务器特征曲线是对服务器的资源使用情况进行监控得到的;

根据随机森林算法和定量分析的结果确定各服务器的服务器类别。

可选地,所述确定各待调度数据库实例的实例类别包括:

根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别。

可选地,所述根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别包括:

根据小波分解方法对实例特征曲线进行定量分析;所述实例特征曲线是对实例的运行情况进行监控得到的;

根据基于bp神经网络的算法和定量分析的结果对各待调度数据库实例进行实例画像。

可选地,所述动态规划算法为类装箱问题的调度算法。

依据本发明的另一方面,提供了一种数据库实例的调度装置,包括:

第一分类单元,适于在满足调度条件时,确定各服务器的服务器类别;

第二分类单元,适于确定各待调度数据库实例的实例类别;

调度单元,适于基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。

可选地,所述调度条件包括:

到达预设的调度时间,和/或服务器集群中的高负载服务器数量达到预设值。

可选地,所述第一分类单元,适于根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别。

可选地,所述第一分类单元,适于根据小波分解方法对服务器特征曲线进行定量分析;所述服务器特征曲线是对服务器的资源使用情况进行监控得到的;根据随机森林算法和定量分析的结果确定各服务器的服务器类别。

可选地,所述第二分类单元,适于根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别。

可选地,所述第二分类单元,适于根据小波分解方法对实例特征曲线进行定量分析;所述实例特征曲线是对实例的运行情况进行监控得到的;根据基于bp神经网络的算法和定量分析的结果对各待调度数据库实例进行实例画像。

可选地,所述动态规划算法为类装箱问题的调度算法。

依据本发明的又一方面,提供了一种电子设备,包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行如上述任一所述的方法。

依据本发明的再一方面,提供了一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现如上述任一所述的方法。

由上述可知,本发明的技术方案,在满足调度条件时,确定各服务器的服务器类别,以及确定各待调度数据库实例的实例类别,基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。该技术方案能够通过服务器与实例的分类,实现按类别合理调度实例,使得服务器的各项资源负载率相均衡,避免了资源浪费,提高了服务器的利用率。

上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:

图1示出了根据本发明一个实施例的一种数据库实例的调度方法的流程示意图;

图2示出了根据本发明一个实施例的一种数据库实例的调度装置的结构示意图;

图3示出了根据本发明一个实施例的电子设备的结构示意图;

图4示出了根据本发明一个实施例的计算机可读存储介质的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。

图1示出了根据本发明一个实施例的一种数据库实例的调度方法的流程示意图。如图1所示,该方法包括:

步骤s110,在满足调度条件时,确定各服务器的服务器类别。一般而言数据库实例运行在服务器上,这里的服务器实际上可以认为是部署、运行数据库实例的计算设备。

步骤s120,确定各待调度数据库实例的实例类别。

步骤s130,基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。

可见,图1所示的方法,在满足调度条件时,确定各服务器的服务器类别,以及确定各待调度数据库实例的实例类别,基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。该技术方案能够通过服务器与实例的分类,实现按类别合理调度实例,使得服务器的各项资源负载率相均衡,避免了资源浪费,提高了服务器的利用率。

在本发明的一个实施例中,上述方法中,调度条件包括:到达预设的调度时间,和/或服务器集群中的高负载服务器数量达到预设值。

例如,每隔1~2周实现一次调度,或者当高负载服务器数量过多时进行调度。高负载服务器是指服务器当前的一项或几项资源利用率达到阈值,在现有技术中一般当一项资源利用率达到阈值即认为该服务器为高负载服务器。而实际上资源的维度众多,这样就造成了资源浪费。

因此在本发明的一个实施例中,上述方法中,确定各服务器的服务器类别包括:根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别。

在本实施例中服务器特征可以对应于服务器资源的多个维度,例如cpu、内存、磁盘、网卡和读写等。那么显然,当一台服务器是cpu高负载时,未必就是内存高负载,因此合理地调整该服务器上部署的实例,实现资源的负载均衡是十分必要的。

在本发明的一个实施例中,上述方法中,根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别包括:根据小波分解方法对服务器特征曲线进行定量分析;服务器特征曲线是对服务器的资源使用情况进行监控得到的;根据随机森林算法和定量分析的结果确定各服务器的服务器类别。

这里通过对服务器的长期监控,可以得到与时间序列对应的服务器特征曲线,例如cpu使用情况曲线、网卡使用情况曲线等等。为了消除噪声,提高准确度,采用小波分解的方法,先对各个服务器特征进行定量分析。之后通过机器学习中的随机森林算法实现服务器分类。这个过程中预先通过人工标注一批高质量的服务器样本数据进行有监督学习,得到训练模型后,再通过训练得到的模型实现服务器的分类。经过实践,采用随机森林算法进行服务器分类,准确率可达98%以上。

在本发明的一个实施例中,上述方法中,确定各待调度数据库实例的实例类别包括:根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别。

实例特征也可以对应于数据库实例对于服务器各类资源的使用,即多个维度,但是不仅仅包括cpu、内存、磁盘、网卡和读写这些维度,还可以包含增删改查等数据库使用相关的维度。那么显然,一个cpu高消耗的数据库实例并不适合调度到一台cpu高负载的服务器上。

在本发明的一个实施例中,上述方法中,根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别包括:根据小波分解方法对实例特征曲线进行定量分析;实例特征曲线是对实例的运行情况进行监控得到的;根据基于bp神经网络的算法和定量分析的结果对各待调度数据库实例进行实例画像。

这里也可以类似前述实施例,通过历史监控得到的业务数据确定各数据库实例在运行过程中的各实例特征曲线。也同样地,为了消除噪声,提高准确度,采用小波分解的方法,先对各个实例特征进行定量分析。之后根据基于bp神经网络的算法,同样通过有监督学习训练模型,再通过训练得到的模型实现分类,经过实践,采用基于bp神经网络的算法进行实例分类,准确率可达97%。

在本发明的一个实施例中,上述方法中,动态规划算法为类装箱问题的调度算法。经过实践,在集群中存在100台高负载服务器(依据现有技术标记为高负载)的情况下,可以通过重新调度,使三分之一的服务器变为可用,即可以向上调度新的数据库实例,使其变为真正的高负载服务器(即各个维度的资源均为高负载)。

图2示出了根据本发明一个实施例的一种数据库实例的调度装置的结构示意图。如图2所示,数据库实例的调度装置200包括:

第一分类单元210,适于在满足调度条件时,确定各服务器的服务器类别。一般而言数据库实例运行在服务器上,这里的服务器实际上可以认为是部署、运行数据库实例的计算设备。

第二分类单元220,适于确定各待调度数据库实例的实例类别。

调度单元230,适于基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。

可见,图2所示的装置,在满足调度条件时,确定各服务器的服务器类别,以及确定各待调度数据库实例的实例类别,基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。该技术方案能够通过服务器与实例的分类,实现按类别合理调度实例,使得服务器的各项资源负载率相均衡,避免了资源浪费,提高了服务器的利用率。

在本发明的一个实施例中,上述装置中,调度条件包括:到达预设的调度时间,和/或服务器集群中的高负载服务器数量达到预设值。

例如,每隔1~2周实现一次调度,或者当高负载服务器数量过多时进行调度。高负载服务器是指服务器当前的一项或几项资源利用率达到阈值,在现有技术中一般当一项资源利用率达到阈值即认为该服务器为高负载服务器。而实际上资源的维度众多,这样就造成了资源浪费。

因此在本发明的一个实施例中,上述装置中,第一分类单元210,适于根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别。

在本实施例中服务器特征可以对应于服务器资源的多个维度,例如cpu、内存、磁盘、网卡和读写等。那么显然,当一台服务器是cpu高负载时,未必就是内存高负载,因此合理地调整该服务器上部署的实例,实现资源的负载均衡是十分必要的。

在本发明的一个实施例中,上述装置中,第一分类单元210,适于根据小波分解方法对服务器特征曲线进行定量分析;服务器特征曲线是对服务器的资源使用情况进行监控得到的;根据随机森林算法和定量分析的结果确定各服务器的服务器类别。

这里通过对服务器的长期监控,可以得到与时间序列对应的服务器特征曲线,例如cpu使用情况曲线、网卡使用情况曲线等等。为了消除噪声,提高准确度,采用小波分解的方法,先对各个服务器特征进行定量分析。之后通过机器学习中的随机森林算法实现服务器分类。这个过程中预先通过人工标注一批高质量的服务器样本数据进行有监督学习,得到训练模型后,再通过训练得到的模型实现服务器的分类。经过实践,采用随机森林算法进行服务器分类,准确率可达98%以上。

在本发明的一个实施例中,上述装置中,第二分类单元220,适于根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别。

实例特征也可以对应于数据库实例对于服务器各类资源的使用,即多个维度,但是不仅仅包括cpu、内存、磁盘、网卡和读写这些维度,还可以包含增删改查等数据库使用相关的维度。那么显然,一个cpu高消耗的数据库实例并不适合调度到一台cpu高负载的服务器上。

在本发明的一个实施例中,上述装置中,第二分类单元220,适于根据小波分解方法对实例特征曲线进行定量分析;实例特征曲线是对实例的运行情况进行监控得到的;根据基于bp神经网络的算法和定量分析的结果对各待调度数据库实例进行实例画像。

这里也可以类似前述实施例,通过历史监控得到的业务数据确定各数据库实例在运行过程中的各实例特征曲线。也同样地,为了消除噪声,提高准确度,采用小波分解的方法,先对各个实例特征进行定量分析。之后根据基于bp神经网络的算法,同样通过有监督学习训练模型,再通过训练得到的模型实现分类,经过实践,采用基于bp神经网络的算法进行实例分类,准确率可达97%。

在本发明的一个实施例中,上述装置中,动态规划算法为类装箱问题的调度算法。经过实践,在集群中存在100台高负载服务器(依据现有技术标记为高负载)的情况下,可以通过重新调度,使三分之一的服务器变为可用,即可以向上调度新的数据库实例,使其变为真正的高负载服务器(即各个维度的资源均为高负载)。

综上所述,本发明的技术方案,在满足调度条件时,确定各服务器的服务器类别,以及确定各待调度数据库实例的实例类别,基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。该技术方案能够通过服务器与实例的分类,实现按类别合理调度实例,使得服务器的各项资源负载率相均衡,避免了资源浪费,提高了服务器的利用率。

需要说明的是:

在此提供的算法和显示不与任何特定计算机、虚拟装置或者其它设备固有相关。各种通用装置也可以与基于在此的示教一起使用。根据上面的描述,构造这类装置所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。

类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(dsp)来实现根据本发明实施例的数据库实例的调度装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。

例如,图3示出了根据本发明一个实施例的电子设备的结构示意图。该电子设备包括处理器310和被安排成存储计算机可执行指令(计算机可读程序代码)的存储器320。存储器320可以是诸如闪存、eeprom(电可擦除可编程只读存储器)、eprom、硬盘或者rom之类的电子存储器。存储器320具有存储用于执行上述方法中的任何方法步骤的计算机可读程序代码331的存储空间330。例如,用于存储计算机可读程序代码的存储空间330可以包括分别用于实现上面的方法中的各种步骤的各个计算机可读程序代码331。计算机可读程序代码331可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。这些计算机程序产品包括诸如硬盘,紧致盘(cd)、存储卡或者软盘之类的程序代码载体。这样的计算机程序产品通常为例如图4所述的计算机可读存储介质。图4示出了根据本发明一个实施例的一种计算机可读存储介质的结构示意图。该计算机可读存储介质400存储有用于执行根据本发明的方法步骤的计算机可读程序代码331,可以被电子设备300的处理器310读取,当计算机可读程序代码331由电子设备300运行时,导致该电子设备300执行上面所描述的方法中的各个步骤,具体来说,该计算机可读存储介质存储的计算机可读程序代码331可以执行上述任一实施例中示出的方法。计算机可读程序代码331可以以适当形式进行压缩。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

本发明公开了a1、一种数据库实例的调度方法,包括:

在满足调度条件时,确定各服务器的服务器类别;

确定各待调度数据库实例的实例类别;

基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。

a2、如a1所述的方法,其中,所述调度条件包括:

到达预设的调度时间,和/或服务器集群中的高负载服务器数量达到预设值。

a3、如a1所述的方法,其中,所述确定各服务器的服务器类别包括:

根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别。

a4、如a3所述的方法,其中,所述根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别包括:

根据小波分解方法对服务器特征曲线进行定量分析;所述服务器特征曲线是对服务器的资源使用情况进行监控得到的;

根据随机森林算法和定量分析的结果确定各服务器的服务器类别。

a5、如a1所述的方法,其中,所述确定各待调度数据库实例的实例类别包括:

根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别。

a6、如a5所述的方法,其中,所述根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别包括:

根据小波分解方法对实例特征曲线进行定量分析;所述实例特征曲线是对实例的运行情况进行监控得到的;

根据基于bp神经网络的算法和定量分析的结果对各待调度数据库实例进行实例画像。

a7、如a1所述的方法,其中,所述动态规划算法为类装箱问题的调度算法。

本发明还公开了b8、一种数据库实例的调度装置,包括:

第一分类单元,适于在满足调度条件时,确定各服务器的服务器类别;

第二分类单元,适于确定各待调度数据库实例的实例类别;

调度单元,适于基于实例类别与服务器类别的匹配规则和动态规划算法,将各待调度数据库实例调度到相应的服务器上。

b9、如b8所述的装置,其中,所述调度条件包括:

到达预设的调度时间,和/或服务器集群中的高负载服务器数量达到预设值。

b10、如b8所述的装置,其中,

所述第一分类单元,适于根据部署数据库实例的各服务器的服务器特征,确定各服务器的服务器类别。

b11、如b10所述的装置,其中,

所述第一分类单元,适于根据小波分解方法对服务器特征曲线进行定量分析;所述服务器特征曲线是对服务器的资源使用情况进行监控得到的;根据随机森林算法和定量分析的结果确定各服务器的服务器类别。

b12、如b8所述的装置,其中,

所述第二分类单元,适于根据各待调度数据库实例的实例特征,确定各待调度数据库实例的实例类别。

b13、如b12所述的装置,其中,

所述第二分类单元,适于根据小波分解方法对实例特征曲线进行定量分析;所述实例特征曲线是对实例的运行情况进行监控得到的;根据基于bp神经网络的算法和定量分析的结果对各待调度数据库实例进行实例画像。

b14、如b8所述的装置,其中,所述动态规划算法为类装箱问题的调度算法。

本发明还公开了c15、一种电子设备,其中,该电子设备包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行如a1-a7中任一项所述的方法。

本发明还公开了d16、一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现如a1-a7中任一项所述的方法。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1