在线分布式请求调度和服务管理方法及代理系统的制作方法
【技术领域】
[0001] 本发明涉及服务计算及云计算的调度和管理领域，具体涉及一种在线分布式请求 调度和服务管理方法及代理系统。
【背景技术】
[0002] 服务代表了服务供应商和服务消费者之间为了实现某些特定的功能和目标而产 生的一种契约关系。随着互联网上服务数量逐渐增大，越来越多的第三方提供了功能相同 或者相似的候选服务。人们对服务的需求逐渐从功能性需求向非功能性需求转变。非功能 性需求主要以服务质量为代表。当服务请求到达时，如何选择最优的候选服务来完成工作， 并且满足用户的需求，成为了研究热点。另一方面，随着近年来能耗的剧烈增长，能源效率 越来越吸引了研究者们的关注。尤其在大规模的计算系统中，如服务系统、云计算系统和数 据中心中，能耗正以巨大的速度增加。因此，如何提高能源效率也成为了重要的问题。
[0003] 以往的提高能源效率的调度和管理方法大部分需要假设或者预测请求到达的分 布。如假设请求到达的分布服从泊松分布，请求服务的时间服从指数分布等。在此基础上， 一些已有技术采用排队论的模型来刻画系统的请求到达以及服务的过程。还有一些技术采 用马尔科夫模型来完成请求调度和服务管理。然而，在实际系统中，请求到达的过程往往具 有波动性和突发性。因此，这些假设和预测的准确性很难保证。此外，随着互联网上服务越 来越受欢迎，服务的数目急剧增多，请求调度和服务管理面临状态空间巨大的挑战。因此， 应用一些集中式的方法，如组合优化、动态优化等，会面临复杂度高、求解效率低的问题。
【发明内容】
[0004] 本发明的目的在于，提供一种在线分布式请求调度和服务管理方法及代理系统， 能够在减小队列的情况下增大能量效率，能够提高请求调度和服务管理决策的准确度，并 能够降低复杂度，提高求解效率。
[0005] 为此目的，本发明提出一种在线分布式请求调度和服务管理方法，包括：
[0006] 对于每一个时槽t，获取该时槽t内服务器j上的i类服务的缓存请求数量Qu (t)， 其中，t为正整数，jGJ= {1，2,…，n}，iGI= {1，2,…，m}，时槽的总数为N，n、m和N 为正整数；
[0007] 计算该时槽t内i类服务的服务请求被调度到服务器j的目标数量^，并将 ^个i类服务的服务请求调度到服务器j上，其中：
V为服务质量与能量效率的平衡参数，rjt)为该时槽t内服务器j上的i类服务的平均收 益，Du⑴为时槽t内i类服务的服务请求被调度到服务器j的数量；
[0008] 计算该时槽t内服务器j上的i类服务的目标状态^以及服务器j在该时槽 t内的目标运行频率^，并发送给服务器j，以使服务器j的管理器控制该时槽t内服务 器j上的i类服务的状态为目标状态W，控制服务器j在该时槽t内的运行频率为目标 运行频率"/⑴，其中，计算公式为
[0009]
[0010] L为服务器j处于基本频率下每个时槽服务器j上的i类服务的请求处理数量， u](t)为服务器j在时槽t内的运行频率，u](t) 服务器j所有可能的运行频率的 集合，^为服务器j的基本频率，冲)为时槽t内每单位电量的平均收费，PUE为总能耗与 服务器能耗的比值，PJt)为服务器j在时槽t内的平均功率，T为每个时槽的长度，yi](t) 为时槽t内服务器j上的i类服务的状态，yi] (t) = 1表示对应的服务是开着的；反之，表 不该服务关着。
[0011] 另一方面，本发明公开一种用于在线分布式请求调度和服务管理的代理系统，包 括：
[0012] 获取单元，用于对于每一个时槽t，获取该时槽t内服务器j上的i类服务的缓存 请求数量Qi.j(t)，其中，t为正整数，jGJ= {1，2,…，n}，iGI= {1，2,…，m}，时槽的总 数为N，n、m和N为正整数；
[0013] 调度单元，用于计算该时槽t内i类服务的服务请求被调度到服务器j的目 标数量_，并将^个i类服务的服务请求调度到服务器j上，其中，计算公式为
'V为服务质量与能量效率的平衡参数，(t)为该时槽t 内服务器j上的i类服务的平均收益，Du (t)为时槽t内i类服务的服务请求被调度到服 务器j的数量；
[0014] 计算单元，用于计算该时槽t内服务器j上的i类服务的目标状态^以及服务 器j在该时槽t内的目标运行频率W，并发送给服务器j，以使服务器j的管理器控制该 时槽t内服务器j上的i类服务的状态为目标状态^控制服务器j在该时槽t内的运 行频率为目标运行频率⑴，其中，计算公式为
[0015]
[0016] I1,为服务器j处于基本频率下每个时槽服务器j上的i类服务的请求处理数量， Uj(t)为服务器j在时槽t内的运行频率，U](t) 服务器j所有可能的运行频率的 集合，为服务器j的基本频率，#/)为时槽t内每单位电量的平均收费，PUE为总能耗与 服务器能耗的比值，PJt)为服务器j在时槽t内的平均功率，T为每个时槽的长度，yi](t) 为时槽t内服务器j上的i类服务的状态，yi] (t) = 1表示对应的服务是开着的；反之，表 示该服务关着。
[0017] 本发明实施例所述的在线分布式请求调度和服务管理方法及代理系统，包含如 下两方面决策：1.请求调度，即当请求到达时，根据需求，将请求调度到合适的服务器上； 2.服务管理，根据系统状态，决定服务器的动态调频以及服务器上服务的开关状态，本发明 结合服务质量与能量效率，在减小队列、降低响应时间的情况下增大能量效率，降低系统的 开销，并且本发明无需对请求到达的分布、请求服务时间的分布进行假设或预测，可以直接 根据当前的系统状态完成请求调度和服务管理的决策，因而能够提高请求调度和服务管理 决策的准确度，此外，本发明采用分布式的方法，可以针对每类服务、每个服务器并行执行 决策，从而能够极大地降低复杂度，提高求解效率。
【附图说明】
[0018] 图1为本发明在线分布式请求调度和服务管理方法一实施例的流程示意图；
[0019] 图2为图1中的实施例的算法流程图；
[0020] 图3为本发明在线分布式请求调度和服务管理方法另一实施例的请求调度算法 流程图；
[0021] 图4为本发明在线分布式请求调度和服务管理方法又一实施例的服务管理算法 流程图；
[0022] 图5为本发明用于在线分布式请求调度和服务管理的代理系统一实施例的方框 结构示意图；
[0023] 图6为图5所示的代理系统所应用的架构图。
【具体实施方式】
[0024] 为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例 中的附图，对本发明实施例中的技术方案进行清楚地描述，显然，所描述的实施例是本发明 一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有 做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0025] 如图1所示，本实施例公开一种在线分布式请求调度和服务管理方法，包括：
[0026] S1、对于每一个时槽t，获取该时槽t内服务器j上的i类服务的缓存请求数量 Qij⑴，其中，t为正整数，jGJ= {1，2,…，n}，iGI= {1，2,…，m}，时槽的总数为N，n、 m和N为正整数；
[0027] S2、计算该时槽t内i类服务的服务请求被调度到服务器j的目标数量 _，并将个i类服务的服务请求调度到服务器j上，其中，计算公式为
^V为服务质量与能量效率的平衡参数，(t)为该时槽t 内服务器j上的i类服务的收益，D1, (t)为时槽t内i类服务的服务请求被调度到服务器j的数量；
[0028] S3、计算该时槽t内服务器j上的i类服务的目标状态^万以及服务器j在该时 槽t内的目标运行频率并发送给服务器j，以使服务器j的管理器控制该时槽t内服 务器j上的i类服务的状态为目标状态，控制服务器j在该时槽t内的运行频率为目 标运行频率〃，⑴*其中，计算公式为 [0029]
[0030] I1.,为服务器j处于基本频率（基频）下每个时槽服务器j上的i类服务的请求 处理数量，(t)为服务器j在时槽t内的运行频率，U] (t)GU,，1],为服务器j所有可能的 运行频率的集合，^ .为服务器j的基本频率（基频），为时槽t内每单位电量的平均收 费，PUE为总能耗与服务器能耗的比值，Pj⑴为服务器j在时槽t内的平均功率，T为每 个时槽的长度，y, (t)为时槽t内服务器j上的i类服务的状态，yi] (t) = 1表示对应的服 务是开着的；反之，表不该服务关着。
[0031] 在时槽t内，服务器j上的服务i的缓存请求个数，即队列长度用Q1Jt)表示。系
从而影响服务质量。因此，本发明力求降低队列长度。
[0032] 系统在时槽t的能量效率用目标函数 示。考虑长期时间的能量效率，用
表示平均时间的收益。综合服务质量 与能量效率，本发明解决在请求调度和服务管理中，减小队列长度的同时最大化能量效率 的问题。
[0033] 本发明的目标为最大化平均能量效率：
[0034]
考虑队列 长度，定义系统队列长度矩阵? (t)，队列函数为
，定义队列长度 漂移为A(?(t)) =E{L(?(t+l))-L(?(t))|?(t)}。为结合队长与能量效率，定义综合 函数为：A(? (t))_VE{f(t)I? (t)}。
[0035] 该综合函数存在上界