基于演化博弈的边缘计算服务放置和请求分配方法及系统

文档序号:25618137发布日期:2021-06-25 16:19阅读:201来源:国知局
1.本发明涉及移动边缘计算领域,具体涉及边缘计算服务系统的服务放置和用户请求分配方法及系统。
背景技术
::2.近年来,随着移动互联网的高速发展,移动用户设备的数量也不断激增,例如智能手机、平板电脑、智能家居设备、物联网设备、车载智能终端等。这些设备的应用场景也越来越丰富,产生了很多计算密集型的使用场景,如虚拟现实、增强现实、人脸识别、驾驶路径规划等。但移动用户设备因其便携性的特点,受到计算能力以及续航能力等问题的制约。而随着云计算技术的发展,利用云计算能力赋予移动设备更强大的算力以满足应用需求成为了新的突破口。但一般云计算集群距离移动用户设备较远,造成其通信时延较大。这样的集群很难保证移动用户的服务质量以及体验质量。3.边缘计算这一新的计算模型的提出,就是为了解决上述问题。边缘计算将计算节点部署在接近移动用户设备的边缘侧,从而为移动用户设备提供算力,以解决设备计算资源有限且容易受到能耗影响的问题。通过将原本部署在云计算集群上的应用程序服务部署在移动边缘节点上,从而为移动用户设备提供低通信时延的边缘计算服务。4.传统的边缘计算系统,出于成本与服务质量的考虑,大都是分层级、分区域设定边缘节点的位置与服务对象。服务提供者一般在小区、教学园区、办公楼这类人口密集区域部署一个边缘计算节点来为该区域用户提供边缘计算服务。这类边缘计算系统,边缘节点之间的计算资源并不能相互使用,容易造成计算资源的闲置与浪费。而且,这类边缘节点的计算性能配置,需要考虑当前区域的业务峰值来设定,以保障服务质量要求,造成边缘节点在业务非繁忙时段有大量的空置计算资源,造成巨大的能源和资源浪费。5.移动边缘计算系统则将边缘节点分散地部署在靠近移动用户终端的网络位置。这些边缘节点连接终端的网络接入点,如移动用户终端所连接的蜂窝网络基站、无线热点等。这些边缘节点与传统移动边缘计算系统相比,不会配置太多计算资源。因为邻近边缘节点之间地理位置相邻,且使用高速网络线路连接。所以邻近边缘节点之间可以互相利用计算资源以放置服务。移动用户终端设备使用邻近的边缘节点并不会带来太大额外的延迟。然而,由于其分布式部署的特性,大量的边缘计算节点集群如果没有一个合理、高效的服务放置和用户请求分配策略,同样会造成大量计算资源和能源的浪费,也很难保证移动用户的服务质量以及体验质量。6.而在移动边缘计算中,因为无线网络区域中的应用程序服务需求会随着时间不同而发生剧烈变化,这些服务实例应该放置在哪些边缘节点执行是一个关键问题。如果服务实例放置过多或放置不合理,则会造成浪费,如果服务实例放置过少或放置不均衡,则会无法满足移动用户设备的服务需求。所以服务放置应该尽可能的在保证用户服务需求的前提下,均衡地将服务实例放置在边缘节点集群,以减少边缘服务器节点集群的使用成本。同样地,因为无线网络区域中的移动用户设备会随着时间不同而发生剧烈变化,当移动用户设备发出服务请求后,请求该由放置在哪个边缘节点中的服务实例来处理也是一个关键问题。如果服务请求全部由网络区域中的一个边缘节点中的某个服务实例来处理,很容易会出现请求峰值时服务实例超出负荷而无法提供服务的情况。所以,用户请求分配应尽可能地将请求在保证用户的使用体验要求的前提下,均衡地分配到可提供服务的边缘节点中去,使得边缘节点集群资源使用均衡。然而,现有移动边缘计算中,尚未能实现边缘节点资源的分配和使用的均衡。7.因此,本发明提出一种边缘计算服务系统的服务放置和用户请求分配优化的有效方法,同时考虑用户请求的平均时延和边缘服务器节点集群的使用成本,对于保证移动用户的服务质量以及体验质量和减少边缘服务器节点集群的使用成本是有益的。技术实现要素:8.为了解决现有技术所存在的问题,本发明提出基于演化博弈的边缘计算服务放置和请求分配方法及系统,由云计算中心进行服务放置和用户请求分配决策,用户设备节点和边缘服务器节点执行该决策;在服务放置和用户请求分配优化的同时,考虑用户请求的平均时延和边缘服务器节点集群的使用成本,解决了现有服务放置和用户请求分配决策中存在的用户体验质量与服务质量不佳、边缘服务器节点集群资源使用的合理性、均衡性不足的问题。9.本发明方法所采用的技术方案是:基于演化博弈的边缘计算服务放置和请求分配方法,包括以下步骤:10.s1、云计算中心收集用户设备和边缘服务器节点关于服务请求和计算资源状态的信息;11.s2、云计算中心根据收集的信息构建联合优化请求平均时延和边缘服务器使用成本的演化博弈模型;12.s3、云计算中心执行种群博弈的迭代算法,对构建的博弈模型进行求解,得到演化均衡策略作为最佳服务放置和请求分配决策;13.s4、云计算中心将最佳请求分配和服务放置决策下发给各个边缘服务器节点;14.s5、边缘服务器节点执行最佳服务放置和请求分配决策配置,并将配置记录返回云计算中心。15.本发明系统所采用的技术方案是:基于演化博弈的边缘计算服务放置和请求分配系统,所述边缘计算服务放置和请求分配系统应用在分布式边缘计算服务系统中,联合优化用户请求的平均时延和使用边缘服务器的金钱成本;所述分布式边缘计算服务系统包括云计算中心节点、多个用户设备节点及多个边缘服务器节点;所述边缘计算服务放置和请求分配系统包括:16.服务放置模型,用自然数变量表示服务实例规格(m,v)在边缘服务器节点e中的放置决策,该自然数变量指示放置实例的数量;17.用户请求分配模型,对于每一个用户设备发出的每一个服务请求,只能由一台边缘服务器节点进行处理;18.用户请求的时延模型,对于每个用户请求,考虑两种类型的时延:用户设备节点和边缘服务器节点之间的通信时延,以及服务实例的处理时延;19.边缘服务器的使用成本模型,用于抽象表示用户服务使用边缘计算资源所产生的金钱成本;20.边缘服务器的负荷和伸缩模型,一个边缘服务器节点加载一种预设规格的服务实例来为用户设备发出的请求提供服务;当请求负荷增加时,该预设规格的服务实例可能不足以满足用户的请求,此时系统复制该预设规格的服务实例来提高请求处理能力或使用一个更大规格的服务实例来满足用户的需求。21.本发明相对于现有技术具有如下的优点及效果:22.1、本发明由云计算中心进行服务放置和用户请求分配决策,用户设备节点和边缘服务器节点执行该决策,考虑了不同规格的服务实例的放置,增强了服务放置决策的灵活性,减少了边缘服务器节点资源的浪费,降低了边缘服务器节点集群的使用成本,提高了边缘服务器节点集群资源使用的合理性、均衡性。23.2、在服务放置和用户请求分配决策优化过程中,同时考虑用户请求的平均时延和使用边缘服务器的成本,在提高用户体验质量与服务质量的同时,控制边缘服务器节点集群资源使用成本,提高了决策的经济性。24.3、使用基于演化博弈的迭代方法,能够在较优的时间复杂度下给出近似最优解,提高了服务放置和用户请求分配决策的实用性。附图说明25.图1是本发明一个实施例中的分布式边缘计算服务系统的总体架构图;26.图2是本发明一个实施例中的服务放置和用户请求分配流程图;27.图3是本发明一个实施例中的种群博弈的迭代算法的流程图。具体实施方式28.下面结合实施例及附图对本发明作进一步详细的描述,根据下面说明和权利要求书,本发明的优点和特征将更加清楚,但本发明的实施方式不限于此。29.实施例30.如图1所示,在本发明中,分布式边缘计算服务系统包括用户设备节点集、边缘服务器节点集和云计算中心节点。用户设备节点集由本地无线网络区域中的移动用户设备(例如智能手机、物联网传感器和车联网智能终端等)组成,是服务请求的发起者。边缘服务器节点集由部署在无线网络区域中的蜂窝基站侧中的移动边缘计算服务器组成,负责接入用户设备的管理,处理用户设备的服务请求。各边缘服务器节点之间采用高速网络连接。云计算中心是系统部署的大型数据中心,负责管理监控所有边缘服务器节点。设有ni个用户设备节点和ne个边缘服务器节点,用和来分别表示用户设备节点和边缘服务器节点的索引的集合。31.云计算中心统一监控所有边缘服务器节点,该计算中心可负责协调或协助边缘服务器节点之间建立通信,以支持边缘服务器节点之间的信息传递,以及实现服务的注册、服务镜像制作与分发、服务放置和请求分配的决策等功能,并保存所有服务放置和请求分配的配置记录,用于统计边缘计算服务系统的服务质量指标,以及告警管理者边缘服务器节点的运行状况。32.边缘服务器节点负责所在无线网络区域中移动用户设备的接入和管理,同时根据云计算中心下发的服务放置和请求分配决策,配置、部署应用程序服务为移动用户设备提供服务。虽然用户设备接入所在区域的边缘服务器,但其服务请求并不一定由该边缘服务器节点处理,原因是该边缘服务器节点不一定运行着该请求类型的服务实例。在这种情况下,服务请求被转发到运行着该请求类型的服务实例的其它边缘服务器节点,这导致了请求时延的增加。33.假设有m种不同类型的应用程序服务,这些模型可用于不同的任务,例如人脸识别和驾驶路径规划等。这里考虑的一般是计算密集型服务,如深度神经网络模型推断服务,具体为各种人工智能应用。在部署时,每种应用程序服务类型m可以具有vm不同规格的实例,这些不同规格的实例具有不同的最大请求负荷和处理时延。并且这些实例可以通过vm或容器在边缘服务器节点中进行部署。用表示服务类型的集合;用νm={1,…,vm}表示服务类型m的实例的所有规格的集合。每种规格的服务实例(m,v)被边缘服务器节点成功加载所需要的内存大小记为rmv,并且具有最大请求负荷loadmv,即能以这个速率稳定地处理用户请求。对于不同类型的服务,每个用户设备节点i定义了其时延要求,即最大容忍时延以及发送服务请求的速率34.图1是分布式边缘计算服务系统的一个简单示例,系统包括10个用户设备节点和4个边缘服务器节点。在此示例中,每个边缘服务器节点都可以提供3种不同类型的服务,并在适当的时候部署它们的实例来服务用户;每种服务有3种不同规格的实例,且不同规格的实例需要的内存大小不同。用户请求的转发用箭头表示。35.本发明基于演化博弈的边缘计算服务放置和请求分配方法及系统,用于解决所述分布式边缘计算服务系统中用户请求的平均时延和使用边缘服务器的金钱成本的联合优化问题。其中,基于演化博弈的边缘计算服务放置和请求分配系统,则通过建立服务放置模型、用户请求分配模型、用户请求的时延模型、边缘服务器的使用成本模型和边缘服务器的负荷和伸缩模型来形式化表达。36.在本实施例中,服务放置模型,用自然数变量表示服务实例规格(m,v)在边缘服务器节点e中的放置决策,该自然数变量指示放置实例的数量。引入向量服务器节点e中的放置决策,该自然数变量指示放置实例的数量。引入向量表示所有服务放置的决策变量的集合。37.用户请求分配模型,对于每一个用户设备发出的每一个服务请求,只能由一台边缘服务器节点进行处理。用二值变量表示放置在节点e上的服务实例(m,v)是否处理来自节点i的请求,所以用户请求的分配策略可以表示为:[0038][0039][0040]引入向量表示所有请求分配的决策变量的集合。[0041]用户请求的时延模型,对于每个用户请求,考虑两种类型的时延:用户设备节点和边缘服务器节点之间的通信时延,以及服务实例的处理时延。用户设备节点i和边缘服务器节点e之间的通信时延记作边缘服务器节点e上的服务m的规格为v的实例的处理时延记作则每个用户请求的平均时延为:[0042][0043]其中,节点与节点之间的通信时延被视为双向(发送请求和接收响应)最短路径上每条链路的延迟之和。[0044]假定每条链路l上的延迟dl是均值为μ的随机值,包括该链路中所有可能存在的延迟,如传输、排队、传播和处理等。用pie表示节点i和节点e之间最短路径中的链路的集合,则通信时延表示如下:[0045][0046]边缘服务器节点上的服务m的规格为v的实例(m,v)的处理时延受到放置在同一节点上的其它服务实例的影响。具体地,处理时延表示如下:[0047][0048]其中,等式右边的第一项为该服务实例独占边缘服务器节点时的处理时延,第二项为其它同规格实例副本共享该节点所带来的附加时延,最后一项为其它不同规格实例共享该节点所带来的附加时延。αmv是实例类型(m,v)对共享节点的其它实例的干扰系数。[0049]用户设备i对服务类型m有一个最大容忍时延的要求,所以有下面的约束条件:[0050][0051][0052]该约束保证请求的往返时延(rtt)不超过最大容忍时延。这里的往返时延就包括通信时延和处理时延。[0053]边缘服务器的使用成本模型,是用户服务使用边缘计算资源所产生的金钱成本的抽象表示。使用边缘计算资源所产生的金钱成本具体可以体现为电费、使用服务器部件的成本等。为了简化模型,本发明假定使用成本与内存使用率有关,且每个边缘服务器的单位内存使用成本不同。每个边缘服务器的单位内存使用成本用μe表示,使用率用ue表示,则边缘服务器的使用成本表示为:[0054][0055][0056]边缘服务器的负荷和伸缩模型,一个边缘服务器节点可以加载一个预设规格的服务实例来为用户设备发出的请求提供服务。当请求负荷增加时,该预设规格的服务实例可能不足以满足用户的请求。在这种情况下,系统可能会复制该预设规格的服务实例来提高请求处理能力,也可能会使用一个更大规格的服务实例来满足用户的需求。[0057]下面的约束条件保证分配给一个边缘节点上的一种预设规格的服务实例的请求负荷不超过它的最大负荷:[0058][0059]下面的约束条件保证用户请求只被分配给有处理能力(部署了服务实例)的边缘服务器节点:[0060][0061]每个边缘服务器节点能够部署的服务实例数量最大为k:[0062][0063]每个边缘服务器节点的内存容量约束如下:[0064][0065]用户请求的平均时延和使用边缘服务器的金钱成本的联合优化问题,通过公式(6)、(9)‑(15)限定的约束条件实现优化目标,其中公式(13)‑(15)可以表示为:[0066][0067]s.t.[0068][0069][0070]其中,α为平均时延在优化目标函数中的权重因子。第一个约束(公式(14))保证一个用户设备发出的一个服务请求只能由一台边缘服务器节点处理。第二个约束(公式(15))约束了决策变量的取值范围。第三个约束(公式(6))确保rtt不超过最大容忍时延。第四个约束(公式(9))保证分配给一个边缘节点上的一种特定规格的服务实例的请求量负荷不超过它的最大处理能力。第五个约束(公式(10))保证请求只被分配给有处理能力(部署了服务)的边缘服务器节点。第六个约束(公式(11))限制了每个边缘服务器节点能够部署的服务实例数量。第七个约束(公式(12))保证每个边缘服务器节点部署的服务实例的内存需求总和不超过该边缘服务器节点的内存容量。[0071]本发明基于演化博弈的边缘计算服务放置和请求分配方法,将适当的服务实例部署到边缘服务器节点,用户服务请求被转发到合适的边缘服务器节点中的实例,从而优化了服务放置和用户请求分配问题。如图2所示,包括以下步骤:[0072]s1、云计算中心收集用户设备和边缘服务器节点关于服务请求和计算资源状态的信息;具体包括:[0073]s11、边缘服务器节点收集接入的用户设备关于服务请求的信息(包括发送服务请求的速率和时延要求等)和连接状态信息(包括与边缘服务器节点之间的通信时延等)。[0074]s12、边缘服务器节点将收集的用户设备信息和自身的计算资源信息(包括可用内存容量和运行服务实例的处理时延等)上传给云计算中心。[0075]s2、云计算中心根据收集的信息构建联合优化请求平均时延和边缘服务器使用成本的演化博弈模型。其涉及到的技术术语解释如下:[0076]演化博弈论(evolutionarygametheory):是在生物的动态演化理论框架中加入了博弈论中的策略和分析方式组成的理论,它继承了生物学对于物种进化的理论阐述,从个体有限理性条件出发,以群体行为为研究对象,在阐述生物物种的发展历程和进化选择中,解释了生物行为的进化博弈过程。通过长期的试错、模仿和改进,所有的博弈方都会趋于某个稳定的策略,该策略可能在群体组织中长期稳定下来,这种稳定的策略均衡就与生物进化的进化稳定策略非常相似,以达到一种相对和谐的博弈均衡状态。[0077]复制动态(replicatordynamic):在由有限理性博弈方组成的群体中,博弈者通过不断试错、学习、改进自身策略,使博弈结果比平均水平好的策略逐步被更多博弈方采用,从而群体中采用各种策略的博弈方的比例会发生变化。[0078]演化稳定策略(ess,evolutionarystablestrategy):是指在具有明确定义下不会被突变体入侵的策略,是演化博弈中具有真正稳定性和较强预测能力的均衡策略。它是生物进化理论中具有较强抗干扰能力且在受到干扰后仍能“恢复”的稳健性均衡概念,是演化博弈分析中最核心的均衡概念。[0079]步骤s2具体包括:[0080]s21、构建由p个博弈主体构成的种群p,每个博弈主体在每一轮的策略s由所有请求分配和服务放置的决策变量的决策集合s组成,记作(x,n)。策略集合s由决策变量的所有可能取值组成。[0081]s22、定义策略关于联合优化请求平均时延和边缘服务器使用成本的效用函数:[0082]根据优化目标,定义策略s的效用函数:[0083]π(s)=π(x,n)=‑(αl(x,n)+(1‑α)c(n))[0084]当博弈主体选择的策略越好时,优化目标值越小,效用函数值越大。[0085]s3、云计算中心执行种群博弈的迭代算法,对构建的博弈模型进行求解,得到演化均衡策略作为最佳服务放置和请求分配决策;如图3所示,具体包括:[0086]s31、初始化种群,即种群中每个博弈主体从策略集合s中随机选择一个策略s以进行后面的博弈。[0087]对于算法中随机生成的策略候选,其可能不满足所有约束条件,即不在可选策略集合中。对于这样的策略候选,不能作为博弈主体的策略选择,也没有必要计算其效用函数的值,所以在选定策略和计算其效用前检查策略候选的可行性是必要的。检查策略候选的可行性,具体就是检查是否满足所有约束。如果策略候选不可行,重新随机生成策略候选,直到生成可行策略候选。将该可行策略候选作为对应博弈主体的策略选择。[0088]s32、设定当前种群博弈轮数为0,最大种群博弈轮数为gmax。[0089]s33、初始化一个空的临时种群[0090][0091]s34、从当前种群中随机选择两个博弈主体,从当前种群中去掉这两个博弈主体。这两个博弈主体之间进行博弈,效用函数值大的博弈主体胜利,失败的博弈主体复制胜利的博弈主体的策略。[0092][0093][0094]winner=performgame(p1,p2)[0095]replica=replicate(winner)[0096]s35、将胜利的博弈主体和复制策略后的失败博弈主体一起加入临时种群[0097][0098]s36、判定当前种群是否为空,若是则进入步骤s37,否则进入步骤s34。[0099]s37、找到种群中占比最大的策略,记录该策略[0100]s38、以概率p_{m}对种群中博弈主体的策略进行变异,得到下一轮的种群;将当前种群博弈轮数加一。[0101]s39、判定种群博弈是否达到演化均衡或是否达到最大轮数(g=gmax),若是则进入步骤s310,否则进入步骤s33。[0102]当种群中主体占比最大的策略稳定不变时,种群博弈达到演化均衡。该策略就是算法输出的最佳请求分配和服务放置决策。[0103]s310、输出当前种群中占比最大的策略即演化均衡策略,作为最佳请求分配和服务放置决策。[0104]本实施例中,种群博弈的迭代算法的伪代码如下表1所示:[0105][0106]表1[0107]s4、云计算中心将最佳请求分配和服务放置决策下发给各个边缘服务器节点;[0108]s5、边缘服务器节点执行最佳服务放置和请求分配决策配置,并将配置记录返回云计算中心;具体包括:[0109]s51、各边缘服务器节点根据最佳服务放置决策,启动相应的服务实例,等待来自移动用户设备的服务请求。[0110]s52、各边缘服务器节点根据最佳请求分配决策,设置相应的服务请求转发规则,将用户设备的服务请求转发到请求分配决策确定的服务实例。[0111]s53、各边缘服务器节点将最佳服务放置和请求分配决策的执行结果即最佳服务放置和请求分配决策的配置记录发送给云计算中心。[0112]本实施例主要使用的参数符号及其定义如表2所示;[0113][0114]表2[0115]上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。当前第1页1 2 3 当前第1页1 2 3 
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1