服务器负载管理的制作方法_3

文档序号:9278627阅读:来源:国知局
的至少部分的功能性。例如,如果客户端106A向服务器104A发送请求,则服务器104A知道来自相同客户端106A的先前请求。在一个实施例中,与服务器104A相关联的本地数据库或数据储存110被服务器104A用来存储来自客户端106A…106N的数据的至少部分。
[0032]在如果服务器104A…104N根据无状态协议操作的情况中,也就是说,这些服务器仍然不知道由客户端106A…106N随请求提供的参数的先前值。在这样的情况中,客户端106A使用数据收集模块108A收集对客户端106A中的参数值的改变并且关于对参数值的改变的经合并或概括的数据随针对服务器104A的请求被发送给服务器104A (或组中的任何其它服务器)。从客户端106A…106N接收的参数值改变的概括可以存储在数据储存110中。
[0033]涉及与客户端106A…106N相关联的参数值中的改变的数据可以用于计算预定义的时间间隔中的参数值的平均或均值偏差,其然后可以用于增加或减少从客户端106A…106N发送给服务器104A…104N的更新之间的时间间隔。可以基于客户端倾向于在从客户端106A...106N到服务器104A…104N的更新中报告的信息的有用性确定(基于针对先前的更新所收集的历史数据确定)模型。在一个实施例中,模型可以被网络管理员(或包括用于虚拟服务器的自动化供给的方法的服务器管理系统)用于确定将需要多少服务器来服务来自客户端的请求负载。这对于保留按需计算能力,特别是在其中计算能力基于每分钟或每小时的实际使用出售的云计算环境中(例如基于计算能力时间的租用模型)也是有用的。
[0034]在客户端-服务器应用中,客户端可能通常需要向服务器更新客户端侧属性的状态。该更新可以通过在状态改变发生时从客户端发送更新或者通过从客户端向服务器发送定期更新来完成。在一个示例中,向请求容器添加有影响的客户端侧属性改变并且在响应容器中指示下一次更新之前的延迟。这样的改变使得服务器能够对客户端更新的定时进行全面控制并且还允许用于每一个客户端106A…106N的更新定时的优化。也就是说,在逐个客户端的基础上确定定时。这在其中可能存在数千万的客户端的大规模系统中特别有用,因为服务器可以限制客户端的更新定时,使得其针对每一个客户端在基于针对每一个客户端发生的参数值的明显改变的概率的定时处接收更新。基于随时间对参数值的先前改变的统计分析和特定参数的其它具体特性来计算回叫时间或更新定时。
[0035]可以分析关于客户端侧参数值改变所收集的数据以构建计算特定客户端的最高效的回叫时间的模型(例如离线模型)。在影响客户端状态的多样用户行为和流行应用的情况下,服务器侧上的计算能力的节约(由于降低和受控的业务量)可以是大量的,特别是在其中按小时租用计算能力的云计算环境中。
[0036]在一个实施例中,基于朴素贝叶斯(Bayes)分类器确定客户端更新定时,该贝叶斯分类器在一个示例中将当前客户端分类到展现出类似行为并且从与其它组不同的回叫时间受益的组中。朴素贝叶斯分类器是基于以强(朴素)独立性假设应用贝叶斯定理的简单概率分类器。
[0037]如以上所描述的,服务器104A可以在数据储存110中存储涉及从各个客户端106A…N接收的参数值中的改变的数据。随后,基于所收集的数据并且使用公知的统计方法和/或机器学习算法,服务器104A (可替换地,用于训练模型的专用机器)训练模型,其中模型被用于例如通过计算参数值中的改变的预期比率来产生试图预测有影响的改变或有影响的改变的概率的输出。
[0038]在一个实施例中,还可以记录发送到服务器104A…N的请求类型,并且基于所收集的数据,可以构建用于服务器104A…N的组的平均负载模式模型并且可以使用一个或多个公知的统计方法计算预期负载。具有负载模型对于按需供给或解除供给服务器(例如根据所计算的负载模型在不同时间处按需繁衍更多虚拟机或关闭一些虚拟机)将会是有利的。
[0039]尽管已经以特定于结构特征和/或方法动作的语言描述了各种实施例,但是要理解的是,在随附权利要求中限定的实施例不一定限于所描述的具体特征或动作。相反,具体特征和动作作为实现各种所要求保护的实施例的示例形式而公开。
【主权项】
1.一种方法,包括: 收集通信连接到服务器的一个或多个客户端的一个或多个参数的值; 基于所收集的所述一个或多个参数的值构造模型,从而作为时间的函数对所述一个或多个客户端的所述一个或多个参数的值将改变被视为明显的量的概率进行建模; 从一个客户端接收所述一个客户端的一个或多个参数的值的更新; 响应于接收所述更新,使用模型来计算用于来自所述一个客户端的值的下一次更新的定时;以及 将用于下一次更新的所计算的定时发送到所述一个客户端。2.权利要求1的方法,其中发送包括在响应于从所述一个客户端接收所述更新而向回发送到所述一个客户端的响应容器中包括所计算的定时。3.权利要求1或2的方法,其中所述一个客户端被配置成根据所计算的定时发送值的下一次更新。4.任何前述权利要求的方法,其中服务器不具有对客户端的状态信息的访问权限。5.权利要求4的方法,其中随描述所述一个客户端的当前状态的信息从所述一个客户端接收值的更新。6.任何前述权利要求的方法,其中所述定时是以下中的任一个:(i)指示所述一个客户端在接收到定时之后在发送值的下一次更新之前应当等待的时间的时间延迟,或者(i i )指示所述一个客户端应当发送值的下一次更新的绝对时间的时间戳。7.任何前述权利要求的方法,其中所述参数包括以下中的一个或多个:(i)当前带宽使用,(?)历史分组丢失率,(iii)客户端的地址,(iv)处理能力,(v)客户端到网络的连接类型,(vi) cpu消耗,(vii)背景业务量和(viii)中继流的数目。8.任何前述权利要求的方法,其中所述构造模型的步骤包括考虑多于一个所述参数的组合以便对所述一个或多个客户端的所述一个或多个参数值将改变被视为明显的量的概率进行建模。9.一种系统,包括: 服务器;以及 通信连接到服务器的客户端,其中客户端被配置成向服务器发送客户端的一个或多个参数的值的更新, 其中服务器被配置成:(i)响应于接收所述更新,使用模型来计算用于来自客户端的值的下一次更新的定时,其中该模型基于搜索一个或多个参数的值构造,从而作为时间的函数对客户端的所述一个或多个参数值将改变被视为明显的量的概率进行建模,以及(ii)向客户端发送用于下一次更新的所计算的定时。10.—种包括存储在计算机可读存储介质中的程序代码的计算机程序产品,程序代码可由服务器的处理器执行以实现以下操作: 收集通信连接到服务器的一个或多个客户端的一个或多个参数的值; 基于所收集的所述一个或多个参数值构造模型,从而作为时间的函数对所述一个或多个客户端的所述一个或多个参数的值将改变被视为明显的量的概率进行建模; 从一个客户端接收所述一个客户端的所述一个或多个参数的值的更新; 响应于接收所述更新,使用模型来计算用于来自所述一个客户端的值的下一次更新的定时;以及向所述一个客户端发送用于下一次更新的所计算的定时。
【专利摘要】系统和方法用于收集通信连接到服务器的一个或多个客户端的一个或多个参数值。基于所收集的一个或多个参数的值构造模型,从而作为时间的函数对所述一个或多个客户端的所述一个或多个参数的值将改变例如在服务器处被视为明显的量的概率进行建模。从客户端之一接收所述一个或多个参数的更新。响应于接收更新,模型被用来计算用于来自所述客户端之一的值的下一次更新的定时。所计算的用于下一次更新的定时被发送到所述客户端之一。
【IPC分类】H04L12/26, H04L29/08, H04L12/24
【公开号】CN104995899
【申请号】CN201480004558
【发明人】S.克斯库拉
【申请人】微软技术许可有限责任公司
【公开日】2015年10月21日
【申请日】2014年1月11日
【公告号】EP2929674A1, US20140201343, WO2014110461A1
当前第3页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1