在网络中继点上提供差别服务品质的请求排程系统及方法

文档序号:7616732阅读:87来源:国知局
专利名称:在网络中继点上提供差别服务品质的请求排程系统及方法
技术领域
本发明涉及一种应用于互联网服务的外部请求排程系统及其方法,特别是涉及一种位于网络中继点利用请求分类、回应大小及窗式控制来进行外部请求排程的系统及其方法。
背景技术
随着互联网环境中各种应用服务的蓬勃发展,使得应用服务器的使用量已经越来越大,再加上互联网使用人口数量的与日俱增,目前几乎所有的应用服务器的负载量也越来越大。
事实上,当应用服务器的负载量过大时,就容易造成位于客户终端的使用者等待服务的时间变长,严重的话还可能导致应用服务器的服务完全瘫痪。因此,许多应用服务器便希望能够通过差别服务的方式,让具有较高等级的使用者可以获得到较多的应用服务器吞吐量(Throughput),从而缩短这些使用者通过客户终端发出外部请求后所需等待服务的时间,让使用者可以获得较好的服务品质,提高这些使用者的满意度。
而目前与差别服务相关的现有技术内容,多是直接在应用服务器上进行更改,通过修改其操作系统或者是另外提供排程程序的方式来实现对使用者的差别服务,然而此种做法的缺点在于必须耗费应用服务器的资源来处理排程问题,并且与应用服务器的相依性过大,反而容易造成应用服务器稳定性不足以及移植性不佳的问题。
其它现有技术,如美国专利US006742016B1,其所提供的差别服务技术内容为在应用服务器上设置一个请求接收器(Acceptor),然后再利用其中的优先权控制模块(Priority Control Module Process)来控制外部请求传送至应用服务器上的顺序,其中优先权控制模块会将所有来自客户终端的外部请求分为两个等级,其决定传送顺序的依据有两个(1)较高等级的外部请求数量不小于事先定义好的传送数量时,则传送较高等级中与定义传送数量相同的外部请求至应用服务器;(2)较高等级的外部请求数量小于事先定义好的传送数量时,则将较高等级与较低等级的外部请求混合传送至应用服务器,传送的数量与定义传送数量相同。此种做法,主要是将所有的外部请求依照优先权的不同而分为两大类,特别强调具有较高等级的外部请求所获得应用服务器处理的数量一定比具有较低等级的外部请求多,借此达到差别服务的目的。虽然此种做法可以保证不同等级的外部请求被处理的个数不同,但并不表示具有较高等级的使用者可以获得较好的服务品质,其主要的原因在于每个外部请求对于应用服务器所耗费的资源并不相同,即每个外部请求的回应大小均不同,因此处理较多较高等级的外部请求数量并不表示应用服务器可以提供较多资源给这些较高等级的外部请求,所以拥有较高等级的使用者并不能够享受到较佳的服务品质,也即使用者所感受到的服务等待时间并不一定能够被缩短。
至于美国专利US006728748B1,则利用一台路由伺服主机(Routing Host)来接收所有客户终端所传送来的外部请求,然后将这些外部请求作外部请求分类,再通过连接于路由主机与多台应用服务器之间的适应性策略引擎(Adaptive Policy Engine)来与路由主机和各个应用服务器中所设置的代理器进行沟通,利用代理器所传回的各种应用服务器属性信息,来决定哪种类别的外部请求该分配给哪台应用服务器处理。此种做法,则是采取利用应用服务器丛集(Server Cluster)的方式来解决差别服务的问题,除了对应用服务器作更改之外还必须花费大量的服务器硬件成本才能够实现差别服务。
为了提供更好的差别服务品质,以及减少因为差别服务所产生对应用服务器在运作上的影响,并且能够增加差别服务机制在应用上的兼容性,确实有必要对目前既有差别服务技术作改善,以早日实现互联网环境中真正的差别服务机制。

发明内容
本发明所要解决的技术问题在于提供一种应用于互联网环境的外部请求排程系统及其方法,将排程机制完整实现于介于客户终端以及应用服务器之间的网络中继点,因此可以在不更改客户终端以及应用服务器的前提之下,遵循既有的互联网服务模式来实现真正的差别服务。
对于差别服务中最重要的外部请求分类机制,本发明除了采取依据外部请求所包含的网络层内容(如来源端位址、目的端位址、端口号及协议类型)来进行外部请求分类之外,更具有依据外部请求所包含的应用层内容(标头信息及内容)来进行外部请求分类,可以增加差别服务的应用层面,使差别服务应用更多元化。
另外本发明更进一步以权重值设定来提供不同应用服务器服务资源的技术手段来作为不同等级的外部请求的差别服务方式,除了通过权重值与外部请求所对应的回应大小的控制来决定外部请求的处理顺序之外,还可以通过权重值让具有较高等级的使用者平均享有比较低等级的使用者高的应用服务器资源,同时也缩短平均等待服务的时间,也即让使用者实际获得到较高的服务品质。
为了避免大量的外部请求传送对应用服务器造成过大的处理负担,本发明还提出利用设定排程窗户值的方式以窗式控制机制来控制已排程好的外部请求的传送时间点,所有已分类未传送处理的外部请求,都将被暂存在队列中等待允许传送,如此将可以确保应用服务器的运作维持在最佳的状态,提高整体排程运作的稳定性。
本发明所揭露的在网络中继点上提供差别服务品质的外部请求排程系统,包含有用以探查应用服务器中所有请求项目及其对应回应大小的探查器、负责记录前述请求项目以及对应回应大小的请求/回应表、用以对客户终端所发出的外部请求进行外部请求分类的分类器、负责储存分类项目的服务品质策略表、根据服务品质策略表中分类项目来配置队列并对应储存分类后的外部请求的队列器,以及负责根据外部请求的回应大小以循环方式来传送各队列中外部请求至应用服务器的排程器。
本发明所揭露的在网络中继点上提供差别服务品质的外部请求排程方法,包含有下列步骤探查应用服务器中一个以上请求项目及其对应的回应大小,并记录于请求/回应表中;建立服务品质策略表,开始接收来自各客户终端一个以上外部请求进行外部请求分类,并根据分类结果暂存各外部请求至对应一个以上队列;及设定各队列的权重值,以及队列指针及排程窗户值,并根据各外部请求的回应大小以循环方式开始进行各队列中各外部请求的传送处理。
本发明的功效,在于可以在不更改客户终端以及应用服务器的前提之下,遵循既有的互联网服务模式来实现真正的差别服务。
以下结合附图和具体实施例对本发明进行详细描述,但不作为对本发明的限定。


图11A为本发明在网络中继点上提供差别服务品质的外部请求排程系统的系统架构图;图1B为本发明在网络中继点上提供差别服务品质的外部请求排程系统的服务品质策略表原始码示意图;图1C为本发明在网络中继点上提供差别服务品质的外部请求排程系统的队列器与排程器初始状态示意图;图1D为本发明在网络中继点上提供差别服务品质的外部请求排程系统的外部请求处理与排程窗户值运作示意图;图2A为本发明在网络中继点上提供差别服务品质的外部请求排程方法的流程图;及图2B及图2C为本发明在网络中继点上提供差别服务品质的外部请求排程方法的细部流程图。
其中,附图标记10客户终端15互联网20外部请求30外部请求排程系统31探查器32请求/回应表33分类器34服务品质策略表35队列器351 第一队列351A、351B、351C第一队列的外部请求352 第二队列352A、352B、352C第二队列的外部请求
353第三队列353A、353B、353C第三队列的外部请求36 排程器361第一队列计数器362第二队列计数器363第三队列计数器364队列指针365排程窗户值40 应用服务器50 原始码51 分类项目52 分类规则步骤100-探查一应用服务器中一个以上请求项目及其对应的回应大小,并记录于一请求/回应表中步骤200-建立一服务品质策略表,开始接收一个以上外部请求进行一外部请求分类,并根据分类结果暂存各该外部请求至对应一个以上队列步骤300-设定各该队列的一权重值,以及一队列指针及一排程窗户值,并根据各该外部请求的该回应大小以循环方式开始进行各该队列中各该外部请求的传送处理步骤301-设定该排程窗户值,初始化该队列指针使其指向最先该队列,逐一扫瞄所有队列,将有至少一个外部请求的队列加入有效队列列表步骤302-有效队列列表中是否有至少一个队列?步骤303-初始化该队列指针使其指向有效队列列表中最先该队列,增加最先该队列对应的该权重值于最先该队列的一计数器中步骤304-该队列中仍有未处理的该外部请求?步骤305-将该队列加入有效队列列表,若已经存在则不需重复加入步骤306-读取该队列中该外部请求,并判断该外部请求所对应的该回应大小步骤307-该回应大小≤该计数器?步骤308-该排程窗户值=0?
步骤309-该计数器-该回应大小,该排程窗户值-1,并传送该外部请求进行处理步骤310-移动该队列指针至下一队列,并增加该队列所对应的该权重值至该队列的计数器中步骤311-将该队列从有效队列列表移除步骤312-完成此回合所有队列的排程?具体实施方式
本发明是一种应用于互联网15环境中,利用执行于网络中继点上的计算机可执行程序来提供差别服务品质的外部请求排程系统30及其方法。
所谓的网络中继点,是指介于一个以上客户终端10与应用服务器40之间的网络节点,如网关器、路由器、代理服务器及服务器负载平衡器等。任何客户终端10所发出的外部请求20都必须要通过互联网15,通过此网络中继点才能够被顺利传送至应用服务器40上,然后由应用服务器40提供对应的服务与回应。
图1A为本发明的外部请求排程系统30的系统架构图,由图中可知,外部请求排程系统30包含有用以探查应用服务器40中所有请求项目及其对应回应大小的探查器31、负责记录前述请求项目以及对应回应大小的请求/回应表32、用以对客户终端10所发出的外部请求20进行外部请求分类的分类器33、负责储存分类项目51的服务品质策略表34、根据服务品质策略表中分类项目51来配置队列并对应储存分类后的外部请求20的队列器35,以及负责根据外部请求20的回应大小以循环方式来传送各队列中外部请求20至应用服务器40的排程器36等几个部分。
图1B为分类器33作为外部请求分类依据的服务品质策略表34的原始码50示意图,原始码50中包含有一个以上的分类项目51,分类项目51是外部请求分类的主要依据,基本上可以依照外部请求20中所包含的网络层内容来订定外部请求的分类规则52,如来源端位址、目的端位址、端口号及协议类型等,也可以利用外部请求20中所包含的应用层内容来进行分类规则52的订定,如标头信息及内容等。虽然图1B中原始码是采取可延伸标记程序语言(Extensible Markup Language;XML)来撰写,但是本发明并未对此作任何限定,其它程序语言都可以作为可行的实施方案。
图1C为队列器35以及排程器36的初始状态示意图,将再进一步进行说明。
其中,队列器35中配置有一个以上的队列,队列的数量是依照服务品质策略表34中分类项目51而决定的,以图1C为例,表示在服务品质策略表34中将所有的外部请求20区分为三个不同的分类项目51,因此在队列器35中会配置三个不同的队列,即第一队列351、第二队列352及第三队列353,用来储存不同的外部请求20。
此外,在初始状态下排程器36中包含有对应于每个队列的计数器(配置数量也与队列相同),即第一队列计数器361、第二队列计数器362、第三队列计数器363,在排程器36中会对每个计数器都设定有权重值,如第一队列计数器361的权重值为600、第二队列计数器362的权重值为300、第三队列计数器363的权重值为100,此权重值主要是用来控制外部请求20所能够取得的应用服务器40服务资源比例,可以依照不同需求作调整设定。排程器36中还包含有用来控制各个队列中外部请求20传送处理的队列指针364和排程窗户值365,队列指针364主要是依照Deficit Round Robin的演算方式来进行循环移动,当移动到队列时,将进行队列中等待传送的外部请求20的回应大小(回应大小可从请求/回应表32中取得)与对应队列的计数器中权重值的比较,来决定是否可以传送该外部请求20,而排程窗户值365则是设定用来控制在同一时间内可传送给应用服务器40的外部请求20数量,此设定值也可根据应用服务器40的处理能力来进行设定。
以下将通过图2A来说明本发明外部请求排程方法的流程。首先,步骤100,利用探查器31探查应用服务器40中一个以上请求项目及其对应的回应大小(是指应用服务器40在执行外部请求20所指定的请求项目时所需要传送的实际字节数量大小),并记录于请求/回应表32中,探查方式是采取阶层式方式进行,由应用服务器40中第一阶层的请求项目开始探查其回应大小,当第一阶层的探查结束后再根据第一阶层中的其它链接关系继续第二阶层的请求项目探查,持续递归探查直到完成所有请求项目的回应大小记录后结束;接着,步骤200,通过事先建立的一份服务品质策略表34,由分类器33开始接收来自各客户终端10一个以上的外部请求20然后进行外部请求分类,并根据分类结果暂存各外部请求20至对应一个以上队列,在服务品质策略表34中包含有一个以上不同的分类项目51,用来对所有的外部请求20作分类,队列配置的数量则依照服务品质策略表34来决定;最后,步骤300,在排程器36的计数器中加上各队列所对应的权重值,并同时产生一个队列指针364及设定一个排程窗户值365,然后以循环方式根据外部请求20的回应大小开始进行各队列中各外部请求20的传送处理。
有关步骤300的细部流程,请参考图2B,说明如下。首先,步骤301设定好排程窗户值365,并同时进行初始化将队列指针364指向最前面的一个队列,逐一扫瞄所有队列,将有至少一个外部请求20的队列加入有效队列列表,排程器36只会排程在有效队列列表中的所有队列。接着,步骤302,判断在有效队列列表中是否有至少一个队列存在,若是没有,则代表在队列器35中没有任何外部请求存在,则排程器36不需要进行排程,结束整个运作方法(步骤300)的流程运作。
若是有效队列列表中存在有至少一个队列,则步骤303,初始化该队列指针364使其指向有效队列列表中最先队列,增加最先队列对应的权重值于最先队列的一计数器中。接着步骤304,判断该队列中仍有未处理的该外部请求20,若该队列中仍有未处理的该外部请求20,则步骤305,将该队列加入有效队列列表,若是该队列已经存在于有效队列列表则不需重复加入;然后步骤306,开始读取队列指针364所指向的队列中的外部请求20,并通过对请求/回应表32的读取来判断此外部请求20所对应的回应大小;步骤307,当回应大小小于或等于计数器中的数值,步骤308,且排程窗户值365不为0时,步骤309,则将计数器减去回应大小,将排程窗户值365减去1,然后传送外部请求20给应用服务器40去进行处理。
步骤304,当所指向的队列中仍有未处理的外部请求20时,将重复上述该队列指针364所指向的队列中读取外部请求20进行排程的动作(即重复步骤305、步骤306、步骤307、步骤308及步骤309的流程)。步骤304,当所指向的队列中的外部请求全部处理完时,则将该队列从有效队列列表中移除,步骤312,然后判断排程器36是否已经完成此回合所有队列的排程,若是,则重新回到步骤302继续执行。若是尚末完成此回答所有队列的排程,步骤310,则移动该队列指针364至下一队列,并增加该队列所对应的权重值至该队列的该计数器中,完成后再回到步骤304继续执行。另外,步骤307,当该回应的大小大于该计数器的数值时,也会造成步骤310,该队列指针移动至次一队列并增加该队列所对应的权重值至该队列的该计数器中。
前面提到排程窗户值365的作用在于控制同一时间内可以传送给应用服务器40处理的外部请求20数量。因此,每当步骤309传送一个外部请求20时,排程窗户值365会自动减去1,当排程窗户值365等于0的时候,所有的外部请求20都会被暂时保留在队列中等待应用服务器40的处理,此时便会进入到图2C的步骤A,步骤341,等待并判断是否收到来自应用服务器40的回应。当应用服务器40处理完一个外部请求20时,会主动传回一个对应的回应给外部请求排程系统30,步骤342,此时排程窗户值365便会自动加上1,表示应用服务器40可以继续处理其它外部请求20,此时可以恢复对外部请求20的传送处理,因此将再通过步骤B回到图2B中的步骤308,继续后续的运作流程。
最后通过图1C及图1D来作实施例的说明。由图1C中可知经过探查、分类及初始化步骤后的队列器35中配置有三个队列(表示有效队列列表中有三个队列)即第一队列351、第二队列352及第三队列353,每个队列中均已经储存有各自的外部请求20,如第一队列351的外部请求有351A、351B及351C(根据请求/回应表32可得知,其回应大小判别结果分别为300、200及150)、第二队列352的外部请求有352A、352B及352C(其回应大小判别结果分别为250、300及150)、第三队列353的外部请求有353A、353B及353C(其回应大小判别结果分别为200、150及250);而在排程器36中对应于每个队列所配置的计数器分别为第一队列计数器361(其权重值大小设定为600)、第二队列计数器362(其权重值大小设定为300)及第三队列计数器363(其权重值大小设定为100),排程器36中还包含一个队列指针364(在初始状态时指向第一队列351所属的计数器),以及一个排程窗户值365(设定为1)。
当开始进行外部请求排程处理时,由于队列指针364指向第一队列351所属的第一队列计数器361上,因此先在第一队列计数器361中加入对应的权重值600并开始进行第一队列351的外部请求20处理,此时将读取第一队列中的第一个外部请求351A,由于其回应大小为300小于第一队列计数器361中的数值600,且此时排程窗户值365不为0,因此排程器36便将此外部请求20传送给应用服务器40处理,然后将第一队列计数器361数值600减去所传送的第一个外部请求351A的回应大小300后成为300并同时将排程窗户值减去1后变成0,接着继续读取第一队列351中的第二个外部请求351B,此时虽然其回应大小200小于第一队列计数器361数值300,但是因为排程窗户值365为0,因此将暂停传送任何的外部请求20,并等待排程窗户值365不为0。
当应用服务器40在接收到第一队列351的第一个外部请求351A后便开始进行处理,处理完毕后便传回一个回应给排程器36,再通过互联网15传回给客户终端10,此时排程窗户值365便可以增加1由0变成为1,当排程器36发现排程窗户值不为0时,则恢复传送前述的第二个外部请求351B,然后将第一队列计数器361数值300减去所传送的第二个外部请求351B的回应大小200后成为100并同时将排程窗户值减去1后变成0。接着继续读取第三个外部请求351C,而此时因为第三个外部请求351C的回应大小150超过第一队列计数器361数值100,因此便将队列指针364移至第二队列352所属的第二队列计数器362,并增加对应的权重值300至第二队列计数器362中。
开始读取第二队列352中的第一个外部请求352A,此时虽然其回应大小250小于第二队列计数器362数值300,但是由于排程窗户值365仍为0,因此暂停传送第二队列352中的第一个外部请求352A,直到应用服务器40处理完毕前一个外部请求20后(即第一队列351的第二个外部请求351B)传出回应给排程器36,再透过互联网15传回给客户终端10,之后将排程窗户值365增加1后才进行后续的传送处理。
在同样的运作模式下继续进行处理,当队列指针364停留在第三队列353所属的第三队列计数器363上等待移动时,表示已经完成一个循环的队列处理,此时队列指针364将依据余额累计式循环排程算法(Deficit Round Robin)模式重新被初始化设定到第一队列计数器361上继续进行处理,此时同样会在第一队列计数器361中增加对应的权重值600,因此新的第一队列计数器361数值由原先的100变成700,继续进行对第一队列351中的第三个外部请求351C的处理。
当处理中的队列没有其它等待处理的外部请求20时,队列指针364将会自动移至下一个队列进行处理。如此的运作流程将持续到所有队列中的所有外部请求20处理完毕为止。要注意的是,当某一个队列没有任何外部请求20时,该队列将会从有效队列列表中移除,在有新的外部请求20进入队列后,该队列才会被重新加入到有效队列列表。队列指针只会指向有效队列列表中的队列,而且加上权重值到队列的计数器,没有在有效队列列表中的队列将不会被进行排程,当然其计数器也不会被加上权重值。
图1D为上述实施例的另一示意图,由图中可以确认整个外部请求排程系统30对于所有外部请求20的处理顺序逻辑,并且显示当排程器36每传送出一个外部请求20给应用服务器40时,便会使得排程窗户值365减去1,而每当应用服务器40处理完一个外部请求时,便会使得排程窗户值365增加1。
当然,本发明还可有其他多种实施例,在不背离本发明精神及其实质的情况下,熟悉本领域的技术人员可根据本发明作出各种相应的改变和变形,但这些相应的改变和变形都应属于本发明权利要求的保护范围。
权利要求
1.一种在网络中继点上提供差别服务品质的外部请求排程系统,为执行于介在一个以上客户终端与一应用服务器之间的网络中继点上的计算机可执行程序,其特征在于,包含有一探查器,用以探查该应用服务器中一个以上请求项目及其对应的响应大小,并记录于一请求/响应表中;一分类器,用以建立一服务品质策略表,并负责接收来自各该客户终端一个以上外部请求进行一外部请求分类;一队列器,根据该服务品质策略表配置一个以上队列,用以根据分类结果暂存该外部请求;及一排程器,用以设定各该队列对应的一权重值,以及一队列指针及一排程窗户值,并根据各该外部请求的该响应大小以循环方式开始进行各该队列中各该外部请求的传送处理。
2.根据权利要求1所述的在网络中继点上提供差别服务品质的外部请求排程系统,其特征在于,该响应大小是指执行该外部请求所指定的该请求项目时应用服务器所需要传回的实际字节数量大小。
3.根据权利要求1所述的在网络中继点上提供差别服务品质的外部请求排程系统,其特征在于,该外部请求分类是指依照该外部请求的一网络层内容进行分类。
4.根据权利要求1所述的在网络中继点上提供差别服务品质的外部请求排程系统,其特征在于,该外部请求分类是指依照该外部请求的一应用层内容进行分类。
5.根据权利要求1所述的在网络中继点上提供差别服务品质的外部请求排程系统,其特征在于,该队列指针是以余额累计式循环排程算法的方式进行循环方式的移动。
6.根据权利要求1所述的在网络中继点上提供差别服务品质的外部请求排程系统,其特征在于,该排程窗户值是用以控制在同一时间内可传送至应用服务器的该外部请求数量。
7.根据权利要求1所述的在网络中继点上提供差别服务品质的外部请求排程系统,其特征在于,该排程器中还包含对应于各该队列的一个以上计数器,用以累加该队列对应的该权重值。
8.一种在网络中继点上提供差别服务品质的外部请求排程方法,为应用计算机可执行程序执行于介在一个以上客户终端与一应用服务器之间的网络中继点上,其特征在于,包含有下列步骤探查该应用服务器中一个以上请求项目及其对应的响应大小,并记录于一请求/响应表中;建立一服务品质策略表,开始接收来自各该客户终端一个以上外部请求进行一外部请求分类,并根据分类结果暂存各该外部请求至对应一个以上队列;及设定各该队列的一权重值,以及一队列指针及一排程窗户值,并根据各该外部请求的该响应大小以循环方式开始进行各该队列中各该外部请求的传送处理。
9.根据权利要求8所述的在网络中继点上提供差别服务品质的外部请求排程方法,其特征在于,该响应大小是指执行该外部请求所指定的该请求项目时应用服务器所需要传回的实际字节数量大小。
10.根据权利要求8所述的在网络中继点上提供差别服务品质的外部请求排程方法,其特征在于,该外部请求分类是指依照该外部请求的一网络层内容进行分类。
11.根据权利要求8所述的在网络中继点上提供差别服务品质的外部请求排程方法,其特征在于,该外部请求分类是指依照该外部请求的一应用层内容进行分类。
12.根据权利要求8所述的在网络中继点上提供差别服务品质的外部请求排程方法,其特征在于,该队列指针是以余额累积式循环排程算法的方式进行循环方式的移动。
13.根据权利要求8所述的在网络中继点上提供差别服务品质的外部请求排程方法,其特征在于,该排程窗户值用以控制在同一时间内可传送至应用服务器的该外部请求数量。
14.根据权利要求8所述的在网络中继点上提供差别服务品质的外部请求排程方法,其特征在于,该设定各该队列的该权重值,以及该队列指针及该排程窗户值,并根据该外部请求的该响应大小以循环方式开始进行各该队列中各该外部请求的传送处理的步骤,还包含下列步骤(a)设定该排程窗户值,初始化该队列指针使其指向最先该队列,并增加该队列对应的该权重值于该队列的一计数器中;(b)读取该队列中该外部请求,并判断该外部请求所对应的该响应大小;(c)当该响应大小小于该计数器且该排程窗户值不为0时,将该计数器减去该响应大小,将该排程窗户值减去1,然后传送该外部请求至应用服务器进行处理;及(d)移动该队列指针至下一队列,并增加该队列所对应的该权重值至该队列的该计数器中;其中在步骤(c)中,当该队列仍有未处理的该外部请求或该响应大小不大于该计数器时,将持续重复执行步骤(b)及步骤(c);在一个循环回合中尚未完成所有队列的排程时,将持续重复执行步骤(b)至步骤(d);当完成该循环回合中所有队列的排程后,将重新初始化该队列指针使其指向最先的该队列,并增加该队列对应的该权重值于该队列的该计数器中,然后重新执行步骤(b)至步骤(d)。
15.根据权利要求14所述的在网络中继点上提供差别服务品质的外部请求排程方法,其特征在于,该设定该队列的该权重值,以及该队列指针及该排程窗户值,并根据各该外部请求的该响应大小以循环方式开始进行各该队列中各该外部请求的传送处理的步骤,还包含当接收到来自该应用服务器处理完毕该外部请求的响应时,将该排程窗户值增加1的步骤。
全文摘要
本发明涉及一种在网络中继点上提供差别服务品质的外部请求排程系统,执行于介在一个以上客户终端与应用服务器之间的网络中继点上的计算机可执行程序,包含有探查器,用以探查该应用服务器中一个以上请求项目及其对应的响应大小,并记录于请求/响应表中;分类器,用以建立服务品质策略表,并负责接收来自各该客户终端一个以上外部请求进行外部请求分类;队列器,根据该服务品质策略表配置一个以上队列,用以根据分类结果暂存该外部请求;及排程器,用以设定各该队列对应的权重值,以及队列指针及排程窗户值,并根据各该外部请求的该响应大小以循环方式开始进行各该队列中各该外部请求的传送处理。
文档编号H04L29/02GK1842072SQ20051005961
公开日2006年10月4日 申请日期2005年3月29日 优先权日2005年3月29日
发明者林盈达, 温硕彦, 田庆明, 赖源正, 李卓俊, 郑博文 申请人:财团法人工业技术研究院
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1