专利名称：控制器的制作方法
技术领域：
本发明涉及一种用于控制由服务器所服务的请求的数目的控制器、一种服务器和一种用于控制由服务器所服务的请求的数目的方法。
背景技术：
服务器在许多不同背景中是众所周知的。例如，在3GPP(第三代伙伴项目)或者IP(互联网协议)架构中，用户可以对预订业务进行预订。预订业务的一个例子是在线(presence)。使用预订消息来发起预订业务。在一种已知系统中，预订消息利用SIP(会话发起协议)消息。在检测到预订事件时，预订服务器使用通知消息来通知订户该事件。在已知系统中，由配置为连接处理服务器(CPS)的代理服务器来帮助促成预订消息和通知消息。该预订通过CPS来建立SIP对话，而CPS维护那一对话并且为所有通知所用。以这一方式，CPS有效地记录该预订的路由。
可以由服务器所服务的请求的数目可能是有限的。服务器可以被设置用以实施保护服务器免于超负荷的机制，例如负荷均衡机制，该机制中持续地测量负荷率并且在进行寻路由判决时将负荷率纳入考虑之中，使得没有个别的服务器变得为负荷所吞没。如果请求速率过高则可能出现超负荷状态。这些超负荷机制在于解决服务器的超负荷。然而，可利用的解决方案都没有考虑到限制所处理的请求的数目。
发明内容
根据本发明的第一方面，提供了一种用于控制由服务器所服务的请求的数目的控制器，所述控制器包括用于保持M个令牌的库；用于向所述库提供令牌的输入；以及用于从所述库去除令牌的输出，其中所述控制器被设置为使得只有所述库包含需要至少一个令牌以得到处理的服务器请求所需数目的令牌时才处理所述请求、并且当所述服务器请求要由所述服务器处理时经由所述输出去除所述所需数目的令牌。
根据本发明的第二方面，提供了一种用于与控制器一起使用的服务器，所述控制器包括用于保持M个令牌的库，所述服务器被设置用以接收需要来自所述库中的至少一个令牌以得到处理的请求，所述服务器被设置用以确定所需令牌的数目并且从所述库获得所述所需数目的令牌。
根据本发明的第三方面，提供了一种用于与控制器一起使用的服务器，所述控制器包括用于保持M个令牌的库，所述服务器被设置用以接收需要来自所述库中的至少一个令牌以得到处理的请求，所述服务器被设置用以确定所述所需数目的令牌是否可从所述库获得，而如果不可获得则丢弃所述请求。
根据本发明的第四方面，提供了一种用于控制由服务器所服务的请求的数目的方法，包括以下步骤将令牌输入到令牌库中；以及确定所述库是否包括用于处理给定请求的所需数目的令牌；以及当所述服务器请求要由所述服务器处理时去除所述所需数目的令牌。
根据本发明的第五方面，提供了一种控制由服务器所服务的请求的数目的方法，所述方法包括以下步骤接收需要来自令牌库中的至少一个令牌以得到处理的请求；确定所需令牌的数目；以及从所述库获得所述所需数目的令牌。
根据本发明的第六方面，提供了一种控制由服务器所服务的请求的数目的方法，所述方法包括以下步骤接收待处理的请求；确定所述请求是否需要来自令牌库中的至少一个令牌以得到服务；以及如果需要则从所述库获得所述至少一个令牌。
根据本发明的另一方面，提供了一种控制由服务器所服务的请求的数目的方法，所述方法包括以下步骤接收需要来自令牌库中的至少一个令牌以得到处理的请求；确定所述所需数目的令牌是否可从所述库获得；以及如果不可获得则丢弃所述请求。
为了更好地理解本发明以及如何将本发明付诸实践，现在将仅作为例子地对附图进行参照，在附图中图1图示了本发明的实施例可以并入其中的网络方案；图2示意性地示出了用于服务器的控制器；以及图3示出了实施本发明的方法的流程图。
具体实施例方式
参照特定布局作为示例在这里描述本发明的实施例。然而，本发明不限于所描述的实施例。
现在参照图1来描述根据本发明的第一实施例。图1图示了本发明的实施例可以实施于其中的移动通信网络的单元。图1所示的网络是支持3GPP或者IP架构的GPRS(通用分组无线服务器)或者UMTS(通用移动电信系统)通信网络。仅仅示出和描述对于理解本发明而言所必需的那些单元。该网络的实施所必需的其它单元对于本领域技术人员将是已知的。
通过标号102来大体地表示该网络。网络102一般具有为比如用户设备(UE)100这样的移动设备提供网络接入的无线接入网104。网络102具有代理服务器106，具有来自无线接入网104的连接116；通知器108，具有通向代理服务器106的连接112；以及位置服务器110，具有通向代理服务器106的连接114。所示单元是SIP-NOTIFY消息寻路由这一目的所必需的。在本发明的一个实施例中，在3GPPIMS(IP多媒体子系统)中位置服务器是IMR(IP多媒体寄存器)/HSS(归属预订服务器)。在本发明的实施例中，通知器可以被称为预订服务器。
应当理解，本发明的实施例可以用图1所示三个服务器中的任何一个或者所有服务器来实施。
一般而言，用户设备向服务器发起预订。这包括从用户设备发送到代理服务器、然后从代理服务器发送到预订服务器的消息接发。
预订服务器108在它的预订数据库中存储订户的身份信息。然后发送该预订，而预订服务器将接受消息发送到代理服务器106，该代理服务器106将该消息转发到用户设备。预订事务和对话由此完成。
现在对图示了本发明实施例的图2和图3进行参照。具体而言，这些示了一种控制所服务的请求的速率的机制。应当理解，在所示实施例中可能的是服务器销售商能够向那一服务器的运营商销售许可动态容量。在更具体地描述实施例之前，现在将定义一些用来描述本发明的术语令牌-类似于为了处理某一请求而需要的票券等。在本发明的一些实施例中，它可以被视为许可。
令牌库-用于存放令牌。
令牌供应-用以向令牌库供应某一数量或者成捆(trunk)的令牌的机制。
令牌管道-用以从令牌库获取令牌的机制。
溢出管道-用以控制令牌库中令牌的最大数目的机制。
令牌捆-从令牌供应一起取送到令牌库的成捆的令牌。
输入时段-令牌捆被插入令牌库中的两个连续瞬间之间的时间。
填充时段-如果没有通过从令牌管道获取而使用的令牌时，从令牌供应中填充空的令牌库所花费的时间。
图2示出了本发明的实施例的功能，而图3示出了对实施本发明的方法进行图示的流程图。
先参照图2，示出了令牌库4。该令牌库具有令牌管道8。当需要令牌时，经由令牌管道8从令牌库4获取令牌。只要有令牌，就可以用所需的任何速率来获取令牌。
令牌库4也具有溢出管道6。当令牌库充满时，所有供应的令牌溢出。这可以有效地意味着丢弃令牌。
任选地可以有一种如果库充满则停止供应令牌的机制。然而就性能而言，这可能具有很小的影响，因为服务器很少空闲运行，而如果它们空闲运行则有充足的CPU容量可供使用。如果丢弃令牌则可能没有结果。令牌可以被视为对于在时间帧内做某件事情(例如建立会话)的允许。如果没有使用令牌，则另一新令牌将在下一时间帧中可用。
令牌库4具有被设置用来针对每个输入时段向令牌库供应n个令牌12的令牌供应2。举例而言，可以提供每秒10个令牌。
令牌库4在大小上设定为保持最大数目的填充时段令牌。例如，填充时段可以是60秒。如果可以用每秒10个令牌的速率来供应令牌，则令牌库将保持最多600个令牌。应当理解，对输入时段和填充时段的大小的选择是实施问题。尽管输入时段优选为秒量级，但是可以比这更大或者更小。填充时段优选为在1分钟到一个小时之间的量级。填充时段比输入时段更长。
令牌库在大小上通常设定为使得服务器在输入时段中可以处理的请求的数目是在填充时段中接收的令牌请求的数目，例如每秒600个请求/操作，虽然稳定速率是由输入时段所限定的每秒仅10个。在本发明的可选实施例中可以针对令牌库限定其它的请求数目。
应当理解，这是如何设定库大小的一个例子。在本发明的不同实施例中，库的大小设定可以依赖于服务器所实施的应用。
图2所示这一令牌库可以用硬件或者软件实施。图2所示令牌库和机制可以在服务器控制器、服务器本身中提供或者作为控制设备的部分来提供。在本发明的一个实施例中，图2所示机制可以在具有多个令牌库的实体中提供。例如，那些令牌库中的每个令牌库然后可以与不同服务器相关联。
当系统启动时，令牌库可以填满最大数量的令牌或者留空。也有可能令牌库可以具有不足以填满库的多个令牌。这可以依赖于服务器销售商与那一服务器的运营商之间的协议。这一点在服务器销售商向那一服务器的运营商销售由令牌所限定的许可动态容量时可以适用。优选地但并非必须地，以恒定的速率提供令牌。
令牌供应2可以开始以输入时段的间隔向令牌库供应令牌捆。如果令牌库包含令牌，则令牌可以经由令牌管去除并且用来处理请求。
令牌库的行为是这样的如果以比供应令牌的令牌供应更低的速率从库中获取令牌，则令牌库最终填满到溢出水平。当令牌库充满时，所有供应的令牌将溢出。库是充满的，而只要库是充满的则新的令牌就被丢弃。
无论系统即服务器何时获得进行处理的请求，系统都可以检查是否有来自令牌库的可用令牌。当针对请求而需要令牌时，经由令牌管道从库中获取令牌。可以与系统能够从库中获取令牌一样快地从库中获取令牌。由于令牌库可以具有多个令牌，所以它充当着允许输入时段的峰值速率超过指定请求速率(令牌捆/输入时段)的储备库。这就允许了系统以指定的速率来处理请求，即使请求并不是以恒定的速率到来。
所有请求在它们到来时受到处理，而对处理请求的允许则是令牌。如果有如在前一实施例中的输入时段，则有可以在不使库耗尽的情况下所使用的每秒10个请求的稳定速率。如果不是每秒都使用这一数量，则库被填满而这就是储备库。因此就前一实施例而言，如果库是充满的，则有可能在一秒内具有600个请求但此后是10个，因为库在10个请求被插入之前(在每个输入时段之后)即被耗尽。这在某一数量的时间(依赖于库的大小)内提供额外的能力。
应当理解，一些请求可能不需要令牌，而在那一情况下将绕过图2所示令牌。某些类别或者类型的请求源可能不需要使用令牌库。
现在参照示出了实施本发明的方法的图3。在步骤S1中，系统即服务器接收分组。服务器进行检验以查看分组是初始请求还是与已经进行处理的请求相关联的分组。如果在步骤S1中确定分组不是初始请求，则下一步骤是处理分组的步骤S2。
如果在步骤S1中确定分组是初始请求，则下一步骤是S3。在步骤S3中，在服务器中分析请求类型。依赖于请求类型被确定为何种类型来确定下一动作。例如，对于某些请求类型，下一步骤将是进行对分组的处理的步骤S2。分析请求类型以确定哪些是较繁重的操作，而在正常操作例如需要仅一个令牌时，这些较繁重的操作可以被定义成例如需要3个令牌，不同的请求类型可以具有不同的令牌定价(tariff)。
如果请求类型是类型1的请求，则下一步骤是获得令牌的步骤S4。如果不可能获得令牌，则下一步骤是丢弃分组的步骤S6。如果可以获得令牌，则下一步骤将是处理分组的步骤S2。如果请求类型是类型N的分组，则下一步骤将是针对请求而获得所需数目的令牌的步骤S5。根据令牌是否可用，下一步骤将是步骤S6(在没有足够令牌可用的情况下)或者步骤S2(在令牌可用的情况下)。
举例而言，流视频会话建立可以具有比例如短消息更高的速率(需要更多令牌)。“N”将所需令牌的数量(操作的加权)符号化。在本发明的实施例中，可以有数个不同的加权(1到N)。在本发明的优选实施例中，加权的数目可以等于或者少于在输入时段中提供的令牌的数目。
在可选实施例中，可以有从步骤S3分出的N个分支，这例如是因为对于每个已知请求类型，可以有单独的令牌库用于不同的类型，例如语音呼叫、视频呼叫、消息、在线等。不同的令牌库可以向请求分配不同数目的令牌。可选地，不同的令牌库可以使用代表不同加权的令牌，使得来自一个库的令牌不等同于来自不同库的令牌。不同的库可以具有不同的填充时段或者输入时段、不同的令牌递送速率和/或者不同的容量。
本发明的实施例可以用任何适当的方式来实施。例如，在负责如下请求的系统中一个过程的实施主要地可以是计数器，这些请求将通过限制器来处理。例如，去除令牌则减少计数器。将令牌供应到库会造成计数器递增。令牌到库的供应可以由计时器来控制。每当计时器到期时，计数器随着组中令牌的数目而增加。禁止计数器增加到超出溢出限制以外。
在本发明的一个实施例中，可以有许多处理那些相同请求的处理器。作为一个例子，可以有100个请求/秒的服务器总容量。服务器可以由能够处理请求的数个节点组成，而这100个请求例如可以在它们之间均匀地划分。
因而，可以有一种用以确保所有处理器或者服务器都获得基本上相同负荷的机制。在本发明的可选实施例中，有可能变更令牌捆的大小以便调整负荷失衡。令牌捆的大小可以动态地控制成将当前负荷纳入考虑之中。在本发明的实施例中，令牌可以被视为许可。因而，本发明的实施例实现了一种用于许可动态容量的业务模型。
已经在使用于IMS系统内的服务器背景下描述了本发明的实施例。应当理解，本发明的实施例可以应用于任何方案中的任何服务器。
权利要求
1.一种用于控制由服务器所服务的请求的数目的控制器，所述控制器包括用于保持M个令牌的库；用于向所述库提供令牌的输入；以及用于从所述库去除令牌的输出，其中所述控制器被设置为使得只有所述库包含需要至少一个令牌以得到处理的服务器请求所需数目的令牌时才处理所述请求、并且当所述服务器请求要由所述服务器处理时经由所述输出去除所述所需数目的令牌。
2.如权利要求1所述的控制器，其中不同类型的请求需要不同数目的令牌。
3.如权利要求1或2所述的控制器，其中所述输入被设置用以以恒定的速率提供所述令牌。
4.如任一前述权利要求所述的控制器，其中所述输入被设置用以在每一给定的第一时段向所述库提供x个令牌。
5.如权利要求4所述的控制器，其中所述第一时段是秒量级并且优选为1秒。
6.如任一前述权利要求所述的控制器，其中所述输入被设置用以在给定的第二时段中从空开始填充所述库。
7.如权利要求6所述的控制器，其中所述第二时段在一分钟到一小时并且包括一分钟和一小时的范围中而且优选为一分钟。
8.如任一前述权利要求所述的控制器，其中所述库在大小上被设定为容纳所述服务器在所述预定时间内所能够处理的最大数目的请求。
9.如任一前述权利要求所述的控制器，包括用于在所述库充满时丢弃接收的令牌的溢出机制。
10.如任一前述权利要求所述的控制器，其中所述控制器被设置用以提供多个不同的库。
11.如权利要求10所述的控制器，其中不同的请求类型被分配到不同的库。
12.如任一前述权利要求所述的控制器，其中所述请求包括语音呼叫、视频呼叫、消息和在线中的至少一个。
13.如任一前述权利要求所述的控制器，其中所述令牌包括许可。
14.如任一前述权利要求所述的控制器，所述控制器以计数器的形式来提供。
15.一种服务器与如任一前述权利要求所述的控制器的组合。
16.如权利要求15所述的组合，其中所述服务器被设置用以在通信网络中使用。
17.如权利要求15或16所述的组合，其中所述服务器包括CPS服务器、IMR服务器和代理服务器中的至少一个服务器。
18.如权利要求15至17中任一权利要求所述的组合，其中所述服务器被设置用以分析所述请求类型以确定所述请求是否需要至少一个令牌。
19.如权利要求15至18中任一权利要求所述的组合，其中所述服务器被设置用以分析所述请求类型以确定请求所需令牌的数目。
20.如权利要求15至19中任一权利要求所述的组合，其中所述服务器被设置用以确定请求是否需要至少一个令牌，而如果所述所需令牌无法从所述库获得则丢弃所述请求。
21.一种用于与控制器一起使用的服务器，所述控制器包括用于保持M个令牌的库，所述服务器被设置用以接收需要来自所述库中的至少一个令牌以得到处理的请求，所述服务器被设置用以确定所需令牌的数目并且从所述库获得所述所需数目的令牌。
22.一种用于与控制器一起使用的服务器，所述控制器包括用于保持M个令牌的库，所述服务器被设置用以接收待处理的请求，所述服务器被设置用以确定所述请求是否需要至少一个令牌以得到服务，而如果需要则从所述库获得所述至少一个令牌。
23.一种用于与控制器一起使用的服务器，所述控制器包括用于保持M个令牌的库，所述服务器被设置用以接收需要来自所述库中的至少一个令牌以得到处理的请求，所述服务器被设置用以确定所述所需数目的令牌是否可从所述库获得，而如果不可获得则丢弃所述请求。
24.一种用于控制由服务器所服务的请求的数目的方法，包括以下步骤将令牌输入到令牌库中；以及确定所述库是否包括用于处理给定请求的所需数目的令牌；以及当所述服务器请求要由所述服务器处理时去除所述所需数目的令牌。
25.一种控制由服务器所服务的请求的数目的方法，所述方法包括以下步骤接收需要来自令牌库中的至少一个令牌以得到处理的请求；确定所需令牌的数目；以及从所述库获得所述所需数目的令牌。
26.一种控制由服务器所服务的请求的数目的方法，所述方法包括以下步骤接收待处理的请求；确定所述请求是否需要来自令牌库中的至少一个令牌以得到服务；以及如果需要则从所述库获得所述至少一个令牌。
27.一种控制由服务器所服务的请求的数目的方法，所述方法包括以下步骤接收需要来自令牌库中的至少一个令牌以得到处理的请求；确定所述所需数目的令牌是否可从所述库获得；以及如果不可获得则丢弃所述请求。
全文摘要
本发明涉及一种用于控制由服务器所服务的请求的数目的控制器，所述控制器包括用于保持M个令牌的库；用于向所述库提供令牌的输入；以及用于从所述库去除令牌的输出，其中所述控制器被设置为使得只有所述库包含需要至少一个令牌以得到处理的服务器请求所需数目的令牌时才处理所述请求、并且当所述服务器请求要由所述服务器处理时经由所述输出去除所述所需数目的令牌。
文档编号H04L12/56GK101032144SQ200580032817
公开日2007年9月5日 申请日期2005年8月26日 优先权日2004年10月7日
发明者P·伊拉－奥于蒂南, J·西尔朗帕, M·I·马特蒂拉 申请人:诺基亚公司