用于调整分流策略和分流用户请求的方法、装置及系统的制作方法_5

文档序号:9814517阅读:来源:国知局
[0241] 服务能力值计算子单元,用于用每个服务队列的权重与所述权重总和的比值,作 为所述服务队列的服务能力值。
[0242] 可选的,所述每个服务队列属于一个服务队列分组,不同的服务队列分组负责处 理不同业务类型的用户请求;
[0243] 相应的,所述权重总和计算子单元具体用于,分别计算每个分组中的所有服务队 列的权重总和;
[0244] 所述服务能力值计算子单元具体用于,用每个服务队列的权重与其所在分组的权 重总和的比值,作为所述服务队列的服务能力值;
[0245] 所述第一分流执行子单元具体用于,根据每个服务队列的服务能力值的大小,按 照所述处于等待队列中的用户请求的业务类型将其分流到对应分组的服务队列中。
[0246] 可选的,当所述自适应分流策略获取单元获取的分流策略为普通策略时,所述用 户请求分流单元包括:
[0247] 第二分流执行子单元,用于将处于等待队列中的用户请求依次分流到每个服务队 列中。
[024引可选的,所述每个服务队列属于一个服务队列分组,不同的服务队列分组负责处 理不同业务类型的用户请求;
[0249] 相应的,所述第二分流执行子单元具体用于,将所述用户请求依次分流到与其业 务类型对应的分组中的每个服务队列中。
[0巧0] 本申请实施例还提供了一种用于分流用户请求的系统,如图8所示,该系统包括 上述实施例所述的用于调整分流策略的装置801、用于分流用户请求的装置802、用于提供 等待队列相关信息和服务资源处理用户请求的历史数据的服务状态监控装置803、W及等 待队列804和服务队列805。上述各个装置W及等待队列和服务队列可W部署在同一台计 算机设备上,例如:服务器上,也可W分别部署在多台计算机设备上,彼此之间通过网络接 口通信。下面对上述装置W及队列如何协作实现本系统的功能作简要说明。
[0251] 所述等待队列用于存放待分流的用户请求,所述服务状态监控装置用于对所述等 待队列和所述服务队列的状态进行实时监控,并负责记录等待队列中的用户请求的相关信 息、W及与服务队列对应的服务资源处理用户请求的历史数据;所述用于调整分流策略的 装置,定期从所述服务状态监控装置获取等待队列中的用户请求的相关信息,并根据所述 信息判断是否需要调整当前采用的分流策略,如果需要则在经历一段迟滞时间后进行必要 的调整操作;所述用于分流用户请求的装置,获取所述用于调整分流策略的装置经过自适 应调整得到的分流策略,并根据所述策略将等待队列中的用户请求分流到相应的服务队列 中。
[0252] 通过上面的描述可W看出,本申请提供的用于分流用户请求的系统,改变了现有 技术只能采用单一分流策略进行分流的状况,实现了分流策略的自适应调整,即;在不同应 用场景下,及时、自动地调整分流策略,并采用所述分流策略对用户请求进行分流。
[0253] 此外,本申请还提供另一种用于分流用户请求的方法。请参考图9,其为本申请提 供的另一种用于分流用户请求的方法的实施例的流程图,本实施例与上述实施例步骤相同 的部分不再赏述,下面重点描述不同之处。
[0254] 本申请提供的另一种用于分流用户请求的方法包括:
[0255] 步骤901 ;获取每个服务队列的服务能力值,所述服务能力值表征所述服务队列 对应的服务资源处理用户请求能力的强弱。
[0256] 在本实施例的一个具体例子中,所述每个服务队列的服务能力值,是按照预先设 定的时间间隔,采用如下方式计算得到的;针对每个服务队列,获取与所述服务队列对应的 服务资源处理用户请求的历史数据,并根据所述历史数据计算所述服务队列的权重;计算 所有服务队列的权重总和;用每个服务队列的权重与所述权重总和的比值,作为所述服务 队列的服务能力值。
[0257] 所述与服务队列对应的服务资源处理用户请求的历史数据包括:在特定时间段内 处理用户请求的总数、处理用户请求的总时长、和/或用户对处理过程的满意度评价。
[025引在本步骤中获取最近一次计算得到的每个服务队列的服务能力值即可,为后续步 骤902的执行做好准备。
[0259] 步骤902 ;根据每个服务队列的服务能力值的大小,对用户请求进行分流,使得每 个服务队列处理的用户请求数量与其服务能力值相匹配。
[0260] 根据每个服务队列的服务能力值的大小对处于等待队列中的用户请求进行分流, 其基本原则是:为服务能力强的服务队列分配相对较多的用户请求,为服务能力弱的服务 队列分配相对比较少的用户请求,也就是说使得每个服务队列负责处理的用户请求数量与 其服务能力值相匹配,从而能够使服务资源得到充分、有效的利用。
[0261] 如果服务队列被划分为多个服务队列分组,不同的服务队列分组负责处理不同业 务类型的用户请求,郝么在分流用户请求时,还需要考虑用户请求与服务队列的业务类型 一致的问题。在本实施例的上述具体例子中,在上述步骤901中分别计算每个分组中的所 有服务队列的权重总和,并用每个服务队列的权重与其所在分组的权重总和的比值,作为 所述服务队列的服务能力值;在本步骤中,根据每个服务队列的服务能力值的大小,按照用 户请求的业务类型将其分流到对应分组的服务队列中。
[0262] 本申请提供的另一种用于分流用户请求的方法,通过获取表征服务资源处理用户 请求能力强弱的服务能力值,并根据所述服务能力值的大小将用户请求分流到相应的服务 队列,使得每个服务队列处理的用户请求数量与其服务能力值相匹配,从而实现了对服务 资源的有效利用,特别是在系统繁忙的状况下,能够从整体上减少用户的平均等待时长和 服务时长,提升用户满意度。
[0263] 在上述的实施例中,提供了另一种用于分流用户请求的方法,与之相对应的,本申 请还提供另一种用于分流用户请求的装置。请参看图10,其为本申请的另一种用于分流用 户请求的装置的实施例示意图。由于装置实施例基本相似于方法实施例,所W描述得比较 简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。
[0264] 本实施例的另一种用于分流用户请求的装置,包括;服务能力值获取单元1001, 用于获取每个服务队列的服务能力值,所述服务能力值表征所述服务队列对应的服务资源 处理用户请求能力的强弱;用户请求分流执行单元1002,用于根据每个服务队列的服务能 力值的大小,对用户请求进行分流,使得每个服务队列处理的用户请求数量与其服务能力 值相匹配。
[0265] 可选的,所述装置还包括:
[0266] 服务能力值定期计算单元,用于按照预先设定的时间间隔,定期计算每个服务队 列的服务能力值;
[0267] 所述服务能力值定期计算单元包括:
[026引定期计算控制子单元,用于按照预先设定的时间间隔,触发下列队列权重计算子 单元、权重总和计算子单元和服务能力值计算子单元工作;
[0269] 队列权重计算子单元,用于针对每个服务队列,获取与所述服务队列对应的服务 资源处理用户请求的历史数据,并根据所述历史数据计算所述服务队列的权重;
[0270] 权重总和计算子单元,用于计算所有服务队列的权重总和;
[0271] 服务能力值计算子单元,用于用每个服务队列的权重与所述权重总和的比值,作 为所述服务队列的服务能力值。
[0272] 可选的,所述每个服务队列属于一个服务队列分组,不同的服务队列分组负责处 理不同业务类型的用户请求;
[0273] 相应的,所述权重总和计算子单元具体用于,分别计算每个分组中的所有服务队 列的权重总和;
[0274] 所述服务能力值计算子单元具体用于,用每个服务队列的权重与其所在分组的权 重总和的比值,作为所述服务队列的服务能力值;
[0275] 所述用户请求分流执行单元具体用于,根据每个服务队列的服务能力值的大小, 按照所述处于等待队列中的用户请求的业务类型将其分流到对应分组的服务队列中。
[0276] 本申请虽然W较佳实施例公开如上,但其并不是用来限定本申请,任何本领域技 术人员在不脱离本申请的精神和范围内,都可W做出可能的变动和修改,因此本申请的保 护范围应当W本申请权利要求所界定的范围为准。
[0277] 在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、 网络接口和内存。
[027引 内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/ 或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质 的示例。
[0279] 1、计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可W由任何 方法或技术来实现信息存储。信息可W是计算机可读指令、数据结构、程序的模块或其 他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储 器(SRAM)、动态随机存取存储器值RAM)、其他类型的随机存取存储器(RAM)、只读存储器 (ROM)、电可擦除可编程只读存储器巧EPROM)、快闪记忆体或其他内存技术、只读光盘只读 存储器(CD-ROM)、数字多功能光盘值VD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或 其他磁性存储设备或任何其他非传输介质,可用于存储可W被计算设备访问的信息。按照 本文中的界定,计算机可读介质不包括非暂存电脑可读媒体(transitory media),如调制 的数据信号和载波。
[0280] 2、本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产 品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例 的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用 存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的 形式。
【主权项】
1. 一种用于调整分流策略的方法,其特征在于,包括: 获取处于等待队列中的用户请求的相关信息; 根据所述用户请求的相关信息选择分流策略,所述分流策略是指,将所述等待队列中 的用户请求分流到服务队列所采用的策略; 判断当前采用的分流策略与所选的分流策略是否不同;若不同,将所述当前采用的分 流策略调整为所述所选的分流策略。2. 根据权利要求1所述的用于调整分流策略的方法,其特征在于,所述当前采用的分 流策略以及所述所选的分流策略分别包括:应急策略、或者普通策略; 所述应急策略根据服务队列的处理能力对所述用户请求进行分流;所述普通策略则将 所述用户请求依次分流到每个服务队列。3. 根据权利要求2所述的用于调整分流策略的方法,其特征在于,所述用户请求的相 关信息包括:用户请求数以及每个用户请求对应的用户等级。4. 根据权利要求2-3任一所述的用于调整分流策略的方法,其特征在于,所述根据所 述用户请求的相关信息选择分流策略包括: 根据所述用户请求的相关信息,计算表征系统繁忙程度的数值; 判断所述表征系统繁忙程度的数值是否不小于预先设定的应急阈值; 若是,将所述应急策略作为所选的分流策略; 若否,将所述普通策略作为所选的分流策略。5. 根据权利要求4所述的用于调整分流策略的方法,其特征在于,如果所述当前采用 的分流策略为普通策略,在将所述当前采用的分流策略调整为所述所选的分流策略之前, 在预先设定的第一时间段内,定期执行下述操作: 根据所述用户请求的相关信息,计算表征系统繁忙程度的数值; 判断所述数值是否不小于预先设定的应急阈值; 若"否",终止所述定期执行的操作,并且不执行所述将所述当前采用的分流策略调整 为所述所选的分流策略的步骤。6. 根据权利要求4所述的用于调整分流策略的方法,其特征在于,如果所述当前采用 的分流策略为应急策略,在将所述当前采用的分流策略调整为所述所选的分流策略之前, 在预先设定的第二时间段内,定期执行下述操作: 根据所述用户请求的相关信息,计算表征系统繁忙程度的数值; 判断所述数值是否小于预先设定的应急阈值; 若"否",终止所述定期执行的操作,并且不执行所述将所述当前采用的分流策略调整 为所述所选的分流策略的步骤。7. 根据权利要求1所述的用于调整分流策略的方法,其特征在于,按照预先设定的时 间间隔,定期执行所述获取处于等待队列中的用户请求的相关信息的步骤、所述根据所述 用户请求的相关信息选择分流策略的步骤、以及所述判断和调整分流策略的步骤。8. -种用于调整分流策略的装置,其特征在于,包括: 等待队列信息获取单元,用于获取处于等待队列中的用户请求的相关信息; 分流策略选择单元,用于根据所述用户请求的相关信息选择分流策略,所述分流策略 是指,将所述等待队列中的用户请求分流到服务队列所采用的策略; 分流策略调整单元,用于判断当前采用的分流策略与所选的分流策略是否不同;若不 同,将所述当前采用的分流策略调整为所述所选的分流策略; 所述分流策略调整单元包括: 策略调整判断子单元,用于判断当前采用的分流策略与所选的分流策略是否不同; 策略调整执行子单元,用于当所述策略调整判断子单元的输出为"不同"时,将所述当 前采用的分流策略调整为所述所选的分流策略。9. 根据权利要求8所述的用于调整分流策略的装置,其特征在于,所述分流策略选择 单元包括
当前第5页1 2 3 4 5 6 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1