本技术涉及通信领域,尤其涉及一种服务请求分发方法、装置、设备及存储介质。
背景技术:
1、边缘计算是指在靠近物或数据源头的一侧,采用网络、计算、存储、应用核心能力为一体的边缘服务器,就近提供最近端服务。服务请求可以直接通过边缘服务器计算完成,在靠近服务请求的地方提供智能分析处理服务,减少时延,提升效率,提高安全隐私保护。
2、实际场景下,通常是由相邻的边缘服务器组成一个边缘计算系统,为覆盖范围内的用户提供各种服务。
3、可能会造成部分边缘服务器的闲置而部分边缘服务器的负载过载,还会造成服务请求处理时间过长。
技术实现思路
1、基于上述技术问题,本技术提供一种服务请求分发方法、装置、设备及存储介质,可以对多种分发请求制定多种候选分发策略,并计算不同候选分发策略对应的平均响应时间,选择平均响应时间最短的分发策略为最终分发策略。
2、第一方面,获取多种候选分发策略;候选分发策略用于指示多个边缘服务器中每个边缘服务器分发服务请求的数量;计算每种候选分发策略各自对应的平均响应时长;平均响应时长为对应候选分发策略下多种服务请求执行总用时的平均值;从多种候选分发策略中确定目标分发策略,并按照目标分发策略向多个边缘服务器分发多种服务请求;目标分发策略为多种候选分发策略中,对应平均响应时长最短的候选分发策略。
3、一种可能的实现方式中,多种服务请求包括k种服务请求;包括:接收来自每个边缘服务器的频次信息;频次信息用于指示边缘服务器接收第k种服务请求的频次;接收来自每个边缘服务器的比例信息;比例信息用于指示每个边缘服务器向其余边缘服务器发送第k种服务请求的比例;接收来自每个边缘服务器的平均处理时长信息;平均处理时长信息用于指示每个边缘服务器处理第k种服务请求的平均处理时长;接收来自每个边缘服务器的上传时延信息;上传时延信息用于指示每个边缘服务器向其余任意一个边缘服务器上传第k种服务请求的时长;接收来自每个边缘服务器的下载时延信息;下载时延信息用于指示每个边缘服务器从其余任意一个边缘服务器下载第k种服务请求的时长;根据每个边缘服务器的频次信息、比例信息、平均处理时长信息、上传时延信息、以及下载时延信息,确定每种候选分发策略对应的平均响应时长。
4、一种可能的实现方式中,接收来自每个边缘服务器的平均处理时长信息,包括:按照下述公式计算每个边缘服务器处理第k种服务请求的平均处理时长:
5、
6、其中,表示边缘服务器sj接收第k种服务请求的频次,表示边缘服务器sj对于第k种服务请求的固定计算能力;
7、按照下述公式计算每个边缘服务器接收第k种服务请求的频次:
8、
9、其中,表示边缘服务器si向边缘服务器sj发送第k种服务请求的比例。
10、一种可能的实现方式中,接收来自每个边缘服务器的上传时延信息,包括:按照下述公式计算每个边缘服务器向其余任意一个边缘服务器上传第k种服务请求的时长:
11、
12、其中,rtrans,ij表示边缘服务器si向边缘服务器sj传输数据的数据传输速率,表示第k种服务请求的数据输入量;
13、按照下述公式计算每个边缘服务器向其余任意一个边缘服务器传输数据的数据传输速率:
14、
15、其中,ni为信道内噪音比率,βij为边缘服务器si与边缘服务器sj之间的信道增益,wi为边缘服务器si的发射功率。
16、一种可能的实现方式中,接收来自每个边缘服务器的下载时延信息,包括:按照下述公式计算每个边缘服务器从其余任意一个边缘服务器下载第k种服务请求的时长:
17、
18、其中,rtrans,ji表示边缘服务器sj向边缘服务器si传输数据的数据传输速率,表示第k种服务请求的数据输出量。
19、一种可能的实现方式中,根据每个边缘服务器的频次信息、比例信息、平均处理时长信息、上传时延信息、以及下载时延信息,确定每种候选分发策略对应的平均响应时长,包括:按照下述公式计算每种候选分发策略对应的平均响应时长:
20、
21、其中,表示多个边缘服务器接收多种服务请求的频次之和,用于表示每种候选分发策略对应的响应时长之和。
22、本技术通过计算边缘计算系统中对于多种服务请求的多种分发策略的平均处理时长,选择平均处理时长最短的分发策略作为最终的分发策略,但是目前的边缘服务器处理方法是对接收的服务请求不进行分发直接进行处理,本技术可以能够在最短的时间里处理所有的服务请求,并且充分利用服务器资源。
23、第二方面,本技术提供一种服务请求分发装置,所述装置包括:处理模块。
24、处理模块,用于获取多种候选分发策略;候选分发策略用于指示多个边缘服务器中每个边缘服务器分发服务请求的数量;计算每种候选分发策略各自对应的平均响应时长;平均响应时长为对应候选分发策略下多种服务请求执行总用时的平均值;从多种候选分发策略中确定目标分发策略,并按照目标分发策略向多个边缘服务器分发多种服务请求;目标分发策略为多种候选分发策略中,对应平均响应时长最短的候选分发策略。
25、一种可能的实现方式中,多种服务请求包括k种服务请求;处理模块,具体用于接收来自每个边缘服务器的频次信息;频次信息用于指示边缘服务器接收第k种服务请求的频次;接收来自每个边缘服务器的比例信息;比例信息用于指示每个边缘服务器向其余边缘服务器发送第k种服务请求的比例;接收来自每个边缘服务器的平均处理时长信息;平均处理时长信息用于指示每个边缘服务器处理第k种服务请求的平均处理时长;接收来自每个边缘服务器的上传时延信息;上传时延信息用于指示每个边缘服务器向其余任意一个边缘服务器上传第k种服务请求的时长;接收来自每个边缘服务器的下载时延信息;下载时延信息用于指示每个边缘服务器从其余任意一个边缘服务器下载第k种服务请求的时长;根据每个边缘服务器的频次信息、比例信息、平均处理时长信息、上传时延信息、以及下载时延信息,确定每种候选分发策略对应的平均响应时长。
26、可选地,接收来自每个边缘服务器的平均处理时长信息,处理模块,具体用于按照下述公式计算每个边缘服务器处理第k种服务请求的平均处理时长:
27、
28、其中,表示边缘服务器sj接收第k种服务请求的频次,表示边缘服务器sj对于第k种服务请求的固定计算能力;
29、按照下述公式计算每个边缘服务器接收第k种服务请求的频次:
30、
31、其中,表示边缘服务器si向边缘服务器sj发送第k种服务请求的比例。
32、可选地,接收来自每个边缘服务器的上传时延信息,处理模块,具体用于按照下述公式计算每个边缘服务器向其余任意一个边缘服务器上传第k种服务请求的时长:
33、
34、其中,rtrans,ij表示边缘服务器si向边缘服务器sj传输数据的数据传输速率,表示第k种服务请求的数据输入量;
35、按照下述公式计算每个边缘服务器向其余任意一个边缘服务器传输数据的数据传输速率:
36、
37、其中,ni为信道内噪音比率,βij为边缘服务器si与边缘服务器sj之间的信道增益,wi为边缘服务器si的发射功率。
38、可选地,接收来自每个边缘服务器的下载时延信息,处理模块,具体用于按照下述公式计算每个边缘服务器从其余任意一个边缘服务器下载第k种服务请求的时长:
39、
40、其中,rtrans,ji表示边缘服务器sj向边缘服务器si传输数据的数据传输速率,表示第k种服务请求的数据输出量。
41、可选地,根据每个边缘服务器的频次信息、比例信息、平均处理时长信息、上传时延信息、以及下载时延信息,确定每种候选分发策略对应的平均响应时长,处理模块,具体用于:按照下述公式计算每种候选分发策略对应的平均响应时长:
42、
43、其中,表示多个边缘服务器接收多种服务请求的频次之和,用于表示每种候选分发策略对应的响应时长之和。
44、第三方面,本技术提供一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述第一方面所述相关方法的步骤,以实现上述第一方面所述的方法。
45、第四方面,本技术提供一种电子设备,该电子设备包括:处理器和存储器;存储器存储有处理器可执行的指令;处理器被配置为执行指令时,使得电子设备实现上述第一方面所述的方法。
46、第五方面,本技术提供一种计算机可读存储介质,该计算机可读存储介质包括:计算机软件指令;当计算机软件指令在电子设备中运行时,使得电子设备实现上述第一方面所述的方法。
47、上述第二方面至第五方面的有益效果可以参考第一方面所述,不再赘述。