公共云资源动态配置方法及系统的制作方法
【技术领域】
[0001]本公开涉及一种公共云(public cloud)资源动态配置方法及系统。
【背景技术】
[0002]网络直播服务如雨后春笋般发展，用户可以经由网络即时观赏影片直播，例如游戏类、娱乐类、新闻类、体育节目类、科技类等。随着普及的网络直播串流，即时串流服务需要大量且稳定的带宽。同侪网络的串流影音技术利用网络中各节点间互相分享数据的方法，来增加串流传输的效率。在同侪网络中，用户数目的波动、用户设备的不良、用户设备的带宽的不足、用户设备距离机房太远等因素，可能使得即时串流服务网提供的串流质量不稳定。结合服务器与同侪网络的架构利用分散式服务器提供稳定的串流输出来维持用户的观看质量。
[0003]随着普及的移动装置，例如手持式摄像装置，用户可以是串流提供者。不论是播放者或是观看者，都可以随时随地的播放与观看。此趋势下，串流平台对于服务器需求量的负担将不断增加，服务业者搭配公共云业者在公共云建置分散式服务器，利用服务器做为中继站(relay)，来符合弹性化的需求。例如，预先评估使用网络直播服务的可容纳的最大上线人数，以及事先建立数量足够的虚拟机器(virtual Machines, VM)如云端服务器。
[0004]即使能够预估网络直播服务的用户的数量与行为，要满足如尖峰时段时的用户的观看质量，需要建立庞大数量的服务器来进行待命。在不确定影响范围的情境下，例如在离峰时段，难以预估用户数量以及观看行为的状况下，需要人员密切注意云端服务器的连接情形，也不适合将闲置的服务器贸然关闭。在转播工作中，也会发现一些云端服务器连接数不多，形同空转的状况。此类因服务器闲置所造成的巨额维运成本也日渐扩大。因此，如何建立自动维运机制才能兼顾用户观看质量以及所耗成本最小的弹性服务器扩充及关闭，已成为一个重要的议题。
[0005]云端服务器的扩展可以通过垂直扩展(Vertical scaling)以及水平扩展(Horizontal scaling)。垂直扩展是更改服务器的硬件资源，例如提高中央处理单元(CPU) /内存/带宽等的级别，而服务器的数量不变。水平扩展是增减服务器的数量，而规格不变，例如通过租户预先设定好的范本、服务器映像文件、或是预设指令脚本，建立许多与标的物同样规格的虚拟服务器。当前有些业者需要由租户预先将服务器设为自动扩展(auto-scaling)群组，只有在群组内的服务器拥有自动扩展功能。有的业者提供服务业者针对不同级别的云端进行效能评测(benchmarking)。实现方法可采用测量服务的完成时间，来厘清性价比(performance cost rat1)最佳的服务器级别(instance type),再藉由订定政策(policy)实现自动扩展，其政策可基于阈值触发、或是固定时间触发。
[0006]现有的服务器动态增减技术可分成两类。一类是公共云业者提供以基础架构层次(infrastructure-level)为主的反应式(reactive)动态增减,来服务广大租户。此类技术测量当前服务器的/内存/网络使用状况等，并且有多种指标供租户自由选择。达到阈值来判断增减，阈值可以由用户(公共云租户)自行设定，或采用预设最佳实务设定。一旦达到其阈值，通过负载均衡器(load balancer)调配每一服务器的服务量。另一类是租户基于其自身应用的特性，判断应用层级别(applicat1n-level)的服务压力，通过公共云业者的编程接口(Applicat1n Programming Interface, API)设定企业逻辑,此类大部分是主动式(proactive)技术。技术的参考指标可以是队列(queue)中待处理数据的数量、平均回应时间、用户连接数量(number of connect1ns)等。
[0007]有一技术提供紧密整合的自动化管理，包括跨云自动化管理，让用户设定各种范本、宏(或称之为“巨集”)、脚本等，观察指标可以排入一阵列，对于增减的逻辑则由租户自行判断。有一技术提出主动式的人工神经网络训练的二维矩阵，判断是否增减服务器。有一技术认为网页文件存取有其固定的导览路线，要找出当中压力最重的路线进行服务器扩展。有一技术解决两层式应用服务，此技术通过一链结系统(linkage system)去观察第一层的反应效能，以决定第二层是否开始扩展(scale-up)。有一技术根据当前虚拟机器(VMs)的总体流量状态，控制负载均衡器调配负载至其他服务器。有些技术指出可以根据计费周期来关闭机器。
[0008]有一技术考虑违反服务层级协议(Service Level Agreement, SLA)付出的代价与节省经费两者之间的最佳平衡点。此技术用在多层(mult1-tier)的应用，并且基于应用的容量做扩展以及预测系统所需的容量，同时考虑成本模型(cost model)与资源模型(resource model),所有的要求(requests)都会经由网关与负载均衡器。大部分的虚拟机器(VM)具有相同的一般资源配置，其中一部分的虚拟机器具有较低的资源配置。当应用的容量需要扩展(scale up)时，将较低配置的虚拟机器垂直扩展至一般资源配置。当应用的容量需要缩减(scale down)时，进行垂直扩展或水平扩展至较低的资源配置。
[0009]在上述现行的服务器动态增减技术中，有的技术未评估关闭服务器后，对于服务提供商的冲击。有的技术只根据前一台服务器的状态，从一群机器中任意选一台关闭。有的技术无法通过负载均衡器来完全控制用户向谁取得数据。有的技术未充分利用公共云的特性于节省费用，例如未充分利用不同数据中心的位置与价格并不相同、公共云的租用计费周期不足I小时仍以I小时计算、串流服务商可以利用多个公共云服务商的云端服务器等特性。因此，如何建立公共云的自动维运机制来兼顾服务质量以及所耗成本最小的弹性服务器扩充与缩减，是值得研究的议题。
【发明内容】
[0010]本公开的实施例可提供一种公共云资源动态配置方法及系统。
[0011]本公开的一实施例是关于一种公共云资源动态配置方法。此方法可包含:藉由一负载监视器(Load Monitor)，取得一当前服务器配置，该当前服务器配置至少包括多台服务器的各服务器的身份信息(Identity Informat1n)，以及该多台服务器的各服务器的一当前连接数(current number of connect1ns)、一服务器级别(level)、以及一所在区域(located area);藉由一扩展与缩减引擎(Scaling Engine),判断该多台服务器中是否有符合至少一触发条件(trigger condit1n)的至少一服务器；藉由该扩展与缩减引擎，将符合该至少一触发条件的该至少一服务器加入一服务器候选者集合(server candidateset);以及藉由该扩展与缩减引擎，接收一性价比信息，并且根据该服务器候选者集合，对至少一区域执行一服务器扩展或缩减程序。
[0012]本公开的另一实施例是关于一种公共云资源动态配置系统。此系统包含一负载监视器、以及一扩展与缩减引擎。此负载监视器取得一当前服务器配置，该当前服务器配置至少包括多台服务器的各台服务器的身份信息，以及该多台服务器的各服务器的一当前连接数、一服务器级别、以及一所在区域。此扩展与缩减引擎判断该多台服务器中是否有符合至少一触发条件的至少一服务器；将符合该至少一触发条件的该至少一服务器加入一服务器候选者集合；以及接收一性价比信息，并且根据该服务器候选者集合，对至少一区域执行一服务器扩展或缩减程序。
[0013]现在配合下列图示、实施例的详细说明及权利要求书，将上述及本发明的其他优点详述于后。
【附图说明】
[0014]图1是根据本公开的一实施例，定义公共云的租赁费用率的一范例。
[0015]图2是根据本公开的一实施例，说明服务器缩减的触发时机的一示意图。
[0016]图3是根据本公开的一实施例，说明一种公共云资源动态配置方法。
[0017]图4A是根据本公开的一实施例，说明一种公共云资源动态配置系统。
[0018]图4B是根据本公开的一实施例，说明图4A的系统的一应用情境的范例。
[0019]图4C是根据本公开的一实施例，说明以分组的往返时间来划分区域的一范例。
[0020]图5A是根据本公开的一实施例，说明一区域的各服务器级别对应的每条连接的单位价格的信息的一范例。
[0021]图5B是根据本公开的一实施例，说明一区域的各服务器级别对应的最大连接数的信息的一范例。
[0022]图6是根据本公开的一实施例，说明至少一区域的各区域内的服务器扩展或缩减的运作流程。
[0023]图7是根据本公开的一实施例，说明如何计算一目标配置的运作。
[0024]图8A与图SB是根据本公开的一实施例，举一范例说明一区域内的服务器扩展或缩减，其中，图8A是调整前，该区域内各服务器的状态信息；图SB是调整后，该区域内各服务器的状态信息。
[0025]图9将是根据本公开的一实施例，说明跨区域的服务器缩减的运作流程。
[0026]图10是根据本公开的一实施例，说明t值的选择、与跨区域百分比、节省费用比，之间的关系。
[0027]【符号说明】
[0028]S、M、L、XL、CC2.