云中的cdn负载平衡的制作方法
【专利说明】云中的CDN负载平衡
[000。 背景
[0002] 许多基于因特网的服务提供者向全世界的客户机递送数字内容。数字内容可W包 括web对象（例如，文本、图形、U化、脚本）、可下载对象（例如，媒体文件、软件、文档等）、 web应用、流媒体（例如，音频和视频内容）等。给位于各种各样地理位置的大量客户机提 供数字内容向服务提供者提出了挑战。例如，服务提供者可能不能够提供足够的服务器资 源和/或网络带宽W在给定时间服务于请求数字内容的全部客户机。此外，因为服务提供 者和地理上远离服务提供者的服务器的客户机之间的流量通过大量因特网服务器经极大 的地理距离来路由，所W客户机可能经历高级别的等待时间和/或低传送率。
[0003] 内容递送网络（CDN)旨在减轻服务提供者向大的和/或地理上不相同的客户机组 递送数字内容的能力。CDN将服务器（或服务器群集）置于各种地理位置，并使用该些服务 器来高速缓存并递送来自服务提供者的原始服务器的内容。如此，CDN可通过增加用于递 送每个服务提供者的内容的总的可用服务器资源和带宽两者，还通过从地理上更接近正被 服务的客户机的服务器递送每个服务提供者的内容，来改善服务提供者将内容递送到客户 机的能力。
[0004]CDN通常为大量服务提供者提供内容递送服务。如此，CDN在各种服务提供者间分 配CDN资源。例如，如果CDN正经历针对特定地理区域的特定服务提供者的流量激增，CDN 可反应性地分配该特定地理区域中的附加服务器资源W用于递送该特定服务提供者的内 容，而从一个或多个其它服务提供者移除在该特定地理区域的该附加服务器资源。
[0005] 概述
[0006] 在此描述的至少一些实施例利用实况的和历史的数据两者来抢先，而不是反应性 地，重新配置CDN来处理当前的和预期的客户机负载。如此，基于实况的和历史的数据，在 此描述的各实施例可在服务提供者的客户机负载达到尖峰之前，抢先针对服务提供者和高 速缓存的服务提供者的内容来设定服务器分配。
[0007] 在一些实施例中，在CDN的边缘数据中屯、处的服务器资源被分配给由边缘数据中 屯、服务的财产。基于近似实时数据，计算机系统根据趋势流量来在边缘数据中屯、处对财产 进行排序。计算机系统基于从长期趋势开发的规则针对在边缘数据中屯、处经排序的财产的 一个财产分配服务器资源。分配包括为边缘数据中屯、处的分区中的财产计算服务器需求的 计算机系统。分配还包括计算机系统向该分区中的可用服务器分配该财产的服务器需求。
[0008] 提供本概述是为了W简化的形式介绍将在W下详细描述中进一步描述的一些概 念。本概述不旨在标识出所要求保护的主题的关键特征或必要特征，也不旨在用于帮助确 定所要求保护的主题的范围。
【附图说明】
[0009] 为了描述可获得本发明的上述和其它优点和特征的方式，将通过参考附图中示出 的本发明的具体实施例来呈现W上简要描述的本发明的更具体描述。可W理解，该些附图 只描绘了本发明的各典型实施例，并且因此不被认为是对其范围的限制，将通过使用附图 并利用附加特征和细节来描述和解释本发明，在附图中：
[0010] 图1示出了促进抢先地和反应性地配置CDNW针对由CDN主存的各财产处理当前 和预期的客户机负载的示例计算机体系结构。
[0011] 图2示出了用于分隔、分区和/或分配示例CDN的资源的示例方案。
[0012] 图3示出了用于将CDN的边缘数据中屯、处的服务器资源分配给由边缘数据中屯、服 务的财产的示例方法的流程图。
[0013] 图4示出了用于边缘数据中屯、处的负载平衡器代理将流量卸载到另一边缘数据 中屯、的示例方法的流程图。
[0014] 图5示出了用于使用解化池来确定一个或多个财产的属性的示例方法的流程图。
[0015]详细描述
[0016] 在此描述的至少一些实施例利用实况的和历史的数据两者来抢先，而不是反应性 地，重新配置CDN来处理当前的和预期的客户机负载。如此，基于实况的和历史的数据，在 此描述的各实施例可在服务提供者的客户机负载达到尖峰之前，抢先针对服务提供者和高 速缓存的服务提供者的内容来设定服务器分配。
[0017]更具体地，各实施例设及服务于多个财产并包括物理地位于不同地理位置（且潜 在地在全世界的地理位置）的多个边缘数据中屯、的CDN。每个边缘数据中屯、包括用于高速 缓存并提供各财产的内容的多个服务器。各实施例还设及包括负载平衡器服务的CDN，该负 载平衡器服务跟踪多个边缘数据中屯、的长期流量趋势，并且管理用于（基于该长期流量趋 势）向各财产分配服务器资源的规则。各实施例还设及包括在每个边缘数据中屯、处的负载 平衡器代理的CDN。每个负载平衡器代理被配置来根据基于长期流量趋势的规则，W及关于 在边缘数据中屯、处的当前活动的实时（或近似实时）数据，来作出服务器分配决定。如此， 负载平衡器代理基于长期流量趋势和规则抢先地，并基于实时（或近似实时）数据反应性 地作出服务器分配决定。
[001引如在此使用的，"财产"是主存在原始服务器上的客户web应用。例如，"财产"可W是在线视频流网站、在线音频流服务、补了 /更新网站等。如在此使用的，"客户"是拥有 一个或多个财产的个人、实体、服务提供者等。如在此使用的，"原始服务器"是由客户拥有 和/或被用户操作的web服务器。
[0019] 图1示出了促进抢先地和反应性地配置CDNW针对由CDN主存的各财产处理当前 和预期的客户机负载的示例计算机体系结构100。参见图1，计算机体系结构100包括边缘 数据中屯、102、与近似实时（NRT)数据相关的一个或多个组件108,W及与长期趋势和规则 相关的一个或多个组件114。所描绘的组件和计算机系统中的每一个通过诸如例如局域网 ("LAN")、广域网（"WAN")、因特网等的网络彼此连接（或作为网络的一部分）。相应地， 所描绘的组件和计算机系统中的每一个可W创建与消息相关的数据并通过网络交换与消 息相关的数据（例如，网际协议（"IP")数据报和利用IP数据报的其他更高层协议，诸如 传输控制协议（"TCP")、超文本传输协议（"HTTP")、简单邮件传输协议（"SMTP")等）。
[0020] 边缘数据中屯、12包括多个数据中屯、，每个数据中屯、位于不同地理位置。例如，图1 描绘了边缘数据中屯、102aW及边缘数据中屯、10化，尽管如垂直省略号所指示的，计算机体 系结构100可包括任何数量的边缘数据中屯、。如在此使用的，"pop"(pointofpresence(存 在点））还指边缘数据中屯、，无论该边缘数据中屯、专用作CDN的一部分，或与其它服务搭配。
[0021] 如所描绘的，每个边缘数据中屯、102包括被配置用来高速缓存与边缘数据中屯、相 关联的财产的内容并将那个内容递送到客户机（例如地理地位于边缘数据中屯、附近的被 高速缓存的财产的客户机）的多个服务器（例如服务器106a和10化）。边缘数据中屯、102 还包括负载平衡器代理（例如，负载平衡器代理104a和104b)。负载平衡器代理（104a、 104b)被配置用来作出关于在对应边缘数据中屯、处的服务器资源（l〇6a、106b)如何被分配 给不同财产的抢先的和反应性的决定两者。在该样做时，负载平衡器代理（l〇4a、104b)使 用（来自规则数据存储124的）基于长期趋势数据的规则，W及（来自NRT数据存储112 的）NRT数据。
[0022] 如在该里使用的/'NRT数据"意味着近似实时（诸如在几分钟或甚至在几秒钟内） 收集和聚集的数据。在所描绘的实施例中，与NRT数据相关的组件108包括NRT聚集器110 和NRT数据存储112。NRT聚集器110解析在边缘数据中屯、102处生成的日志W生成关于 在每个边缘数据中屯、处的当前活动的NRT数据。NRT聚集器110将所生成的NRT数据存储 在NRT数据存储112中。NRT数据存储112使得NRT数据对于在每个边缘数据中屯、处的负 载平衡器代理（104a、104b)可用（如在NRT数据存储112和负载平衡器代理之间的箭头所 指示的）。对应地，负载平衡器代理能够从NRT数据存储112检索NRT数据并将该NRT数据 用作它们资源分配决定的一部分。通过使用NRT数据，负载平衡器代理能够对在边缘数据 中屯、102处的当前流量作出反应，诸如处理非预期的在一个或多个财产处的流量激增。当 与NRT数据相关的组件108被描绘成与边缘数据中屯、102分开时，该些组件的全部或部分， 在一些实施例中，可在边缘数据中屯、102处实现。
[0023] 在所描绘的实施例中，与长期趋势和规则相关的组件114包括日志数据存储120、 趋势聚集器118,和长期趋势数据存储116。日志数据存储120被配置来存储由边缘数据中 屯、102生成的日志。趋势聚集器118被配置来解析该些日志W确定由边缘数据中屯、服务提 供的财产的长期流量模式。趋势聚集器118将长期流量模式存储在长期趋势数据存储116 中。
[0024] 长期趋势可标识对财产的客户需求跨日、星期、月或甚至年的变化。例如，对于视 频流财产，长期趋势可指示在该星期的特定日子（例如，对应于新内容发布）、在晚间、和在 周末客户需求的增加。在另一示例中，对于补了 /更新财产，长期趋势可指示在该月的特定 日子（例如，在新补了 /更新内容发布时）、和在一天内的特定时间（在许多客户机被配置 来安装补了/更新时）客户需求的增加。
[00巧]在所描绘的实施例中，与长期趋势和规则相关的组件114还包括负载平衡器服务 122和规则数据存储124。负载平衡器服务122配置用于分析长期趋势数据存储116中的 流量模式数据，W创建/修改与将在边缘数据中屯、102处的服务器分派给各种财产相关的 规则，并将规则存储在规则数据存储124中。规则数据存储124使得规则对于在每个边缘 数据中屯、处的负载平衡器代理（104a、104b)可用（如在规则数据存储124和负载平衡器代 理之间的箭头所描绘的）。对应地，负载平衡器代理能够从规则数据存储124检索规则并将 该规则用作它们资源分配决定的一部分。
[0026] 如长期趋势数据存储116和负载平衡器服务122之间的双箭头所指示