网络业务映射和性能分析的制作方法
【专利说明】网络业务映射和性能分析
[0001]背景
[0002]很多公司和其它组织操作计算机网络，其使很多计算系统互连以支持它们的操作，例如计算系统位于同一地点(例如作为本地网络的部分)或替代地位于多个不同的地理位置(例如经由一个或多个专用或公共中间网络而连接)上。例如，安置相当大数量的互连的计算系统的数据中心变得普通，例如由且代表单个组织操作的专用数据中心和由实体如企业操作以向消费者或客户端提供计算资源的公共数据中心。一些公共数据中心运营商为各种客户端拥有的硬件提供网络访问、能力和安全安装设施，而其它公共数据中心运营商提供也包括变得可用来由它们的客户端使用的硬件资源的“全部服务”设施。然而，当一般数据中心的规模和范围增加时，供应、支配和管理物理计算资源的任务变得日益复杂。
[0003]商用硬件的虚拟化技术的出现提供了关于为具有多种需要的很多客户端管理大规模计算资源的益处，允许各种计算资源有效和安全地由多个客户端共享。例如，虚拟化技术可通过给每个用户提供由单个物理计算机器托管的一个或多个虚拟机来允许单个物理计算机器在多个用户当中被共享，其中每个这样的虚拟机是充当不同的逻辑计算系统的软件模拟，其给用户提供他们是给定硬件计算资源的唯一操作员和管理员的错觉，同时还提供在各种虚拟机当中的应用隔离和安全。此外，一些虚拟化技术能够提供跨越两个或多个物理资源的虚拟资源，例如具有跨越多个不同的物理计算系统的多个虚拟处理器的单个虚拟机。
[0004]作为另一示例，虚拟化技术可通过给每个用户提供可分布在多个数据存储设备上的虚拟化数据存储来允许数据存储硬件在多个用户当中被共享，其中每个这样的虚拟化数据存储充当不同的逻辑数据存储，其给用户提供他们是数据存储资源的唯一操作员和管理员的错觉。
【附图说明】
[0005]图1是根据至少一些实施方案的覆盖网络分析方法的高级流程图。
[0006]图2是示出根据至少一些实施方案的在如在图1中示出的覆盖网络分析方法中的数据流程和操作的高级方框图。
[0007]图3示出根据至少一些实施方案的在提供者网络环境中的示例覆盖网络分析服务。
[0008]图4示出根据至少一些实施方案的得到并分析在客户端资源实例之间的特定的隧道或路线的性能数据。
[0009]图5A到图5C示出根据至少一些实施方案的示例覆盖网络数据分组和示例覆盖网络确认分组。
[0010]图6是根据至少一些实施方案的用于根据客户端的覆盖网络业务来分析在覆盖网络上的客户端的专用网络实现的性能的方法的流程图。
[0011]图7是根据至少一些实施方案的用于根据聚合的客户端网络业务来映射并分析覆盖网络的性能的方法的流程图。
[0012]图8A到图8D示出根据至少一些实施方案的覆盖网络分析方法的示例输出。
[0013]图9示出根据至少一些实施方案的示例提供者网络环境。
[0014]图10示出根据一些实施方案的使用IP隧道技术来在网络基底上实现覆盖网络的示例数据中心。
[0015]图11是根据至少一些实施方案的向客户端提供存储虚拟化服务和硬件虚拟化服务的示例提供者网络的方框图。
[0016]图12示出根据至少一些实施方案的向至少一些客户端提供虚拟化专用网络的示例提供者网络。
[0017]图13是示出可在一些实施方案中使用的示例计算机系统的方框图。
[0018]虽然在本文通过示例方式针对几个实施方案和说明性附图描述了各实施方案，但是本领域中的技术人员将认识到，实施方案并不限于所描述的实施方案或附图。应理解，附图及对其的详细描述并不意欲将实施方案限制到所公开的特定形式，而是相反，本发明应涵盖落在如所附权利要求限定的精神和范围内的所有修改、等效和可选形式。在本文使用的标题仅仅为了组织目的，且并不打算用于限制说明书或权利要求的范围。如在整个这个申请中使用的，词“可以(may)”在许可意义(即意指有可能)而不是强制意义(即意指必须)上被使用。类似地，词“包括(include) ”、“包括(including) ”和“包括(includes)”意指包括但不限于。
【具体实施方式】
[0019]描述了网络业务映射和性能分析的方法和装置的各种实施方案。具体地，描述了覆盖网络分析方法的实施方案，其得到数据(包括但不限于在覆盖网络上的客户端分组业务数据)，并基于所得到的数据执行一个或多个分析以产生并输出覆盖网络和/或网络基底(覆盖网络在该网络基底上实现)的拓扑和/或性能信息。为特定的客户端资源实例收集的客户端业务数据可被分析以产生在实例之间的覆盖网络的性能度量。特定客户端的聚合的客户端业务数据还可被分析以产生在覆盖网络上的客户端的专用网络实现的映射以及在覆盖网络上的客户端的专用网络的性能度量。此外，来自多个客户端的客户端业务数据可被聚合并分析以产生作为整体的覆盖网络的映射和性能度量。
[0020]覆盖网络分析方法的实施方案可被实现为覆盖网络分析模块或在覆盖网络分析模块中实现。覆盖网络分析模块可在网络环境内的一个或多个计算系统上或由在网络环境内的一个或多个计算系统例如由如图3所示的在服务提供者的提供者网络环境中的覆盖网络分析服务实现。在图13中示出示例计算机系统，覆盖网络分析模块和/或覆盖网络分析服务的实施方案可在示例计算机系统上实现。
[0021]在本文在服务提供者的背景中总体描述了覆盖网络分析方法和装置的实施方案，服务提供者经由中间网络例如互联网向客户端提供在服务提供者的提供者网络上实现的虚拟化资源(例如虚拟化计算和存储资源)。图9到图12和标题为“示例提供者网络环境”的章节示出和描述了示例环境，其中如在本文所述的方法和装置的实施方案可被实现，且并不意欲是限制性的。在至少一些实施方案中，经由提供者网络被提供到服务提供者的客户端的至少一些资源可以是在与其它客户端共享的多租户硬件上和/或在专用于特定客户端的硬件上实现的虚拟化计算资源。每个虚拟化计算资源可被称为资源实例。资源实例可例如被出租或租借给服务提供者的客户端。例如，服务提供者的客户端可经由至服务的API访问提供者网络的一个或多个服务以得到并配置资源实例并建立和管理包括资源实例的虚拟网络配置，例如如图12所示的虚拟化专用网络。
[0022]可例如根据使多个操作系统能够同时在主机计算机上运行的硬件虚拟化技术，即作为在主机上的虚拟机(VM)，来实现资源实例。在主机上的管理程序或虚拟机监视器(VMM)给主机上的VM显现虚拟平台并监视VM的执行。可给每个VM提供一个或多个专用IP地址；在主机上的VMM可以知道在主机上的VM的专用IP地址。对于关于硬件虚拟化技术的另外的信息，见图10。
[0023]VMM可使用互联网协议(IP)隧道技术来封装客户端数据分组并通过在提供者网络内的不同主机上的客户端资源实例之间的网络基底路由客户端数据分组。提供者网络可包括物理网络基底，其包括联网设备例如路由器、交换机、网络地址转换器(NAT)等以及在设备当中的物理连接。提供者网络可使用IP隧道技术来提供覆盖网络，封装的分组(也就是说，用覆盖网络元数据(包括但不限于用于通过覆盖网络路由的覆盖网络地址信息)加标签的客户端分组)可经由隧道或覆盖网络路线被传递通过网络基底。IP隧道技术可提供用于在网络基底上创建覆盖网络的映射和封装系统，并可为覆盖网络层(公共IP地址)和网络基底层(专用IP地址)提供单独的命名空间。在至少一些实施方案中，可对照映射目录检查在覆盖网络层中的封装的分组以确定它们的隧道基底目标(专用IP地址)应是什么。IP隧道技术提供覆盖在物理网络基底上的虚拟网络拓扑；显现给客户端的界面(例如服务API)附接到覆盖网络，使得当客户端资源实例提供分组将被发送到的IP地址时，IP地址通过与映射服务通信而在虚拟空间中运行，映射服务可确定IP覆盖地址在哪里。对于关于覆盖网络技术的另外的信息，见图10。
[0024]在主机上的客户端资源实例可根据状态协议例如传输控制协议(TCP)和/或根据无状态协议例如用户数据报协议(UDP)与在同一主机上或在不同主机上的其它客户端资源实例通信。然而，客户端分组根据覆盖网络协议由发送VMM封装并由接收VMM解封装。主机上的VMM在从主机上的客户端资源实例接收到客户端分组(例如TCP或UDP分组)并在另一客户端资源实例的IP地址处被作为目标时根据覆盖网络(或IP隧道)协议来封装客户端分组或给客户端分组加标签并将封装的分组发送到覆盖网络上用于分发。封装的分组可接着根据IP隧道技术经由覆盖网络路由到另一 VMM。另一 VMM从分组剥去覆盖网络封装并将客户端分组(例如TCP或UDP分组)分发到主机上的适当VM，其实现目标客户端资源实例。
[0025]照惯例，覆盖网络是根据无连接(或无状态)IP协议实现的无状态网络。发送VMM将封装的分组发送到覆盖网络上用于路由和分发，但不接收确认(ACK)或关于分组的分发的其它响应。
[0026]覆盖网络分析方法
[0027]在覆盖网络分析方法的至少一些实施方案中，为了使用于性能统计和其它目的的覆盖网络业务的监视和分析变得可能，覆盖网络协议可扩展到在覆盖网络协议分组信息中包括额外的信息(例如确认标记、时间戳、分组序列号等)。此外，覆盖网络协议可扩展到使通过VMM确认所接收的覆盖网络分组变得可能。因此，在VMM将一个或多个覆盖网络分组发送到覆盖网络之后，VMM可响应于覆盖网络分组的接收而从另一 VMM接收一个或多个确认消息。在一些实施方案中，每个覆盖网络分组可产生确认消息。可选地，只有每第N个覆盖网络分组可产生确认消息。对于根据至少一些实施方案的示例覆盖网络数据分组和示例覆盖网络确认分组，见图5A到图5C。扩展的覆盖网络协议可允许分组的性能数据例如遍历时间(例如往返时间或单向遍历时间)被确定并收集，对于在VMM之间的特定隧道或覆盖网络路线，可从性能数据确定性能度量例如平均往返时间、时延、吞吐量和分组丢失率。来自多个VMM的聚合的数据可被分析以确定性能统计、映射和/或在客户端专用网络级处和/或作为整体的覆盖网络的其它信息。在至少一些实施方案中，来自多个客户端的聚合的数据连同网络基底的拓扑信息一起可被分析以确定在网络基底上的位置或特定部件，其中关于覆盖网络的问题出现。在至少一些实施方案中，时间同步技术或工艺可用于在实现VMM的主机设备当中使时间同步，使得基于时间的数据和度量例如往返时间、吞吐量和时延可准确地被计算。
[0028]图1是根据至少一些实施方案的覆盖网络分析方法的高级流程图。如在100指示的，可例如从在提供者网络中的主机设备上的虚拟机监视器(VMM)得到与基于在覆盖网络上的客户端资源实例之间的分组业务的覆盖网络性能有关的数据。VMM可收集根据扩展的覆盖网络协议得到的数据，并周期性或非周期性地向覆盖网络分析部件提供所收集的数据。如在102指示的，所得到的数据可被分析以确定性能统计、映射和覆盖网络的其它信息。所确定的信息可包括基于为特定的客户端资源实例收集的数据的在资源实例/隧道级处的信息、基于为客户端特有的多个客户端资源实例/隧道收集的数据的在客户端级处的信息和/或基于为多个客户端的多个客户端资源实例/隧道收集的数据的在覆盖网络的聚合级处的信息。如在104指示的，可提供指示所确定的信息的输出。输出可包括在客户端资源实例级处、在客户端级处和/或在覆盖网络的聚合级处的性能统计和/或映射输出。下面关于图2到图13进一步描述如图1所示的方法的元素。
[0029]图2是示出根据至少一些实施方案的在如在图1中示出的覆盖网络分析方法中的数据流程和操作的高级方框图。覆盖网络数据收集部件200和覆盖网络分析部件202可在提供者网络上例如在提供者网络上的一个或多个服务器系统上实现。覆盖网络数据收集部件200可从覆盖网络上的一个或多个源得到与覆盖网络客户端业务数据流有关的数据。例如在至少一些实施方案中，在提供者网络中的主机上的虚拟机监视器(VMM)可各自收集起源于对应于在VMM处的虚拟机(VM)的客户端资源实例的客户端业务的覆盖网络隧道(或路线)业务数据，并周期性或非周期性地向覆盖网络数据收集部件200提供所收集的数据。由VMM提供到数据收集部件200的隧道业务数据可以在每个隧道的分组级处，或可选地可以是每个隧道的多个分组的总计数据。此外，由VMM提供到数据收集部件200的隧道业务数据可以是特定客户端的资源实例特有的数据，或可以是为多个客户端资源实例收集的聚合数据。隧道业务数据可包括但不限于识别信息例如识别特定客户端和/或作为分组的源或目标的特定客户端资源实例的信息以及性能信息或度量例如往返时间和丢失的分组的指示。
[0030]覆盖网络数据收集部件200可因此从提供者网络上的每个VMM得到与在覆盖网络隧道或路线上的覆盖网络客户端业务数据流有关的数据。从每个VMM得到的数据可包括为在VMM处的一个、两个或多个客户端资源实例收集的数据。对应于给定客户端资源实例的数据可包括为在相应的VMM处起源的一个或多个覆盖网络隧道收集的数据，在客户端资源实例处起源的客户端数据经由VMM被发送到在另一 VMM处的另一客户端资源实例。此外，客户端资源实例可在与其它客户端共享的多租户硬件(主机设备或系统)上实现，且因此从每个VMM得到的数据可以但不是必须包括为具有在相应的主机设备上实现的客户端资源实例的提供者网络的两个或多个不同的客户端收集的数据。
[0031]覆盖网络分析部件202可通过覆盖网络数据收集部件200得到从VMM收集的分组级、隧道级或总计数据。在至少一些实施方案中，数据收集部件200可将所收集的数据直接馈送到分析部件202。可选地，所收集的数据可由数据收集部件200存储到存储器或数据存储，分析部件202可从存储器或数据存储访问数据。在至少一些实施方案中，分析部件202可得到特定的资源实例或特定客户端的资源实例特有的数据或对应于两个或多个或全部客户端的资源实例的聚合数据。
[0032]在至少一些实施方案中，覆盖网络分析部件202还可从一个或多个源得到网络基底拓扑信息。可以例如经由用户输入和/或其它源(例如文本或图形文件输入)来得到网络基底拓扑信息。网络基底拓扑信息可例如指示网络基底的物理配置或布局以及指示网络基底(电缆跨度、联网设备等)的特定部件的信息连同每个部件的位置信息。
[0033]分析部件202可周期性地分析从数据收集部件得到的数据以产生覆盖网络映射和/或性能信息204。在至少一些实施方案中，可在客户端级处或在聚合(多客户端)级处执行分析。可根据特定客户端的资源实例特有的数据来执行客户端级分析以产生性能、健康和/或客户端的提供者网络实现(例如如在图4和图12中示出的客户端的虚拟化专用网络)特有的其它信息。在一些实施方案中，还可在客户端资源实例级处执行分析以产生性能、健康和/或在客户端的提供者网络实现中的特定的客户端资源实例之间的一个或多个特定覆盖网络隧道特有的其它信息。
[0034]可根据对应于两个或多个客户端的资源实例的聚合数据来执行聚合分析以产生性能、健康、网络映射和/或作为整体的覆盖网络的其它信息。此外，可执行聚合分析以确定物理网络基底的部件的性能度量，虚拟化覆盖网络在物理网络基底上实现。在后一情况下，覆盖网络分析部件202可使用来自与多个客户端相关的多个隧道的聚合数据连同网络基底拓扑信息一起来找出在网络基底例如网络部件(路由器、交换机、电缆等)中的问题点，其引起延迟和/或导致在覆盖网络上的丢失的分组。
[0035]在至少一些实施方案中