用于服务链负载平衡的系统和方法与流程

文档序号:16505277发布日期:2019-01-05 08:59阅读:180来源:国知局
本申请要求在2016年4月29日提交的、名称为“systemandmethodforservicechainloadbalancing”的美国非临时申请no.15/143,181的权益和优先权,通过引用将该美国申请全部包含于此,以用于所有目的。本申请总地涉及计算基础结构中的负载平衡服务链。特别地,本申请涉及使用与服务链的实例相关的元数据来对服务链进行负载平衡的系统和方法。
背景技术
::客户机装置可以访问或使用经由包括一个或多个服务器的云环境提供的应用、服务或基础结构。客户机装置可以经由中间装置访问云环境或一个或多个服务器,该中间装置在客户机装置和服务器的中间。然而,服务实例可以分布在云环境中的多个区域或可用性区带(zone)中。为在云环境中分布的实例有效率地提供服务可能具有挑战性,因为实例的分布会影响开销、成本、延迟、吞吐量或负载。技术实现要素:本公开涉及用于经由网络管理基于云的服务的系统和方法。在包括一个或多个网络环境中的一个或多个处理器或服务器的计算基础结构中,服务的实例可以分布在多个区域、可用性区带等中。计算基础结构可以包括云环境,诸如基础设施即服务(iaas)环境、软件即服务(saas)环境、或平台即服务(paas)环境。iaas环境可以指云计算,其中共享的计算资源、数据和信息按需提供给计算装置。计算基础结构可以包括多跳处理部署(例如,服务链)。在多跳处理部署中,每跳可以是负载平衡系统。然而,每个跳级或服务节点级别的负载平衡可能不会导致全局最佳的多跳处理。本公开的系统和方法可以识别多跳部署的全局视图,分析所有可能的路径,识别最佳路径,以及对跨越所识别的最佳路径的流量进行负载平衡。因此,本公开的系统和方法可以通过使用全局最佳服务链负载平衡来改善计算基础结构的性能。云环境的服务器和客户机装置中间的装置,诸如应用传送控制器(adc)可以促进提供或传送由云环境提供的服务。本公开的控制器可以查询云应用程序编程接口(api),例如iaasapi,以发现或确定与由iaas云提供的服务的实例相对应的元数据。元数据可以包括与云环境的提供者相关联的账户信息,诸如分布、可用资源或资源消耗。控制器可以使用该元数据自动调整应用传送控制器的特征或功能,从而将云感知带入adc系统。使用与云环境相关联的元数据允许控制器通过减少开销、成本、延迟、吞吐量或负载来更有效地为分布在云环境中的实例提供服务。例如,公共或私有云环境中的托管系统可以包括一个或多个api以识别或确定云分区或边界。api允许托管系统或与托管系统接口的系统监视内部动态,以识别对开销、成本、延迟、吞吐量或负载的环境影响。一旦系统通过使用可用元数据了解基础结构及其动态,系统就可以自动调整自身,以使得系统更适合云环境,并且可以更有效地执行。因此,本公开的系统和方法可以:1)识别云分区/边界;2)监控云中的内部动态;3)确定对系统的云/环境影响;以及4)调整托管系统以适应环境变量。私有云或公共云基础结构(例如,云环境)的提供商可以维护信息存储装置或数据存储库,其包括云基础结构的客户的帐户信息。系统可以使用该信息存储装置作为数据库来跟踪用户帐户信息及其用于计费、维护、分析或其他目的的资源分配。可以将云api配置为查询数据库。通过使用这些api,系统可以获取有关实例的元数据,包括获取实例在云中的布局、资源分配(cpu、内存、带宽)、预留类型、连接类型或与实例关联的其他属性或特征。adc可以使用检索到的元数据来执行负载平衡操作。例如,adc可以从客户机接收数据分组或网络流量,并将数据分组转发到目的地。一个或多个服务可以处理网络数据或数据分组以到达目的地。服务可以包括例如防火墙、认证、入侵检测系统、web服务等。adc可以使用元数据来识别计算基础结构中的多个服务的实例。在某些情况下,可以将实例分组或链接在一起以形成路径,该路径可以称为服务链。例如,服务链可以具有包括防火墙的实例、入侵检测系统的实例和web服务的实例的路径。adc可以使用元数据来执行服务链负载平衡。例如,不是在服务节点级别(例如,在每个服务的实例处)执行负载平衡,adc可以确定服务链的每个实例的边权重,组合每个服务链的每个实例的边以确定服务链的路径权重,然后基于路径权重来选择服务链。因此,adc可以调整云环境以减少计算基础结构的负载,降低网络开销,降低成本并提供改进的负载平衡服务。例如,系统可以配置有控制平面守护进程,该守护进程周期性地提取经由云环境提供的服务链的一些或所有服务实例,以及与实例相关的元数据或帐户信息。系统可以分析元数据并识别、生成或确定服务链的每个实例的边权重,以及每个服务链的路径权重。权重可以指示或指云基础结构的性能的逻辑测量。路径权重可以与各种负载平衡(lb)算法一起使用(例如,作为加权lb算法)以实现改进的系统性能。至少一个方面涉及一种对服务链进行负载平衡的方法。该方法可以包括控制器识别多个服务链,每个服务链包括具有由计算基础结构提供的第一服务的实例和由计算基础结构提供的第二服务的实例的路径。控制器可以在客户端和计算基础结构的中间。计算基础结构可以包括一个或多个网络环境中的一个或多个服务器。该方法可以包括控制器确定多个服务链中的每个服务链的路径权重。路径权重可以指示根据服务链提供服务的效率水平。该方法可以包括控制器从多个服务链中选择服务链以引导来自客户机的网络流量。控制器可以基于负载平衡函数和多个服务链中的每个服务链的路径权重来选择服务链。在一些实施例中,控制器可以使用云应用程序编程接口生成一个或多个查询以检索多个服务链的每个实例的元数据,该一个或多个查询被配置为检索布局、资源分配、预留类型或连接类型中的至少一个的信息。在一些实施例中,控制器可以使用一个或多个查询来识别多个服务链以识别多个服务链中的每个实例。响应于一个或多个查询,控制器可以接收包括第一路径的第一服务链的指示。第一路径可以具有第一服务的第一实例和第二服务的第一实例。控制器还可以接收包括第二路径的第二服务链的指示。第二路径可以具有第一服务的第二实例和第二服务的第二实例。在一些实施例中,控制器可以识别多个服务链中的包括具有第一服务的第一实例和第二服务的第一实例的第一路径的服务链。控制器可以识别多个服务链中的包括具有第一服务的第二实例和第二服务的第二实例的第二路径的第二服务链。控制器可以使用云应用程序编程接口接收第一服务的第一实例、第一服务的第二实例、第二服务的第一实例和第二服务的第二实例中的每一个的元数据。控制器可以基于元数据确定第一服务的第一实例的第一边权重、第一服务的第二实例的第二边权重、第二服务的第一实例的第三边权重、以及第二服务的第二实例的第四边权重。控制器可以基于第一边权重与第三边权重的组合来生成第一路径的第一路径权重。控制器可以基于第二边权重与第四边权重的组合生成第二路径的第二路径权重。控制器可以基于第一路径权重排序高于第二路径权重来选择与第一路径相对应的服务链。在一些实施例中,控制器可以通过基于多个服务链中的每个服务链的路径权重对多个服务链中的每个服务链进行排序来选择服务链。控制器可以基于排序来选择多个服务链中预定数量的最高排序的服务链,以生成服务链的子集。控制器可以将服务链子集中的每个的路径权重输入到负载平衡函数中以选择服务链。在一些实施例中,控制器可以基于多个服务链中的每个服务链的路径权重对多个服务链中的每个服务链进行排序。控制器可以基于排序来选择多个服务链中的预定数量的最高排序服务链以生成服务链的子集。控制器可以识别从服务链子集中遗漏的第一服务的一个或多个实例。控制器可以修改服务链的子集以包括多个服务链中的一个或多个附加服务链。一个或多个附加服务链可以包括第一服务的一个或多个实例。在一些实施例中,控制器可以使用机器学习技术来修剪多个服务链以生成多个服务链的子集。控制器可以基于负载平衡函数和多个服务链的子集中的每个的路径权重,从多个服务链的子集中选择服务链。在一些实施例中,控制器可以基于多个服务链中的每个服务链的每个实例的边权重来确定多个服务链中的每个服务链的路径权重。路径权重可以基于延迟、资源开销、吞吐量或资源成本中的至少一个。在一些实施例中,多个服务链中的每一个包括不同的路径并提供相同的服务。在一些实施例中,控制器将网络流量从客户端转发到所选服务链的第一实例。另一方面涉及一种对服务链进行负载平衡的系统。该系统可以包括客户机和计算基础结构中间的控制器。计算基础结构可以包括一个或多个网络环境中的一个或多个服务器。控制器可以被配置为识别各自包括路径的多个服务链。每个路径可以具有由计算基础结构提供的第一服务的实例和由计算基础结构提供的第二服务的实例。控制器可以确定多个服务链中的每个服务链的路径权重。路径权重可以指示根据服务链提供服务的效率水平。控制器可以基于负载平衡函数和多个服务链中的每个服务链的路径权重来从所述多个服务链中选择服务链以引导来自客户端的网络流量。在一些实施例中,控制器可以基于云应用程序编程接口生成一个或多个查询以识别多个服务链的每个实例。响应于一个或多个查询,控制器可以接收第一服务链的指示,该第一服务链包括具有第一服务的第一实例和第二服务的第一实例的第一路径。控制器可以接收第二服务链的指示,该第二服务链包括具有第一服务的第二实例和第二服务的第二实例的第二路径。在一些实施例中,控制器可以基于云应用程序编程接口生成一个或多个查询以检索多个服务链的每个实例的元数据,该一个或多个查询被配置为检索布局、资源分配、预留类型或连接类型中的至少一个的信息。在一些实施例中,控制器可以识别多个服务链中的包括具有第一服务的第一实例和第二服务的第一实例的第一路径的服务链。控制器可以识别多个服务链中的包括具有第一服务的第二实例和第二服务的第二实例的第二路径的第二服务链。控制器可以经由云应用程序编程接口接收第一服务的第一实例、第一服务的第二实例、第二服务的第一实例和第二服务的第二实例中的每一个的元数据。控制器可以基于元数据确定第一服务的第一实例的第一边权重、第一服务的第二实例的第二边权重、第二服务的第一实例的第三边权重、以及第二服务的第二实例的第四边权重。控制器可以基于第一边权重与第三边权重的组合来生成第一路径的第一路径权重。控制器可以基于第二边权重与第四边权重的组合生成第二路径的第二路径权重。控制器可以基于第一路径权重排序高于第二路径权重来选择与第一路径相对应的服务链。在一些实施例中,控制器可以基于多个服务链中的每个服务链的路径权重对多个服务链中的每个服务链进行排序。控制器可以基于排序来选择多个服务链中的预定数量的最高排序服务链以生成服务链的子集。控制器可以将服务链子集中的每个的路径权重输入到负载平衡函数中以选择服务链。在一些实施例中,控制器可以基于多个服务链中的每个服务链的路径权重对多个服务链中的每个服务链进行排序。控制器可以基于排序来选择多个服务链中的预定数量的最高排序服务链以生成服务链的子集。控制器可以识别从服务链的子集中遗漏的第一服务的一个或多个实例。控制器可以修改服务链的子集以包括多个服务链中的一个或多个附加服务链。一个或多个附加服务链可以包括第一服务的一个或多个实例。在一些实施例中,控制器可以基于机器学习技术修剪多个服务链以生成多个服务链的子集。控制器可以基于负载平衡函数和多个服务链的子集中的每个的路径权重,从多个服务链的子集中选择服务链。在一些实施例中,控制器可以基于多个服务链中的每个服务链的每个实例的边权重来确定多个服务链中的每个服务链的路径权重,该路径权重基于延迟、资源开销、吞吐量或资源成本中的至少一个。多个服务链中的每一个可以包括不同的路径并提供相同的服务。控制器可以将网络流量从客户端转发到所选择服务链的第一实例。附图说明通过参考以下结合附图的描述,本发明的前述和其它目的、方面、特征和优点将会更加明显并更易于理解,其中:图1a是客户机经由设备访问服务器的网络环境的实施例的框图;图1b是经由设备从服务器传送计算环境到客户机的环境的实施例的框图;图1c是经由设备从服务器传送计算环境到客户机的环境的又一个实施例的框图;图1d是经由设备从服务器传送计算环境到客户机的环境的又一个实施例的框图;图1e到1h是计算装置的实施例的框图;图2a是用于处理客户机和服务器之间的通信的设备的实施例的框图;图2b是用于优化、加速、负载平衡和路由客户机和服务器之间的通信的设备的又一个实施例的框图;图3是用于经由设备与服务器通信的客户机的实施例的框图;图4a是虚拟化环境的实施例的框图;图4b是虚拟化环境的又一个实施例的框图;图4c是虚拟设备的实施例的框图;图5是多核系统方面的另一实施例的框图;图6是集群系统的实施例的框图;图7a是用于负载平衡服务链的系统的实施例的框图;以及图7b是负载平衡服务链的方法的实施例的框图。图8是用于负载平衡服务链的系统的实施例的功能框图。图9a-9c是用于负载平衡服务链的系统的实施例的功能框图。图10是负载平衡服务链的实施例的功能流程图。从下面结合附图所阐述的详细描述,本发明的特征和优点将更明显,其中,同样的参考标记在全文中标识相应的元素。在附图中,同样的附图标记通常表示相同的、功能上相似的和/或结构上相似的元素。具体实施方式为了阅读下文各种实施例的描述,下述对于说明书的部分以及它们各自内容的描述是有用的:-a部分描述可用于实施本文描述的实施例的网络环境和计算环境;-b部分描述用于将计算环境传送到远程用户的系统和方法的实施例;-c部分描述用于加速客户机和服务器之间的通信的系统和方法的实施例;-d部分描述用于对应用传送控制器进行虚拟化的系统和方法的实施例。-e部分描述用于提供多核架构和环境的系统和方法的实施例;以及-f部分描述用于提供集群式设备架构环境的系统和方法的实施例;以及-g部分描述了用于经由网络来负载平衡服务链的系统和方法的实施例。a.网络和计算环境在讨论设备和/或客户机的系统和方法的实施例的细节之前,讨论可在其中部署这些实施例的网络和计算环境是有帮助的。现在参见图1a,描述了网络环境的实施例。概括来讲,网络环境包括经由一个或多个网络104、104’(总的称为网络104)与一个或多个服务器106a-106n(同样总的称为服务器106,或远程机器106)通信的一个或多个客户机102a-102n(同样总的称为本地机器102,或客户机102)。在一些实施例中,客户机102通过设备200与服务器106通信。虽然图1a示出了在客户机102和服务器106之间的网络104和网络104’,客户机102和服务器106可以位于同一个的网络104上。网络104和104’可以是相同类型的网络或不同类型的网络。网络104和/或104’可为局域网(lan)例如公司内网,城域网(man),或者广域网(wan)例如因特网或万维网。在一个实施例中,网络104可为专用网络并且网络104’可为公网。在一些实施例中,网络104可为专用网并且网络104’可为公网。在又一个实施例中,网络104和104’可都为专用网。在一些实施例中,客户机102可位于公司企业的分支机构中,通过网络104上的wan连接与位于公司数据中心的服务器106通信。网络104和/或104’可以是任何类型和/或形式的网络,并且可包括任何下述网络:点对点网络,广播网络,广域网,局域网,电信网络,数据通信网络,计算机网络,atm(异步传输模式)网络,sonet(同步光纤网络)网络,sdh(同步数字体系)网络,无线网络和有线网络。在一些实施例中,网络104可以包括无线链路,诸如红外信道或者卫星频带。网络104和/或104’的拓扑可为总线型、星型或环型网络拓扑。网络104和/或104’以及网络拓扑可以是对于本领域普通技术人员所熟知的、可以支持本文描述的操作的任何这样的网络或网络拓扑。如图1a所示,设备200被显示在网络104和104’之间,设备200也可被称为接口单元200或者网关200。在一些实施例中,设备200可位于网络104上。例如,公司的分支机构可在分支机构中部署设备200。在其他实施例中,设备200可以位于网络104’上。例如,设备200可位于公司的数据中心。在又一个实施例中,多个设备200可在网络104上部署。在一些实施例中,多个设备200可部署在网络104’上。在一个实施例中,第一设备200与第二设备200’通信。在其他实施例中,设备200可为位于与客户机102同一或不同网络104、104’的任一客户机102或服务器106的一部分。一个或多个设备200可位于客户机102和服务器106之间的网络或网络通信路径中的任一点。在一些实施例中,设备200包括由位于佛罗里达州ft.lauderdale的citrixsystems公司制造的被称为citrixnetscaler设备的任何网络设备。在其他实施例中,设备200包括由位于华盛顿州西雅图的f5networks公司制造的被称为webaccelerator和bigip的任何一个产品实施例。在又一个实施例中,设备205包括由位于加利福尼亚州sunnyvale的junipernetworks公司制造的dx加速设备平台和/或诸如sa700、sa2000、sa4000和sa6000的sslvpn系列设备中的任何一个。在又一个实施例中,设备200包括由位于加利福尼亚州sanjose的ciscosystems公司制造的任何应用加速和/或安全相关的设备和/或软件,例如ciscoace应用控制引擎模块服务(applicationcontrolenginemoduleservice)软件和网络模块以及ciscoavs系列应用速度系统(applicationvelocitysystem)。在一个实施例中,系统可包括多个逻辑分组的服务器106。在这些实施例中,服务器的逻辑分组可以被称为服务器群38。在其中一些实施例中,服务器106可为地理上分散的。在一些情况中,群38可以作为单个实体被管理。在其他实施例中,服务器群38包括多个服务器群38。在一个实施例中,服务器群代表一个或多个客户机102执行一个或多个应用程序。在每个群38中的服务器106可为不同种类。一个或多个服务器106可根据一种类型的操作系统平台(例如,由华盛顿州redmond的microsoft公司制造的windowsnt)操作,而一个或多个其它服务器106可根据另一类型的操作系统平台(例如,unix或linux)操作。每个群38的服务器106不需要与同一群38内的另一个服务器106物理上接近。因此,被逻辑分组为群38的服务器106组可使用广域网(wan)连接或城域网(man)连接互联。例如,群38可包括物理上位于不同大陆或大陆的不同区域、国家、州、城市、校园或房间的服务器106。如果使用局域网(lan)连接或一些直连形式来连接服务器106,则可增加群38中的服务器106间的数据传送速度。服务器106可指文件服务器、应用服务器、web服务器、代理服务器或者网关服务器。在一些实施例中,服务器106可以有作为应用服务器或者作为主应用服务器工作的能力。在一个实施例中,服务器106可包括活动目录。客户机102也可称为客户端节点或端点。在一些实施例中,客户机102可以有作为客户机节点寻求访问服务器上的应用的能力,也可以有作为应用服务器为其它客户机102a-102n提供对寄载的应用的访问的能力。在一些实施例中,客户机102与服务器106通信。在一个实施例中,客户机102与群38中的服务器106的其中一个直接通信。在又一个实施例中,客户机102执行程序邻近应用(programneighborhoodapplication)以与群38内的服务器106通信。在又一个实施例中,服务器106提供主节点的功能。在一些实施例中,客户机102通过网络104与群38中的服务器106通信。通过网络104,客户机102例如可以请求执行群38中的服务器106a-106n寄载的各种应用,并接收应用执行结果的输出进行显示。在一些实施例中,只有主节点提供识别和提供与寄载所请求的应用的服务器106’相关的地址信息所需的功能。在一个实施例中,服务器106提供web服务器的功能。在又一个实施例中,服务器106a接收来自客户机102的请求,将该请求转发到第二服务器106b,并使用来自服务器106b对该请求的响应来对客户机102的请求进行响应。在又一个实施例中,服务器106获得客户机102可用的应用的列举以及与由该应用的列举所识别的应用的服务器106相关的地址信息。在又一个实施例中,服务器106使用web接口将对请求的响应提供给客户机102。在一个实施例中,客户机102直接与服务器106通信以访问所识别的应用。在又一个实施例中,客户机102接收由执行服务器106上所识别的应用而产生的诸如显示数据的应用输出数据。现参考图1b,描述了部署多个设备200的网络环境的实施例。第一设备200可以部署在第一网络104上,而第二设备200’部署在第二网络104’上。例如,公司可以在分支机构部署第一设备200,而在数据中心部署第二设备200’。在又一个实施例中,第一设备200和第二设备200’被部署在同一个网络104或网络104上。例如,第一设备200可以被部署用于第一服务器群38,而第二设备200可以被部署用于第二服务器群38’。在另一个实例中,第一设备200可以被部署在第一分支机构,而第二设备200’被部署在第二分支机构’。在一些实施例中,第一设备200和第二设备200’彼此协同或联合工作,以加速客户机和服务器之间的网络流量或应用和数据的传送。现参考图1c,描述了网络环境的又一个实施例,在该网络环境中,将设备200和一个或多个其它类型的设备部署在一起,例如,部署在一个或多个wan优化设备205,205’之间。例如,第一wan优化设备205显示在网络104和104’之间,而第二wan优化设备205’可以部署在设备200和一个或多个服务器106之间。例如,公司可以在分支机构部署第一wan优化设备205,而在数据中心部署第二wan优化设备205’。在一些实施例中,设备205可以位于网络104’上。在其他实施例中,设备205’可以位于网络104上。在一些实施例中,设备205’可以位于网络104’或网络104"上。在一个实施例中,设备205和205’在同一个网络上。在又一个实施例中,设备205和205’在不同的网络上。在另一个实例中,第一wan优化设备205可以被部署用于第一服务器群38,而第二wan优化设备205’可以被部署用于第二服务器群38’。在一个实施例中,设备205是用于加速、优化或者以其他方式改善任何类型和形式的网络流量(例如去往和/或来自wan连接的流量)的性能、操作或服务质量的装置。在一些实施例中,设备205是一个性能增强代理。在其他实施例中,设备205是任何类型和形式的wan优化或加速装置,有时也被称为wan优化控制器。在一个实施例中,设备205是由位于佛罗里达州ft.lauderdale的citrixsystems公司出品的被称为wanscaler的产品实施例中的任何一种。在其他实施例中,设备205包括由位于华盛顿州seattle的f5networks公司出品的被称为big-ip链路控制器和wanjet的产品实施例中的任何一种。在又一个实施例中,设备205包括由位于加利福尼亚州sunnyvale的junipernetworks公司出品的wx和wxcwan加速装置平台中的任何一种。在一些实施例中,设备205包括由加利福尼亚州sanfrancisco的riverbedtechnology公司出品的虹鳟(steelhead)系列wan优化设备中的任何一种。在其他实施例中,设备205包括由位于新泽西州roseland的expandnetworks公司出品的wan相关装置中的任何一种。在一个实施例中,设备205包括由位于加利福尼亚州cupertino的packeteer公司出品的任何一种wan相关设备,例如由packeteer提供的packetshaper、ishared和skyx产品实施例。在又一个实施例中,设备205包括由位于加利福尼亚州sanjose的ciscosystems公司出品的任何wan相关设备和/或软件,例如cisco广域网应用服务软件和网络模块以及广域网引擎设备。在一个实施例中,设备205为分支机构或远程办公室提供应用和数据加速服务。在一个实施例中,设备205包括广域文件服务(wafs)的优化。在又一个实施例中,设备205加速文件的传送,例如经由通用互联网文件系统(cifs)协议。在其他实施例中,设备205在存储器和/或存储装置中提供高速缓存来加速应用和数据的传送。在一个实施例中,设备205在任何级别的网络堆栈或在任何的协议或网络层中提供网络流量的压缩。在又一个实施例中,设备205提供传输层协议优化、流量控制、性能增强或修改和/或管理,以加速wan连接上的应用和数据的传送。例如,在一个实施例中,设备205提供传输控制协议(tcp)优化。在其他实施例中,设备205提供对于任何会话或应用层协议的优化、流量控制、性能增强或修改和/或管理。在又一个实施例中,设备205将任何类型和形式的数据或信息编码成网络分组的定制的或标准的tcp和/或ip的头部字段或可选字段,以将其存在、功能或能力通告给另一个设备205’。在又一个实施例中,设备205’可以使用在tcp和/或ip头部字段或选项中编码的数据来与另一个设备205’进行通信。例如,设备可以使用tcp选项或ip头部字段或选项来传达在执行诸如wan加速的功能时或者为了彼此联合工作而由设备205,205’所使用的一个或多个参数。在一些实施例中,设备200保存在设备205和205’之间传达的tcp和/或ip头部和/或可选字段中编码的任何信息。例如,设备200可以终止经过设备200的传输层连接,例如经过设备205和205’的在客户机和服务器之间的一个传输层连接。在一个实施例中,设备200识别并保存由第一设备205通过第一传输层连接发送的传输层分组中的任何编码信息,并经由第二传输层连接来将具有编码信息的传输层分组传达到第二设备205’。现参考图1d,描述了用于传送和/或操作客户机102上的计算环境的网络环境。在一些实施例中,服务器106包括用于向一个或多个客户机102传送计算环境或应用和/或数据文件的应用传送系统190。总的来说,客户机10通过网络104、104’和设备200与服务器106通信。例如,客户机102可驻留在公司的远程办公室里,例如分支机构,并且服务器106可驻留在公司数据中心。客户机102包括客户机代理120以及计算环境15。计算环境15可执行或操作用于访问、处理或使用数据文件的应用。可经由设备200和/或服务器106传送计算环境15、应用和/或数据文件。在一些实施例中,设备200加速计算环境15或者其任何部分到客户机102的传送。在一个实施例中,设备200通过应用传送系统190加速计算环境15的传送。例如,可使用此处描述的实施例来加速从公司中央数据中心到远程用户位置(例如公司的分支机构)的流应用(streamingapplication)及该应用可处理的数据文件的传送。在又一个实施例中,设备200加速客户机102和服务器106之间的传输层流量。设备200可以提供用于加速从服务器106到客户机102的任何传输层有效载荷的加速技术,例如:1)传输层连接池,2)传输层连接多路复用,3)传输控制协议缓冲,4)压缩和5)高速缓存。在一些实施例中,设备200响应于来自客户机102的请求提供服务器106的负载平衡。在其他实施例中,设备200充当代理或者访问服务器来提供对一个或者多个服务器106的访问。在又一个实施例中,设备200提供从客户机102的第一网络104到服务器106的第二网络104’的安全虚拟专用网络连接,诸如sslvpn连接。在又一些实施例中,设备200提供客户机102和服务器106之间的连接和通信的应用防火墙安全、控制和管理。在一些实施例中,基于多个执行方法并且基于通过策略引擎195所应用的任一验证和授权策略,应用传送管理系统190提供将计算环境传送到远程的或者另外的用户的桌面的应用传送技术。使用这些技术,远程用户可以从任何网络连接装置100获取计算环境并且访问服务器所存储的应用和数据文件。在一个实施例中,应用传送系统190可驻留在服务器106上或在其上执行。在又一个实施例中,应用传送系统190可驻留在多个服务器106a-106n上或在其上执行。在一些实施例中,应用传送系统190可在服务器群38内执行。在一个实施例中,执行应用传送系统190的服务器106也可存储或提供应用和数据文件。在又一个实施例中,一个或多个服务器106的第一组可执行应用传送系统190,而不同的服务器106n可存储或提供应用和数据文件。在一些实施例中,应用传送系统190、应用和数据文件中的每一个可驻留或位于不同的服务器。在又一个实施例中,应用传送系统190的任何部分可驻留、执行、或被存储于或分发到设备200或多个设备。客户机102可包括用于执行使用或处理数据文件的应用的计算环境15。客户机102可通过网络104、104’和设备200请求来自服务器106的应用和数据文件。在一个实施例中,设备200可以将来自客户机102的请求转发到服务器106。例如,客户机102可能不具有本地存储或者本地可访问的应用和数据文件。响应于请求,应用传送系统190和/或服务器106可以传送应用和数据文件到客户机102。例如,在一个实施例中,服务器106可以把应用作为应用流来传输,以在客户机102上的计算环境15中操作。在一些实施例中,应用传送系统190包括citrixsystems有限公司的citrixaccesssuitetm的任一部分(例如metaframe或citrixpresentationservertm),和/或微软公司开发的windows终端服务中的任何一个。在一个实施例中,应用传送系统190可以通过远程显示协议或者以其它方式通过基于远程计算或者基于服务器计算来传送一个或者多个应用到客户机102或者用户。在又一个实施例中,应用传送系统190可以通过应用流来传送一个或者多个应用到客户机或者用户。在一个实施例中,应用传送系统190包括策略引擎195,其用于控制和管理对应用的访问、应用执行方法的选择以及应用的传送。在一些实施例中,策略引擎195确定用户或者客户机102可以访问的一个或者多个应用。在又一个实施例中,策略引擎195确定应用应该如何被传送到用户或者客户机102,例如执行方法。在一些实施例中,应用传送系统190提供多个传送技术,从中选择应用执行的方法,例如基于服务器的计算、本地流式传输或传送应用给客户机120以用于本地执行。在一个实施例中,客户机102请求应用程序的执行并且包括服务器106的应用传送系统190选择执行应用程序的方法。在一些实施例中,服务器106从客户机102接收证书。在又一个实施例中,服务器106从客户机102接收对于可用应用的列举的请求。在一个实施例中,响应该请求或者证书的接收,应用传送系统190列举对于客户机102可用的多个应用程序。应用传送系统190接收执行所列举的应用的请求。应用传送系统190选择预定数量的方法之一来执行所列举的应用,例如响应策略引擎的策略。应用传送系统190可以选择执行应用的方法,使得客户机102接收通过执行服务器106上的应用程序所产生的应用输出数据。应用传送系统190可以选择执行应用的方法,使得本地机器10在检索包括应用的多个应用文件之后本地执行应用程序。在又一个实施例中,应用传送系统190可以选择执行应用的方法,以通过网络104流式传输应用到客户机102。客户机102可以执行、操作或者以其它方式提供应用,所述应用可为任何类型和/或形式的软件、程序或者可执行指令,例如任何类型和/或形式的web浏览器、基于web的客户机、客户机-服务器应用、瘦客户端计算客户机、activex控件、或者java程序、或者可以在客户机102上执行的任何其它类型和/或形式的可执行指令。在一些实施例中,应用可以是代表客户机102在服务器106上执行的基于服务器或者基于远程的应用。在一个实施例中,服务器106可以使用任何瘦-客户端或远程显示协议来显示输出到客户机102,所述瘦-客户端或远程显示协议例如由位于佛罗里达州ft.lauderdale的citrixsystems公司出品的独立计算架构(ica)协议或由位于华盛顿州redmond的微软公司出品的远程桌面协议(rdp)。应用可使用任何类型的协议,并且它可为,例如,http客户机、ftp客户机、oscar客户机或telnet客户机。在其他实施例中,应用包括和voip通信相关的任何类型的软件,例如软ip电话。在进一步的实施例中,应用包括涉及到实时数据通信的任一应用,例如用于流式传输视频和/或音频的应用。在一些实施例中,服务器106或服务器群38可运行一个或多个应用,例如提供瘦客户端计算或远程显示表示应用的应用。在一个实施例中,服务器106或服务器群38作为一个应用来执行citrixsystems有限公司的citrixaccesssuitetm的任一部分(例如metaframe或citrixpresentationservertm),和/或微软公司开发的windows终端服务中的任何一个。在一个实施例中,该应用是位于佛罗里达州fortlauderdale的citrixsystems有限公司开发的ica客户机。在其他实施例中,该应用包括由位于华盛顿州redmond的microsoft公司开发的远程桌面(rdp)客户机。另外,服务器106可以运行一个应用,例如,其可以是提供电子邮件服务的应用服务器,例如由位于华盛顿州redmond的microsoft公司制造的microsoftexchange,web或internet服务器,或者桌面共享服务器,或者协作服务器。在一些实施例中,任一应用可以包括任一类型的所寄载的服务或产品,例如位于加利福尼亚州santabarbara的citrixonlinedivision公司提供的gotomeetingtm,位于加利福尼亚州santaclara的webex有限公司提供的webextm,或者位于华盛顿州redmond的microsoft公司提供的microsoftofficelivemeeting。仍参考图1d,网络环境的一个实施例可以包括监控服务器106a。监控服务器106a可以包括任何类型和形式的性能监控服务198。性能监控服务198可以包括监控、测量和/或管理软件和/或硬件,包括数据收集、集合、分析、管理和报告。在一个实施例中,性能监控服务198包括一个或多个监控代理197。监控代理197包括用于在诸如客户机102、服务器106或设备200和205的装置上执行监控、测量和数据收集活动的任何软件、硬件或其组合。在一些实施例中,监控代理197包括诸如visualbasic脚本或javascript任何类型和形式的脚本。在一个实施例中,监控代理197相对于装置的任何应用和/或用户透明地执行。在一些实施例中,监控代理197相对于应用或客户机不显眼地被安装和操作。在又一个实施例中,监控代理197的安装和操作不需要用于该应用或装置的任何设备。在一些实施例中,监控代理197以预定频率监控、测量和收集数据。在其他实施例中,监控代理197基于检测到任何类型和形式的事件来监控、测量和收集数据。例如,监控代理197可以在检测到对web页面的请求或收到http响应时收集数据。在另一个实例中,监控代理197可以在检测到诸如鼠标点击的任一用户输入事件时收集数据。监控代理197可以报告或提供任何所监控、测量或收集的数据给监控服务198。在一个实施例中,监控代理197根据时间安排或预定频率来发送信息给监控服务198。在又一个实施例中,监控代理197在检测到事件时发送信息给监控服务198。在一些实施例中,监控服务198和/或监控代理197对诸如客户机、服务器、服务器群、设备200、设备205或网络连接的任何网络资源或网络基础结构元件的进行监控和性能测量。在一个实施例中,监控服务198和/或监控代理197执行诸如tcp或udp连接的任何传输层连接的监控和性能测量。在又一个实施例中,监控服务198和/或监控代理197监控和测量网络等待时间。在又一个实施例中,监控服务198和/或监控代理197监控和测量带宽利用。在其他实施例中,监控服务198和/或监控代理197监控和测量终端用户响应时间。在一些实施例中,监控服务198执行应用的监控和性能测量。在又一个实施例中,监控服务198和/或监控代理197执行到应用的任何会话或连接的监控和性能测量。在一个实施例中,监控服务198和/或监控代理197监控和测量浏览器的性能。在又一个实施例中,监控服务198和/或监控代理197监控和测量基于http的事务的性能。在一些实施例中,监控服务198和/或监控代理197监控和测量ip电话(voip)应用或会话的性能。在其他实施例中,监控服务198和/或监控代理197监控和测量诸如ica客户机或rdp客户机的远程显示协议应用的性能。在又一个实施例中,监控服务198和/或监控代理197监控和测量任何类型和形式的流媒体的性能。在进一步的实施例中,监控服务198和/或监控代理197监控和测量所寄载的应用或软件即服务(software-as-a-service,saas)传送模型的性能。在一些实施例中,监控服务198和/或监控代理197执行与应用相关的一个或多个事务、请求或响应的监控和性能测量。在其他实施例中,监控服务198和/或监控代理197监控和测量应用层堆栈的任何部分,例如任何.net或j2ee调用。在一个实施例中,监控服务198和/或监控代理197监控和测量数据库或sql事务。在又一个实施例中,监控服务198和/或监控代理197监控和测量任何方法、函数或应用编程接口(api)调用。在一个实施例中,监控服务198和/或监控代理197对经由诸如设备200和/或设备205的一个或多个设备从服务器到客户机的应用和/或数据的传送进行监控和性能测量。在一些实施例中,监控服务198和/或监控代理197监控和测量虚拟化应用的传送的性能。在其他实施例中,监控服务198和/或监控代理197监控和测量流式应用的传送的性能。在又一个实施例中,监控服务198和/或监控代理197监控和测量传送桌面应用到客户机和/或在客户机上执行桌面应用的性能。在又一个实施例中,监控服务198和/或监控代理197监控和测量客户机/服务器应用的性能。在一个实施例中,监控服务198和/或监控代理197被设计和构建成为应用传送系统190提供应用性能管理。例如,监控服务198和/或监控代理197可以监控、测量和管理经由citrix表示服务器(citrixpresentationserver)传送应用的性能。在该实例中,监控服务198和/或监控代理197监控单独的ica会话。监控服务198和/或监控代理197可以测量总的以及每次的会话系统资源使用,以及应用和连网性能。监控服务198和/或监控代理197可以对于给定用户和/或用户会话来标识有效服务器(activeserver)。在一些实施例中,监控服务198和/或监控代理197监控在应用传送系统190和应用和/或数据库服务器之间的后端连接。监控服务198和/或监控代理197可以测量每个用户会话或ica会话的网络等待时间、延迟和容量。在一些实施例中,监控服务198和/或监控代理197测量和监控对于应用传送系统190的诸如总的存储器使用、每个用户会话和/或每个进程的存储器使用。在其他实施例中,监控服务198和/或监控代理197测量和监控诸如总的cpu使用、每个用户会话和/或每个进程的应用传送系统190的cpu使用。在又一个实施例中,监控服务198和/或监控代理197测量和监控登录到诸如citrix表示服务器的应用、服务器或应用传送系统所需的时间。在一个实施例中,监控服务198和/或监控代理197测量和监控用户登录应用、服务器或应用传送系统190的持续时间。在一些实施例中,监控服务198和/或监控代理197测量和监控应用、服务器或应用传送系统会话的有效和无效的会话计数。在又一个实施例中,监控服务198和/或监控代理197测量和监控用户会话等待时间。在另外的实施例中,监控服务198和/或监控代理197测量和监控任何类型和形式的服务器指标。在一个实施例中,监控服务198和/或监控代理197测量和监控与系统内存、cpu使用和盘存储器有关的指标。在又一个实施例中,监控服务198和/或监控代理197测量和监控和页错误有关的指标,诸如每秒页错误。在其他实施例中,监控服务198和/或监控代理197测量和监控往返时间的指标。在又一个实施例中,监控服务198和/或监控代理197测量和监控与应用崩溃、错误和/或中止相关的指标。在一些实施例中,监控服务198和监控代理198包括由位于佛罗里达州ft.lauderdale的citrixsystems公司出品的被称为edgesight的任何一种产品实施例。在又一个实施例中,性能监控服务198和/或监控代理198包括由位于加利福尼亚州paloalto的symphoniq公司出品的被称为trueview产品套件的产品实施例的任一部分。在一个实施例中,性能监控服务198和/或监控代理198包括由位于加利福尼亚州sanfrancisco的tealeaf技术公司出品的被称为tealeafcx产品套件的产品实施例的任何部分。在其他实施例中,性能监控服务198和/或监控代理198包括由位于德克萨斯州houston的bmc软件公司出品的诸如bmc性能管理器和巡逻产品(bmcperformancemanagerandpatrolproducts)的商业服务管理产品的任何部分。客户机102、服务器106和设备200可以被部署为和/或执行在任何类型和形式的计算装置上,诸如能够在任何类型和形式的网络上通信并执行此处描述的操作的计算机、网络装置或者设备。图1e和1f描述了可用于实施客户机102、服务器106或设备200的实施例的计算装置100的框图。如图1e和1f所示,每个计算装置100包括中央处理单元101和主存储器单元122。如图1e所示,计算装置100可以包括可视显示装置124、键盘126和/或诸如鼠标的指示装置127。每个计算装置100也可包括其它可选元件,例如一个或多个输入/输出装置130a-130b(总的使用附图标记130表示),以及与中央处理单元101通信的高速缓存存储器140。中央处理单元101是响应并处理从主存储器单元122取出的指令的任何逻辑电路。在许多实施例中,中央处理单元由微处理器单元提供,例如:由加利福尼亚州mountainview的intel公司制造的微处理器单元;由伊利诺伊州schaumburg的motorola公司制造的微处理器单元;由加利福尼亚州santaclara的transmeta公司制造的微处理器单元;由纽约州whiteplains的internationalbusinessmachines公司制造的rs/6000处理器;或者由加利福尼亚州sunnyvale的advancedmicrodevices公司制造的微处理器单元。计算装置100可以基于这些处理器中的任何一种,或者能够如此处所述方式运行的任何其它处理器。主存储器单元122可以是能够存储数据并允许微处理器101直接访问任何存储位置的一个或多个存储器芯片,例如静态随机存取存储器(sram)、突发sram或同步突发sram(bsram)、动态随机存取存储器dram、快速页模式dram(fpmdram)、增强型dram(edram)、扩展数据输出ram(edoram)、扩展数据输出dram(edodram)、突发式扩展数据输出dram(bedodram)、增强型dram(edram)、同步dram(sdram)、jedecsram、pc100sdram、双数据速率sdram(ddrsdram)、增强型sram(esdram)、同步链路dram(sldram)、直接内存总线dram(drdram)或铁电ram(fram)。主存储器122可以基于上述存储芯片的任何一种,或者能够如此处所述方式运行的任何其它可用存储芯片。在图1e中所示的实施例中,处理器101通过系统总线150(在下面进行更详细的描述)与主存储器122进行通信。图1e描述了在其中处理器通过存储器端口103直接与主存储器122通信的计算装置100的实施例。例如,在图1f中,主存储器122可以是drdram。图1f描述了在其中主处理器101通过第二总线与高速缓存存储器140直接通信的实施例,第二总线有时也称为后端总线。其他实施例中,主处理器101使用系统总线150和高速缓存存储器140通信。高速缓存存储器140通常有比主存储器122更快的响应时间,并且通常由sram、bsram或edram提供。在图1f中所示的实施例中,处理器101通过本地系统总线150与多个i/o装置130进行通信。可以使用各种不同的总线将中央处理单元101连接到任何i/o装置130,所述总线包括vesavl总线、isa总线、eisa总线、微通道体系结构(mca)总线、pci总线、pci-x总线、pci-express总线或nubus。对于i/o装置是视频显示器124的实施例,处理器101可以使用高级图形端口(agp)与显示器124通信。图1f说明了主处理器101通过超传输(hypertransport)、快速i/o或者infiniband直接与i/o装置130通信的计算机100的一个实施例。图1f还描述了在其中混合本地总线和直接通信的实施例:处理器101使用本地互连总线与i/o装置130b进行通信,同时直接与i/o装置130a进行通信。计算装置100可以支持任何适当的安装装置116,例如用于接纳诸如3.5英寸、5.25英寸磁盘或zip磁盘这样的软盘的软盘驱动器、cd-rom驱动器、cd-r/rw驱动器、dvd-rom驱动器、各种格式的磁带驱动器、usb装置、硬盘驱动器或适于安装像任何客户机代理120或其部分的软件和程序的任何其它装置。计算装置100还可以包括存储装置128,诸如一个或者多个硬盘驱动器或者独立磁盘冗余阵列,用于存储操作系统和其它相关软件,以及用于存储诸如涉及客户机代理120的任何程序的应用软件程序。或者,可以使用安装装置116的任何一种作为存储装置128。此外,操作系统和软件可从例如可引导cd的可引导介质运行,诸如一种用于gnu/linux的可引导cd,该可引导cd可自knoppix.net作为gnu/linux一个分发版获得。此外,计算装置100可以包括通过多种连接接口到局域网(lan)、广域网(wan)或因特网的网络接口118,所述多种连接包括但不限于标准电话线路、lan或wan链路(例如802.11,t1,t3、56kb、x.25)、宽带连接(如isdn、帧中继、atm)、无线连接、或上述任何或所有连接的一些组合。网络接口118可以包括内置网络适配器、网络接口卡、pcmcia网络卡、卡总线网络适配器、无线网络适配器、usb网络适配器、调制解调器或适用于将计算装置100接口到能够通信并执行这里所说明的操作的任何类型的网络的任何其它设备。计算装置100中可以包括各种i/o装置130a-130n。输入装置包括键盘、鼠标、触控板、轨迹球、麦克风和绘图板。输出装置包括视频显示器、扬声器、喷墨打印机、激光打印机和热升华打印机。如图1e所示,i/o装置130可以由i/o控制器123控制。i/o控制器可以控制一个或多个i/o装置,例如键盘126和指示装置127(如鼠标或光笔)。此外,i/o装置还可以为计算装置100提供存储装置128和/或安装介质116。在其他实施例中,计算装置100可以提供usb连接以接纳手持usb存储装置,例如由位于美国加利福尼亚州losalamitos的twintechindustry有限公司生产的usb闪存驱动系列装置。在一些实施例中,计算装置100可以包括多个显示装置124a-124n或与其相连,这些显示装置各自可以是相同或不同的类型和/或形式。因而,任何一种i/o装置130a-130n和/或i/o控制器123可以包括任一类型和/或形式的适当的硬件、软件或硬件和软件的组合,以支持、允许或提供通过计算装置100连接和使用多个显示装置124a-124n。例如,计算装置100可以包括任何类型和/或形式的视频适配器、视频卡、驱动器和/或库,以与显示装置124a-124n接口、通信、连接或以其他方式使用显示装置。在一个实施例中,视频适配器可以包括多个连接器以与多个显示装置124a-124n接口。在其他实施例中,计算装置100可以包括多个视频适配器,每个视频适配器与显示装置124a-124n中的一个或多个连接。在一些实施例中,计算装置100的操作系统的任一部分都可以被配置用于使用多个显示器124a-124n。在其他实施例中,显示装置124a-124n中的一个或多个可以由一个或多个其它计算装置提供,诸如例如通过网络与计算装置100连接的计算装置100a和100b。这些实施例可以包括被设计和构造为将另一个计算机的显示装置用作计算装置100的第二显示装置124a的任一类型的软件。本领域的普通技术人员应认识和理解可以将计算装置100配置成具有多个显示装置124a-124n的各种方法和实施例。在另外的实施例中,i/o装置130可以是系统总线150和外部通信总线之间的桥170,所述外部通信总线例如usb总线、apple桌面总线、rs-232串行连接、scsi总线、firewire总线、firewire800总线、以太网总线、appletalk总线、千兆位以太网总线、异步传输模式总线、hippi总线、超级hippi总线、serialplus总线、sci/lamp总线、光纤信道总线或串行scsi总线。图1e和1f中描述的那类计算装置100通常在控制任务的调度和对系统资源的访问的操作系统的控制下操作。计算装置100可以运行任何操作系统,如windows操作系统,不同发行版本的unix和linux操作系统,用于macintosh计算机的任何版本的mac任何嵌入式操作系统,任何实时操作系统,任何开源操作系统,任何专有操作系统,任何用于移动计算装置的操作系统,或者任何其它能够在计算装置上运行并完成这里所述操作的操作系统。典型的操作系统包括:windows3.x、windows95、windows98、windows2000、windowsnt3.51、windowsnt4.0、windowsce和windowsxp,所有这些均由位于华盛顿州redmond的微软公司出品;由位于加利福尼亚州cupertino的苹果计算机出品的macos;由位于纽约州armonk的国际商业机器公司出品的os/2;以及由位于犹他州saltlakecity的caldera公司发布的可免费使用的linux操作系统或者任何类型和/或形式的unix操作系统,以及其它。在其他的实施例中,计算装置100可以有符合该装置的不同的处理器、操作系统和输入设备。例如,在一个实施例中,计算机100是由palm公司出品的treo180、270、1060、600或650智能电话。在该实施例中,treo智能电话在palmos操作系统的控制下操作,并包括指示笔输入装置以及五向导航装置。此外,计算装置100可以是任何工作站、桌面计算机、膝上型或笔记本计算机、服务器、手持计算机、移动电话、任何其它计算机、或能够通信并有足够的处理器能力和存储容量以执行此处所述的操作的其它形式的计算或者电信装置。如图1g所示,计算装置100可以包括多个处理器,可以提供用于对不只一个数据片同时执行多个指令或者同时执行一个指令的功能。在一些实施例中,计算装置100可包括具有一个或多个核的并行处理器。在这些实施例的一个中,计算装置100是共享内存并行设备,具有多个处理器和/或多个处理器核,将所有可用内存作为一个全局地址空间进行访问。在这些实施例的又一个中,计算装置100是分布式存储器并行设备,具有多个处理器,每个处理器访问本地存储器。在这些实施例的又一个中,计算装置100既有共享的存储器又有仅由特定处理器或处理器子集访问的存储器。在这些实施例的又一个中,如多核微处理器的计算装置100将两个或多个独立处理器组合在一个封装中,通常在一个集成电路(ic)中。在这些实施例的又一个中,计算装置100包括具有单元宽带引擎(cellbroadbandengine)架构的芯片,并包括高能处理器单元以及多个协同处理单元,高能处理器单元和多个协同处理单元通过内部高速总线连接在一起,可以将内部高速总线称为单元互连总线。在一些实施例中,处理器提供用于对多个数据片同时执行单个指令(simd)的功能。其他实施例中,处理器提供用于对多个数据片同时执行多个指令(mimd)的功能。又一个实施例中,处理器可以在单个装置中使用simd和mimd核的任意组合。在一些实施例中,计算装置100可包括图像处理单元。图1h所示的在这些实施例的一个中,计算装置100包括至少一个中央处理单元101和至少一个图像处理单元。在这些实施例的又一个中,计算装置100包括至少一个并行处理单元和至少一个图像处理单元。在这些实施例的又一个中,计算装置100包括任意类型的多个处理单元,多个处理单元中的一个包括图像处理单元。一些实施例中,第一计算装置100a代表客户计算装置100b的用户执行应用。又一个实施例中,计算装置100执行虚拟机,其提供执行会话,在该会话中,代表客户计算装置100b的用户执行应用。在这些实施例的一个中,执行会话是寄载的桌面会话。在这些实施例的又一个中,计算装置100执行终端服务会话。终端服务会话可以提供寄载的桌面环境。在这些实施例的又一个中,执行会话提供对计算环境的访问,该计算环境可包括以下的一个或多个:应用、多个应用、桌面应用以及可执行一个或多个应用的桌面会话。b.设备架构图2a示出设备200的一个示例实施例。提供图2a的设备200架构仅用于示例,并不意于作为限制性的架构。如图2所示,设备200包括硬件层206和被分为用户空间202和内核空间204的软件层。硬件层206提供硬件元件,在内核空间204和用户空间202中的程序和服务在该硬件元件上被执行。硬件层206也提供结构和元件,就设备200而言,这些结构和元件允许在内核空间204和用户空间202内的程序和服务既在内部进行数据通信又与外部进行数据通信。如图2所示,硬件层206包括用于执行软件程序和服务的处理单元262,用于存储软件和数据的存储器264,用于通过网络传输和接收数据的网络端口266,以及用于执行与安全套接字协议层相关的功能处理通过网络传输和接收的数据的加密处理器260。在一些实施例中,中央处理单元262可在单独的处理器中执行加密处理器260的功能。另外,硬件层206可包括用于每个处理单元262和加密处理器260的多处理器。处理器262可以包括以上结合图1e和1f所述的任一处理器101。例如,在一个实施例中,设备200包括第一处理器262和第二处理器262’。在其他实施例中,处理器262或者262’包括多核处理器。虽然示出的设备200的硬件层206通常带有加密处理器260,但是处理器260可为执行涉及任何加密协议的功能的处理器,例如安全套接字协议层(ssl)或者传输层安全(tls)协议。在一些实施例中,处理器260可为通用处理器(gpp),并且在进一步的实施例中,可为用于执行任何安全相关协议处理的可执行指令。虽然图2中设备200的硬件层206包括了某些元件,但是设备200的硬件部分或组件可包括计算装置的任何类型和形式的元件、硬件或软件,例如此处结合图1e和1f示出和讨论的计算装置100。在一些实施例中,设备200可包括服务器、网关、路由器、开关、桥接器或其它类型的计算或网络设备,并且拥有与此相关的任何硬件和/或软件元件。设备200的操作系统分配、管理或另外分离可用的系统存储器到内核空间204和用户空间204。在示例的软件架构200中,操作系统可以是任何类型和/或形式的unix操作系统,尽管本发明并未这样限制。这样,设备200可以运行任何操作系统,如任何版本的windows操作系统、不同版本的unix和linux操作系统、用于macintosh计算机的任何版本的mac任何的嵌入式操作系统、任何的网络操作系统、任何的实时操作系统、任何的开放源操作系统、任何的专用操作系统、用于移动计算装置或网络装置的任何操作系统、或者能够运行在设备200上并执行此处所描述的操作的任何其它操作系统。保留内核空间204用于运行内核230,内核230包括任何设备驱动器,内核扩展或其他内核相关软件。就像本领域技术人员所知的,内核230是操作系统的核心,并提供对资源以及设备104的相关硬件元件的访问、控制和管理。根据设备200的实施例,内核空间204也包括与高速缓存管理器232协同工作的多个网络服务或进程,高速缓存管理器232有时也称为集成的高速缓存,其益处此处将进一步详细描述。另外,内核230的实施例将依赖于通过设备200安装、配置或其他使用的操作系统的实施例。在一个实施例中,设备200包括一个网络堆栈267,例如基于tcp/ip的堆栈,用于与客户机102和/或服务器106通信。在一个实施例中,使用网络堆栈267与第一网络(例如网络108)以及第二网络110通信。在一些实施例中,设备200终止第一传输层连接,例如客户机102的tcp连接,并建立客户机102使用的到服务器106的第二传输层连接,例如,终止在设备200和服务器106的第二传输层连接。可通过单独的网络堆栈267建立第一和第二传输层连接。在其他实施例中,设备200可包括多个网络堆栈,例如267或267’,并且在一个网络堆栈267可建立或终止第一传输层连接,在第二网络堆栈267’上可建立或者终止第二传输层连接。例如,一个网络堆栈可用于在第一网络上接收和传输网络分组,并且另一个网络堆栈用于在第二网络上接收和传输网络分组。在一个实施例中,网络堆栈267包括用于为一个或多个网络分组进行排队的缓冲器243,其中网络分组由设备200传输。如图2所示,内核空间204包括高速缓存管理器232、高速层2-7集成分组引擎240、加密引擎234、策略引擎236以及多协议压缩逻辑238。在内核空间204或内核模式而不是用户空间202中运行这些组件或进程232、240、234、236和238提高这些组件中的每个单独的和结合的性能。内核操作意味着这些组件或进程232、240、234、236和238在设备200的操作系统的核地址空间中运行。例如,在内核模式中运行加密引擎234通过移动加密和解密操作到内核可改进加密性能,从而可减少在内核模式中的存储空间或内核线程与在用户模式中的存储空间或线程之间的传输的数量。例如,在内核模式获得的数据可能不需要传输或拷贝到运行在用户模式的进程或线程,例如从内核级数据结构到用户级数据结构。在另一个方面,也可减少内核模式和用户模式之间的上下文切换的数量。另外,在任何组件或进程232、240、235、236和238间的同步和通信在内核空间204中可被执行的更有效率。在一些实施例中,组件232、240、234、236和238的任何部分可在内核空间204中运行或操作,而这些组件232、240、234、236和238的其它部分可在用户空间202中运行或操作。在一个实施例中,设备200使用内核级数据结构来提供对一个或多个网络分组的任何部分的访问,例如,包括来自客户机102的请求或者来自服务器106的响应的网络分组。在一些实施例中,可以由分组引擎240通过到网络堆栈267的传输层驱动器接口或过滤器获得内核级数据结构。内核级数据结构可包括通过与网络堆栈267相关的内核空间204可访问的任何接口和/或数据、由网络堆栈267接收或发送的网络流量或分组。在其他实施例中,任何组件或进程232、240、234、236和238可使用内核级数据结构来执行组件或进程的需要的操作。在一个实例中,当使用内核级数据结构时,组件232、240、234、236和238在内核模式204中运行,而在又一个实施例中,当使用内核级数据结构时,组件232、240、234、236和238在用户模式中运行。在一些实施例中,内核级数据结构可被拷贝或传递到第二内核级数据结构,或任何期望的用户级数据结构。高速缓存管理器232可包括软件、硬件或软件和硬件的任何组合,以提供对任何类型和形式的内容的高速缓存访问、控制和管理,例如对象或由源服务器106提供服务的动态产生的对象。由高速缓存管理器232处理和存储的数据、对象或内容可包括任何格式(例如标记语言)的数据,或者通过任何协议的通信的任何类型的数据。在一些实施例中,高速缓存管理器232复制存储在其他地方的原始数据或先前计算、产生或传输的数据,其中相对于读高速缓存存储器元件,需要更长的访问时间以取得、计算或以其他方式得到原始数据。一旦数据被存储在高速缓存存储元件中,通过访问高速缓存的副本而不是重新获得或重新计算原始数据即可进行后续操作,因此而减少了访问时间。在一些实施例中,高速缓存元件可以包括设备200的存储器264中的数据对象。在其他实施例中,高速缓存存储元件可包括有比存储器264更快的存取时间的存储器。在又一个实施例中,高速缓存元件可以包括设备200的任一类型和形式的存储元件,诸如硬盘的一部分。在一些实施例中,处理单元262可提供被高速缓存管理器232使用的高速缓存存储器。在又一个实施例中,高速缓存管理器232可使用存储器、存储区或处理单元的任何部分和组合来高速缓存数据、对象或其它内容。另外,高速缓存管理器232包括用于执行此处描述的设备200的技术的任一实施例的任何逻辑、功能、规则或操作。例如,高速缓存管理器232包括基于无效时间周期的终止,或者从客户机102或服务器106接收无效命令使对象无效的逻辑或功能。在一些实施例中,高速缓存管理器232可作为在内核空间204中执行的程序、服务、进程或任务而操作,并且在其他实施例中,在用户空间202中执行。在一个实施例中,高速缓存管理器232的第一部分在用户空间202中执行,而第二部分在内核空间204中执行。在一些实施例中,高速缓存管理器232可包括任何类型的通用处理器(gpp),或任何其他类型的集成电路,例如现场可编程门阵列(fpga),可编程逻辑设备(pld),或者专用集成电路(asic)。策略引擎236可包括例如智能统计引擎或其它可编程应用。在一个实施例中,策略引擎236提供配置机制以允许用户识别、指定、定义或配置高速缓存策略。策略引擎236,在一些实施例中,也访问存储器以支持数据结构,例如备份表或hash表,以启用用户选择的高速缓存策略决定。在其他实施例中,除了对安全、网络流量、网络访问、压缩或其它任何由设备200执行的功能或操作的访问、控制和管理之外,策略引擎236可包括任何逻辑、规则、功能或操作以确定和提供对设备200所高速缓存的对象、数据、或内容的访问、控制和管理。特定高速缓存策略的其他实施例此处进一步描述。加密引擎234包括用于操控诸如ssl或tls的任何安全相关协议或其中涉及的任何功能的处理的任何逻辑、商业规则、功能或操作。例如,加密引擎234加密并解密通过设备200传输的网络分组,或其任何部分。加密引擎234也可代表客户机102a-102n、服务器106a-106n或设备200来设置或建立ssl或tls连接。因此,加密引擎234提供ssl处理的卸载和加速。在一个实施例中,加密引擎234使用隧道协议来提供在客户机102a-102n和服务器106a-106n间的虚拟专用网络。在一些实施例中,加密引擎234与加密处理器260通信。在其他实施例中,加密引擎234包括运行在加密处理器260上的可执行指令。多协议压缩引擎238包括用于压缩一个或多个网络分组协议(例如被设备200的网络堆栈267使用的任何协议)的任何逻辑、商业规则、功能或操作。在一个实施例中,多协议压缩引擎238双向压缩在客户机102a-102n和服务器106a-106n间任一基于tcp/ip的协议,包括消息应用编程接口(mapi)(电子邮件)、文件传输协议(ftp)、超文本传输协议(http)、通用互联网文件系统(cifs)协议(文件传输)、独立计算架构(ica)协议、远程桌面协议(rdp)、无线应用协议(wap)、移动ip协议以及互联网协议电话(voip)协议。在其他实施例中,多协议压缩引擎238提供基于超文本标记语言(html)的协议的压缩,并且在一些实施例中,提供任何标记语言的压缩,例如可扩展标记语言(xml)。在一个实施例中,多协议压缩引擎238提供任何高性能协议的压缩,例如设计用于设备200到设备200通信的任何协议。在又一个实施例中,多协议压缩引擎238使用修改的传输控制协议来压缩任何通信的任何载荷或任何通信,例如事务tcp(t/tcp)、带有选择确认的tcp(tcp-sack)、带有大窗口的tcp(tcp-lw)、例如tcp-vegas协议的拥塞预报协议以及tcp欺骗协议(tcpspoofingprotocol)。同样的,多协议压缩引擎238为用户加速经由桌面客户机乃至移动客户机访问应用的性能,所述桌面客户机例如micosoftoutlook和非web瘦客户机,诸如由像oracle、sap和siebel的通用企业应用所启动的任何客户机,所述移动客户机例如掌上电脑。在一些实施例中,通过在内核模式204内部执行并与访问网络堆栈267的分组处理引擎240集成,多协议压缩引擎238可以压缩tcp/ip协议携带的任何协议,例如任何应用层协议。高速层2-7集成分组引擎240,通常也称为分组处理引擎,或分组引擎,负责设备200通过网络端口266接收和发送的分组的内核级处理的管理。高速层2-7集成分组引擎240可包括用于在例如接收网络分组和传输网络分组的处理期间排队一个或多个网络分组的缓冲器。另外,高速层2-7集成分组引擎240与一个或多个网络堆栈267通信以通过网络端口266发送和接收网络分组。高速层2-7集成分组引擎240与加密引擎234、高速缓存管理器232、策略引擎236和多协议压缩逻辑238协同工作。更具体地,配置加密引擎234以执行分组的ssl处理,配置策略引擎236以执行涉及流量管理的功能,例如请求级内容切换以及请求级高速缓存重定向,并配置多协议压缩逻辑238以执行涉及数据压缩和解压缩的功能。高速层2-7集成分组引擎240包括分组处理定时器242。在一个实施例中,分组处理定时器242提供一个或多个时间间隔以触发输入处理,例如,接收或者输出(即传输)网络分组。在一些实施例中,高速层2-7集成分组引擎240响应于定时器242处理网络分组。分组处理定时器242向分组引擎240提供任何类型和形式的信号以通知、触发或传输时间相关的事件、间隔或发生。在许多实施例中,分组处理定时器242以毫秒级操作,例如100ms、50ms、或25ms。例如,在一些实例中,分组处理定时器242提供时间间隔或者以其它方式使得由高速层2-7集成分组引擎240以10ms时间间隔处理网络分组,而在其他实施例中,使高速层2-7集成分组引擎240以5ms时间间隔处理网络分组,并且在进一步的实施例中,短到3、2或1ms时间间隔。高速层2-7集成分组引擎240在操作期间可与加密引擎234、高速缓存管理器232、策略引擎236以及多协议压缩引擎238连接、集成或通信。因此,响应于分组处理定时器242和/或分组引擎240,可执行加密引擎234、高速缓存管理器232、策略引擎236以及多协议压缩引擎238的任何逻辑、功能或操作。因此,在由分组处理定时器242提供的时间间隔粒度,可执行加密引擎234、高速缓存管理器232、策略引擎236以及多协议压缩引擎238的任何逻辑、功能或操作,例如,时间间隔少于或等于10ms。例如,在一个实施例中,高速缓存管理器232可响应于高速层2-7集成分组引擎240和/或分组处理定时器242来执行任何高速缓存的对象的终止。在又一个实施例中,高速缓存的对象的终止或无效时间被设定为与分组处理定时器242的时间间隔相同的粒度级,例如每10ms。与内核空间204不同,用户空间202是被用户模式应用或在用户模式运行的程序所使用的操作系统的存储区域或部分。用户模式应用不能直接访问内核空间204而使用服务调用以访问内核服务。如图2所示,设备200的用户空间202包括图形用户接口(gui)210、命令行接口(cli)212、壳服务(shellservice)214、健康监控程序216以及守护(daemon)服务218。gui210和cli212提供系统管理员或其他用户可与之交互并控制设备200操作的装置,例如通过设备200的操作系统。gui210和cli212可包括运行在用户空间202或内核框架204中的代码。gui210可以是任何类型或形式的图形用户接口,可以通过文本、图形或其他形式由任何类型的程序或应用(如浏览器)来呈现。cli212可为任何类型和形式的命令行或基于文本的接口,例如通过操作系统提供的命令行。例如,cli212可包括壳,该壳是使用户与操作系统相互作用的工具。在一些实施例中,可通过bash、csh、tcsh或者ksh类型的壳提供cli212。壳服务214包括程序、服务、任务、进程或可执行指令以支持由用户通过gui210和/或cli212的与设备200或者操作系统的交互。健康监控程序216用于监控、检查、报告并确保网络系统正常运行,以及用户正通过网络接收请求的内容。健康监控程序216包括一个或多个程序、服务、任务、进程或可执行指令,为监控设备200的任何行为提供逻辑、规则、功能或操作。在一些实施例中,健康监控程序216拦截并检查通过设备200传递的任何网络流量。在其他实施例中,健康监控程序216通过任何合适的方法和/或机制与一个或多个下述设备连接:加密引擎234,高速缓存管理器232,策略引擎236,多协议压缩逻辑238,分组引擎240,守护服务218以及壳服务214。因此,健康监控程序216可调用任何应用编程接口(api)以确定设备200的任何部分的状态、情况或健康。例如,健康监控程序216可周期性地查验(ping)或发送状态查询以检查程序、进程、服务或任务是否活动并当前正在运行。在又一个实施例中,健康监控程序216可检查由任何程序、进程、服务或任务提供的任何状态、错误或历史日志以确定设备200任何部分的任何状况、状态或错误。守护服务218是连续运行或在背景中运行的程序,并且处理设备200接收的周期性服务请求。在一些实施例中,守护服务可向其他程序或进程(例如合适的另一个守护服务218)转发请求。如本领域技术人员所公知的,守护服务218可无人监护的运行,以执行连续的或周期性的系统范围功能,例如网络控制,或者执行任何需要的任务。在一些实施例中,一个或多个守护服务218运行在用户空间202中,而在其他实施例中,一个或多个守护服务218运行在内核空间。现参考图2b,描述了设备200的又一个实施例。总的来说,设备200提供下列服务、功能或操作中的一个或多个:用于一个或多个客户机102以及一个或多个服务器106之间的通信的sslvpn连通280、交换/负载平衡284、域名服务解析286、加速288和应用防火墙290。服务器106的每一个可以提供一个或者多个网络相关服务270a-270n(称为服务270)。例如,服务器106可以提供http服务270。设备200包括一个或者多个虚拟服务器或者虚拟互联网协议服务器,称为vserver275、vs275、vip服务器或者仅是vip275a-275n(此处也称为vserver275)。vserver275根据设备200的配置和操作来接收、拦截或者以其它方式处理客户机102和服务器106之间的通信。vserver275可以包括软件、硬件或者软件和硬件的任何组合。vserver275可包括在设备200中的用户模式202、内核模式204或者其任何组合中运行的任何类型和形式的程序、服务、任务、进程或者可执行指令。vserver275包括任何逻辑、功能、规则或者操作,以执行此处所述技术的任何实施例,诸如sslvpn280、转换/负载平衡284、域名服务解析286、加速288和应用防火墙290。在一些实施例中,vserver275建立到服务器106的服务270的连接。服务275可以包括能够连接到设备200、客户机102或者vserver275并与之通信的任何程序、应用、进程、任务或者可执行指令集。例如,服务275可以包括web服务器、http服务器、ftp、电子邮件或者数据库服务器。在一些实施例中,服务270是守护进程或者网络驱动器,用于监听、接收和/或发送应用的通信,诸如电子邮件、数据库或者企业应用。在一些实施例中,服务270可以在特定的ip地址、或者ip地址和端口上通信。在一些实施例中,vserver275应用策略引擎236的一个或者多个策略到客户机102和服务器106之间的网络通信。在一个实施例中,该策略与vserver275相关。在又一个实施例中,该策略基于用户或者用户组。在又一个实施例中,策略为通用的并且应用到一个或者多个vserver275a-275n,和通过设备200通信的任何用户或者用户组。在一些实施例中,策略引擎的策略具有基于通信的任何内容应用该策略的条件,通信的内容诸如互联网协议地址、端口、协议类型、分组中的头部或者字段、或者通信的上下文,诸如用户、用户组、vserver275、传输层连接、和/或客户机102或者服务器106的标识或者属性。在其他实施例中,设备200与策略引擎236通信或接口,以便确定远程用户或远程客户机102的验证和/或授权,以访问来自服务器106的计算环境15、应用和/或数据文件。在又一个实施例中,设备200与策略引擎236通信或交互,以便确定远程用户或远程客户机102的验证和/或授权,使得应用传送系统190传送一个或多个计算环境15、应用和/或数据文件。在又一个实施例中,设备200基于策略引擎236对远程用户或远程客户机102的验证和/或授权建立vpn或sslvpn连接。一个实施例中,设备200基于策略引擎236的策略控制网络流量以及通信会话。例如,基于策略引擎236,设备200可控制对计算环境15、应用或数据文件的访问。在一些实施例中,vserver275与客户机102经客户机代理120建立传输层连接,诸如tcp或者udp连接。在一个实施例中,vserver275监听和接收来自客户机102的通信。在其他实施例中,vserver275与客户机服务器106建立传输层连接,诸如tcp或者udp连接。在一个实施例中,vserver275建立到运行在服务器106上的服务器270的互联网协议地址和端口的传输层连接。在又一个实施例中,vserver275将到客户机102的第一传输层连接与到服务器106的第二传输层连接相关联。在一些实施例中,vserver275建立到服务器106的传输层连接池并经由所述池化(pooled)的传输层连接多路复用客户机的请求。在一些实施例中,设备200提供客户机102和服务器106之间的sslvpn连接280。例如,第一网络102上的客户机102请求建立到第二网络104’上的服务器106的连接。在一些实施例中,第二网络104’是不能从第一网络104路由的。在其他实施例中,客户机102位于公用网络104上,并且服务器106位于专用网络104’上,例如企业网。在一个实施例中,客户机代理120拦截第一网络104上的客户机102的通信,加密该通信,并且经第一传输层连接发送该通信到设备200。设备200将第一网络104上的第一传输层连接与到第二网络104上的服务器106的第二传输层连接相关联。设备200接收来自客户机代理102的所拦截的通信,解密该通信,并且经第二传输层连接发送该通信到第二网络104上的服务器106。第二传输层连接可以是池化的传输层连接。同样的,设备200为两个网络104、104’之间的客户机102提供端到端安全传输层连接。在一个实施例中,设备200寄载虚拟专用网络104上的客户机102的内部网互联网协议或者intranetip282地址。客户机102具有本地网络标识符,诸如第一网络104上的互联网协议(ip)地址和/或主机名称。当经设备200连接到第二网络104’时,设备200在第二网络104’上为客户机102建立、分配或者以其它方式提供intranetip,其是诸如ip地址和/或主机名称的网络标识符。使用为客户机的所建立的intranetip282,设备200在第二或专用网104’上监听并接收指向该客户机102的任何通信。在一个实施例中,设备200在第二专用网络104上用作或者代表客户机102。例如,在又一个实施例中,vserver275监听和响应到客户机102的intranetip282的通信。在一些实施例中,如果第二网络104’上的计算装置100发送请求,设备200如同客户机102一样来处理该请求。例如,设备200可以响应对客户机intranetip282的查验。在又一个实施例中,设备可以与请求和客户机intranetip282连接的第二网络104上的计算装置100建立连接,诸如tcp或者udp连接。在一些实施例中,设备200为客户机102和服务器106之间的通信提供下列一个或多个加速技术288:1)压缩;2)解压缩;3)传输控制协议池;4)传输控制协议多路复用;5)传输控制协议缓冲;以及6)高速缓存。在一个实施例中,设备200通过开启与每一服务器106的一个或者多个传输层连接并且维持这些连接以允许由客户机经因特网的重复数据访问,来为服务器106缓解由重复开启和关闭到客户机102的传输层连接所造成的大量处理负载。该技术此处称为“连接池”。在一些实施例中,为了经池化的传输层连接无缝拼接从客户机102到服务器106的通信,设备200通过在传输层协议级修改序列号和确认号来转换或多路复用通信。这被称为“连接多路复用”。在一些实施例中,不需要应用层协议相互作用。例如,在到来分组(即,自客户机102接收的分组)的情况中,所述分组的源网络地址被改变为设备200的输出端口的网络地址,而目的网络地址被改为目的服务器的网络地址。在发出分组(即,自服务器106接收的一个分组)的情况中,源网络地址被从服务器106的网络地址改变为设备200的输出端口的网络地址,而目的地址被从设备200的网络地址改变为请求的客户机102的网络地址。分组的序列号和确认号也被转换为到客户机102的设备200的传输层连接上的客户机102所期待的序列号和确认。在一些实施例中,传输层协议的分组校验和被重新计算以计及这些转换。在又一个实施例中,设备200为客户机102和服务器106之间的通信提供交换或负载平衡功能284。在一些实施例中,设备200根据层4或应用层请求数据来分布流量并将客户机请求定向到服务器106。在一个实施例中,尽管网络分组的网络层或者层2识别目的服务器106,但设备200通过承载为传输层分组的有效载荷的数据和应用信息来确定服务器106以便分发网络分组。在一个实施例中,设备200的健康监控程序216监控服务器的健康来确定分发客户机请求到哪个服务器106。在一些实施例中,如果设备200探测到某个服务器106不可用或者具有超过预定阈值的负载,设备200可以将客户机请求指向或者分发到另一个服务器106。在一些实施例中,设备200用作域名服务(dns)解析器或者以其它方式为来自客户机102的dns请求提供解析。在一些实施例中,设备拦截由客户机102发送的dns请求。在一个实施例中,设备200以设备200的ip地址或其所寄载的ip地址来响应客户机的dns请求。在此实施例中,客户机102把用于域名的网络通信发送到设备200。在又一个实施例中,设备200以第二设备200’的或其所寄载的ip地址来响应客户机的dns请求。在一些实施例中,设备200使用由设备200确定的服务器106的ip地址来响应客户机的dns请求。在又一个实施例中,设备200为客户机102和服务器106之间的通信提供应用防火墙功能290。在一个实施例中,策略引擎236提供用于探测和阻断非法请求的规则。在一些实施例中,应用防火墙290防御拒绝服务(dos)攻击。在其他实施例中,设备检查所拦截的请求的内容,以识别和阻断基于应用的攻击。在一些实施例中,规则/策略引擎236包括用于提供对多个种类和类型的基于web或因特网的脆弱点的保护的一个或多个应用防火墙或安全控制策略,例如下列的一个或多个脆弱点:1)缓冲区泄出,2)cgi-bin参数操纵,3)表单/隐藏字段操纵,4)强制浏览,5)cookie或会话中毒,6)被破坏的访问控制列表(acls)或弱密码,7)跨站脚本处理(xss),8)命令注入,9)sql注入,10)错误触发敏感信息泄露,11)对加密的不安全使用,12)服务器错误配置,13)后门和调试选项,14)网站涂改,15)平台或操作系统弱点,和16)零天攻击。在一个实施例中,对下列情况的一种或多种,应用防火墙290以检查或分析网络通信的形式来提供html格式字段的保护:1)返回所需的字段,2)不允许附加字段,3)只读和隐藏字段强制(enforcement),4)下拉列表和单选按钮字段的一致,以及5)格式字段最大长度强制。在一些实施例中,应用防火墙290确保cookie不被修改。在其他实施例中,应用防火墙290通过执行合法的url来防御强制浏览。在其他实施例中,应用防火墙290保护在网络通信中包含的任何机密信息。应用防火墙290可以根据引擎236的规则或策略来检查或分析任一网络通信以识别在网络分组的任一字段中的任一机密信息。在一些实施例中,应用防火墙290在网络通信中识别信用卡号、口令、社会保险号、姓名、病人代码、联系信息和年龄的一次或多次出现。网络通信的编码部分可以包括这些出现或机密信息。基于这些出现,在一个实施例中,应用防火墙290可以对网络通信采取策略行动,诸如阻止发送网络通信。在又一个实施例中,应用防火墙290可以重写、移动或者以其它方式掩盖该所识别的出现或者机密信息。仍参考图2b,设备200可以包括如上面结合图1d所讨论的性能监控代理197。在一个实施例中,设备200从如图1d中所描述的监控服务198或监控服务器106中接收监控代理197。在一些实施例中,设备200在诸如磁盘的存储装置中保存监控代理197,以用于传送给与设备200通信的任何客户机或服务器。例如,在一个实施例中,设备200在接收到建立传输层连接的请求时发送监控代理197给客户机。在其他实施例中,设备200在建立与客户机102的传输层连接时发送监控代理197。在又一个实施例中,设备200在拦截或检测对web页面的请求时发送监控代理197给客户机。在又一个实施例中,设备200响应于监控服务器198的请求来发送监控代理197到客户机或服务器。在一个实施例中,设备200发送监控代理197到第二设备200’或设备205。在其他实施例中,设备200执行监控代理197。在一个实施例中,监控代理197测量和监控在设备200上执行的任何应用、程序、进程、服务、任务或线程的性能。例如,监控代理197可以监控和测量vservers275a-275n的性能与操作。在又一个实施例中,监控代理197测量和监控设备200的任何传输层连接的性能。在一些实施例中,监控代理197测量和监控通过设备200的任何用户会话的性能。在一个实施例中,监控代理197测量和监控通过设备200的诸如sslvpn会话的任何虚拟专用网连接和/或会话的性能。在进一步的实施例中,监控代理197测量和监控设备200的内存、cpu和磁盘使用以及性能。在又一个实施例中,监控代理197测量和监控诸如ssl卸载、连接池和多路复用、高速缓存以及压缩的由设备200执行的任何加速技术288的性能。在一些实施例中,监控代理197测量和监控由设备200执行的任一负载平衡和/或内容交换284的性能。在其他实施例中,监控代理197测量和监控由设备200执行的应用防火墙290保护和处理的性能。c.客户机代理现参考图3,描述客户机代理120的实施例。客户机102包括客户机代理120,用于经由网络104与设备200和/或服务器106来建立和交换通信。总的来说,客户机102在计算装置100上操作,该计算装置100拥有带有内核模式302以及用户模式303的操作系统,以及带有一个或多个层310a-310b的网络堆栈310。客户机102可以已经安装和/或执行一个或多个应用。在一些实施例中,一个或多个应用可通过网络堆栈310与网络104通信。所述应用之一,诸如web浏览器,也可包括第一程序322。例如,可在一些实施例中使用第一程序322来安装和/或执行客户机代理120,或其中任何部分。客户机代理120包括拦截机制或者拦截器350,用于从网络堆栈310拦截来自一个或者多个应用的网络通信。客户机102的网络堆栈310可包括任何类型和形式的软件、或硬件或其组合,用于提供与网络的连接和通信。在一个实施例中,网络堆栈310包括用于网络协议组的软件实现。网络堆栈310可包括一个或多个网络层,例如为本领域技术人员所公认和了解的开放式系统互联(osi)通信模型的任何网络层。这样,网络堆栈310可包括用于任何以下osi模型层的任何类型和形式的协议:1)物理链路层;2)数据链路层;3)网络层;4)传输层;5)会话层);6)表示层,以及7)应用层。在一个实施例中,网络堆栈310可包括在互联网协议(ip)的网络层协议上的传输控制协议(tcp),通常称为tcp/ip。在一些实施例中,可在以太网协议上承载tcp/ip协议,以太网协议可包括ieee广域网(wan)或局域网(lan)协议的任何族,例如被ieee802.3覆盖的这些协议。在一些实施例中,网络堆栈310包括任何类型和形式的无线协议,例如ieee802.11和/或移动互联网协议。考虑基于tcp/ip的网络,可使用任何基于tcp/ip的协议,包括消息应用编程接口(mapi)(email)、文件传输协议(ftp)、超文本传输协议(http)、通用因特网文件系统(cifs)协议(文件传输)、独立计算架构(ica)协议、远程桌面协议(rdp)、无线应用协议(wap)、移动ip协议,以及互联网协议电话(voip)协议。在又一个实施例中,网络堆栈310包括任何类型和形式的传输控制协议,诸如修改的传输控制协议,例如事务tcp(t/tcp),带有选择确认的tcp(tcp-sack),带有大窗口的tcp(tcp-lw),例如tcp-vegas协议的拥塞预测协议,以及tcp欺骗协议。在其他实施例中,网络堆栈310可使用诸如基于ip的udp的任何类型和形式的用户数据报协议(udp),例如用于语音通信或实时数据通信。另外,网络堆栈310可包括支持一个或多个层的一个或多个网络驱动器,例如tcp驱动器或网络层驱动器。网络层驱动器可作为计算装置100的操作系统的一部分或者作为计算装置100的任何网络接口卡或其它网络访问组件的一部分被包括。在一些实施例中,网络堆栈310的任何网络驱动器可被定制、修改或调整以提供网络堆栈310的定制或修改部分,用来支持此处描述的任何技术。在其他实施例中,设计并构建加速程序302以与网络堆栈310协同操作或工作,上述网络堆栈310由客户机102的操作系统安装或以其它方式提供。网络堆栈310包括任何类型和形式的接口,用于接收、获得、提供或以其它方式访问涉及客户机102的网络通信的任何信息和数据。在一个实施例中,与网络堆栈310的接口包括应用编程接口(api)。接口也可包括任何函数调用、钩子或过滤机制,事件或回调机制、或任何类型的接口技术。网络堆栈310通过接口可接收或提供与网络堆栈310的功能或操作相关的任何类型和形式的数据结构,例如对象。例如,数据结构可以包括与网络分组相关的信息和数据或者一个或多个网络分组。在一些实施例中,数据结构包括在网络堆栈310的协议层处理的网络分组的一部分,例如传输层的网络分组。在一些实施例中,数据结构325包括内核级别数据结构,而在其他实施例中,数据结构325包括用户模式数据结构。内核级数据结构可以包括获得的或与在内核模式302中操作的网络堆栈310的一部分相关的数据结构、或者运行在内核模式302中的网络驱动程序或其它软件、或者由运行或操作在操作系统的内核模式的服务、进程、任务、线程或其它可执行指令获得或收到的任何数据结构。此外,网络堆栈310的一些部分可在内核模式302执行或操作,例如,数据链路或网络层,而其他部分在用户模式303执行或操作,例如网络堆栈310的应用层。例如,网络堆栈的第一部分310a可以给应用提供对网络堆栈310的用户模式访问,而网络堆栈310的第二部分310a提供对网络的访问。在一些实施例中,网络堆栈的第一部分310a可包括网络堆栈310的一个或多个更上层,例如层5-7的任何层。在其他实施例中,网络堆栈310的第二部分310b包括一个或多个较低的层,例如层1-4的任何层。网络堆栈310的每个第一部分310a和第二部分310b可包括网络堆栈310的任何部分,位于任何一个或多个网络层,处于用户模式203、内核模式202,或其组合,或在网络层的任何部分或者到网络层的接口点,或用户模式203和内核模式202的任何部分或到用户模式203和内核模式202的接口点。拦截器350可以包括软件、硬件、或者软件和硬件的任何组合。在一个实施例中,拦截器350在网络堆栈310的任一点拦截网络通信,并且重定向或者发送网络通信到由拦截器350或者客户机代理120所期望的、管理的或者控制的目的地。例如,拦截器350可以拦截第一网络的网络堆栈310的网络通信并且发送该网络通信到设备200,用于在第二网络104上发送。在一些实施例中,拦截器350包括含有诸如被构建和设计来与网络堆栈310对接并一同工作的网络驱动器的驱动器的任一类型的拦截器350。在一些实施例中,客户机代理120和/或拦截器350操作在网络堆栈310的一个或者多个层,诸如在传输层。在一个实施例中,拦截器350包括过滤器驱动器、钩子机制、或者连接到网络堆栈的传输层的任一形式和类型的合适网络驱动器接口,诸如通过传输驱动器接口(tdi)。在一些实施例中,拦截器350连接到诸如传输层的第一协议层和诸如传输协议层之上的任何层的另一个协议层,例如,应用协议层。在一个实施例中,拦截器350可以包括遵守网络驱动器接口规范(ndis)的驱动器,或者ndis驱动器。在又一个实施例中,拦截器350可以包括微型过滤器或者微端口驱动器。在一个实施例中,拦截器350或其部分在内核模式202中操作。在又一个实施例中,拦截器350或其部分在用户模式203中操作。在一些实施例中,拦截器350的一部分在内核模式202中操作,而拦截器350的另一部分在用户模式203中操作。在其他实施例中,客户机代理120在用户模式203操作,但通过拦截器350连接到内核模式驱动器、进程、服务、任务或者操作系统的部分,诸如以获取内核级数据结构225。在其他实施例中,拦截器350为用户模式应用或者程序,诸如应用。在一个实施例中,拦截器350拦截任何的传输层连接请求。在这些实施例中,拦截器350执行传输层应用编程接口(api)调用以设置目的地信息,诸如到期望位置的目的地ip地址和/或端口用于定位。以此方式,拦截器350拦截并重定向传输层连接到由拦截器350或客户机代理120控制或管理的ip地址和端口。在一个实施例中,拦截器350把连接的目的地信息设置为客户机代理120监听的客户机102的本地ip地址和端口。例如,客户机代理120可以包括为重定向的传输层通信监听本地ip地址和端口的代理服务。在一些实施例中,客户机代理120随后将重定向的传输层通信传送到设备200。在一些实施例中,拦截器350拦截域名服务(dns)请求。在一个实施例中,客户机代理120和/或拦截器350解析dns请求。在又一个实施例中,拦截器发送所拦截的dns请求到设备200以进行dns解析。在一个实施例中,设备200解析dns请求并且将dns响应传送到客户机代理120。在一些实施例中,设备200经另一个设备200’或者dns服务器106来解析dns请求。在又一个实施例中,客户机代理120可以包括两个代理120和120’。在一个实施例中,第一代理120可以包括在网络堆栈310的网络层操作的拦截器350。在一些实施例中,第一代理120拦截网络层请求,诸如因特网控制消息协议(icmp)请求(例如,查验和跟踪路由)。在其他实施例中,第二代理120’可以在传输层操作并且拦截传输层通信。在一些实施例中,第一代理120在网络堆栈210的一层拦截通信并且与第二代理120’连接或者将所拦截的通信传送到第二代理120’。客户机代理120和/或拦截器350可以以对网络堆栈310的任何其它协议层透明的方式在协议层操作或与之对接。例如,在一个实施例中,拦截器350可以以对诸如网络层的传输层之下的任何协议层和诸如会话、表示或应用层协议的传输层之上的任何协议层透明的方式在网络堆栈310的传输层操作或与之对接。这允许网络堆栈310的其它协议层如所期望的进行操作并无需修改以使用拦截器350。这样,客户机代理120和/或拦截器350可以与传输层连接以安全、优化、加速、路由或者负载平衡经由传输层承载的任一协议提供的任一通信,诸如tcp/ip上的任一应用层协议。此外,客户机代理120和/或拦截器可以以对任何应用、客户机102的用户和与客户机102通信的诸如服务器的任何其它计算装置透明的方式在网络堆栈310上操作或与之对接。客户机代理120和/或拦截器350可以以无需修改应用的方式被安装和/或执行在客户机102上。在一些实施例中,客户机102的用户或者与客户机102通信的计算装置未意识到客户机代理120和/或拦截器350的存在、执行或者操作。同样,在一些实施例中,相对于应用、客户机102的用户、诸如服务器的另一个计算装置、或者在由拦截器350连接的协议层之上和/或之下的任何协议层透明地来安装、执行和/或操作客户机代理120和/或拦截器350。客户机代理120包括加速程序302、流客户机306、收集代理304和/或监控代理197。在一个实施例中,客户机代理120包括由佛罗里达州fortlauderdale的citrixsystemsinc.开发的独立计算架构(ica)客户机或其任一部分,并且也指ica客户机。在一些实施例中,客户机代理120包括应用流客户机306,用于从服务器106流式传输应用到客户机102。在一些实施例中,客户机代理120包括加速程序302,用于加速客户机102和服务器106之间的通信。在又一个实施例中,客户机代理120包括收集代理304,用于执行端点检测/扫描并且用于为设备200和/或服务器106收集端点信息。在一些实施例中,加速程序302包括用于执行一个或多个加速技术的客户机侧加速程序,以加速、增强或者以其他方式改善客户机与服务器106的通信和/或对服务器106的访问,诸如访问由服务器106提供的应用。加速程序302的可执行指令的逻辑、函数和/或操作可以执行一个或多个下列加速技术:1)多协议压缩,2)传输控制协议池,3)传输控制协议多路复用,4)传输控制协议缓冲,以及5)通过高速缓存管理器的高速缓存。另外,加速程序302可执行由客户机102接收和/或发送的任何通信的加密和/或解密。在一些实施例中,加速程序302以集成的方式或者格式执行一个或者多个加速技术。另外,加速程序302可以对作为传输层协议的网络分组的有效载荷所承载的任一协议或者多协议执行压缩。流客户机306包括应用、程序、进程、服务、任务或者可执行指令,所述应用、程序、进程、服务、任务或者可执行指令用于接收和执行从服务器106所流式传输的应用。服务器106可以流式传输一个或者多个应用数据文件到流客户机306,用于播放、执行或者以其它方式引起客户机102上的应用被执行。在一些实施例中,服务器106发送一组压缩或者打包的应用数据文件到流客户机306。在一些实施例中,多个应用文件被压缩并存储在文件服务器上档案文件中,例如cab、zip、sit、tar、jar或其它档案文件。在一个实施例中,服务器106解压缩、解包或者解档应用文件并且将该文件发送到客户机102。在又一个实施例中,客户机102解压缩、解包或者解档应用文件。流客户机306动态安装应用或其部分,并且执行该应用。在一个实施例中,流客户机306可以为可执行程序。在一些实施例中,流客户机306可以能够启动另一个可执行程序。收集代理304包括应用、程序、进程、服务、任务或者可执行指令,用于识别、获取和/或收集关于客户机102的信息。在一些实施例中,设备200发送收集代理304到客户机102或者客户机代理120。可以根据设备的策略引擎236的一个或多个策略来配置收集代理304。在其他实施例中,收集代理304发送在客户机102上收集的信息到设备200。在一个实施例中,设备200的策略引擎236使用所收集的信息来确定和提供到网络104的客户机连接的访问、验证和授权控制。在一个实施例中,收集代理304包括端点检测和扫描机制,其识别并且确定客户机的一个或者多个属性或者特征。例如,收集代理304可以识别和确定任何一个或多个以下的客户机侧属性:1)操作系统和/或操作系统的版本,2)操作系统的服务包,3)运行的服务,4)运行的进程,和5)文件。收集代理304还可以识别并确定客户机上任何一个或多个以下软件的存在或版本:1)防病毒软件;2)个人防火墙软件;3)防垃圾邮件软件,和4)互联网安全软件。策略引擎236可以具有基于客户机或客户机侧属性的任何一个或多个属性或特性的一个或多个策略。在一些实施例中,客户机代理120包括如结合图1d和2b所讨论的监控代理197。监控代理197可以是诸如visualbasic或java脚本的任何类型和形式的脚本。在一个实施例中,监控代理197监控和测量客户机代理120的任何部分的性能。例如,在一些实施例中,监控代理197监控和测量加速程序302的性能。在又一个实施例中,监控代理197监控和测量流客户机306的性能。在其他实施例中,监控代理197监控和测量收集代理304的性能。在又一个实施例中,监控代理197监控和测量拦截器350的性能。在一些实施例中,监控代理197监控和测量客户机102的诸如存储器、cpu和磁盘的任何资源。监控代理197可以监控和测量客户机的任何应用的性能。在一个实施例中,监控代理197监控和测量客户机102上的浏览器的性能。在一些实施例中,监控代理197监控和测量经由客户机代理120传送的任何应用的性能。在其他实施例中,监控代理197测量和监控应用的最终用户响应时间,例如基于web的响应时间或http响应时间。监控代理197可以监控和测量ica或rdp客户机的性能。在又一个实施例中,监控代理197测量和监控用户会话或应用会话的指标。在一些实施例中,监控代理197测量和监控ica或rdp会话。在一个实施例中,监控代理197测量和监控设备200在加速传送应用和/或数据到客户机102的过程中的性能。在一些实施例中,仍参考图3,第一程序322可以用于自动地、静默地、透明地或者以其它方式安装和/或执行客户机代理120或其部分,诸如拦截器350。在一个实施例中,第一程序322包括插件组件,例如activex控件或java控件或脚本,其加载到应用并由应用执行。例如,第一程序包括由web浏览器应用载入和运行的activex控件,例如在存储器空间或应用的上下文中。在又一个实施例中,第一程序322包括可执行指令组,该可执行指令组被例如浏览器的应用载入并执行。在一个实施例中,第一程序322包括被设计和构造的程序以安装客户机代理120。在一些实施例中,第一程序322通过网络从另一个计算装置获得、下载、或接收客户机代理120。在又一个实施例中,第一程序322是用于在客户机102的操作系统上安装如网络驱动的程序的安装程序或即插即用管理器。d.用于提供虚拟化应用传送控制器的系统和方法现参考图4a,该框图描述虚拟化环境400的一个实施例。总体而言,计算装置100包括管理程序层、虚拟化层和硬件层。管理程序层包括管理程序401(也称为虚拟化管理器),其通过在虚拟化层中执行的至少一个虚拟机来分配和管理对硬件层中的多个物理资源(例如处理器421和盘428)的访问。虚拟化层包括至少一个操作系统410和分配给至少一个操作系统410的多个虚拟资源。虚拟资源可包括而不限于多个虚拟处理器432a、432b、432c(总称为432)和虚拟盘442a、442b、442c(总称为442),以及如虚拟存储器和虚拟网络接口的虚拟资源。可将多个虚拟资源和操作系统称为虚拟机406。虚拟机406可包括控制操作系统405,该控制操作系统405与管理程序401通信,并用于执行应用以管理并配置计算装置100上的其他虚拟机。具体而言,管理程序401可以以模拟可访问物理设备的操作系统的任何方式向操作系统提供虚拟资源。管理程序401可以向任何数量的客户操作系统410a、410b(总称为410)提供虚拟资源。一些实施例中,计算装置100执行一种或多种管理程序。这些实施例中,管理程序可用于模拟虚拟硬件、划分物理硬件、虚拟化物理硬件并执行提供对计算环境的访问的虚拟机。管理程序可包括由位于美国加州的paloalto的vmware制造的这些程序;xen管理程序(一种开源产品,其开发由开源xen.org协会监管);由微软公司提供的hyperv、virtualserver或虚拟pc管理程序,或其他。一些实施例中,计算装置100执行创建客户操作系统可在其上执行虚拟机平台的管理程序,该计算装置100被称为宿主服务器。在这些实施例的一个中,例如,计算装置100是由位于美国佛罗里达州fortlauderdale的citrixsystems有限公司提供的xenserver。一些实施例中,管理程序401在计算装置上执行的操作系统之内执行。在这些实施例的一个中,执行操作系统和管理程序401的计算装置可被视为具有宿主操作系统(执行在计算装置上的操作系统),和客户操作系统(在由管理程序401提供的计算资源分区内执行的操作系统)。其他实施例中,管理程序401和计算装置上的硬件直接交互而不是在宿主操作系统上执行。在这些实施例的一个中,管理程序401可被视为在“裸金属(baremetal)”上执行,所述“裸金属”指包括计算装置的硬件。一些实施例中,管理程序401可以产生操作系统410在其中执行的虚拟机406a-c(总称为406)。在这些实施例的一个中,管理程序401加载虚拟机映像以创建虚拟机406。在这些实施例的又一个中,管理程序401在虚拟机406内执行操作系统410。仍在这些实施例的又一个中,虚拟机406执行操作系统410。一些实施例中,管理程序401控制在计算装置100上执行的虚拟机406的处理器调度和内存划分。在这些实施例的一个中,管理程序401控制至少一个虚拟机406的执行。在这些实施例的又一个中,管理程序401向至少一个虚拟机406呈现由计算装置100提供的至少一个硬件资源的抽象。其他实施例中,管理程序401控制是否以及如何将物理处理器能力呈现给虚拟机406。控制操作系统405可以执行用于管理和配置客户操作系统的至少一个应用。一个实施例中,控制操作系统405可以执行管理应用,如包括如下用户接口的应用,该用户接口为管理员提供对用于管理虚拟机执行的功能的访问,这些功能包括用于执行虚拟机、中止虚拟机执行或者识别要分配给虚拟机的物理资源类型的功能。又一个实施例中,管理程序401在由管理程序401创建的虚拟机406内执行控制操作系统405。又一个实施例中,控制操作系统405在被授权直接访问计算装置100上的物理资源的虚拟机406上执行。一些实施例中,计算装置100a上的控制操作系统405a可以通过管理程序401a和管理程序401b之间的通信与计算装置100b上的控制操作系统405b交换数据。这样,一个或多个计算装置100可以和一个或多个其他计算装置100交换有关处理器或资源池中可用的其他物理资源的数据。在这些实施例的一个中,这种功能允许管理程序管理分布在多个物理计算装置上的资源池。在这些实施例的又一个中,多个管理程序管理在一个计算装置100上执行的一个或多个客户操作系统。一个实施例中,控制操作系统405在被授权与至少一个客户操作系统410交互的虚拟机406上执行。又一个实施例中,客户操作系统410通过管理程序401和控制操作系统405通信,以请求访问盘或网络。仍在又一个实施例中,客户操作系统410和控制操作系统405可通过由管理程序401建立的通信信道通信,例如,通过由管理程序401提供的多个共享存储器页面。一些实施例中,控制操作系统405包括用于直接与由计算装置100提供的网络硬件通信的网络后端驱动器。在这些实施例的一个中,网络后端驱动器处理来自至少一个客户操作系统110的至少一个虚拟机请求。其他实施例中,控制操作系统405包括用于与计算装置100上的存储元件通信的块后端驱动器。在这些实施例的一个中,块后端驱动器基于从客户操作系统410接收的至少一个请求从存储元件读写数据。一个实施例中,控制操作系统405包括工具堆栈404。其他实施例中,工具堆栈404提供如下功能:和管理程序401交互、和其他控制操作系统405(例如位于第二计算装置100b上)通信,或者管理计算装置100上的虚拟机406b、406c。又一个实施例中,工具堆栈404包括自定义应用,其用于向虚拟机群的管理员提供改进的管理功能。一些实施例中,工具堆栈404和控制操作系统405中的至少一个包括管理api,其提供用于远程配置并控制计算装置100上运行的虚拟机406的接口。其他实施例中,控制操作系统405通过工具堆栈404和管理程序401通信。一个实施例中,管理程序401在由管理程序401创建的虚拟机406内执行客户操作系统410。又一个实施例中,客户操作系统410为计算装置100的用户提供对计算环境中的资源的访问。又一个实施例中,资源包括程序、应用、文档、文件、多个应用、多个文件、可执行程序文件、桌面环境、计算环境或对计算装置100的用户可用的其他资源。又一个实施例中,可通过多个访问方法将资源传送给计算装置100,这些方法包括但不限于:常规的直接在计算装置100上安装、通过应用流的方法传送给计算装置100、将由在第二计算装置100’上执行资源产生的并通过表示层协议传送给计算装置100的输出数据传送给计算装置100、将通过在第二计算装置100’上执行的虚拟机执行资源所产生的输出数据传送给计算装置100、或者从连接到计算装置100的移动存储装置(例如usb设备)执行或者通过在计算装置100上执行的虚拟机执行并且产生输出数据。一些实施例中,计算装置100将执行资源所产生的输出数据传输给另一个计算装置100’。一个实施例中,客户操作系统410和该客户操作系统410在其上执行的虚拟机结合形成完全虚拟化虚拟机,该完全虚拟化虚拟机并不知道自己是虚拟机,这样的机器可称为“domainuhvm(硬件虚拟机)虚拟机”。又一个实施例中,完全虚拟化机包括模拟基本输入/输出系统(bios)的软件以便在完全虚拟化机中执行操作系统。在又一个实施例中,完全虚拟化机可包括驱动器,其通过和管理程序401通信提供功能。这样的实施例中,驱动器可意识到自己在虚拟化环境中执行。又一个实施例中,客户操作系统410和该客户操作系统410在其上执行的虚拟机结合形成超虚拟化(paravirtualized)虚拟机,该超虚拟化虚拟机意识到自己是虚拟机,这样的机器可称为“domainupv虚拟机”。又一个实施例中,超虚拟化机包括完全虚拟化机不包括的额外驱动器。又一个实施例中,超虚拟化机包括如上所述的被包含在控制操作系统405中的网络后端驱动器和块后端驱动器。现参考图4b,框图描述了系统中的多个联网计算装置的一个实施例,其中,至少一个物理主机执行虚拟机。总体而言,系统包括管理组件404和管理程序401。系统包括多个计算装置100、多个虚拟机406、多个管理程序401、多个管理组件(又称为工具堆栈404或者管理组件404)以及物理资源421、428。多个物理机器100的每一个可被提供为如上结合图1e-1h和图4a描述的计算装置100。具体而言,物理盘428由计算装置100提供,存储至少一部分虚拟盘442。一些实施例中,虚拟盘442和多个物理盘428相关联。在这些实施例的一个中,一个或多个计算装置100可以与一个或多个其他计算装置100交换有关处理器或资源池中可用的其他物理资源的数据,允许管理程序管理分布在多个物理计算装置上的资源池。一些实施例中,将虚拟机406在其上执行的计算装置100称为物理主机100或主机100。管理程序在计算装置100上的处理器上执行。管理程序将对物理盘的访问量分配给虚拟盘。一个实施例中,管理程序401分配物理盘上的空间量。又一个实施例中,管理程序401分配物理盘上的多个页面。一些实施例中,管理程序提供虚拟盘442作为初始化和执行虚拟机450进程的一部分。一个实施例中,将管理组件404a称为池管理组件404a。又一个实施例中,可以称为控制管理系统405a的管理操作系统405a包括管理组件。一些实施例中,将管理组件称为工具堆栈。在这些实施例的一个中,管理组件是上文结合图4a描述的工具堆栈404。其他实施例中,管理组件404提供用户接口,用于从如管理员的用户接收要供应和/或执行的虚拟机406的标识。仍在其他实施例中,管理组件404提供用户接口,用于从如管理员的用户接收将虚拟机406b从一个物理机器100迁移到另一物理机器的请求。在进一步的实施例中,管理组件404a识别在其上执行所请求的虚拟机406d的计算装置100b并指示所识别的计算装置100b上的管理程序401b执行所识别的虚拟机,这样,可将管理组件称为池管理组件。现参考图4c,描述了虚拟应用传送控制器或虚拟设备450的实施例。总体而言,上文结合图2a和2b描述的设备200的任何功能和/或实施例(例如应用传送控制器)可以部署在上文结合图4a和4b描述的虚拟化环境的任何实施例中。应用传送控制器的功能不是以设备200的形式部署,而是将该功能部署在诸如客户机102、服务器106或设备200的任何计算装置100上的虚拟化环境400中。现在参考图4c,描述了在服务器106的管理程序401上操作的虚拟设备450的实施例的框图。如图2a和2b的设备200一样,虚拟机450可以提供可用性、性能、卸载和安全的功能。对于可用性,虚拟设备可以执行网络第4层和第7层之间的负载平衡并执行智能服务健康监控。对于通过网络流量加速实现的性能增加,虚拟设备可以执行缓存和压缩。对于任何服务器的卸载处理,虚拟设备可以执行连接复用和连接池和/或ssl处理。对于安全,虚拟设备可以执行设备200的任何应用防火墙功能和sslvpn功能。结合附图2a描述的设备200的任何模块可以虚拟化设备传送控制器450的形式被打包、组合、设计或构造,虚拟化设备传送控制器450可部署成在诸如流行的服务器这样的任何服务器上的虚拟化环境300或非虚拟化环境中执行的软件模块或组件。例如,可以安装在计算装置上的安装包的形式提供虚拟设备。参考图2a,可以将高速缓存管理器232、策略引擎236、压缩238、加密引擎234、分组引擎240、gui210、cli212、壳服务214中的任一个设计和构成在计算装置和/或虚拟化环境300的任何操作系统上运行的组件或模块。虚拟化设备400不使用设备200的加密处理器260、处理器262、存储器264和网络堆栈267,而是可使用虚拟化环境400提供的任何这些资源或者服务器106上以其他方式可用的这些资源。仍参考图4c,简言之,任何一个或多个vserver275a-275n可以操作或执行在任意类型的计算装置100(如服务器106)的虚拟化环境400中。结合附图2b描述的设备200的任何模块和功能可以设计和构造成在服务器的虚拟化或非虚拟化环境中操作。可以将vserver275、sslvpn280、内网up282、交换装置284、dns286、加速装置288、appfw280和监控代理中的任一个打包、组合、设计或构造成应用传送控制器450的形式,应用传送控制器450可部署成在装置和/或虚拟化环境400中执行的一个或多个软件模块或组件。一些实施例中,服务器可以在虚拟化环境中执行多个虚拟机406a-406b,每个虚拟机运行虚拟应用传送控制器450的相同或不同实施例。一些实施例中,服务器可以在多核处理系统的一个核上执行一个或多个虚拟机上的一个或多个虚拟设备450。一些实施例中,服务器可以在多处理器装置的每个处理器上执行一个或多个虚拟机上的一个或多个虚拟设备450。e.提供多核架构的系统和方法根据摩尔定律,每两年集成电路上可安装的晶体管的数量会基本翻倍。然而,cpu速度增加会达到一个稳定的水平(plateaus),例如,2005年以来,cpu速度在约3.5-4ghz的范围内。一些情况下,cpu制造商可能不依靠cpu速度增加来获得额外的性能。一些cpu制造商会给处理器增加附加核以提供额外的性能。依靠cpu获得性能改善的如软件和网络供应商的产品可以通过利用这些多核cpu来改进他们的性能。可以重新设计和/或编写为单cpu设计和构造的软件以利用多线程、并行架构或多核架构。一些实施例中,称为ncore或多核技术的设备200的多核架构允许设备打破单核性能障碍并利用多核cpu的能力。前文结合图2a描述的架构中,运行单个网络或分组引擎。ncore技术和架构的多核允许同时和/或并行地运行多个分组引擎。通过在每个核上运行分组引擎,设备架构利用附加核的处理能力。一些实施例中,这提供了高达七倍的性能改善和扩展性。在一些实施例中,系统可以执行根据一类并行机制或并行计算方案(如功能并行机制、数据并行机制或基于流的数据并行机制)在一个或多个处理器核上分布的工作、任务、负载或网络流量的一些实施例。例如,诸如具有n个核的设备200'的多核系统的实施例可以包括总共1到n个核编号,如图5所示。一个实施例中,工作、负载或网络流量可以分布在第一核505a、第二核505b、第三核505c、第四核505d、第五核505e、第六核505f、第七核505g等上,这样,分布位于所有n个核505n(此后统称为核505)或n个核中的两个或多个上。可以有多个vip275,每个运行在多个核中的相应的核上。可以有多个分组引擎240,每个运行在多个核的相应的核。所使用任何方法可产生多个核中任一核上的不同的、变化的或类似的工作负载或性能级别。对于功能并行方法,每个核运行由分组引擎、vip275或设备200提供的多个功能的不同功能。在数据并行方法中,数据可基于接收数据的网络接口卡(nic)或vip275并行或分布在核上。又一个数据并行方法中,可通过将数据流分布在每个核上而将处理分布在核上。图5的进一步的细节中,一些实施例中,可以根据功能并行机制将负载、工作或网络流量在多个核505间分布。功能并行机制可基于执行一个或多个相应功能的每个核。一些实施例中,第一核可执行第一功能,同时第二核执行第二功能。功能并行方法中,根据功能性将多核系统要执行的功能划分并分布到每个核。一些实施例中,可将功能并行机制称为任务并行机制,并且可在每个处理器或核对同一数据或不同数据执行不同进程或功能时实现。核或处理器可执行相同或不同的代码。一些情况下,不同的执行线程或代码可在工作时相互通信。可以进行通信以将数据作为工作流的一部分从一个线程传递给下一线程。一些实施例中,根据功能并行机制将工作分布在核505上,可以包括根据特定功能分布网络流量,所述特定功能例如为网络输入/输出管理(nwi/o)、安全套接层(ssl)加密和解密和传输控制协议(tcp)功能。这会产生基于所使用的功能量或功能级别的工作、性能或者计算负载。一些实施例中,根据数据并行机制将工作分布在核505上可包括基于与特定的硬件或软件组件相关联的分布数据来分布工作量。一些实施例中,根据基于流的数据并行机制将工作分布在核505上可包括基于上下文或流来分布数据,从而使得每个核上的工作量可以类似、基本相等或者相对平均分布。在功能并行方法的情况下,可以配置每个核来运行由设备的分组引擎或vip提供的多个功能中的一个或多个功能。例如,核1可执行设备200’的网络i/o处理,同时核2执行设备的tcp连接管理。类似地,核3可执行ssl卸载,同时核4可执行第7层或应用层处理和流量管理。每个核可执行相同或不同的功能。每个核可执行不只一个功能。任一核可运行结合附图2a和2b识别和/或描述的功能或其一部分。该方法中,核上的工作可以粗粒度或细粒度方式按功能划分。一些情况下,按功能划分会使得不同核运行在不同的性能或负载级别。在功能并行方法的情况下,可以配置每个核来运行由设备的分组引擎提供的多个功能中的一个或多个功能。例如,核1可执行设备200’的网络i/o处理,同时核2执行设备的tcp连接管理。类似地,核3可执行ssl卸载,同时核4可执行第7层或应用层处理和流量管理。每个核可执行相同或不同的功能。每个核可执行不只一个功能。任何核可运行结合附图2a和2b识别和/或描述的功能或其一部分。该方法中,核上的工作可以粗粒度或细粒度方式按功能划分。一些情况下,按功能划分会使得不同核运行在不同的性能或负载级别。可以用任何结构或方案来分布功能或任务。例如,第一核core1505a可以处理与网络i/o功能相关联的应用和进程。一些实施例中,与网络i/o相关联的网络流量可以和特定的端口号相关联。因而,将具有与nwi/o相关联的端口目的地的发出和到来的分组导引给core1505a,该core1505a专用于处理与nwi/o端口相关联的所有网络流量。类似的,core2505b专用于处理与ssl处理相关联的功能,core4505d可专用于处理所有tcp级处理和功能。如网络i/o、ssl和tcp的功能或其他功能可以分配给核。这些其他功能可包括此处描述的任一或多个功能或操作。例如,结合图2a和2b描述的任何功能可基于功能基础分布在核上。一些情况下,第一vip275a可运行在第一核上,同时,具有不同配置的第二vip275b可运行在第二核上。一些实施例中,每个核505可处理特定功能,这样每个核505可处理与该特定功能相关联的处理。例如,core2505b可处理ssl卸载,同时core4505d可处理应用层处理和流量管理。其他实施例中,可根据任何类型或形式的数据并行机制将工作、负载或网络流量分布在核505上。一些实施例中,可由每个核对分布式数据的不同片执行相同任务或功能来实现多核系统中的数据并行机制。一些实施例中,单个执行线程或代码控制对所有数据片的操作。其他实施例中,不同线程或指令控制操作,但是可执行相同代码。一些实施例中,从分组引擎、vserver(vip)275a-c、网络接口卡(nic)和/或设备200上包括的或者与设备200相关联的任何其他网络硬件或软件的角度实现数据并行机制。例如,每个核可运行同样的分组引擎或vip代码或配置但是在不同的分布式数据集上进行操作。每个网络硬件或软件结构可接收不同的、变化的或者基本相同量的数据,因而可以具有变化的、不同的或相对相同量的负载。在数据并行方法的情况下,可以基于vip、nic和/或vip或nic的数据流来划分和分布工作。在这些的方法的一个中,可通过使每个vip在分布的数据集上工作来将多核系统的工作划分或者分布在vip中。例如,可配置每个核运行一个或多个vip。网络流量可分布在处理流量的每个vip的核上。在这些方法的又一个中,可基于哪个nic接收网络流量来将设备的工作划分或分布在核上。例如,第一nic的网络流量可被分布到第一核,同时第二nic的网络流量可被分布给第二核。一些情况下,核可处理来自多个nic的数据。单个vserver可以与单个核505相关联,正如vip1275a、vip2275b和vip3275c的情况。在一些实施例中,单个vserver可以与一个或者多个核505相关联。相反,一个或多个vserver可以与单个核505相关联。将vserver与核505关联可包括该核505处理与该特定vserver关联的所有功能。一些实施例中,每个核执行具有相同代码和配置的vip。其他实施例中,每个核执行具有相同代码但配置不同的vip。一些实施例中,每个核执行具有不同代码和相同或不同配置的vip。和vserver类似,nic也可以和特定的核505关联。许多实施例中,nic可以连接到一个或多个核505,这样,当nic接收或传输数据分组时,特定的核505处理涉及接收和传输数据分组的处理。一个实施例中,单个nic可以与单个核505相关联,正如nic1和nic2的情况。其他实施例中,一个或多个nic可以与单个核505相关联。但其他实施例中,单个nic可以与一个或者多个核505相关联。这些实施例中,负载可以分布在一个或多个核505上,使得每个核505基本上处理类似的负载量。与nic关联的核505可以处理与该特定nic关联的所有功能和/或数据。虽然根据vip或nic的数据将工作分布在核上可以具有某种程度的独立性,但是,一些实施例中,这会造成核的不平衡的使用或变化的负载。一些实施例中,可根据任何类型或形式的数据流将负载、工作或网络流量分布在核505上。在这些方法的又一个中,可基于数据流将工作划分或分布在多个核上。例如,客户机或服务器之间的经过设备的网络流量可以被分布到多个核中的一个核并且由其处理。一些情况下,最初建立会话或连接的核可以是该会话或连接的网络流量所分布的核。一些实施例中,数据流基于网络流量的任何单元或部分,如事务、请求/响应通信或来自客户机上的应用的流量。这样,一些实施例中,客户机和服务器之间的经过设备200’的数据流可以比其他方式分布的更平衡。在基于流的数据并行机制中,数据分布和任何类型的数据流相关,例如请求/响应对、事务、会话、连接或应用通信。例如,客户机或服务器之间的经过设备的网络流量可以被分布到多个核中的一个核并且由其处理。一些情况下,最初建立会话或连接的核可以是该会话或连接的网络流量所分布的核。数据流的分布可以使得每个核505运行基本相等或相对均匀分布的负载量、数据量或网络流量。一些实施例中,数据流基于网络流量的任何单元或部分,如事务、请求/响应通信或源自客户机上的应用的流量。这样,一些实施例中,客户机和服务器之间的经过设备200’的数据流可以比其他方式分布的更平衡。一个实施例中,可以基于事务或一系列事务分布数据量。一些实施例中,该事务可以是客户机和服务器之间的,其特征可以是ip地址或其他分组标识符。例如,核1505a可专用于特定客户机和特定服务器之间的事务,因此,核1505a上的负载可包括与特定客户机和服务器之间的事务相关联的网络流量。可通过将源自特定客户机或服务器的所有数据分组路由到核1505a来将网络流量分配给核1505a。虽然可部分地基于事务将工作或负载分布到核,但是,其他实施例中,可基于每个分组的基础分配负载或工作。这些实施例中,设备200可拦截数据分组并将数据分组分配给负载量最小的核505。例如,由于核1上的负载小于其他核505b-n上的负载,所以设备200可将第一到来的数据分组分配给核1505a。将第一数据分组分配给核1505a后,核1505a上的负载量与处理第一数据分组所需的处理资源量成比例增加。设备200拦截到第二数据分组时,设备200会将负载分配给核4505d,这是由于核4505d具有第二少的负载量。一些实施例中,将数据分组分配给负载量最小的核可确保分布到每个核505的负载保持基本相等。其他实施例中,将一部分网络流量分配给特定核505的情况下,可以每单元为基础分配负载。上述示例说明以每分组为基础进行负载平衡。其他实施例中,可以基于分组数目分配负载,例如,将每10个、100个或1000个分组分配给流量最少的核505。分配给核505的分组数量可以是由应用、用户或管理员确定的数目,而且可以为大于零的任何数。仍在其他实施例中,基于时间指标分配负载,使得在预定时间段将分组分布到特定核505。这些实施例中,可以在5毫秒内或者由用户、程序、系统、管理器或其他方式确定的任何时间段将分组分布到特定核505。预定时间段过去后,在预定时间段内将时间分组传输给不同的核505。用于将工作、负载或网络流量分布在一个或多个核505上的基于流的数据并行方法可包括上述实施例的任意组合。这些方法可以由设备200的任何部分执行,由在核505上执行的应用或者一组可执行指令执行,例如分组引擎,或者由在与设备200通信的计算装置上执行的任何应用、程序或代理执行。功能和数据并行机制计算方案可以任何方式组合,以产生混合并行机制或分布式处理方案,其包括功能并行机制、数据并行机制、基于流的数据并行机制或者其任何部分。一些情况下,多核系统可使用任何类型或形式的负载平衡方案来将负载分布在一个或多个核505上。负载平衡方案可以和任何功能和数据平行方案或其组合结合使用。多核系统的实施例可以是任何类型或形式的一个或多个系统、设备、装置或组件。一些实施例中,该系统可被包括在具有一个或多个处理核505a-n的设备200内。系统还可包括与存储器总线通信的一个或多个分组引擎(pe)或分组处理引擎(ppe)。存储器总线可用于与一个或多个处理核505a-n通信。系统还可包括一个或多个网络接口卡(nic)和流分布器,流分布器还可与一个或多个处理核505a-n通信。流分布器可包括接收侧调整器(receiversidescaler-rss)或接收侧调整(receiversidescaling-rss)模块。一个实施例中,分组引擎可包括此处所述的设备200的任何部分,例如图2a和2b所述设备的任何部分。一些实施例中,分组引擎可包括任何下列的元件:分组引擎240、网络堆栈267、高速缓存管理器232、策略引擎236、压缩引擎238、加密引擎234、gui210、cli212、壳服务214、监控程序216以及能够从存储器总线或一个或多个核505a-n中的任一个接收数据分组的其他任何软件和硬件元件。一些实施例中,分组引擎可包括一个或多个vserver275a-n或其任何部分。其他实施例中,分组引擎可提供以下功能的任意组合:sslvpn280、内部网ip282、交换284、dns286、分组加速288、appfw280、如由监控代理197提供的监控、和作为tcp堆栈关联的功能、负载平衡、ssl卸载和处理、内容交换、策略评估、高速缓存、压缩、编码、解压缩、解码、应用防火墙功能、xml处理和加速以及sslvpn连接。一些实施例中,分组引擎可以与特定服务器、用户、客户或网络关联。分组引擎与特定实体关联时,分组引擎可处理与该实体关联的数据分组。例如,如果分组引擎与第一用户关联,那么该分组引擎将对由第一用户产生的分组或者目的地址与第一用户关联的分组进行处理和操作。类似地,分组引擎可选择不与特定实体关联,使得分组引擎可对不是由该实体产生的或目的是该实体的任何数据分组进行处理和以其他方式进行操作。一些实例中,可将分组引擎配置为执行任何功能和/或数据并行方案。这些实例中,分组引擎可将功能或数据分布在多个核505a-n上,从而使得分布是根据并行机制或分布方案的。一些实施例中,单个分组引擎执行负载平衡方案,其他实施例中,一个或多个分组引擎执行负载平衡方案。一个实施例中,每个核505a-n可以与特定分组引擎关联,使得可以由分组引擎执行负载平衡。在该实施例中,负载平衡可要求与核505关联的每个分组引擎和与核关联的其他分组引擎通信,使得分组引擎可共同决定将负载分布在何处。该过程的一个实施例可包括从每个分组引擎接收对于负载的投票的仲裁器。仲裁器可部分地基于引擎投票的持续时间将负载分配给每个分组引擎,一些情况下,还可基于与在引擎关联的核505上的当前负载量相关联的优先级值来将负载分配给每个分组引擎。核上运行的任何分组引擎可以运行于用户模式、内核模式或其任意组合。一些实施例中,分组引擎作为在用户空间或应用空间中运行的应用或程序来操作。这些实施例中,分组引擎可使用任何类型或形式的接口来访问内核提供的任何功能。一些实施例中,分组引擎操作于内核模式中或作为内核的一部分来操作。一些实施例中,分组引擎的第一部分操作于用户模式中,分组引擎的第二部分操作于内核模式中。一些实施例中,第一核上的第一分组引擎执行于内核模式中,同时,第二核上的第二分组引擎执行于用户模式中。一些实施例中,分组引擎或其任何部分对nic或其任何驱动器进行操作或者与其联合操作。一些实施例中,存储器总线可以是任何类型或形式的存储器或计算机总线。系统可包括任意数量的存储器总线。一个实施例中,每个分组引擎可以和一个或者多个单独的存储器总线相关联。一些实施例中,nic可以是此处所述的任何网络接口卡或机制。nic可具有任意数量的端口。nic可设计并构造成连接到任何类型和形式的网络104。系统可包括任意数量的nic。一些实施例中,每个核505a-n可以与一个或多个单个nic关联。因而,每个核505可以与专用于特定核505的单个nic关联。核505a-n可包括此处所述的任何处理器。此外,可根据此处所述的任何核505配置来配置核505a-n。另外,核505a-n可具有此处所述的任何核505功能。虽然图5示出七个核505a-g,但是系统可包括任意数量的核505。具体而言,系统可包括n个核,其中n是大于零的整数。核可具有或使用被分配或指派用于该核的存储器。可将存储器视为该核的专有或本地存储器并且仅有该核可访问该存储器。核可具有或使用共享的或指派给多个核的存储器。该存储器可被视为由不只一个核可访问的公共或共享存储器。核可使用专有或公共存储器的任何组合。通过每个核的单独的地址空间,消除了使用同一地址空间的情况下的一些协调级别。利用单独的地址空间,核可以对核自己的地址空间中的信息和数据进行工作,而不用担心与其他核冲突。每个分组引擎可以具有用于tcp和/或ssl连接的单独存储器池。上文结合图5描述的核505的任何功能和/或实施例可以部署在上文结合图4a和4b描述的虚拟化环境的任何实施例中。不是以物理处理器505的形式部署核505的功能,而是将这些功能部署在诸如客户机102、服务器106或设备200的任何计算装置100的虚拟化环境400内。其他实施例中,不是以设备或一个装置的形式部署核505的功能,而是将该功能部署在任何布置的多个装置上。例如,一个装置可包括两个或多个核,另一个装置可包括两个或多个核。例如,多核系统可包括计算装置的集群、服务器群或计算装置的网络。一些实施例中,不是以核的形式部署核505的功能,而是将该功能部署在多个处理器上,例如部署多个单核处理器上。一个实施例中,核505可以为任何形式或类型的处理器。一些实施例中,核的功能可以基本类似此处所述的任何处理器或中央处理单元。一些实施例中,核505可包括此处所述的任何处理器的任何部分。虽然图5示出7个核,但是,设备200内可以有任意n个核,其中n是大于1的整数。一些实施例中,核505可以安装在公用设备200内,其他实施例中,核505可以安装在彼此通信连接的一个或多个设备200内。一些实施例中,核505包括图形处理软件,而其他实施例中,核505提供通用处理能力。核505可彼此物理靠近地安装和/或可彼此通信连接。可以用以物理方式和/或通信方式耦合到核的任何类型和形式的总线或子系统连接核,用于向核、从核和/或在核之间传输数据。尽管每个核505可包括用于与其他核通信的软件,一些实施例中,核管理器(未示出)可有助于每个核505之间的通信。一些实施例中,内核可提供核管理。核可以使用各种接口机制彼此接口或通信。一些实施例中,可以使用核到核的消息传输来在核之间通信,比如,第一核通过连接到核的总线或子系统向第二核发送消息或数据。一些实施例中,核可通过任何种类或形式的共享存储器接口通信。一个实施例中,可以存在在所有核中共享的一个或多个存储器单元。一些实施例中,每个核可以具有和每个其他核共享的单独存储器单元。例如,第一核可具有与第二核的第一共享存储器,以及与第三核的第二共享存储器。一些实施例中,核可通过任何类型的编程或api(如通过内核的函数调用)来通信。一些实施例中,操作系统可识别并支持多核装置,并提供用于核间通信的接口和api。流分布器可以是任何应用、程序、库、脚本、任务、服务、进程或在任何类型或形式的硬件上执行的任何类型和形式的可执行指令。一些实施例中,流分布器可以是用于执行此处所述任何操作和功能的任何电路设计或结构。一些实施例中,流分布器分布、转发、路由、控制和/或管理多个核505上的数据和/或在核上运行的分组引擎或vip的分布。一些实施例中,可将流分布器称为接口主装置(interfacemaster)。一个实施例中,流分布器包括在设备200的核或处理器上执行的一组可执行指令。又一个实施例中,流分布器包括在与设备200通信的计算机器上执行的一组可执行指令。一些实施例中,流分布器包括在如固件的nic上执行的一组可执行指令。其他实施例,流分布器包括用于将数据分组分布在核或处理器上的软件和硬件的任何组合。一个实施例中,流分布器在至少一个核505a-n上执行,而在其他实施例中,分配给每个核505a-n的单独的流分布器在相关联的核505a-n上执行。流分布器可使用任何类型和形式的统计或概率算法或决策来平衡多个核上的流。可以将如nic的设备硬件或内核设计或构造成支持nic和/或核上的顺序操作。在系统包括一个或多个流分布器的实施例中,每个流分布器可以与处理器505或分组引擎关联。流分布器可包括允许每个流分布器和在系统内执行的其他流分布器通信的接口机制。一个实例中,一个或多个流分布器可通过彼此通信确定如何平衡负载。该过程的操作可以基本与上述过程类似,即将投票提交给仲裁器,然后仲裁器确定哪个流分布器应该接收负载。其他实施例中,第一流分布器可识别所关联的核上的负载并基于任何下列标准确定是否将第一数据分组转发到所关联的核:所关联的核上的负载大于预定阈值;所关联的核上的负载小于预定阈值;所关联的核上的负载小于其他核上的负载;或者可以用于部分基于处理器上的负载量来确定将数据分组转发到何处的任何其他指标。流分布器可以根据如此处所述的分布、计算或负载平衡方法而将网络流量分布在核505上。一个实施例中,流分布器可基于功能并行机制分布方案、数据并行机制负载分布方案、基于流的数据并行机制分布方案或这些分布方案的任意组合或用于将负载分布在多个处理器上的任何负载平衡方案来分布网络流量。因而,流分布器可通过接收数据分组并根据操作的负载平衡或分布方案将数据分组分布在处理器上而充当负载分布器。一个实施例中,流分布器可包括用于确定如何相应地分布分组、工作或负载的一个或多个操作、函数或逻辑。又一个实施例中,流分布器可包括可识别与数据分组关联的源地址和目的地址并相应地分布分组的一个或多个子操作、函数或逻辑。一些实施例中,流分布器可包括接收侧调整(rss)网络驱动器模块或将数据分组分布在一个或多个核505上的任何类型和形式的可执行指令。rss模块可以包括硬件和软件的任意组合。一些实施例中,rss模块和流分布器协同工作以将数据分组分布在核505a-n或多处理器网络中的多个处理器上。一些实施例中,rss模块可在nic中执行,其他实施例中,可在核505的任何一个上执行。一些实施例中,rss模块使用微软接收侧调整(rss)方法。一个实施例中,rss是微软可扩展网络主动技术(microsoftscalablenetworkinginitiativetechnology),其使得系统中的多个处理器上的接收处理是平衡的,同时保持数据的顺序传送。rss可使用任何类型或形式的哈希方案来确定用于处理网络分组的核或处理器。rss模块可应用任何类型或形式的哈希函数,如toeplitz哈希函数。哈希函数可应用到哈希类型值或者任何值序列。哈希函数可以是任意安全级别的安全哈希或者是以其他方式加密。哈希函数可使用哈希关键字(hashkey)。关键字的大小取决于哈希函数。对于toeplitz哈希,用于ipv6的哈希关键字大小为40字节,用于ipv4的哈希关键字大小为16字节。可以基于任何一个或多个标准或设计目标设计或构造哈希函数。一些实施例中,可使用为不同的哈希输入和不同哈希类型提供均匀分布的哈希结果的哈希函数,所述不同哈希输入和不同哈希类型包括tcp/ipv4、tcp/ipv6、ipv4和ipv6头部。一些实施例中,可使用存在少量桶时(例如2个或4个)提供均匀分布的哈希结果的哈希函数。一些实施例中,可使用存在大量桶时(例如64个桶)提供随机分布的哈希结果的哈希函数。在一些实施例中,基于计算或资源使用水平来确定哈希函数。在一些实施例中,基于在硬件中实现哈希的难易度来确定哈希函数。在一些实施例中,基于用恶意的远程主机发送将全部哈希到同一桶中的分组的难易度来确定哈希函数。rss可从任意类型和形式的输入来产生哈希,例如值序列。该值序列可包括网络分组的任何部分,如网络分组的任何头部、域或载荷或其一部分。一些实施例中,可将哈希输入称为哈希类型,哈希输入可包括与网络分组或数据流关联的任何信息元组,例如下面的类型:包括至少两个ip地址和两个端口的四元组、包括任意四组值的四元组、六元组、二元组和/或任何其他数字或值序列。以下是可由rss使用的哈希类型示例:-源tcp端口、源ip版本4(ipv4)地址、目的tcp端口和目的ipv4地址的四元组。-源tcp端口、源ip版本6(ipv6)地址、目的tcp端口和目的ipv6地址的四元组。-源ipv4地址和目的ipv4地址的二元组。-源ipv6地址和目的ipv6地址的二元组。-源ipv6地址和目的ipv6地址的二元组,包括对解析ipv6扩展头部的支持。哈希结果或其任何部分可用于识别用于分布网络分组的核或实体,如分组引擎或vip。一些实施例中,可向哈希结果应用一个或者多个哈希位或掩码。哈希位或掩码可以是任何位数或字节数。nic可支持任意位,例如7位。网络堆栈可在初始化时设定要使用的实际位数。位数介于1和7之间,包括端值。可通过任意类型和形式的表用哈希结果来识别核或实体,例如通过桶表(buckettable)或间接表(indirectiontable)。一些实施例中,用哈希结果的位数来索引表。哈希掩码的范围可有效地限定间接表的大小。哈希结果的任何部分或哈希结果自身可用于索引间接表。表中的值可标识任何核或处理器,例如通过核或处理器标识符来标识。一些实施例中,表中标识多核系统的所有核。其他实施例中,表中标识多核系统的一部分核。间接表可包括任意多个桶,例如2到128个桶,可以用哈希掩码索引这些桶。每个桶可包括标识核或处理器的索引值范围。一些实施例中,流控制器和/或rss模块可通过改变间接表来重新平衡网络负载。一些实施例中,多核系统不包括rss驱动器或rss模块。在这些实施例的一些中,软件操控模块(未示出)或系统内rss模块的软件实施例可以和流分布器共同操作或者作为流分布器的一部分操作,以将分组引导到多核系统中的核505。一些实施例中,流分布器在设备200上的任何模块或程序中执行,或者在多核系统中包括的任何一个核505和任一装置或组件上执行。一些实施例中,流分布器可在第一核505a上执行,而在其他实施例中,流分布器可在nic上执行。其他实施例中,流分布器的实例可在多核系统中包括的每个核505上执行。该实施例中,流分布器的每个实例可和流分布器的其他实例通信以在核505之间来回转发分组。存在这样的状况,其中,对请求分组的响应不是由同一核处理的,即第一核处理请求,而第二核处理响应。这些情况下,流分布器的实例可以拦截分组并将分组转发到期望的或正确的核505,即流分布器可将响应转发到第一核。流分布器的多个实例可以在任意数量的核505或核505的任何组合上执行。流分布器可以响应于任一个或多个规则或策略而操作。规则可识别接收网络分组、数据或数据流的核或分组处理引擎。规则可识别和网络分组有关的任何类型和形式的元组信息,例如源和目的ip地址以及源和目的端口的四元组。基于所接收的匹配规则所指定的元组的分组,流分布器可将分组转发到核或分组引擎。一些实施例中,通过共享存储器和/或核到核的消息传输将分组转发到核。虽然流分布器550可以在多核系统中执行,但是,一些实施例中,流分布器可执行在位于远离多核系统的计算装置或设备上。这样的实施例中,流分布器可以和多核系统通信以接收数据分组并将分组分布在一个或多个核505上。一个实施例中,流分布器接收以设备200为目的地的数据分组,向所接收的数据分组应用分布方案并将数据分组分布到多核系统的一个或多个核505。一个实施例中,流分布器可以被包括在路由器或其他设备中,这样路由器可以通过改变与每个分组关联的元数据而以特定核505为目的地,从而每个分组以多核系统的子节点为目的地。这样的实施例中,可用cisco的vn-tag机制来改变或标记具有适当元数据的每个分组。图5示出包括一个或多个处理核505a-n的多核系统575的实施例。简言之,核505中的一个可被指定为控制核505a并可用作其他核505的控制平面570。其他核可以是次级核,其工作于数据平面,而控制核提供控制平面。核505a-n共享全局高速缓存580。控制核提供控制平面,多核系统中的其他核形成或提供数据平面。这些核对网络流量执行数据处理功能,而控制核提供对多核系统的初始化、配置和控制。仍参考图5,具体而言,核505a-n以及控制核505a可以是此处所述的任何处理器。此外,核505a-n和控制核505a可以是能在图5所述系统中工作的任何处理器。另外,核505a-n可以是此处所述的任何核或核组。控制核可以是与其他核不同类型的核或处理器。一些实施例中,控制核可操作不同的分组引擎或者具有与其他核的分组引擎配置不同的分组引擎。每个核的存储器的任何部分可以被分配给或者用作核共享的全局高速缓存。简而言之,每个核的每个存储器的预定百分比或预定量可用作全局高速缓存。例如,每个核的每个存储器的50%可用作或分配给共享全局高速缓存。也就是说,所示实施例中,除了控制平面核或核1以外的每个核的2gb可用于形成28gb的共享全局高速缓存。例如通过配置服务而配置控制平面可确定用于共享全局高速缓存的存储量(theamountofmemory)。一些实施例中,每个核可提供不同的存储量供全局高速缓存使用。其他实施例中,任一核可以不提供任何存储器或不使用全局高速缓存。一些实施例中,任何核也可具有未分配给全局共享存储器的存储器中的本地高速缓存。每个核可将网络流量的任意部分存储在全局共享高速缓存中。每个核可检查高速缓存来查找要在请求或响应中使用的任何内容。任何核可从全局共享高速缓存获得内容以在数据流、请求或响应中使用。全局高速缓存580可以是任意类型或形式的存储器或存储元件,例如此处所述的任何存储器或存储元件。一些实施例中,核505可访问预定的存储量(即32gb或者与系统575相当的任何其他存储量)。全局高速缓存580可以从预定的存储量分配而来,同时,其余的可用存储器可在核505之间分配。其他实施例中,每个核505可具有预定的存储量。全局高速缓存580可包括分配给每个核505的存储量。该存储量可以字节为单位来测量,或者可用分配给每个核505的存储器百分比来测量。因而,全局高速缓存580可包括来自与每个核505关联的存储器的1gb存储器,或者可包括和每个核505关联的存储器的20%或一半。一些实施例,只有一部分核505提供存储器给全局高速缓存580,而在其他实施例,全局高速缓存580可包括未分配给核505的存储器。每个核505可使用全局高速缓存580来存储网络流量或缓存数据。一些实施例中,核的分组引擎使用全局高速缓存来缓存并使用由多个分组引擎所存储的数据。例如,图2a的高速缓存管理器和图2b的高速缓存功能可使用全局高速缓存来共享数据以用于加速。例如,每个分组引擎可在全局高速缓存中存储例如html数据的响应。操作于核上的任何高速缓存管理器可访问全局高速缓存来将高速缓存响应提供给客户请求。一些实施例中,核505可使用全局高速缓存580来存储端口分配表,其可用于部分基于端口确定数据流。其他实施例中,核505可使用全局高速缓存580来存储地址查询表或任何其他表或列表,流分布器可使用这些表来确定将到来的数据分组和发出的数据分组导向何处。一些实施例中,核505可以读写高速缓存580,而其他实施例中,核505仅从高速缓存读或者仅向高速缓存写。核可使用全局高速缓存来执行核到核通信。可以将全局高速缓存580划分成各个存储器部分,其中每个部分可专用于特定核505。一个实施例中,控制核505a可接收大量的可用高速缓存,而其他核505可接收对全局高速缓存580的变化的访问量。一些实施例中,系统575可包括控制核505a。虽然图5将核1505a示为控制核,但是,控制核可以是设备200或多核系统中的任何一个核。此外,虽然仅描述了单个控制核,但是,系统575可包括一个或多个控制核,每个控制核对系统有某种程度的控制。一些实施例中,一个或多个控制核可以各自控制系统575的特定方面。例如,一个核可控制决定使用哪种分布方案,而另一个核可确定全局高速缓存580的大小。多核系统的控制平面可以是将一个核指定并配置成专用的管理核或者作为主核。控制平面核可对多核系统中的多个核的操作和功能提供控制、管理和协调。控制平面核可对多核系统中的多个核上存储器系统的分配和使用提供控制、管理和协调,这包括初始化和配置存储器系统。一些实施例中,控制平面包括流分布器,用于基于数据流控制数据流到核的分配以及网络分组到核的分配。一些实施例中,控制平面核运行分组引擎,其他实施例中,控制平面核专用于系统的其他核的控制和管理。控制核505a可对其他核505进行某种级别的控制,例如,确定将多少存储器分配给每个核505,或者确定应该指派哪个核来处理特定功能或硬件/软件实体。一些实施例中,控制核505a可以对控制平面570中的这些核505进行控制。因而,控制平面570之外可存在不受控制核505a控制的处理器。确定控制平面570的边界可包括由控制核505a或系统575中执行的代理维护由控制核505a控制的核的列表。控制核505a可控制以下的任一个:核初始化、确定核何时不可用、一个核出故障时将负载重新分配给其他核505、决定实现哪个分布方案、决定哪个核应该接收网络流量、决定应该给每个核分配多少高速缓存、确定是否将特定功能或元件分布到特定核、确定是否允许核彼此通信、确定全局高速缓存580的大小以及对系统575内的核的功能、配置或操作的任何其他确定。f.用于提供分布式集群架构的系统和方法如在前面的部分所讨论的,为克服晶体管间隔的限制以及cpu速度增加,许多cpu制造商已结合多核cpu来提高性能,超过了甚至单核更高速cpu能达到的性能。可通过操作一起作为分布式或集群式设备的多个(单核或多核)设备来得到相似或更进一步的性能改进。独立的计算装置或设备可被称为集群的节点。集中式管理系统可执行负载平衡、分布、配置或者允许节点一起操作作为单个计算系统的其他任务。在许多实施例中,在外部或者对于其他装置(包括服务器和客户机)来说,虽然具有超过典型独立设备的性能,集群可被看作是单个虚拟设备或计算装置。现参考图6,描述了计算装置集群或设备集群600的实施例。可将多个诸如台式计算机、服务器、机架式服务器、刀片式服务器或任何其他类型和形式的计算装置的设备200a-200n或者其他计算装置(有时称作节点)加入单个设备集群600。尽管被称为设备集群,但在许多实施例中,该集群可作为应用服务器、网络存储服务器、备份服务器或者不限于任何其他类型的计算装置进行操作。在许多实施例中,设备集群600可被用于执行设备200、wan优化装置、网络加速装置或上述其他装置的多个功能。在一些实施例中,设备集群600可包括计算装置的同构集合,如相同的设备、一个或多个机箱内的刀片式服务器、台式或机架式计算装置或者其他装置。在其他实施例中,设备集群600可包括装置的异构或混合集合,包括不同型号的设备、混合的设备和服务器,或者计算装置的任何其他集合。这样可允许随着时间的过去例如用新型号或装置来扩展或升级设备集群600。在一些实施例中,如上所述,设备集群600的每个计算装置或设备200可包括多核设备。在许多这样的实施例中,除了本文讨论的节点管理和分布方法之外,可由每个独立设备利用上文讨论的核管理和流分布方法。这可被看作是双层分布式系统,其中一个设备包含数据且将该数据分布到多个节点,并且每个节点包含用于处理的数据且将该数据分布到多个核。因此,在该实施例中,节点分布系统不需要管理对于独立核的流分布,因为可由如上所述的主或控制核来负责。在许多实施例中,可将设备集群600物理地聚合,例如在一个机箱中的多个刀片式服务器或者在单个机架中的多个机架式装置,但在其他实施例中,设备集群600可分布在多个机箱、多个机架、数据中心中的多个房间、多个数据中心或者任何其他物理布置中。因此,设备集群600可被认为是经由共同配置、管理和目的聚合的虚拟设备,而不是物理组。在一些实施例中,可将设备集群600连接到一个或多个网络104、104’。例如,暂时返回参考图1a,在一些实施例中,可在连接到一个或多个客户机102的网络104和连接到一个或多个服务器106的网络104’之间部署设备200。可以类似地部署设备集群600以作为单个设备来操作。在许多实施例中,这样可能不需要在设备集群600之外的任何网络拓扑改变,允许轻松地安装或者从单个设备场景进行扩展。在其他实施例中,可如图1b-1d所示的或如上文所述类似地部署设备集群600。在其他实施例中,设备集群可包括由一个或多个服务器执行的多个虚拟机或者进程。例如,在一个这样的实施例中,服务器群可执行多个虚拟机,每个虚拟机被配置成设备200,并且多个虚拟机作为设备集群600协同操作。在其他实施例中,设备集群600可包括设备200或者被配置成设备200的虚拟机的混合。在一些实施例中,可地理分布设备集群600,其中多个设备200不位于一处。例如,返回参考图6,在一个这样的实施例中,第一设备200a可位于第一站点(如数据中心),并且第二设备200b可位于第二站点(如中心局或企业总部)。在进一步的实施例中,可通过专用网络(如t1或t3点到点连接)、vpn或者任何其他类型和形式的网络来连接该地理上的远程设备。因此,与位于一处的设备200a-200b相比,尽管可能存在额外的通信延迟,但可能具有在站点电源故障或通信中断情况下的可靠性、可扩展性或者其他效益的好处。在一些实施例中,可通过数据流的地理或基于网络的分布来减少延迟问题。例如,尽管被配置成设备集群600,可将来自客户机和企业总部的服务器的通信定向到在站点处部署的设备200b、可由位置来衡量负载平衡,或者可采取类似步骤来减轻任何延迟。仍参考图6,设备集群600可经由客户机数据平面602连接到网络。在一些实施例中,客户机数据平面602可包括在客户机和设备集群600之间传输数据的通信网络,如网络104。在一些实施例中,客户机数据平面602可包括交换机、集线器、路由器或者桥接外部网络104和设备集群600的多个设备200a-200n的其他网络装置。例如,在一个这样的实施例中,路由器可连接到外部网络104,并且连接到每个设备200a-200n的网络接口。在一些实施例中,该路由器或交换机可被称为接口管理器,并且还可以被配置为跨应用集群600中的节点均匀地分布流量。因此,在许多实施例中,接口主装置(master)可包括在设备集群600外部的流分布器。在其他实施例中,接口主装置可包括设备200a-200n中的一个。例如,第一设备200a可充当接口主装置,为设备集群600接收进入的流量,并且跨设备200b-200n中的每一个分布该流量。在一些实施例中,返回流量可类似地经由充当接口主装置的第一设备200a从设备200b-200n中的每一个流过。在其他实施例中,可将来自设备200b-200n中的每一个的返回流量直接或经由外部路由器、交换机或其他装置传输到网络104、104’。在一些实施例中,不充当接口主装置的设备集群的设备200可被称为接口从装置。接口主装置可采用多种方式中的任何一种来执行负载平衡或业务流分布。例如,在一些实施例中,接口主装置可包括执行用集群的设备或节点配置的下一跳的等价多路径(ecmp)路由的路由器。接口主装置可使用开放最短路径优先(ospf)。在一些实施例中,接口主装置可使用基于无状态哈希的机制来用于流量分布,例如,如上文所述的基于ip地址或其他分组信息元组的哈希。可以为跨节点的均匀分布来选择哈希密钥和/或盐值。在其他实施例中,接口主装置可经由链路聚合(lag)协议或者任何其他类型和形式的流分布、负载平衡和路由来执行流分布。在一些实施例中,设备集群600可经由服务器数据平面604连接到网络。类似于客户机数据平面602,服务器数据平面604可包括在服务器和设备集群600之间传输数据的通信网络,如网络104’。在一些实施例中,服务器数据平面604可包括交换机、集线器、路由器,或者桥接外部网络104’和设备集群600的多个设备200a-200n的其他网络装置。例如,在一个这样的实施例中,路由器可连接到外部网络104’,并且连接到每个设备200a-200n的网络接口。在许多实施例中,每个设备200a-200n可包括多个网络接口,第一网络接口连接到客户机数据平面602并且第二网络接口连接到服务器数据平面604。这可以提供额外的安全性,并且通过使设备集群600充当中间装置阻止了客户机和服务器网络的直接相接。在其他实施例中,可合并或组合客户机数据平面602和服务器数据平面604。例如,可将设备集群600部署为在具有客户机102和服务器106的网络上的非中间节点。如上文所讨论的,在许多实施例中,可在服务器数据平面604上部署接口主装置,以便将来自服务器和网络104’的通信路由和分布到设备集群的每个设备。在许多实施例中,可将用于客户机数据平面602的接口主装置和用于服务器数据平面604的接口从装置类似配置为执行如上文所述的ecmp或lag协议。在一些实施例中,可经由内部通信网络或后平面(backplane)606连接设备集群600中的每个设备200a-200n。后平面606可包括用于节点间或设备间控制和配置消息以及用于节点间流量转发的通信网络。例如,在其中第一设备200a经由网络104与客户机通信并且第二设备200b经由网络104’与服务器通信的一个实施例中,客户机和服务器之间的通信可以从客户机流向第一设备、从第一设备经由后平面606流向第二设备,并且从第二设备流向服务器,反之亦然。在其他实施例中,后平面606可传输配置消息(如接口暂停或重置命令)、策略更新(如过滤或压缩策略)、状态消息(如缓冲器状态、吞吐量或出错消息),或者任何其他类型和形式的节点间通信。在一些实施例中,可由集群中的所有节点共享rss密钥或哈希密钥,并且可经由后平面606传输rss密钥或哈希密钥。例如,第一节点或主节点可(例如在启动或引导时)选择rss密钥,并且可分发该密钥以由其他节点使用。在一些实施例中,后平面606可包括在每个设备200的网络接口之间的网络,并且可包括路由器、交换机或其他网络装置(未示出)。因此,在一些实施例中并且如上文所述,可在设备集群600和网络104之间部署客户机数据平面602的路由器、可在设备集群600和网络104’之间部署服务器数据平面604的路由器,以及可将后平面606的路由器部署为设备集群600的部分。每个路由器可连接到每个设备200的不同网络接口。在其他实施例中,可组合一个或多个平面602-606,或者可将路由器或交换机分成多个lan或vlan,以便连接到设备200a-200n的不同接口并且同时提供多个路由功能,从而减少复杂性或者从系统中排除额外的装置。在一些实施例中,控制平面(未示出)可将配置和控制流量从管理员或用户传送到设备集群600。在一些实施例中,控制平面可以是第四物理网络,而在其他实施例中,控制平面可包括vpn、隧道或者经由平面602-606中的一个的通信。因此,在一些实施例中,控制平面可被认为是虚拟通信平面。在其他实施例中,管理员可通过单独的接口来提供配置和控制,该接口例如是串行通信接口(如rs-232)、usb通信接口或者任何其他类型和形式的通信。在一些实施例中,设备200可包括用于管理的接口,例如具有按钮和显示的前平面、用于经由网络104、104’或后平面606进行配置的web服务器,或者任何其他类型和形式的接口。在一些实施例中,如上文所讨论的,设备集群600可包括内部流分布。例如,这样可允许节点对于外部装置来说透明地加入/离开。为避免对于该变化需要反复地重新配置外部流分布器,一节点或设备可充当接口主装置或分布器,以将网络分组引导到集群600内的正确节点。例如,在一些实施例中,当节点离开集群时(例如在故障时、重置时或类似情况下),外部ecmp路由器可识别节点中的变化,并且可以重新处理所有流,从而重新分布流量。这会导致断开和重置所有连接。当节点重新加入时,会出现相同的断开和重置。在一些实施例中,为了可靠性,设备集群600内的两个设备或节点可经由连接镜像来接收来自外部路由器的通信。在许多实施例中,设备集群600的节点之间的流分布可使用上文所述的用于设备的核之间的流分布的任何方法。例如,在一个实施例中,主设备、主节点或接口主装置可对进入的流量计算rss哈希(如toeplitz哈希),并且查询关于该哈希的偏好列表或分布表。在许多实施例中,流分布器可在转发流量时向接收设备提供该哈希。这可以消除对节点重新计算用于将流分布到核的哈希的需要。在许多这样的实施例中,用来计算用于在设备之间分布的哈希的rss密钥可包括与用来计算用于在核之间分布的哈希的密钥相同的密钥,该密钥可被称为全局rss密钥,其允许重复使用所计算的哈希。在一些实施例中,可以用输入的包括端口号的传输层头部、包括ip地址的互联网层头部或者任何其他分组头部信息的元组来计算该哈希。在一些实施例中,可将分组主体信息用于该哈希。例如,在其中一种协议的流量被封装在另一种协议的流量内的一个实施例中(例如,经由无损tcp头部封装的有损udp流量),流分布器可基于被封装协议的头部(例如udp头部)而不是封装协议(例如tcp头部)来计算该哈希。类似地,在其中分组被封装且被加密或者被压缩的一些实施例中,流分布器可在解密或解压缩后基于负载分组的头部计算哈希。在其他实施例中,节点可具有内部ip地址,如用于配置或管理的目的。不需要哈希和分布去往这些ip地址的流量,而是可将该流量转发到拥有目的地址的节点。例如,设备可具有为了配置或管理的目的在ip地址1.2.3.4处运行的web服务器或其他服务器,并且在一些实施例中,可向流分布器将该地址注册为其内部ip地址。在其他实施例中,流分布器可以向设备集群600内的每个节点分配内部ip地址。可以直接转发从外部客户机或服务器(例如由管理员使用的工作站)到来的、定向到设备的内部ip地址(1.2.3.4)的流量,而不需要进行哈希。g.用于负载平衡服务链的系统和方法本公开涉及用于负载平衡服务链的系统和方法。特别地,本解决方案涉及使用与服务链的服务的实例相关的元数据来对服务链进行负载平衡的系统和方法。例如,本解决方案的系统和方法可以识别服务链,每个服务链包括具有第一服务的实例和第二服务的实例的路径,确定每个服务链的路径权重,并基于负载平衡函数和路径权重从服务链选择一服务链。服务链可以指链接或组合在一起的服务实例。例如,客户机计算装置可以通过网络向服务器发送分组。可以在分组到达目的地服务器之前以各种方式处理分组。例如,网络的提供商可以具有关于在分组可以被转发到目的地服务器之前将在分组(或流)上发生的特定操作的一组策略。分组的路径中的设备可以实现这些策略,其可以包括例如防火墙或入侵检测系统。防火墙可以提供一组服务,例如网络地址转换、深度分组检测和访问控制。防火墙可以拆分或分离为这些不同的服务,并由计算基础结构执行。例如,由计算基础结构执行的第一实例或虚拟机可以执行网络地址转换的第一服务,由计算基础结构执行的第二实例或虚拟机可以执行深度分组检测的第二服务,以及由计算基础结构执行的第三实例或虚拟机可以执行访问控制的第三服务。这三种服务可以作为服务链分组或链接在一起,以提供防火墙。例如,服务链可以包括、对应于或与网络地址列表、标识符列表或标识服务链的服务实例的标签列表相关联。例如,可以使用多协议标签交换(mpls)技术配置服务链。mpls可以是数据承载技术,其被配置为基于路径标签将数据从一个网络节点引导到下一个网络节点。mpls标签或其他标识符标识可以标识节点之间的虚拟链路或路径。标签技术可以封装各种网络协议的分组。使用标识符或标签的列表,控制器可以沿着服务链引导分组。例如,第一标签可以使网络将流量转发到服务链中的第一服务,第一服务然后弹出其标签并顺着转发分组。第二标签可以使分组被发送到第二服务,第二服务然后弹出第二标签并顺着转发分组。然而,由于服务实例可以分布在多个区域、可用性区带等,并且此外,将分组转发到多个服务节点以提供服务集(例如,防火墙)可以增加通过网络的延伸并在数据分组行进通过一个或多个数据中心区带或分区时引入额外的开销。例如,不是一次通过网络核心,而是分组可能每个服务跨越构造一次。这还可能引起通过网络的额外的时延和延迟。在这种多跳处理部署(例如,服务链)中,每跳可以是负载平衡系统。但是,在每个跳级(服务节点级别)处的负载平衡可能不会导致全局最佳的多跳处理。在每个跳级处的负载平衡可能与其他跳级处理无关,因此可能无法提供最佳的端到端流量处理。例如,在服务链云部署或计算基础结构中,客户机-服务器流量可以多次跨越各种云分区边界以进行端到端处理。这可能会导致增加的延迟和网络开销,从而对吞吐量产生负面影响。本公开的系统和方法通过确定多跳部署的全局视图、分析可能的路径、识别最佳路径以及跨越所识别的最佳路径对流量进行负载平衡,来提供服务链负载平衡。例如,控制器可以使用api来获得、检索、接收或获取有关每个实例的元数据。控制器可以从维护用户帐户信息及其资源分配的计算基础结构的信息存储装置或数据库接收元数据。控制器可以确定计算基础结构中的实例的布局、资源分配(cpu、存储器、带宽)、预定的类型、连接类型等。使用检索到的信息,控制器可以导出与每个实例相关联的成本。在一些情况下,如果计算基础结构不具有信息存储装置或者控制器未被配置为或者不能访问信息存储装置,则控制器可以从管理员接收输入以计算与实例相关联的成本。例如,并且在一些实施例中,计算基础结构可以配置有服务链,该服务链将以下服务组合在一起:防火墙(fw)到入侵检测系统(ids)到web服务(ws)。计算基础结构可以包括每个服务的多个实例,如下:防火墙服务的三个实例;ids服务的两个实例;和web服务的3个实例。控制器可以基于每个服务链的实例数确定服务链的路径的总数,如下:3fwx2idsx3ws=18条路径。控制器可以使用从信息库接收的元数据来确定边权重。控制器可以使用边权重来确定路径权重。可以使用一个或多个路径权重计算技术或算法来确定路径权重。控制器可以根据权重分配算法按升序或降序对路径权重进行排名。例如,控制器可以将路径权重从最高效率到最低效率排序,使得最高排序的路径权重对应于最高效率的服务链。在一些情况下,控制器可以将路径权重从最低效率到最高效率排序,使得最低排序的路径权重对应于最高效率的服务链。控制器可以基于排名或排序的表选择一个或多个最佳服务链或路径。控制器可以选择预定数量的最高排序的路径,其中最高排序可以对应于最高效率或最佳路径。例如,控制器可以如下选择排序表的前三个条目:p1:fw1→ids1→ws1(最佳路径1);p7:fw2→ids1→ws1(最佳路径2);p3:fw1→ids1→ws3(最佳路径3)。控制器可以使用前三个条目指示的路径来更有效地处理流量(例如,低延迟、更少开销、高吞吐量、低成本等)。在一些实施例中,控制器可以分析所有18个可能路径以选择最高排序路径。在一些实施例中,控制器可以使用机器学习技术或修剪技术来选择最佳路径而不分析每个可能的路径。例如,控制器可以确定至少两个实例不在同一数据中心区带或分区中的路径效率较低,并在对路径进行排序之前过滤掉这些路径。在一些实施例中,控制器可以确定是否存在由计算基础结构提供的从所选择的最佳路径中遗漏的任何实例,并且包括附加路径以覆盖所有实例。控制器可以识别遗漏的实例并选择附加路径,以使得由计算基础结构提供的所有实例都被控制器用于负载平衡服务链。例如,三个所选择的最佳路径1、2或3中没有一个包括实例fw3、ids2和ws2。然后,控制器可以解析已排序的表以识别包括这些实例中的一个或多个的附加最佳路径。例如,控制器可以选择包括一个或多个遗漏实例的最高排序路径:p17:fw3→ids2→ws2(最佳路径4)。在一些情况下,控制器可以重复地解析该表以识别包括遗漏实例的最高排序路径,直到由计算基础结构提供的所有实例在所选择的最佳路径中表示。控制器可以使用负载平衡技术或算法对最佳路径进行负载平衡。控制器可以使用所确定的所选最佳路径的路径权重和负载平衡算法作为加权负载平衡解决方案来提高性能。虽然本文公开的技术可以用在adc环境中,但是本公开的系统和方法可以改善网络装置的操作,网络装置例如防火墙、路由器、优化系统、速率限制系统、访问控制系统等。现在参考图7a,示出了用于负载平衡服务链的系统的实施例的框图。系统700可包括一个或多个设备200a-n。设备200a-n可以配置有一个或多个特征或功能。设备200a-n每个可以配置有类似的功能或不同的功能。在一些实施例中,设备200a包括控制器705。控制器705可以包括被配置为与客户机102a-n、服务器106a-n和元数据服务器735接口或通信的接口710。控制器705可以包括云守护进程715,其从元数据服务器735检索与计算基础结构中的服务链或服务实例有关的元数据或帐户信息。控制器705可以包括加权引擎720,其使用元数据来为每个服务的每个实例生成边权重,并为每个服务链生成路径权重。控制器705可以包括负载平衡器725,其被配置为使用由加权引擎720生成的权重来选择服务链以引导来自客户机102的网络流量。控制器705可以包括vserver275。控制器705可以执行vserver275。控制器705可以在设备200a的一个或多个处理器上执行的vserver275上执行。系统700可以指或包括计算基础结构。计算基础结构可以包括或指一个或多个服务器106a-n。系统700可以包括或访问元数据服务器735。元数据服务器可以由管理员或与计算基础结构相关联的其他实体(例如iaas服务的提供商)维护或管理。iaas服务可以包括例如用于访问、监视和管理远程数据中心基础结构的自服务模型,例如计算(虚拟化或裸机)、存储、网络和网络服务(例如防火墙)。iaas云服务的用户或客户可以基于消费购买iaas,类似于电力或其他公用事业计费,而不是直接购买硬件。在某些情况下,iaas的客户可以管理应用程序、数据、运行时间、中间件和操作系统。但是,iaas提供商可以管理虚拟化、服务器、硬盘驱动器、存储装置和网络。iaas提供商可以在虚拟化层之上提供数据库、消息队列和其他服务。元数据服务器735可以包括或访问元数据信息存储装置740或元数据数据库740,其包括存储元数据的一个或多个元数据数据结构。元数据可以包括关于云环境的帐户或与其相关联的信息。元数据可以包括与云环境相关的帐户信息。例如,云基础结构的提供商(或iaas提供商)可以维护关于其客户账户的信息存储装置或元数据数据库740。元数据数据库740可以包括客户或用户帐户信息。帐户信息可以包括客户的资源分配,其指示客户消耗的资源的数量或类型。iaas提供商可以使用存储在元数据数据库740中的用户的资源分配信息来进行计费、维护、分析等。计算基础结构可以包括位于不同区带、分区、机架或地理区中的计算资源,诸如服务器、处理器或存储器。例如,分区可以描绘iaas的划分并定义iaas的客户使用的iaas云的区。可以在一个或多个级别进行分区,例如提供商级别、区域级别、区带级别或机架级别。可以在分区定义中定义分区组并将其存储在元数据数据库740中。分区组(或网络分区)可以包括可以由iaas的一个网络(例如,区域)绑定的iaas的区。每个区域都可以划分一个单独的地理区。每个区域可以具有多个隔离的位置,称为区带。因此,可以在网络分区内包括几个分区。在某些情况下,多个分区组可以具有多个分区以实现高可用性。例如,可以定义多个分区以指示设备200a或服务在多个区(例如,区域、区带或机架)中产生实例。在多个可用性区带中生成的实例可以允许系统保持正常运行,即使一个可用性区带不能工作或在不同区带之间负载平衡。设备200可以包括图6中描绘的设备集群600的一个或多个功能或组件。设备200可以通过提供应用级安全、优化或流量管理来管理或优化经由服务器106a-n通过网络104或网络104'提供的服务、网站内容、资源或应用的传送。设备200可以与上面参考图1-6描述的设备集群600相同或类似,或包括一个或多个功能或其组件。在一些实施例中,客户机102a-n与客户机102a-n相同或相似,并且服务器106a-n与服务器106a-n相同或相似,如上面参考图1-6所述,或包括其一个或多个功能或组件。在一些实施例中,系统700的客户机102和服务器106还被配置为执行功能或提供用于认证客户机的特征。控制器705、接口710、云守护进程715、加权引擎720或负载平衡器725可以包括数字电路、硬件、一个或多个处理器、存储器或软件,其被设计、构造和配置为便于管理基于云的服务。仍然参考图7a,并且更详细地,设备200a包括接口710。接口710可以包括应用程序编程接口、图形用户界面、通信端口,或者配置有一个或多个通信或网络协议,例如tcp/ip等。接口710可以被配置为接收或拦截数据分组,接收数据分组,监视网络流量,或以其他方式经由网络104或网络104'获得或传输/传达信息。在一些实施例中,接口710从多个客户机102a-n中的客户机102a接收请求。接口710可以经由网络协议、通信协议、应用层协议、传输协议或加密协议来接收请求。协议可以包括例如http、tcp、ica或hdx。协议可以是有状态协议或无状态协议。该请求可以包括关于客户机或客户机102a请求访问的资源的信息。在一些实施例中,由服务器106a-n提供的资源可以是安全资源,客户机装置的客户机或用户在准许访问之前可能需要认证、授权或批准。在一些实施例中,接口710被设计和构造成从一个或多个客户机102a-n接收网络通信,并将网络通信转发或引导到一个或多个服务器106a-n。接口710可以与上面参考图1-6描述的接口608或610a-n相同或相似,或包括其一个或多个功能或组件。接口710可以从客户机102a接收数据分组。接口710可以将从客户机102a接收的数据分组转发或中继到目的地服务器。例如,接口710可以被配置为自动地将从客户机代理120a接收的数据分组转发到服务器106a或实例745。接口710还可以被配置为基于设备200a的状态或模式从客户机102a-n吸引网络流量。例如,设备200a可以是主装置200a。主装置200a可以指活动-备用中间设备对中的当前处于活动模式的中间装置。因此,如果设备200a当前是被配置为主动服务来自客户机的请求的主装置,则设备200a的接口710可以从客户机102a-n接收网络流量,并且将请求转发到一个或多个服务器106a-n。在一些实施例中,控制器705包括云守护进程715,其被设计和构造为接收与由云环境或计算基础结构的一个或多个服务器提供的一个或多个服务的多个实例(例如,实例745a-n、实例750a-n或实例755a-n)中的每一个相关的帐户信息。云守护进程715可以被配置为在一个或多个处理器上执行。云守护进程715可以被配置为作为后台进程执行或运行。在一些情况下,可以基于时间间隔、周期性地或响应于条件或触发事件来配置云守护进程715。例如,云守护进程715可以每1分钟、5分钟、10分钟、30分钟、每小时、每12小时、每天、隔夜等执行或运行。在一些情况下,云守护进程715可以被配置为响应来自云环境的用户或管理员的指示来执行或运行。在一些实施例中,云守护进程715可以被配置为基于条件运行,例如确定服务的新实例已经启动、实例的故障转移、实例的终止、来自客户机102a的新请求、或者客户帐户的添加、更新或修改。控制器705(例如,经由接口710或云守护进程710)可以确定或识别服务、实例和服务链。实例可以指便于向一个或多个客户机102a-n提供服务的服务的实例。控制器705可以将分组引导到提供一个或多个服务的服务链。实例可以包括一个或多个可用实例。实例可以包括主动实例或被动实例。实例可以包括在设备200a或服务器106a-n上执行的虚拟机或vserver275。控制器705可以包括一个或多个vserver275,其执行以将来自多个客户机102a-n的网络流量引导到多个服务器106a-n。云守护进程715可以查验、轮询、请求或以其他方式识别实例。例如,云守护进程715可以生成对来自所有活动服务链、服务或其实例的响应的查验或请求。响应于查验或请求,云守护进程715可以从每个实例接收响应。响应可以包括服务链或实例的标识符。响应可以包括与服务链或实例相关联的客户的帐户标识符。例如,响应可以标识由计算基础结构提供的iaas服务链。控制器705可以识别包括路径的多个服务链。该路径可以具有由计算基础结构(例如,服务器106a-n)提供的第一服务的第一实例(例如,745a),以及由计算基础结构(例如,服务器106a-n)提供的第二服务的实例(例如,745b)。控制器705(例如,经由云守护进程715)可以接收、检索或获取与该实例相关联的元数据或帐户信息。元数据可以包括关于实例提供访问的服务的元数据。控制器705可以从元数据服务器735检索元数据。在一些实施例中,控制器705可以使用云应用程序编程接口(api)来生成一个或多个查询以识别多个服务链的每个实例。响应于一个或多个查询,控制器705可以接收包括一个或多个路径的一个或多个服务链的指示,每个路径具有一个或多个服务实例。控制器705可以使用云api生成一个或多个查询,以检索多个服务链的每个实例的元数据。该信息可以包括或指与通过实例提供的服务相关联的元数据。该查询可以包括关于服务的资源分配、云布局、资源消耗、预留类型或连接类型的信息的请求。服务的云布局可以指示分区信息,例如在其上执行服务的区带、数据中心、地理区、网络分区或驱动器分区。可以使用一种预留来提供具有足够服务容量的机器。一种类型的预留可以包括用于提供具有足够服务容量(例如足够的存储、计算能力、处理器速度、存储器、应用程序、图形处理单元、带宽等)的机器的策略。预留可以包括虚拟预留。虚拟预留可以包括服务器106a-n可用于提供或执行iaas服务的存储器、cpu、网络和存储资源的份额。连接的类型可以指服务器106a用于与设备200a-n或客户机102a-n通信的网络104'的类型。连接类型可以指示服务可用的带宽量。控制器705可以使用云api生成一个或多个查询。在一些情况下,控制器705可以配置有一个或多个云api。控制器705可以从存储在控制器705的数据库中的多个云api中选择云api。控制器705可以基于与实例或经由实例提供的服务相关联的标识符来选择云api。例如,控制器705可以基于实例或服务的标识符来确定帐户标识符。控制器705可以使用账户标识符在存储在控制器705的存储器中的数据库中执行查找,以选择映射到账户标识符的云api。例如,云监控api可以包括由华盛顿州西雅图的amazonwebservices,inc.提供的amazoncloudwatchtm。使用云api,控制器705可以生成一个或多个查询以检索关于服务的元数据。该查询可以包括对服务的布局信息的查询。实例的布局信息可以指云环境中的分区。实例的布局信息可以指实例访问以提供服务的云环境中的分区。例如,iaas云服务可以在相应的布局执行。因此,实例的布局信息可以指代实例提供访问的服务的布局。控制器705可以经由网络104'将生成的查询发送到元数据服务器735。控制器705可以从元数据服务器735接收对查询的响应,其包括该实例的元数据。实例的元数据可以包括关于实例提供访问的服务的元数据。实例的元数据可以包括与实例相关联的服务的元数据。在一些情况下,控制器705可以针对每个服务链、每个实例或每个相关联的服务生成并向元数据服务器735发送单独的查询。在一些情况下,控制器705可以生成并发送标识由多个实例提供的多个服务的查询。在一些情况下,控制器705可以生成并发送查询,该查询识别一起分组或链接成服务链的多个实例。控制器705可以接收包括一个或多个服务、服务链或实例的元数据的响应。例如,控制器705可以接收针对每个查询的响应、或者包括对多个查询的响应的响应。控制器705可以包括加权引擎720,加权引擎720被设计和构造成使用从元数据服务器735接收的元数据来确定每个服务链的路径权重。路径权重可以指示根据服务链提供服务的效率水平。路径权重可以基于计算基础结构性能特征(诸如延迟、资源开销、吞吐量或资源成本,其可以基于服务链路径中的每个实例的各个权重)来指示性能计算基础结构或用户体验。路径权重可以指示对托管系统(例如iaas服务)的云环境影响的逻辑测量。权重可以指示通过云环境提供的服务实例的性能。控制器705可以配置有一种或多种技术、功能或算法,以使用接收的元数据确定服务链的路径权重。控制器705可以确定服务链的每个实例的边权重,并组合服务链的每个实例的边权重以确定服务链的路径权重。例如,计算基础结构可以提供三种服务。第一服务可以由在服务器106a上执行的实例745a和在服务器106b上执行的实例745b提供。第二服务可以由在服务器106b上执行的实例750a提供。第三服务可以由在服务器106a上执行的实例755a提供。服务器106a和106b可以位于不同的区带、分区或地理区中。实例可以是活动实例或潜在的可用实例。加权引擎720可以使用所检索的元数据来确定每个实例745a、745b、750a和755a的边权重。加权引擎720可以基于各种效率或性能考虑为实例分配更高或更低的权重。例如,服务链可以将数据路径定义为从第一服务到第二服务以及到第三服务。控制器705可以确定或识别控制器705和实例745a之间的网络路径可以比控制器705和实例745b之间的网络路径更有效率或更高性能。因此,与实例745b相比,控制器705可以向实例745a分配更高的权重。与实例745a和实例750n之间的网络路径相比,控制器705还可以确定实例745a和实例750a之间的网络路径效率较低或性能较低。因此,与实例750n相比,控制器705可以分配更高权重的实例750a。控制器705可以确定实例750a和实例755a之间的网络路径比750a和755n之间的网络路径更有效率或性能更高。因此,控制器705可以确定服务链的每个实例的边权重。加权引擎720可以基于网络路径、处理器速度、带宽、存储器、配置、位置或可用性向实例分配更高或更低的权重。在一些情况下,如果控制器705与实例处于相同的区带中,则控制器可以分配更高的权重,因为将分组引导到相同区带中的实例可以导致减少的延迟和增加的吞吐量。加权引擎720可以向第二实例分配较低权重,因为设备和服务处于不同区带,这可能导致增加的延迟和降低的吞吐量。例如,加权引擎720可以为第一实例分配1、2、3、5、10或另一数量的权重。加权引擎720可以将负1(-1)、0、1、2、3或一些其他权重的权重分配给第二实例。加权引擎720可以分配权重,该权重指示由云环境为服务实例提供的性能水平。加权引擎720可以基于控制器705与提供实例的服务器之间的距离来分配权重。例如,加权引擎720可以确定设备200a-n的地理位置。加权引擎720可以使用所接收的元数据来确定提供服务实例的服务器106a-n的地理位置。加权引擎720可以基于地理位置确定每个设备与每个实例之间的距离。例如,加权引擎720可以查询映射引擎或映射工具,其确定设备200与执行该实例的服务器之间的地理距离。在另一示例中,加权引擎720可以使设备查验服务器并使用查验响应时间来确定距离或响应时间。加权引擎720可以基于距离或响应时间来分配权重。例如,加权引擎720可以基于响应对设备和服务的实例进行排序,并且将最高权重分配给与最短响应时间相对应的服务实例,将第二最高权重分配给与第二最短响应时间相对应的服务实例等。加权引擎720可以基于诸如服务实例的布局、预留类型或容量、带宽或类型连接之类的一个或多个因素将权重分配给服务的实例。例如,加权引擎720可以基于所接收的元数据确定服务的第一实例的权重,如下:instance_one_weight=+5(由于相同的区带)+2(由于可用带宽为500mbps)=7。加权引擎720可以基于所接收的元数据确定第二服务实例的权重,如下:instance_two_weight=+1(由于不同的区带)+4(由于可用带宽为1000mbps)=5。加权引擎720可以将第一权重与第二权重进行比较,以确定对应于最高权重的实例。加权引擎720可以针对每个服务链的每个实例执行该权重确定。控制器720可以使用每个服务链的每个实例的权重来确定服务链的路径权重。例如,可用路径可能包括:#路径计算路径权重1745a,750a,755aw001+w111+w211pw12745a,750n,755aw111+w131+w211pw23745a,750a,755nw001+w111+w311pw34745a,750n,755nw001+w131+w311pw45745b,750a,755aw002+w111+w211pw56745b,750n,755aw002+w131+w211pw67745b,750a,755nw002+w111+w311pw78745n,750n,755nw003+w131+w311pw8表1:示出了根据一个实施例的可用路径、边权重和路径权重。如表1所示,总共有8个可能的服务链,每个服务链包括由计算基础结构提供的三个服务的实例之间的路径。控制器705可以确定每个实例的边权重(例如,w001、w111、w211)。然后,控制器705可以组合边权重以确定路径权重。控制器705可以使用任何函数、算法或技术来组合边权重。例如,控制器705可以对服务链的每个实例的边权重求和,使边权重多倍,确定服务链的一个或多个边权重的比率,将边权重输入到函数中,取边权重的平均值等控制器705可以基于服务链的效率水平对路径权重进行排名或排序。例如,可以按降序对服务链进行排名或排序,使得第一服务链是最佳服务链或最高性能服务链,并且最后一个服务链是次优服务或最低性能的服务链,如表2所示。#路径计算路径权重1745n,750n,755nw003+w131+w311pw82745b,750a,755aw002+w111+w211pw53745b,750a,755nw002+w111+w311pw74745a,750n,755nw001+w131+w311pw45745b,750n,755aw002+w131+w211pw66745a,750a,755aw001+w111+w211pw17745a,750n,755aw111+w131+w211pw28745a,750a,755nw001+w111+w311pw3表2:示出基于路径权重排序或排名的服务链控制器705可以基于路径权重对服务链进行排序,如表2所示。例如,对应于路径权重pw8的服务链#1可以是排名最高或性能最高的服务链。这可能是因为所有三个服务的实例都由同一服务器执行。因此,即使实例745n的边权重w003实际上可能大于实例745a的边权重w001,因为实例745n更远离控制器705,控制器705可以确定该服务链整体上表现更好并且是全局最优的服务链,因为控制器705不是在每跳级别上执行负载平衡,而是在多跳或服务链的基础上执行负载平衡。控制器705可以选择预定数量的最佳性能服务链,然后仅使用该预定数量的服务链执行负载平衡。例如,预定数量的最佳性能服务链可以是2、3、4、5、6、7、10、15、20或便于服务链负载平衡的一些其他数字。在一些情况下,预定数量可以是固定数量或动态数量。例如,预定数量可以基于可用服务的数量,例如可用服务链数量的一半、三分之一、四分之一、五分之一、六分之一或者其他分数或百分比。在一些实施例中,控制器705可以将服务链添加到预定数量的最佳执行服务链的所选子集。控制器705可以分析所选择的服务链预定数量的最佳执行服务链,并确定由计算基础结构提供的一个或多个实例从该子集遗漏。例如,如果从表2中选择前三个服务链,则控制器705可以确定实例745a遗漏或未被利用。响应于确定示例从所选服务链中遗漏,控制器705可以解析表2以识别包括遗漏实例的最高排序服务链。在该示例中,控制器705可以识别对应于路径权重pw4的第四服务链,并将该服务链添加到要用于负载平衡的服务链子集。在一些实施例中,控制器705可以在确定路径权重之前,在对服务链进行排名或排序之前,或者在确定最佳服务链的子集之前,使用机器学习技术来修剪服务链。通过执行预处理、过滤或修剪技术,控制器705可以提高识别最佳服务链的效率。在一些实施例中,控制器705可以配置有机器学习技术以修剪服务链。例如,机器学习技术可以确定包括全部在同一区带中的实例的任何服务链比包括两个或更多个区带中的实例的服务链性能更高。机器学习技术可以进一步确定包括两个不同区带中的实例的任何服务链比包括三个或更多个不同区带中的实例的服务链性能更高。因此,在确定服务链的路径权重之前或者在基于路径权重对服务链进行排序或排名之前,控制器705可以过滤掉包括三个或更多个不同区带中的实例的服务链。在一些实施例中,机器学习技术可以基于历史数据确定包括实例745a的任何服务链是不应被选择为最佳服务链的低性能实例。因此,控制器可以在确定路径权重之前或在基于路径权重对服务链进行排序之前过滤掉包括该实例的任何服务链。控制器705可以包括负载平衡器725,其被设计和构造成使用负载平衡函数和每个服务链的确定的路径权重来选择服务链实例以引导来自客户机的网络流量。负载平衡器725可以跨多个计算资源分配工作负载以优化资源使用,最大化吞吐量,最小化响应时间并避免单个资源的过载。在一些情况下,负载平衡函数可以使负载平衡器725选择对应于最高权重的服务链。例如,负载平衡器725可以从客户机102接收数据分组或请求。负载平衡器725可以检索或识别对应于请求的、被识别为对计算基础结构最佳的服务链。例如,负载平衡器725可以确定最佳服务链对应于路径权重pw8、pw5、pw7和pw4。负载平衡器725可以使用路径权重来应用负载平衡函数,以选择服务链以引导来自客户机的网络流量。在一些实施例中,负载平衡器725可以使用负载平衡算法(或负载平衡技术),其定义设备200a可以用来选择引导流量的服务链的标准。当负载平衡器725确定一个服务器满足配置的标准时,设备然后可以选择不同的服务。在一些情况下,负载平衡器可以使用最少连接技术选择服务链。最少连接技术可以选择具有最少活动连接数的服务链,以平衡服务链及其实例之间的活动请求的负载。负载平衡器725可以通过使用路径权重来提供进一步的配置粒度。例如,负载平衡器725可以将确定的路径权重应用于最少连接负载平衡函数。负载平衡器725可以基于以下表达式的加权值n{w}来选择服务链:n{路径权重}=(活动事务的数量)*(10000/路径权重)。例如,第一服务链可以具有50个活动事务,并且权重分配为3。第二服务链可以具有80个活动事务,并且权重分配为5。因此,第一服务链的加权值n{路径权重}可以是50*(10000/3)=166,667。第二服务链的加权值n{路径权重}可以是80*(10000/5)=160,000。负载平衡器725可以使用加权最少连接技术来为每个请求选择具有最小n{路径权重}值的服务链。下面的表2示出了云感知负载平衡器725如何使用元数据来生成路径权重以选择服务链以引导以下请求的网络流量:表3:云感知服务链负载平衡的说明性示例如上表3所示,第二服务链对于四个请求具有最小n{pw}值,并且被选择以引导来自一个或多个客户机的网络流量。当从一个或多个客户机接收到每个请求时,第二服务链的n{pw}基于最少连接函数而增加。当第五请求进入时,第一服务链具有最小的n{pw},因此负载平衡器选择第一服务链。当从客户机接收到第六请求时,第二服务链具有最小n{pw},因此负载平衡器选择第二服务链。当接收到第七请求时,第一和第二服务链都具有相同的n{pw}。此时,负载平衡器可以被配置为基于循环方法选择服务链之一或者随机选择一个或另一个服务链,或者默认为第一服务链或第二服务链。在一些实施例中,控制器705可以使用元数据来促成在设备的存储器或存储装置中的数据缓存。控制器705可以使用所接收的元数据来确定由计算基础结构提供的每个服务链的每个实例的区带信息。控制器可以使用所接收的元数据确定经由第一区带提供第一服务的第一实例,并且经由第二区带提供第二服务的第二实例。控制器705可以使用云信息或权重来确定控制器705位于第一区带中、附近或具有与第一区带的更短的响应时间(与第二区带相比)。因此,控制器705可以确定将与第二实例有关的数据存储或高速缓存在控制器705或设备200a的存储器或存储装置中,以便改善云性能。数据可以包括例如经常从第二服务请求或由第二服务提供的数据文件或应用程序。现在参考图7b,示出了对服务链进行负载平衡的方法的实施例的框图。可以使用图1-7a、8或9a-9c中描述的一个或多个系统或组件来执行方法700。简要概述,并且在一些实施例中,控制器在步骤780识别服务链,每个服务链包括具有第一服务的实例和第二服务的实例的路径。在步骤785,控制器确定每个服务的路径权重。在步骤790,控制器基于负载平衡函数和路径权重从服务链中选择服务链,并通过所选择的服务链引导来自客户机的网络流量。仍然参考图7b,并且更详细地,在步骤780,控制器识别服务链,每个服务链包括具有第一服务的实例和第二服务的实例的路径。控制器可以在一个或多个客户机和提供一个或多个服务的一个或多个服务器的中间。一个或多个服务器可以在一个或网络环境(例如,一个或多个区带、分区或子分区)中。服务器可以是云环境的一部分,例如iaas云。云环境可以包括控制器,或者控制器可以向客户机提供对云环境的服务器的访问。控制器可以确定或识别与云环境相关联的每个实例。控制器可以查验、轮询、请求、监视、跟踪或以其他方式确定与云环境相关联的实例。例如,控制器可以确定云提供包括在服务链中链接在一起的一组服务的服务。服务链可以包括诸如防火墙、入侵检测系统和web服务等的服务。服务链可以具有路径或定义将流量或数据从客户机引导到防火墙、入侵检测系统和web服务的路径。控制器可以确定或识别云环境提供服务链中的每个服务的一个或多个实例。例如,控制器可以生成对元数据服务器的一个或多个查询,该元数据服务器存储与来自客户机的流量相关联的服务或服务链相对应的帐户信息。例如,控制器可以周期性地查询元数据服务器以识别由计算基础结构提供的所有实例。在一些情况下,控制器可以对由计算基础结构提供的一些或所有服务链或实例执行服务链负载平衡。例如,某些帐户可以被配置用于服务链负载平衡,而其他服务或服务链的其他帐户可能未配置用于或启用服务链负载平衡。在识别被配置用于或可用于将客户机流量引导到云环境中的一个或多个服务的实例时,控制器可以检索与多个实例中的每个实例相关联的帐户信息或元数据。控制器可以使用云应用程序编程接口来生成一个或多个查询以检索多个实例中的每个实例的帐户信息。一个或多个查询可以被配置为检索布局(例如,在云分区中,或位置)、资源分配、预留类型或连接类型中的至少一个的信息。控制器可以为被配置为检索有关相应服务的信息的每个实例生成查询。控制器可以将查询发送到存储实例、服务或服务链的元数据的元数据服务器。在一些实施例中,控制器可以生成查询,该查询包括对关于多个服务、多个服务链或其多个实例的信息的请求。在一些实施例中,为服务构造查询,并且对查询的响应识别服务的活动或可用实例。在一些实施例中,为服务链构造第一查询,并且对查询的响应是由服务链提供的服务的列表。可以为所接收的服务列表中的每个服务构造第二查询。然后,控制器可以发送一个或多个第二查询,并接收识别每个服务的可用、活动或启动实例的信息。在一些实施例中,控制器可以生成针对多个实例的查询。控制器可以获得关于实例和服务的不同类型的信息。例如,控制器可以使用云应用程序编程接口来生成查询以检索多个实例的第一实例的布局信息。布局信息可以包括例如控制器将网络流量引导至的服务实例的布局。布局信息可以包括例如与控制器将网络流量引导至的每个实例相对应的布局信息。控制器可以将查询发送到由云计算基础结构的提供商维护的元数据服务器。元数据服务器可以包括存储实例的布局信息的数据库。控制器可以响应于查询从元数据服务器接收第一实例的布局信息。在一些实施例中,控制器可以周期性地接收或获取更新的帐户信息。控制器可以响应于接收到来自客户机的请求,基于时间间隔,或响应于条件或事件(例如,添加新服务器,或服务器离线;故障转移;新的或更新的负载平衡算法或权重策略等)请求帐户信息。在步骤785,控制器可以基于账户信息确定每个服务链的路径权重。控制器可以确定多个服务链中的每个服务链的路径权重。路径权重可以指示根据服务链提供服务的效率水平。路径权重可以包括数值、分数、等级、字符串、文本或根据服务链识别的路径提供服务的效率或性能水平的其他指示。路径权重可以指示通过云环境提供的服务链的路径的性能。路径权重可以基于延迟、资源开销、吞吐量或资源成本。路径权重可以指示延迟、资源开销、吞吐量或资源成本,其可以基于服务链的路径中的每个实例的各个权重。为了确定路径权重,控制器可以使用从元数据服务器接收的元数据或账户信息来确定每个服务链的每个实例的边权重。例如,控制器可以基于实例所在的分区、资源分配、连接类型或其他元数据来确定实例的更高权重。例如,如果实例位于不同于控制器的云分区或区带中,则控制器可以确定实例的较低权重。控制器可以分配正或负权重,或者从负数到正数(例如,-100到+100)的数字权重。控制器可以将权重分配为整数、二进制值、分数或小数。控制器可以使用指数加权技术或线性加权技术。例如,随着控制器和服务之间的距离增加,分配给实例的权重可以指数或线性增加。例如,控制器可以识别包括第一路径的服务链,该第一路径具有第一服务的第一实例和第二服务的第一实例。控制器可以识别第二服务链,该第二服务链包括具有第一服务的第二实例和第二服务的第二实例的第二路径。控制器可以通过生成对元数据服务器的查询,轮询可用实例或从控制器中缓存的数据文件来识别实例。例如,控制器可以配置或存储可用服务实例的列表,以便引导来自客户机的网络流量。控制器可以使用云api来接收第一服务的第一实例、第一服务的第二实例、第二服务的第一实例和第二服务的第二实例中的每一个的元数据。例如,控制器可以使用云api生成一个或多个查询。控制器可以基于元数据确定第一服务的第一实例的第一边权重、第一服务的第二实例的第二边权重、第二服务的第一实例的第三边权重、以及第二服务的第二实例的第四边权重。边权重可以包括或指示实例的环境权重。权重可以指示云上的实例的性能水平。权重可以指示实例的效率水平。权重可以指示将数据从一个实例传输到服务链中的另一个实例的效率水平。控制器可以基于第一边权重与第三边权重的组合来生成第一路径的第一路径权重。控制器可以基于第二边权重与第四边权重的组合来生成第二路径的第二路径权重。控制器可以基于实例的帐户信息和装置的属性来确定权重。实例的或实例的虚拟服务器的帐户信息可以指实例将流量引导至的服务的元数据。装置的属性可以指设备、中间装置、实例或负载平衡器的属性。属性可以包括例如位置、布局、容量、活动连接数、内存、cpu使用率、带宽或网络连接。控制器可以基于实例本身或实例的虚拟服务器的属性,以及使用实例的帐户信息(例如,与实例将流量引导至的后端服务器相关联的帐户信息)确定权重。在一些实施例中,控制器可以基于每个服务链的路径权重对每个服务链进行排序。控制器可以按升序或降序对服务链进行排序。控制器可以基于排序来选择多个服务链中的预定数量的最高排序服务链以生成服务链的子集。服务链的子集可以指最佳服务链集或最佳服务链。相对于被配置为提供云计算环境的相同服务的其他可用服务链,这些服务链可以是最佳的或最好性能的。例如,所有服务链可以提供相同的服务或多个服务,但是每个服务链可以与另一个服务链不同,因为它包括与另一个服务链不同的至少一个实例。例如,没有一个服务链包括与另一个服务链相同的所有实例。在一些实施例中,控制器可以分析或解析最佳服务链集以确定计算基础结构可用或提供的一个或多个实例未被表示或包括在该最佳服务链集中。响应于确定存在至少一个遗漏的实例,控制器可以确定遗漏的实例。然后,控制器可以基于路径权重访问存储排序的服务链列表的表,以识别包括遗漏的服务链的下一个最高性能的服务链。控制器可以将该附加服务链添加到最佳服务链的子集中。控制器可以重复此过程,直到所有可用实例都被表示或包括在最佳服务链集中。因此,控制器可以修改服务链的子集以包括多个服务链中的一个或多个附加服务链,其中一个或多个附加服务链包括服务的一个或多个遗漏实例。在步骤790,控制器可以选择多个服务链中的服务链以引导来自客户机的网络流量。控制器可以基于负载平衡函数和每个实例的路径权重来选择服务链。例如,如果较高权重指示改进的性能,则控制器可以选择对应于最高路径权重的服务链。在另一示例中,较高权重可指示降低的性能;因此,控制器可以选择与最低路径权重相对应的服务链。在一些实施例中,控制器可以使用加权负载平衡函数,例如加权最少连接函数。控制器可以将所选择的最佳服务链输入到负载平衡器或识别或向负载平衡器提供关于所选择的最佳服务链的信息,以响应于来自客户机的请求或从客户机接收流量来对服务链进行负载平衡。在一些实施例中,在基于负载平衡函数和路径权重选择服务链后,控制器可以经由所选服务链的路径从客户机引导网络。控制器可以使用标识所选服务链的路径中的实例的信息来封装来自客户机的流量。控制器可以使用所选服务链的路径中的每个实例的标签或其他标识符来封装流量。控制器可以将流量引导到所选服务链中的第一实例。然后,第一实例可以将流量引导到所选服务链的路径中的第二实例。第一实例可以基于封装的信息识别第二实例。在某些情况下,第一实例可以处理流量,然后将处理后的流量转发到路由器或交换机,路由器或交换机可以解析封装的信息并识别所选服务链路径中的第二实例。在某些情况下,封装的信息可以包括或指示服务链路径中的每个实例的ip地址。现在参考图8,示出了用于负载平衡服务链的系统800的实施例的功能框图。系统800可以由图1-7a或9a-9c所示的一个或多个组件或系统执行。系统800可以包括计算基础结构805或云环境805。计算基础结构805可以经由网络(例如,网络104)接收和发送来自一个或多个客户机102a-n的客户机流量850。计算基础结构805可以包括、提供或与控制器705、元数据服务器820以及一个或多个服务或服务器845a-e相关联。控制器705可包括一个或多个控制平面守护进程825a-c。一个或多个控制平面守护进程可以包括云感知守护进程825a。控制器705可以包括数据平面835。数据平面可以包括vip2840(例如,vserver275,其被配置为将客户机流量引导到一个或多个服务器)。在步骤865,云感知守护进程825a可以获取或检索来自元数据服务器820的元数据。在步骤870,云感知守护进程825a可以使用所接收的元数据来确定每个实例的云权重。例如,vip2840实例的云权重可以是a、b、c、d和e。在步骤875,云感知守护进程825a将云权重传递给数据平面835。然后,控制器705可以使用云权重来确定由计算基础结构805提供的每个服务链的路径权重。在步骤880,控制器705使用路径权重与一个或多个负载平衡算法来选择服务链以引导来自一个或多个客户机102a-n的流量。现在参考图9a,示出了被配置为对服务链进行负载平衡的计算基础结构900的实施例的功能框图。计算基础结构900(或云环境900)经由服务链向一个或多个客户机102a-n提供服务。例如,并且在一些实施例中,计算基础结构900可以配置有服务链,该服务链将以下服务分组、链接或锁在一起:防火墙(fw)到入侵检测系统(ids)到web服务(ws)。计算基础结构可以包括每个服务的多个实例,如下所示:防火墙服务的三个实例;ids服务的两个实例;和web服务的3个实例。控制器可以基于每个服务链的实例数确定服务链的总路径数,如下所示:3fwx2idsx3ws=18条路径。服务的实例可以在一个或多个区带或云分区中执行。例如,计算基础结构900可以包括第一云分区cp1和第二云分区cp2。第一云分区cp1还可以包括两个子分区cp1.1和cp1.2。第二云分区cp2可以包括子分区cp2.1。计算基础结构900可以如下在云分区上执行三种不同服务的一个或多个实例:防火墙的第一实例(fw1)可以在cp1.1上执行;防火墙的第二实例(fw2)可以在cp1.2上执行;防火墙的第三实例(fw3)可以在cp2.1上执行;入侵检测系统的第一实例(ids1)可以在cp1.2上执行;入侵检测系统的第二实例(ids2)可以在cp2.1上执行;web服务的第一实例(ws1)可以在cp1.2上执行;web服务的第二实例(ws2)可以在cp2.1上执行;并且web服务的第三实例(ws3)可以在cp1.1上执行。控制器705可以从每个实例的信息库接收元数据,以确定实例的位置、容量、处理器、配置、存储器、网络连接或者可以有助于基于每个实例的权重确定路径权重的其他元数据或信息。控制器可以使用从信息库接收的元数据来确定每个实例的边权重。控制器可以使用边权重来确定路径权重,如表4所示。编号路径计算路径权重01fw1→ids1→ws1e001+e111+e211p102fw1→ids1→ws2e001+e111+e212p203fw1→ids1→ws3e001+e111+e213p304fw1→ids2→ws1e001+e112+e221p405fw1→ids2→ws2e001+e112+e222p506fw1→ids2→ws3e001+e112+e223p607fw2→ids1→ws1e002+e121+e211p708fw2→ids1→ws2e002+e121+e212p809fw2→ids1→ws3e002+e121+e213p910fw2→ids2→ws1e002+e122+e221p1011fw2→ids2→ws2e002+e122+e222p1112fw2→ids2→ws3e002+e122+e223p1213fw3→ids1→ws1e003+e131+e211p1314fw3→ids1→ws2e003+e131+e212p1415fw3→ids1→ws3e003+e131+e213p1516fw3→ids2→ws1e003+e132+e221p1617fw3→ids2→ws2e003+e132+e222p1718fw3→ids2→ws3e003+e132+e223p18表4-路径权重计算表4中示出的路径权重可以使用一个或多个路径权重计算技术或算法来确定。控制器可以根据权重分配算法以升序或降序对表4中所示的路径权重进行排序。例如,控制器可以将路径权重从最高效率到最低效率排序,使得最高排序路径权重对应于最高效率的服务链。在一些情况下,控制器可以将路径权重从最低效率到最高效率进行排序,使得最低排序路径权重对应于最高效率的服务链。表5示出了排名或排序的路径权重。排序编号路径计算路径权重01fw1→ids1→ws1e001+e111+e211p102fw2→ids1→ws1e002+e121+e211p703fw1→ids1→ws3e001+e111+e213p304fw2→ids1→ws3e002+e121+e213p905fw3→ids2→ws2e003+e132+e222p1706fw3→ids1→ws1e003+e131+e211p1307fw3→ids1→ws3e003+e131+e213p1508fw1→ids1→ws2e001+e111+e212p209fw1→ids2→ws1e001+e112+e221p410fw1→ids2→ws2e001+e112+e222p511fw2→ids1→ws2e002+e121+e212p812fw2→ids2→ws3e002+e122+e223p1213fw1→ids2→ws3e001+e112+e223p614fw2→ids2→ws1e002+e122+e221p1015fw3→ids1→ws2e003+e131+e212p1416fw3→ids2→ws3e003+e132+e223p1817fw2→ids2→ws2e002+e122+e222p1118fw3→ids2→ws1e003+e132+e221p16表5-排序表和所选择的最佳路径控制器可以基于表5中所示的排序或排名表来选择一个或多个最佳服务链或路径。控制器可以选择预定数量的最高排序路径,其中最高排序可以对应于最高效率或最佳路径。例如,控制器可以选择排序表的前三个条目,如下:p1:fw1→ids1→ws1(最佳路径1);p7:fw2→ids1→ws1(最佳路径2);p3:fw1→ids1→ws3(最佳路径3)。控制器可以使用由前三个条目指示的路径来更有效地处理流量(例如,低延迟、更少开销、高吞吐量、低成本等)。在一些实施例中,控制器可以分析所有18个可能路径以选择最高排序路径。在一些实施例中,控制器可以使用机器学习技术或修剪技术来选择最佳路径而不分析每个可能的路径。例如,控制器可以确定至少两个实例不在同一数据中心区带或分区中的路径效率较低,并在创建排序表5之前过滤掉表4中的那些路径。在一些实施例中,控制器可以确定是否存在计算基础结构提供的从所选择的最佳路径中遗漏的任何实例,并且包括附加路径以覆盖所有实例。控制器可以识别遗漏的实例并选择附加路径,以使得由计算基础结构提供的所有实例都被控制器用于负载平衡服务链。例如,三个所选择的最佳路径1、2或3中没有一个包括实例fw3、ids2和ws2。然后,控制器可以解析排序的表3以识别包括这些实例中的一个或多个的附加最佳路径。例如,控制器可以选择包括一个或多个遗漏实例的最高排序路径:p17:fw3→ids2→ws2(最佳路径4)。在一些情况下,控制器可以重复地解析该表以识别包括遗漏实例的最高排序路径,直到由计算基础结构提供的所有实例在所选择的最佳路径中表示。现在参考图9b,示出了被配置为对服务链进行负载平衡的计算基础结构900的实施例的功能框图。由控制器705选择的四个最佳路径或服务链被加载到负载平衡器算法中。例如,控制器705可以包括负载平衡器,其被配置为接收所选择的最佳路径以及相应的路径权重。所选择的最佳路径可包括:服务链1,具有实例fw1、ids1和ws1以及路径权重p1;服务链2,具有实例fw2、ids1和ws1以及路径权重p7;服务链3,具有实例fw1、ids1和ws3以及路径权重p3;以及服务链4,具有实例fw3、ids2和ws2以及路径权重p17。控制器705可以确定这四个服务链是最佳服务链。当控制器705从客户机接收流量时,控制器705可以基于负载平衡函数和四个最佳服务链中的每一个的路径权重从四个最佳服务链中选择服务链。然后,控制器705可以将流量从客户机引导到所选择的服务链或所选择的服务链的实例。在一些实施例中,控制器705可以利用服务链的实例的指示、标识符或标签来封装来自客户机的流量的数据分组。例如,控制器可以使用多协议标记技术封装数据分组。标签可以指示服务链中的组件将分组引导到服务链中的后续节点或实例。标签可以包括服务链实例的ip地址或其他标识符。可以将实例配置为使用标识符执行查找以确定服务链的后续实例的ip地址,然后将数据分组引导到所标识的实例。在一些实施例中,接口或路由器可以基于封装数据分组的信息将数据从一个实例引导到下一个实例。例如,当第一实例处理数据分组时,第一实例可以封装分组以指示第一实例已经处理了分组。路由器或交换机可以解析分组以确定第一实例已经处理了分组,并且分组准备好被转发到由控制器705执行的封装所标识的第二实例。现在参考图9c,示出了被配置为对服务链进行负载平衡的计算基础结构900的实施例的功能框图。图9c示出了由控制器705选择的四个最佳服务链。通过确定最佳服务链,控制器705可以减少云分区或云子分区之间的交叉点的数量。如图9c所示,所选择的最佳路径在任何路径中从2交叉点到4交叉点。例如,服务链1具有实例fw1、ids1和ws1。控制器705首先将分组从客户机引导到fw1。该初始链路不要求分组跨越任何云分区,因为控制器705和fw1都在相同的云子分区cp1.1内。其次,fw1可以将数据分组转发到ids1。第二链路使分组跨越cp1.1和cp1.2的边界以到达ids1。因此,当经过链中的第二链路时,数据分组跨越两个分区边界。然后,ids1可以将数据分组转发到ws1。ids1和ws1位于相同的子分区cp1.2中,因此数据不会跨越任何其他边界。因此,服务链1具有跨越两个分区边界的路径。然而,路径保持在云分区cp1内。服务链1可以具有相对于其他3个服务链的最高路径权重,因为服务链1仅具有2个交叉点,服务链保持在cp1内,并且控制器705和fw1在相同的云子分区cp1.1中。服务链2具有实例fw2、ids1和ws1。首先,控制器705将数据从客户机转发到fw2。在此初始链路中,数据跨越cp1.1到cp1.2,但保持在cp1内。因此,路径中的第一链路有2个交叉点。其次,数据从fw2行进到ids1,其在同一cp1.2子分区内。第三,数据从ids1行进到ws1,其在同一cp1.2子分区内。因此,服务链2可以具有第二高的路径权重,因为该路径仅具有2个交叉点。这可能是第二高的,因为控制器705处于与fw2不同的子分区中。服务链3具有实例fw1、ids1和ws3。首先,控制器705将分组从客户机转发到fw1。该初始链路不跨越任何边界,并包含在子分区cp1.1中。其次,数据通过从子分区cp1.1到子分区cp1.2从fw1行进到ids1。该路径的这一段具有两个交叉点,但保持在云分区cp1内。第三,数据通过从cp1.2回到cp1.1从ids1行进到ws3。路径的这一段引入了另两个交叉点。因此,服务链3包括通过子分区的4个切口或交叉点,但是保持在cp1分区内。该服务链可以是第三高性能的服务链,因为它具有4个交叉点,其比性能更高的服务链多两个交叉点。服务链4具有实例fw3、ids2和ws2。首先,控制器705通过从cp1.1行进到cp2.1将从客户机接收的数据转发到fw3。该路径的这一段包括四个交叉点,因为数据跨越子分区cp1.1的边界、分区cp1的边界、分区cp2的边界,然后跨越子分区cp2.1的边界。其次,数据从fw3到ids2。该路径的这一段不会引入任何其他的交叉点,因为fw3和ids2都位于云子分区cp2.1中。第三,数据从ids2到ws2。该路径的这一段不会引入任何其他的交叉点,因为ids2和ws2都位于云子分区cp2.1中。该服务链的路径包括四个交叉点。它可以是四个所选择的最佳服务链中性能最低的服务链,因为它包括四个交叉点,其比性能最好的两个服务链多两个交叉点,并且因为该路径跨越高级云分区cp1到cp2。例如,cp1和cp2可以在地理上分散于不同的数据中心或不同的机架中。图10是对服务链进行负载平衡的实施例的功能流程图。可以使用图1-7a、8或9a-9c中描述的一个或多个系统或组件来执行流程1000。在流程1000的步骤1005,控制器将由计算基础结构提供的所有实例的权重初始化为零或默认值(例如,0、1、2、3、4或一些其他默认值)。在步骤1010,控制器可以对元数据服务器生成一个或多个查询,该元数据服务器具有存储关于由计算基础结构提供的实例的元数据的信息库。控制器可以将请求发送到元数据服务器。响应于该请求,控制器可以接收每个实例的元数据。在步骤1015,控制器可以计算或确定每个实例的环境隐含权重。权重可以指每个实例的边权重或环境权重。在步骤1020,控制器可以将在步骤1015为每个实例计算的权重与先前为每个实例确定的权重进行比较。例如,控制器可以存储权重的先前值或历史权重值。可以使用每个实例的先前权重值来确定包括实例的服务链的路径权重。控制器可以将在步骤1015确定的新权重与先前的权重进行比较,以确定权重是否存在差异。权重的差异可能响应于在步骤1010从元数据服务器接收的新的或更新的元数据。如果权重没有差异,则控制器可以进行到步骤1025,此时控制器可以休眠或进入待机模式持续预定的时间间隔。在预定时间间隔期满时,控制器可以进行到步骤1010并再次查询元数据服务器。控制器可以重复该循环,直到在步骤1020控制器识别出权重变化。如果控制器在步骤1020确定任何实例的权重与同一实例的先前权重相比有变化,则控制器可以进行到步骤1030。在步骤1030,控制器可以计算从计算基础结构的实例形成的所有可能路径的路径权重。控制器可以通过组合服务链的每个实例的环境权重或边权重来确定每个服务链的路径权重。在步骤1035,控制器可以基于路径权重对服务链进行排序,以使得最高性能的服务链被排名或排序为最佳服务链。在一些情况下,控制器可以按升序对服务链进行排序,以使得最后排序的服务链是基于路径权重的最高性能的服务链。在步骤1040,控制器可以从排序表中选择预定数量的最佳性能服务链,例如3个服务链。在步骤1045,控制器可以解析前3个所选择服务链以确定所选择服务链中是否至少一次包括由计算基础结构提供的每个实例。如果控制器确定由计算基础结构提供的实例从所选择服务链中遗漏,则控制器可以进行到步骤1050。在步骤1050,响应于确定存在遗漏实例,控制器可以解析排序表以识别包括遗漏实例的下一最高排序的服务链。控制器可以将该附加实例添加到所选择实例的集合。例如,如果所选择实例的集合最初包括3个服务链,则控制器可以向该集合添加第四服务链,其中第四服务链包括遗漏实例。控制器可以返回到步骤1045以确定四个所选择服务链的集合是否包括至少一次由服务链提供的所有实例。控制器可以重复该过程,直到所选择服务链的集合包括由云计算基础结构提供的所有实例。在步骤1055,响应于确定所选择的服务链包括由计算基础结构提供的服务的所有实例,控制器可以将所选择的最佳路径配置为负载平衡系统中的服务链。在某些情况下,控制器可以包括负载平衡器。在某些情况下,负载平衡器可以在控制器外部,或由与控制器不同的虚拟机执行。在步骤1060,控制器可以配置负载平衡器以使用每个服务链的路径权重来对服务链进行负载平衡。然后,控制器或负载平衡器可以基于负载平衡函数和路径权重从所选择的最佳服务链中选择服务链。然后控制器可以进入步骤1025并进入休眠或待机模式达预定的时间间隔(例如,5秒、10秒、30秒、5分钟、10分钟、30分钟、1小时、2小时、3小时、6小时、12小时、24小时、48小时、72小时、1周或有助于对服务链进行负载平衡的一些其他间隔)。应该理解,上文描述的系统可提供这些组件的任意多个或每一个并且这些组件可以在独立机器上提供,或者在一些实施例中,可在分布式系统的多个机器上提供。可以使用编程和/或工程技术将上文所描述的系统和方法实现为方法、装置或产品以提供软件、固件、硬件或上述的任何组合。此外,上述系统和方法可作为在一件或多件产品上实现或在其中实现的一个或多个计算机可读程序而被提供。本文使用的术语“产品”旨在包括从一个或多个计算机可读的装置、固件、可编程逻辑、存储器装置(例如,eeprom、rom、prom、ram、sram等)、硬件(例如,集成电路芯片、现场可编程门阵列(fpga)、专用集成电路(asic)等)、电子装置、计算机可读的非易失存储单元(例如,cd-rom、软盘、硬盘等)可访问的或嵌入其中的代码或逻辑。所述产品可以是从经由网络传输线、无线传输介质、通过空间传播的信号、无线电波、红外信号等提供对计算机可读程序的访问的文件服务器可访问的。所述产品可以是闪存卡或磁带。所述产品包括硬件逻辑以及嵌入在计算机可读介质中由处理器执行的软件或可编程代码。通常,计算机可读程序可以任何编程语言来实现,如lisp、perl、c、c++、c#、prolog,或者诸如java的任何字节码语言。软件程序可以作为目标代码被存储在一件或多件产品上或其中。对“或”的引用可以被解释为包含性的,使得使用“或”描述的任何术语可以指示单个、多于一个和所有所描述的术语中的任何术语。尽管已经描述该方法和系统的各种实施例,但是这些实施例是示例性的并且不以任何方式限制所述方法和系统的范围。相关领域中的技术人员在不脱离所描述方法和系统的最宽范围的情况下可以对所描述的方法和系统的形式和细节进行修改。因此,本文描述的方法和系统的范围不应该通过这些示例性实施例来限定,而是应该根据所附权利要求书和其等价范围来限定。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1