用于为互联网协议加速设备提供多核结构的系统和方法

专利名称：用于为互联网协议加速设备提供多核结构的系统和方法
技术领域：
本发明总的涉及应用传送控制器的结构。具体而言，本发明涉及用于提供多核应用传送控制器的系统和方法。
背景技术：
万维网和web应用正在经历加速进化阶段。Web应用正在从非交互式的、 平面的、开发者控制的网页(其代表Web 1.0)向高度交互式的、动态的、社区增强 (community-enriched)的网页(其代表W^eb 2.0)转变。在过去的两到三年时间里，诸如 MySpace和!^cebook的社交网站、诸如^uTube的视频网站以及诸如谷歌地图的糅合网站 (mash-up)的迅速流行已经引起了业界对相关趋势和技术的注意，这些趋势和技术使高度交互式的、丰富媒体的网站成为可能。例如，SAP、微软、甲骨文、Intuit和其他企业独立软件供应商已经开始注意Web 2.0技术的发展潜力，并且已经采用相关技术来丰富其企业web 应用发行的功能和用户体验。Microsoft SiarePoint是已经包含许S^feb 2.0特征的企业应用的另一个例子，其为一种文档共享和协同工具。最新版本SiarePoint 2007提供了很多协作和门户特征，例如可基于个人进行定制的小组博客、维基和小组日历。但是，增加的协作特征以及Web 2.0技术的丰富也是有代价的。需要使用更多的协议，例如AJAX、Comet、Ruby等。由于这些协议产生了更多的连接，客户机和服务器之间的连接的数量也在增加。这些协议在客户机和浏览器之间发起更多的请求，所以显得更繁琐。诸如 Flash、Flex 和 Silverlight 的富互联网应用(rich internet Applications)正在越来越多的被使用，以使Web 2.0应用更加迷人并且更具有交互性。而且，使用web的不同客户机的数量也在增加。在当今“永远连线”的世界，对于许多类型的客户机(例如手机 (Symbian、黑莓、Palm、Windows Mobile)、IE、Firefox、Chrome 等)，都需要优化内容。

发明内容
本发明针对用于提供应用传送控制器(ADC)的多核实现的方法和系统。ADC设备的结构，称为N核(nCore)技术，允许设备打破单核性能屏障并且利用多核CPU的能力。由于每个核上都运行分组引擎，该设备结构利用了这些分组引擎和核的处理能力。在一些实施例中，这在性能以及可扩展性方面提供高达7倍的提升。该结构的实施例中提供用于在核上分布网络分组的基于流的分布方案，以更均勻的平衡在分组引擎和核上的处理。在一个方面，本发明涉及一种用于在多核装置的对应的核上执行的多个分组处理引擎上分布网络业务流的方法。该方法包括由位于客户机和服务器中间的多核装置接收客户机和服务器间的第一网络业务流的分组。该方法还包括由多核装置的流分布器将所述第一网络业务流分配给执行分组处理引擎的第一核，并且分布所述分组到该第一核。所述流分布器可以将在另一个客户机和服务器之间的另一个业务流或第二业务流的分组分布到执行第二分组处理引擎的第二核。当分配给第一核的业务流的分组(如第三分组)被接收时，所述流分布器将该分组分布到第一核。在一些实施例中，该方法包括由所述流分布器接收来自所述多核装置的接收侧调整器(RSS)的第一分组。所述流分布器可以在所述多核装置中指定为主核的核上执行。 在某些情况下，所述流分布器被分布在多个核上或在多个核上执行。在一些实施例中，响应于在第一客户机和第一服务器之间建立会话或连接之一的第一核，流分布器将第一网络业务流分配给该第一核。在一些实施例中，响应于基于来自第一服务器的、对第一客户机的请求的响应的第一核，流分布器将第一网络业务流分配给该第一核。在一些实施例中，流分布器通过由第一核共享的或分配给第一核的存储器分配第一分组。在一些实施例中，响应于为第二客户机建立到第二服务器的会话或连接之一的第二核，流分布器将第二网络业务流分配给该第二核。在一些实施例中，该方法包括由流分布器接收来自接收侧调整器的、由RSS分布给第三核的第三分组，并且重新分布该第三分组到第一核。在一些实施例中，任意所述第一、第二、第三或其他分组可以通过任意一个或多个网络接口接收，例如第一网络接口卡和第二网络接口卡。在一些方面，本方案还涉及一种用于在多核装置的对应的核上执行的多个分组处理引擎上分布网络业务流的系统。该系统包括位于多个客户机和多个服务器中间的多核装置的网络接口。所述网络接口接收多个客户机的第一客户机和多个服务器的第一服务器之间的第一网络业务流的第一分组。该系统还包括流分布器，其将所述第一流分配给执行由所述多核装置执行的多个分组处理引擎的第一分组处理引擎的第一核，并且分布所述第一分组到所述第一核。所述流分布器还将第二客户机和第二服务器之间的第二网络业务流的第二分组分布到执行所述多个分组处理引擎的第二分组处理引擎的第二核。所述流分布器确定将所述多核装置接收的、所述第一网络业务流的第三分组分布到所述第一核。在该系统的一些实施例中，所述流分布器接收由所述多核装置的接收侧调整器 (RSS)分布的网络分组。所述流分布器可以在所述多核装置中指定为主核的核上执行。所述流分布器可以在所述多核装置的多个核上执行。所述流分布器可以通过由第一核共享的或分配给第一核的存储器分布第一分组。在一些实施例中，响应于为第一客户机建立到第一服务器的会话或连接之一的第一核，所述流分布器将第一网络业务流分配给该第一核。在一些实施例中，基于来自第一服务器的、对第一客户机的请求的响应，所述流分布器将第一网络业务流分配给该第一核。在一些实施例中，响应于为第二客户机建立到第二服务器的会话或连接之一的第二核，所述流分布器将第二网络业务流分配给该第二核。在一些实施例中，流分布器接收来自接收侧调整器的、由RSS分布给第三核的第三分组，并且重新分布该第三分组到第一核。在一些实施例中，通过所述多核装置的第一网络接口接收第一分组，并且，通过所述多核装置的第二网络接口接收第三分组。


通过参考下述结合附图的描述，本发明的前述和其它目的、方面、特征和优点将会更加明显并更易于理解，其中图1A、1B、1C和ID是客户机经由一个或者多个设备来访问服务器的网络环境的实施例的框图；图IE到IF是计算装置的实施例的框图；图IG到IH是计算装置的实施例的框图；图2A是用于优化、加速、负载平衡和路由客户机和服务器之间的通信的设备的实施例的框图；图2B是用于处理客户机和服务器之间的通信的设备的又一个实施例的框图；图3是描述用于多核网络设备的实施例的并行方法的框图；图4A是多核网络设备的实施例的框图；图4B是多核网络设备的又一个实施例的框图；图4C是多核网络设备的又一个实施例的框图；图5A是多核网络设备的控制平面的实施例的框图；图5B是多核网络设备的高速缓存的实施例的框图；图6用于通过多核网络设备分布网络分组的方法的实施例的流程图。从下面结合附图所阐述的详细描述，本发明的特征和优点将更明显，其中，同样的参考标记在全文中标识相应的元素。在附图中，同样的附图标记通常表示相同的、功能上相似的和/或结构上相似的元素。
具体实施例方式A.网络和计算环境在讨论设备和/或客户机的系统和方法的实施例的细节之前，讨论可在其中部署这样的实施例的网络和计算环境是有帮助的。现参考图1A，描述了网络环境的实施例。概括来讲，网络环境包括经由一个或多个网络104、104’ (总的称为网络104)与一个或多个服务器106a-106n(同样总的称为服务器106，或远程机器106)通信的一个或多个客户机 10加-10211(同样总的称为本地机器102，或客户机10 。在一些实施例中，客户机102通过设备200与服务器106通信。虽然图IA示出了在客户机102和服务器106之间的网络104和网络104'，客户机102和服务器106可以位于同一个的网络104上。网络104和104'可以是相同类型的网络或不同类型的网络。网络104和/或104'可为局域网(LAN)例如公司内网，城域网 (MAN)，或者广域网(WAN)例如因特网或万维网。在一个实施例中，网络104'可为专用网络并且网络104可为公网。在一些实施例中，网络104可为专用网并且网络104'可为公网。 在又一个实施例中，网络104和104'可都为专用网。在一些实施例中，客户机102可位于公司企业的分支机构中，通过网络104上的WAN连接与位于公司数据中心的LAN上的服务器106通信。网络104和/或104'可以是任何类型和/或形式的网络，并且可包括任何下述网络点对点网络，广播网络，广域网，局域网，电信网络，数据通信网络，计算机网络，ATM(异步传输模式)网络，SONET (同步光纤网络)网络，SDH(同步数字体系)网络，无线网络和有线网络。在一些实施例中，网络104可以包括无线链路，诸如红外信道或者卫星频带。网络 104和/或104'的拓扑可为总线型、星型或环型网络拓扑。网络104和/或104'以及网络拓扑可以是对于本领域普通技术人员所熟知的、可以支持此处描述的操作的任何这样的网络或网络拓扑。如图IA所示，设备200被显示在网络104和104'之间，设备200也可被称为接口单元200或者网关200。在一些实施例中，设备200可位于网络104上。例如，公司的分支机构可在分支机构中部署设备200。在其它实施例中，设备200可以位于网络104'上。 例如，设备200可位于公司的数据中心。在又一个实施例中，多个设备200可在网络104上部署。在一些实施例中，多个设备200可部署在网络104'上。在一个实施例中，第一设备 200与第二设备200'通信。在其它实施例中，设备200可为位于与客户机102同一或不同网络104、104'的任一客户机102或服务器106的一部分。一个或多个设备200可位于客户机102和服务器106之间的网络或网络通信路径中的任一点。在一些实施例中，设备200包括由位于佛罗里达州Ft. Lauderdale的Citrix Systems公司制造的被称为Citrix Netkaler设备的任何网络设备。在其它实施例中， 设备200包括由位于华盛顿州西雅图的F5 Networks公司制造的被称为WebAccelerator 和BigIP的任何一个产品实施例。在又一个实施例中，设备205包括由位于加利福尼亚州 Sunnyvale的Juniper Networks公司制造的DX加速设备平台和/或诸如SA700、SA2000、 SA4000和SA6000的SSL VPN系列设备中的任何一个。在又一个实施例中，设备200包括由位于加利福尼亚州San Jose的Cisco Systems公司制造的任何应用加速和/或安全相关的设备和/或软件，例如Cisco ACE应用控制引擎模块务(Application Control Engine Module service)软件和网络模块以及Cisco AVS系列应用速度系统(Application Velocity System)。在一个实施例中，系统可包括多个逻辑分组的服务器106。在这些实施例中，服务器的逻辑分组可以被称为服务器群38。在其中一些实施例中，服务器106可为地理上分散的。在一些情况中，群38可以作为单个实体被管理。在其它实施例中，服务器群38包括多个服务器群38。在一个实施例中，服务器群代表一个或多个客户机102执行一个或多个应用程序。在每个群38中的服务器106可为不同种类。一个或多个服务器106可根据一种类型的操作系统平台(例如，由华盛顿州Redmond的Microsoft公司制造的WINDOWS NT)操作，而一个或多个其它服务器106可根据另一类型的操作系统平台(例如，Unix或Linux) 操作。每个群38的服务器106不需要与同一群38内的另一个服务器106物理上接近。因此，被逻辑分组为群38的服务器106组可使用广域网(WAN)连接或城域网(MAN)连接互联。例如，群38可包括物理上位于不同大陆或大陆的不同区域、国家、州、城市、校园或房间的服务器106。如果使用局域网(LAN)连接或一些直连形式来连接服务器106，则可增加群 38中的服务器106间的数据传送速度。服务器106可指文件服务器、应用服务器、web服务器、代理服务器或者网关服务器。在一些实施例中，服务器106可以有作为应用服务器或者作为主应用服务器工作的能力。在一个实施例中，服务器106可包括活动目录。客户机102也可称为客户机节点或端点。在一些实施例中，客户机102可以有作为客户机节点寻求访问服务器上的应用的能力， 也可以有作为应用服务器为其它客户机10加-10211提供对寄载的应用的访问的能力。在一些实施例中，客户机102与服务器106通信。在一个实施例中，客户机102可与群38中的服务器106的其中一个直接通信。在又一个实施例中，客户机102执行程序邻近应用(program neighborhood application)以与群38内的服务器106通信。在又一个实施例中，服务器106提供主节点的功能。在一些实施例中，客户机102通过网络104与群 38中的服务器106通信。通过网络104，客户机102例如可以请求执行群38中的服务器 106a-106n寄载的各种应用，并接收应用执行结果的输出进行显示。在一些实施例中，只有主节点提供识别和提供与寄载所请求的应用的服务器106'相关的地址信息所需的功能。在一个实施例中，服务器106提供web服务器的功能。在又一个实施例中，服务器106a接收来自客户机102的请求，将该请求转发到第二服务器106b，并使用来自服务器 106b对该请求的响应来对客户机102的请求进行响应。在又一个实施例中，服务器106获得客户机102可用的应用的列举以及与由该应用的列举所识别的应用的服务器106相关的地址信息。在又一个实施例中，服务器106使用web接口将对请求的响应提供给客户机 102。在一个实施例中，客户机102直接与服务器106通信以访问所识别的应用。在又一个实施例中，客户机102接收由执行服务器106上所识别的应用而产生的诸如显示数据的应用输出数据。现参考图1B，描述了部署多个设备200的网络环境的实施例。第一设备200可以部署在第一网络104上，而第二设备200'部署在第二网络104'上。例如，公司可以在分支机构部署第一设备200，而在数据中心部署第二设备200'。在又一个实施例中，第一设备200和第二设备200'被部署在同一个网络104或网络104上。例如，第一设备200可以被部署用于第一服务器群38，而第二设备200可以被部署用于第二服务器群38'。在另一个实例中，第一设备200可以被部署在第一分支机构，而第二设备200'被部署在第二分支机构'。在一些实施例中，第一设备200和第二设备200'彼此协同或联合工作，以加速客户机和服务器之间的网络业务量或应用和数据的传送。现在参考图1C，描述了网络环境的又一个实施例，在该网络环境中，将设备200和一个或多个其它类型的设备部署在一起，例如，部署在一个或多个WAN优化设备205，205 ’ 之间。例如，第一 WAN优化设备205显示在网络104和104'之间，而第二 WAN优化设备 205'可以部署在设备200和一个或多个服务器106之间。例如，公司可以在分支机构部署第一 WAN优化设备205，而在数据中心部署第二 WAN优化设备205'。在一些实施例中，设备205可以位于网络104'上。在其它实施例中，设备205'可以位于网络104上。在一些实施例中，设备205'可以位于网络104'或网络104"上。在一个实施例中，设备205和 205'在同一个网络上。在又一个实施例中，设备205和205'在不同的网络上。在另一个实例中，第一 WAN优化设备205可以被部署用于第一服务器群38，而第二 WAN优化设备205' 可以被部署用于第二服务器群38'。在一个实施例中，设备205是用于加速、优化或者以其他方式改善任何类型和形式的网络业务(例如去往和/或来自WAN连接的业务)的性能、操作或服务质量的装置。 在一些实施例中，设备205是一个性能增强代理。在其它实施例中，设备205是任何类型和形式的WAN优化或加速装置，有时也被称为WAN优化控制器。在一个实施例中，设备205是由位于佛罗里达州Ft. Lauderdale的Citrix Systems公司出品的被称为WANkaler的产品实施例中的任何一种。在其它实施例中，设备205包括由位于华盛顿州kattle的F5 Networks公司出品的被称为BIG-IP链路控制器和WANjet的产品实施例中的任何一种。在又一个实施例中，设备205包括由位于加利福尼亚州Sunnyvale的Juniper Netfforks公司出品的WX和WXC WAN加速装置平台中的任何一种。在一些实施例中，设备205包括由加利福尼亚州San Francisco的Riverbed Technology公司出品的虹鳟(steelhead)系列 WAN优化设备中的任何一种。在其它实施例中，设备205包括由位于新泽西州Roseland的 Expand Networks公司出品的WAN相关装置中的任何一种。在一个实施例中，设备205包括由位于加利福尼亚州Cupertino的I^acketeer公司出品的任何一种WAN相关设备，例如由Packeteer提供的PacketShaper、iShared和SkyX产品实施例。在又一个实施例中，设备205包括由位于加利福尼亚州San Jose的Cisco Systems公司出品的任何WAN相关设备和/或软件，例如Cisco广域网应用服务软件和网络模块以及广域网引擎设备。在一个实施例中，设备205为分支机构或远程办公室提供应用和数据加速服务。 在一个实施例中，设备205包括广域文件服务(WAR5)的优化。在又一个实施例中，设备205 加速文件的传送，例如经由通用互联网文件系统(CIFS)协议。在其它实施例中，设备205 在存储器和/或存储装置中提供高速缓存来加速应用和数据的传送。在一个实施例中，设备205在任何级别的网络堆栈或在任何的协议或网络层中提供网络业务量的压缩。在又一个实施例中，设备205提供传输层协议优化、流量控制、性能增强或修改和/或管理，以加速 WAN连接上的应用和数据的传送。例如，在一个实施例中，设备205提供传输控制协议(TCP) 优化。在其它实施例中，设备205提供对于任何会话或应用层协议的优化、流量控制、性能增强或修改和/或管理。在又一个实施例中，设备205将任何类型和形式的数据或信息编码成网络分组的定制的或标准的TCP和/或IP的头部字段或可选字段，以将其存在、功能或能力通告给另一个设备205'。在又一个实施例中，设备205'可以使用在TCP和/或IP头部字段或选项中编码的数据来与另一个设备205'进行通信。例如，设备可以使用TCP选项或IP头部字段或选项来传达在执行诸如WAN加速的功能时或者为了彼此联合工作而由设备205，205' 所使用的一个或多个参数。在一些实施例中，设备200保存在设备205和205 ‘之间传达的TCP和/或IP头部和/或可选字段中编码的任何信息。例如，设备200可以终止经过设备200的传输层连接，例如经过设备205和205'的在客户机和服务器之间的一个传输层连接。在一个实施例中，设备200识别并保存由第一设备205通过第一传输层连接发送的传输层分组中的任何编码信息，并经由第二传输层连接来将具有编码信息的传输层分组传达到第二设备205'。现参考图1D，描述了用于传送和/或操作客户机102上的计算环境的网络环境。 在一些实施例中，服务器106包括用于向一个或多个客户机102传送计算环境或应用和/ 或数据文件的应用传送系统190。总的来说，客户机10通过网络104、104’和设备200与服务器106通信。例如，客户机102可驻留在公司的远程办公室里，例如分支机构，并且服务器106可驻留在公司数据中心。客户机102包括客户机代理120以及计算环境15。计算环境15可执行或操作用于访问、处理或使用数据文件的应用。可经由设备200和/或服务器 106传送计算环境15、应用和/或数据文件。
在一些实施例中，设备200加速计算环境15或者其任何部分到客户机102的传送。在一个实施例中，设备200通过应用传送系统190加速计算环境15的传送。例如，可使用此处描述的实施例来加速从公司中央数据中心到远程用户位置(例如公司的分支机构) 的流应用(streaming application)及该应用可处理的数据文件的传送。在又一个实施例中，设备200加速客户机102和服务器106之间的传输层业务量。设备200可以提供用于加速从服务器106到客户机102的任何传输层有效载荷的加速技术，例如1)传输层连接池，2)传输层连接多路复用，幻传输控制协议缓冲，4)压缩和幻高速缓存。在一些实施例中，设备200响应于来自客户机102的请求提供服务器106的负载平衡。在其它实施例中， 设备200充当代理或者访问服务器来提供对一个或者多个服务器106的访问。在又一个实施例中，设备200提供从客户机102的第一网络104到服务器106的第二网络104’的安全虚拟专用网络连接，诸如SSL VPN连接。在又一些实施例中，设备200提供客户机102和服务器106之间的连接和通信的应用防火墙安全、控制和管理。在一些实施例中，基于多个执行方法并且基于通过策略引擎195所应用的任一验证和授权策略，应用传送管理系统190提供将计算环境传送到远程的或者另外的用户的桌面的应用传送技术。使用这些技术，远程用户可以从任何网络连接装置100获取计算环境并且访问服务器所存储的应用和数据文件。在一个实施例中，应用传送系统190可驻留在服务器106上或在其上执行。在又一个实施例中，应用传送系统190可驻留在多个服务器 106a-106n上或在其上执行。在一些实施例中，应用传送系统190可在服务器群38内执行。 在一个实施例中，执行应用传送系统190的服务器106也可存储或提供应用和数据文件。在又一个实施例中，一个或多个服务器106的第一组可执行应用传送系统190，而不同的服务器106η可存储或提供应用和数据文件。在一些实施例中，应用传送系统190、应用和数据文件中的每一个可驻留或位于不同的服务器。在又一个实施例中，应用传送系统190的任何部分可驻留、执行、或被存储于或分布到设备200或多个设备。客户机102可包括用于执行使用或处理数据文件的应用的计算环境15。客户机 102可通过网络104、104’和设备200请求来自服务器106的应用和数据文件。在一个实施例中，设备200可以将来自客户机102的请求转发到服务器106。例如，客户机102可能不具有本地存储或者本地可访问的应用和数据文件。响应于请求，应用传送系统190和/或服务器106可以传送应用和数据文件到客户机102。例如，在一个实施例中，服务器106可以把应用作为应用流来传输，以在客户机102上的计算环境15中操作。在一些实施例中，应用传送系统190包括Citrix Systems Inc.的Citrix Access Suite 的任一部分(例如 MetaFrame 或 Citrix Presentation Server )，和 / 或微软公司开发的Microsoft Windows终端服务中的任何一个。在一个实施例中，应用传送系统190 可以通过远程显示协议或者以其它方式通过基于远程计算或者基于服务器计算来传送一个或者多个应用到客户机102或者用户。在又一个实施例中，应用传送系统190可以通过应用流来传送一个或者多个应用到客户机或者用户。在一个实施例中，应用传送系统190包括策略引擎195，其用于控制和管理对应用的访问、应用执行方法的选择以及应用的传送。在一些实施例中，策略引擎195确定用户或者客户机102可以访问的一个或者多个应用。在又一个实施例中，策略引擎195确定应用应该如何被传送到用户或者客户机102，例如执行方法。在一些实施例中，应用传送系统190提供多个传送技术，从中选择应用执行的方法，例如基于服务器的计算、本地流式传输或传送应用给客户机120以用于本地执行。在一个实施例中，客户机102请求应用程序的执行并且包括服务器106的应用传送系统190选择执行应用程序的方法。在一些实施例中，服务器106从客户机102接收证书。在又一个实施例中，服务器106从客户机102接收对于可用应用的列举的请求。在一个实施例中，响应该请求或者证书的接收，应用传送系统190列举对于客户机102可用的多个应用程序。应用传送系统190接收执行所列举的应用的请求。应用传送系统190选择预定数量的方法之一来执行所列举的应用，例如响应策略引擎的策略。应用传送系统190可以选择执行应用的方法，使得客户机102接收通过执行服务器106上的应用程序所产生的应用输出数据。应用传送系统190可以选择执行应用的方法，使得本地机器10在检索包括应用的多个应用文件之后本地执行应用程序。在又一个实施例中，应用传送系统190可以选择执行应用的方法，以通过网络104流式传输应用到客户机102。客户机102可以执行、操作或者以其它方式提供应用，所述应用可为任何类型和/ 或形式的软件、程序或者可执行指令，例如任何类型和/或形式的web浏览器、基于web的客户机、客户机-服务器应用、瘦客户端计算客户机、ActiveX控件、或者Java程序、或者可以在客户机102上执行的任何其它类型和/或形式的可执行指令。在一些实施例中，应用可以是代表客户机102在服务器106上执行的基于服务器或者基于远程的应用。在一个实施例中，服务器106可以使用任何瘦-客户端或远程显示协议来显示输出到客户机102，所述瘦-客户端或远程显示协议例如由位于佛罗里达州Ft. Lauderdale的Citrix Systems 公司出品的独立计算架构(ICA)协议或由位于华盛顿州Redmond的微软公司出品的远程桌面协议(RDP)。应用可使用任何类型的协议，并且它可为，例如，HTTP客户机、FTP客户机、 Oscar客户机或Telnet客户机。在其它实施例中，应用包括和VoIP通信相关的任何类型的软件，例如软IP电话。在进一步的实施例中，应用包括涉及到实时数据通信的任一应用，例如用于流式传输视频和/或音频的应用。在一些实施例中，服务器106或服务器群38可运行一个或多个应用，例如提供瘦客户端计算或远程显示表示应用的应用。在一个实施例中，服务器106或服务器群38 作为一个应用来执行Citrix Systems Inc.的Citrix Access Suite 的任一部分(例如 MetaFrame 或 Citrix Presentation Server )，和 / 或微软公司开发的 Microsoft Windows终端服务中的任何一个。在一个实施例中，该应用是位于佛罗里达州R)rt Lauderdale的Citrix Systems Inc.开发的ICA客户机。在其它实施例中，该应用包括由位于华盛顿州Redmond的Microsoft公司开发的远程桌面(RDP)客户机。另外，服务器106 可以运行一个应用，例如，其可以是提供电子邮件服务的应用服务器，例如由位于华盛顿州 Redmond 的 Microsoft 公司制造的 Microsoft Exchange, web 或 Internet 月艮务器，或者桌面共享服务器，或者协作服务器。在一些实施例中，任一应用可以包括任一类型的所寄载的服务或产品，例如位于加利福尼亚州Santa Barbara的Citrix Online Division提供的 Go^ToMeeting ，位于加利福尼亚州Santa Clara的WebEx Inc.提供的WebEx ，或者位于华盛顿州 Redmond 的 Microsoft 公司提供的 Microsoft Office Live Meeting。仍参考图1D，网络环境的一个实施例可以包括监控服务器106A。监控服务器106A 可以包括任何类型和形式的性能监控服务198。性能监控服务198可以包括监控、测量和/或管理软件和/或硬件，包括数据收集、集合、分析、管理和报告。在一个实施例中，性能监控服务198包括一个或多个监控代理197。监控代理197包括用于在诸如客户机102、服务器106或设备200和205的装置上执行监控、测量和数据收集活动的任何软件、硬件或其组合。在一些实施例中，监控代理197包括诸如Visual Basic脚本或Javascript任何类型和形式的脚本。在一个实施例中，监控代理197相对于装置的任何应用和/或用户透明地执行。在一些实施例中，监控代理197相对于应用或客户机不显眼地被安装和操作。在又一个实施例中，监控代理197的安装和操作不需要用于该应用或装置的任何设备。在一些实施例中，监控代理197以预定频率监控、测量和收集数据。在其它实施例中，监控代理197基于检测到任何类型和形式的事件来监控、测量和收集数据。例如，监控代理197可以在检测到对web页面的请求或收到HTTP响应时收集数据。在另一个实例中， 监控代理197可以在检测到诸如鼠标点击的任一用户输入事件时收集数据。监控代理197 可以报告或提供任何所监控、测量或收集的数据给监控服务198。在一个实施例中，监控代理197根据时间安排或预定频率来发送信息给监控服务198。在又一个实施例中，监控代理 197在检测到事件时发送信息给监控服务198。在一些实施例中，监控服务198和/或监控代理197对诸如客户机、服务器、服务器群、设备200、设备205或网络连接的任何网络资源或网络基础结构元件的进行监控和性能测量。在一个实施例中，监控服务198和/或监控代理197执行诸如TCP或UDP连接的任何传输层连接的监控和性能测量。在又一个实施例中，监控服务198和/或监控代理197 监控和测量网络等待时间。在又一个实施例中，监控服务198和/或监控代理197监控和测量带宽利用。在其它实施例中，监控服务198和/或监控代理197监控和测量终端用户响应时间。在一些实施例中，监控服务198执行应用的监控和性能测量。在又一个实施例中，监控服务198和/或监控代理197执行到应用的任何会话或连接的监控和性能测量。在一个实施例中，监控服务198和/或监控代理197监控和测量浏览器的性能。在又一个实施例中， 监控服务198和/或监控代理197监控和测量基于HTTP的事务的性能。在一些实施例中， 监控服务198和/或监控代理197监控和测量IP电话(VoIP)应用或会话的性能。在其它实施例中，监控服务198和/或监控代理197监控和测量诸如ICA客户机或RDP客户机的远程显示协议应用的性能。在又一个实施例中，监控服务198和/或监控代理197监控和测量任何类型和形式的流媒体的性能。在进一步的实施例中，监控服务198和/或监控代理197监控和测量所寄载的应用或软件即服务(Software-As-A-Service，SaaS)传送模型的性能。在一些实施例中，监控服务198和/或监控代理197执行与应用相关的一个或多个事务、请求或响应的监控和性能测量。在其它实施例中，监控服务198和/或监控代理 197监控和测量应用层堆栈的任何部分，例如任何.NET或J2EE调用。在一个实施例中，监控服务198和/或监控代理197监控和测量数据库或SQL事务。在又一个实施例中，监控服务198和/或监控代理197监控和测量任何方法、函数或应用编程接口(API)调用。在一个实施例中，监控服务198和/或监控代理197对经由诸如设备200和/或设备205的一个或多个设备从服务器到客户机的应用和/或数据的传送进行监控和性能测量。在一些实施例中，监控服务198和/或监控代理197监控和测量虚拟化应用的传送的性能。在其它实施例中，监控服务198和/或监控代理197监控和测量流式应用的传送的性能。在又一个实施例中，监控服务198和/或监控代理197监控和测量传送桌面应用到客户机和/或在客户机上执行桌面应用的性能。在又一个实施例中，监控服务198和/或监控代理197监控和测量客户机/服务器应用的性能。在一个实施例中，监控服务198和/或监控代理197被设计和构建成为应用传送系统190提供应用性能管理。例如，监控服务198和/或监控代理197可以监控、测量和管理经由Citrix表示服务器(Citrix Presentation Server)传送应用的性能。在该实例中， 监控服务198和/或监控代理197监控单独的ICA会话。监控服务198和/或监控代理197 可以测量总的以及每次的会话系统资源使用，以及应用和连网性能。监控服务198和/或监控代理197可以对于给定用户和/或用户会话来标识有效服务器(active server)。在一些实施例中，监控服务198和/或监控代理197监控在应用传送系统190和应用和/或数据库服务器之间的后端连接。监控服务198和/或监控代理197可以测量每个用户会话或ICA会话的网络等待时间、延迟和容量。在一些实施例中，监控服务198和/或监控代理197测量和监控对于应用传送系统190的诸如总的存储器使用、每个用户会话和/或每个进程的存储器使用。在其它实施例中，监控服务198和/或监控代理197测量和监控诸如总的CPU使用、每个用户会话和/ 或每个进程的应用传送系统190的CPU使用。在又一个实施例中，监控服务198和/或监控代理197测量和监控登录到诸如Citrix表示服务器的应用、服务器或应用传送系统所需的时间。在一个实施例中，监控服务198和/或监控代理197测量和监控用户登录应用、月艮务器或应用传送系统190的持续时间。在一些实施例中，监控服务198和/或监控代理197 测量和监控应用、服务器或应用传送系统会话的有效和无效的会话计数。在又一个实施例中，监控服务198和/或监控代理197测量和监控用户会话等待时间。在进一步的实施例中，监控服务198和/或监控代理197测量和监控任何类型和形式的服务器指标。在一个实施例中，监控服务198和/或监控代理197测量和监控与系统内存、CPU使用和磁盘存储器有关的指标。在又一个实施例中，监控服务198和/或监控代理197测量和监控和页错误有关的指标，诸如每秒页错误。在其它实施例中，监控服务198 和/或监控代理197测量和监控往返时间的指标。在又一个实施例中，监控服务198和/ 或监控代理197测量和监控与应用崩溃、错误和/或中止相关的指标。在一些实施例中，监控服务198和监控代理198包括由位于佛罗里达州 Ft. Lauderdale的Citrix Systems公司出品的被称为EdgeSight的任何一种产品实施例。 在又一个实施例中，性能监控服务198和/或监控代理198包括由位于加利福尼亚州I^lo Alto的Symphoniq公司出品的被称为TrueView产品套件的产品实施例的任一部分。在一个实施例中，性能监控服务198和/或监控代理198包括由位于加利福尼亚州San Francisco 的TeaLeaf技术公司出品的被称为TeaLeafCX产品套件的产品实施例的任何部分。在其它实施例中，性能监控服务198和/或监控代理198包括由位于德克萨斯州Houston的BMC 软件公司出品的诸如BMC性能管理器和巡逻产品(BMC Performance Manager and Patrol products)的商业业务管理产品的任何部分。客户机102、服务器106和设备200可以被部署为和/或执行在任何类型和形式的计算装置上，诸如能够在任何类型和形式的网络上通信并执行此处描述的操作的计算机、网络装置或者设备。图IE和IF描述了可用于实施客户机102、服务器106或设备200的实施例的计算装置100的框图。如图IE和IF所示，每个计算装置100包括中央处理单元101 和主存储器单元122。如图IE所示，计算装置100可以包括可视显示装置124、键盘1 和 /或诸如鼠标的指示装置127。每个计算装置100也可包括其它可选元件，例如一个或多个输入/输出装置130a-130b (总的使用附图标记130表示)，以及与中央处理单元101通信的高速缓存存储器140。中央处理单元101是响应并处理从主存储器单元122取出的指令的任何逻辑电路。在许多实施例中，中央处理单元由微处理器单元提供，例如由加利福尼亚州Mountain View的Intel公司制造的微处理器单元；由伊利诺伊州Schaumburg的Motorola公司制造的微处理器单元；由加利福尼亚州Santa Clara的Transmeta公司制造的微处理器单元；由纽约州 White Plains 的 hternational Business Machines 公司制造的 RS/6000 处理器； 或者由加利福尼亚州Sunnyvale的Advanced Micro Devices公司制造的微处理器单元。计算装置100可以基于这些处理器中的任何一种，或者能够按照这里所说明的那样运行的任何其它处理器。主存储器单元122可以是能够存储数据并允许微处理器101直接访问任何存储位置的一个或多个存储器芯片，例如静态随机存取存储器(SRAM)、突发SRAM或同步突发SRAM (BSRAM)、动态随机存取存储器DRAM、快速页模式DRAM (FPM DRAM)、增强型 DRAM (EDRAM)、扩展数据输出RAM (EDO RAM)、扩展数据输出DRAM (EDO DRAM)、突发式扩展数据输出 DRAM (BED0 DRAM)、增强型 DRAM (EDRAM)、同步 DRAM (SDRAM)、JEDEC SRAM、PClOO SDRAM、双数据速率 SDRAM (DDR SDRAM)、增强型 SRAM (ESDRAM)、同步链路 DRAM (SLDRAM)、直接Rambus DRAM (DRDRAM)或铁电RAM (FRAM)。主存储器122可以基于上述存储芯片的任何一种，或者能够像这里所说明的那样运行的任何其它可用存储芯片。在图IE中所示的实施例中，处理器101通过系统总线150 (在下面进行更详细的描述)与主存储器122进行通信。图IE描述了在其中处理器通过存储器端口 103直接与主存储器122通信的计算装置 100的实施例。例如，在图IF中，主存储器122可以是DRDRAM。图IF描述了在其中主处理器101通过第二总线与高速缓存存储器140直接通信的实施例，第二总线有时也称为背侧总线。其他实施例中，主处理器101使用系统总线150 和高速缓存存储器140通信。高速缓存存储器140通常有比主存储器122更快的响应时间，并且通常由SRAM、BSRAM或EDRAM提供。在图IF中所示的实施例中，处理器101通过本地系统总线150与多个1/0装置130进行通信。可以使用各种不同的总线将中央处理单元 101连接到任何1/0装置130，所述总线包括VESA VL总线、ISA总线、EISA总线、微通道体系结构(MCA)总线、PCI总线、PCI-X总线、PCI-Express总线或NuBus。对于1/0装置是视频显示器124的实施例，处理器101可以使用高级图形端口(AGP)与显示器IM通信。图 IF说明了主处理器101通过超传输(HyperTransport)、快速1/0或者InfiniBand直接与 1/0装置130通信的计算机100的一个实施例。图IF还描述了在其中混合本地总线和直接通信的实施例处理器101使用本地互连总线与1/0装置130进行通信，同时直接与1/0 装置130进行通信。计算装置100可以支持任何适当的安装装置116，例如用于接收像3. 5英寸、5. 25 英寸磁盘或ZIP磁盘这样的软盘的软盘驱动器、CD-ROM驱动器、CD-R/RW驱动器、DVD-ROM驱动器、多种格式的磁带驱动器、USB装置、硬盘驱动器或适于安装像任何客户机代理120 或其部分的软件和程序的任何其它装置。计算装置100还可以包括存储装置128，诸如一个或者多个硬盘驱动器或者独立磁盘冗余阵列，用于存储操作系统和其它相关软件，以及用于存储诸如涉及客户机代理120的任何程序的应用软件程序。或者，可以使用安装装置 116的任何一种作为存储装置128。此外，操作系统和软件可从例如可引导⑶的可引导介质运行，诸如KNOPPIX ，一种用于GNU/Linux的可引导⑶，该可引导⑶可自knoppix. net
作为GNU/Linux分发获得。此外，计算装置100可以包括通过多种连接接口到局域网(LAN)、广域网(WAN)或因特网的网络接口 118，所述多种连接包括但不限于标准电话线路、LAN或WAN链路(例如 802.11，Tl，T3、56kb、X. 25)、宽带连接(如ISDN、帧中继、ATM)、无线连接、或上述任何或所有连接的一些组合。网络接口 118可以包括内置网络适配器、网络接口卡、PCMCIA网络卡、卡总线网络适配器、无线网络适配器、USB网络适配器、调制解调器或适用于将计算装置 100接口到能够通信并执行这里所说明的操作的任何类型的网络的任何其它设备。计算装置100中可以包括各种I/O装置130a-130n。输入装置包括键盘、鼠标、触控板、轨迹球、麦克风和绘图板。输出装置包括视频显示器、扬声器、喷墨打印机、激光打印机和热升华打印机。如图IE所示，I/O装置130可以由I/O控制器123控制。I/O控制器可以控制一个或多个I/O装置，例如键盘1 和指示装置127 (如鼠标或光笔)。此外，I/O装置还可以为计算装置100提供存储装置1 和/或安装介质116。在其它实施例中，计算装置100可以提供USB连接以接收手持USB存储装置，例如由位于加利福尼亚州Los Alamitos，的Twintech Industry公司生产的设备的USB闪存驱动器线。在一些实施例中，计算装置100可以包括多个显示装置1对『12如或与其相连，这些显示装置各自可以是相同或不同的类型和/或形式。因而，任何一种I/O装置130a-130n 和/或I/O控制器123可以包括任一类型和/或形式的适当的硬件、软件或硬件和软件的组合，以支持、允许或提供通过计算装置100连接和使用多个显示装置12如-1对11。例如， 计算装置100可以包括任何类型和/或形式的视频适配器、视频卡、驱动器和/或库，以与显示装置1对『12如接口、通信、连接或以其他方式使用显示装置。在一个实施例中，视频适配器可以包括多个连接器以与多个显示装置1对『12如接口。在其它实施例中，计算装置100可以包括多个视频适配器，每个视频适配器与显示装置12如-1对11中的一个或多个连接。在一些实施例中，计算装置100的操作系统的任一部分都可以被配置用于使用多个显示器12如-1对11。在其它实施例中，显示装置12^-124n中的一个或多个可以由一个或多个其它计算装置提供，诸如例如通过网络与计算装置100连接的计算装置IOOa和100b。 这些实施例可以包括被设计和构造为将另一个计算机的显示装置用作计算装置100的第二显示装置12 的任一类型的软件。本领域的普通技术人员会认识和理解可以将计算装置100配置成具有多个显示装置12如-1对11的各种方法和实施例。在进一步的实施例中，I/O装置130可以是系统总线150和外部通信总线之间的桥170，所述外部通信总线例如USB总线、Apple桌面总线、RS-232串行连接、SCSI总线、 Fireffire总线、Fireffire800总线、以太网总线、AppleTalk总线、千兆位以太网总线、异步传输模式总线、HIPPI总线、超级HIPPI总线、SerialPlus总线、SCI/LAMP总线、光纤信道总线或串行SCSI总线。
图IE和IF中描述的那类计算装置100通常在控制任务的调度和对系统资源的访问的操作系统的控制下操作。计算装置100可以运行任何操作系统，如Microsoft Wind0WS 操作系统，不同发行版本的Unix和Linux操作系统，用于Macintosh计算机的任何版本的MAC OS ，任何嵌入式操作系统，任何实时操作系统，任何开源操作系统，任何专有操作
系统，任何用于移动计算装置的操作系统，或者任何其它能够在计算装置上运行并完成这里所述操作的操作系统。典型的操作系统包括WIND0WS 3. χ、WINDOWS 95、WINDOWS 98、 WINDOWS 2000、WINDOWS NT 3. 51、WINDOWS NT 4. 0、WINDOWS CE 禾口 WINDOWS XP，所有这些均由位于华盛顿州Redmond的微软公司出品；由位于加利福尼亚州Cupertino的苹果计算机出品的MacOS ；由位于纽约州Armonk的国际商业机器公司出品的OS/2 ；以及由位于犹他州Mlt Lake City的Caldera公司发布的可免费使用的Linux操作系统或者任何类型和 /或形式的Unix操作系统，以及其它。在其它实施例中，计算装置100可以有符合该装置的不同的处理器、操作系统和输入设备。例如，在一个实施例中，计算机100是由I^alm公司出品的Treo 180、270、1060、600 或650智能电话。在该实施例中，Treo智能电话在I3aImOS操作系统的控制下操作，并包括指示笔输入装置以及五向导航装置。此外，计算装置100可以是任何工作站、桌面计算机、 膝上型或笔记本计算机、服务器、手持计算机、移动电话、任何其它计算机、或能够通信并有足够的处理器能力和存储容量以执行此处所述的操作的其它形式的计算或者电信装置。如图IG所示，计算装置100可以包括多个处理器，可以提供用于对不只一个数据片同时执行多个指令或者同时执行一个指令的功能。在一些实施例中，计算装置100可包括具有一个或多个核的并行处理器。在这些实施例的一个中，计算装置100是共享内存并行设备，具有多个处理器和/或多个处理器核，将所有可用内存作为一个全局地址空间进行访问。在这些实施例的又一个中，计算装置100是分布式存储器并行设备，具有多个处理器，每个处理器访问本地存储器。在这些实施例的又一个中，计算装置100既有共享的存储器又有仅由特定处理器或处理器子集访问的存储器。在这些实施例的又一个中，如多核微处理器的计算装置100将两个或多个独立处理器组合在一个封装中，通常在一个集成电路 (IC)中。在这些实施例的又一个中，计算装置100包括具有单元宽带引擎(CELL BROADBAND ENGINE)架构的芯片，并包括高能处理器单元以及多个协同处理单元，高能处理器单元和多个协同处理单元通过内部高速总线连接在一起，可以将内部高速总线称为单元互连总线。在一些实施例中，处理器提供用于对多个数据片同时执行单个指令(SIMD)的功能。其他实施例中，处理器提供用于对多个数据片同时执行多个指令(MIMD)的功能。又一个实施例中，处理器可以在单个装置中使用SMD和MIMD核的任意组合。在一些实施例中，计算装置100可包括图像处理单元。图IH所示的在这些实施例的一个中，计算装置100包括至少一个中央处理单元101和至少一个图像处理单元。在这些实施例的又一个中，计算装置100包括至少一个并行处理单元和至少一个图像处理单元。在这些实施例的又一个中，计算装置100包括任意类型的多个处理单元，多个处理单元中的一个包括图像处理单元。一些实施例中，第一计算装置100a代表客户计算装置100b的用户执行应用。又一个实施例中，计算装置100执行虚拟机，其提供执行会话，在该会话中，代表客户计算装置100b的用户执行应用。在这些实施例的一个中，执行会话是寄载的桌面会话。在这些实施例的又一个中，计算装置100执行终端服务会话。终端服务会话可以提供寄载的桌面环境。在这些实施例的又一个中，执行会话提供对计算环境的访问，计算环境可包括以下的一个或多个应用、多个应用、桌面应用以及可执行一个或多个应用的桌面会话。B、设备架构图2A示出设备200的一个示例实施例。提供图2A的设备200架构仅用于示例， 并不意于作为限制性的架构。如图2所示，设备200包括硬件层206和被分为用户空间202 和内核空间204的软件层。硬件层206提供硬件元件，在内核空间204和用户空间202中的程序和服务在该硬件元件上被执行。硬件层206也提供结构和元件，就设备200而言，这些结构和元件允许在内核空间204和用户空间202内的程序和服务既在内部进行数据通信又与外部进行数据通信。如图2所示，硬件层206包括用于执行软件程序和服务的处理单元沈2，用于存储软件和数据的存储器264，用于通过网络传输和接收数据的网络端口沈6，以及用于执行与安全套接字协议层相关的功能处理通过网络传输和接收的数据的加密处理器260。在一些实施例中，中央处理单元262可在单独的处理器中执行加密处理器260的功能。另外，硬件层 206可包括用于每个处理单元262和加密处理器沈0的多处理器。处理器262可以包括以上结合图IE和IF所述的任一处理器101。例如，在一个实施例中，设备200包括第一处理器262和第二处理器沈2，。在其它实施例中，处理器262或者沈2，包括多核处理器。虽然示出的设备200的硬件层206通常带有加密处理器沈0，但是处理器260可为执行涉及任何加密协议的功能的处理器，例如安全套接字协议层(SSL)或者传输层安全 (TLS)协议。在一些实施例中，处理器260可为通用处理器(GPP)，并且在进一步的实施例中，可为用于执行任何安全相关协议处理的可执行指令。虽然图2中设备200的硬件层206包括了某些元件，但是设备200的硬件部分或组件可包括计算装置的任何类型和形式的元件、硬件或软件，例如此处结合图IE和IF示出和讨论的计算装置100。在一些实施例中，设备200可包括服务器、网关、路由器、开关、桥接器或其它类型的计算或网络设备，并且拥有与此相关的任何硬件和/或软件元件。设备200的操作系统分配、管理或另外分离可用的系统存储器到内核空间204和用户空间204。在示例的软件架构200中，操作系统可以是任何类型和/或形式的Unix操作系统，尽管本发明并未这样限制。这样，设备200可以运行任何操作系统，如任何版本的 Microsoft Windows操作系统、不同版本的Unix和Linux操作系统、用于Macintosh计算机的任何版本的Mac OS 、任何的嵌入式操作系统、任何的网络操作系统、任何的实时操作系统、任何的开放源操作系统、任何的专用操作系统、用于移动计算装置或网络装置的任何操作系统、或者能够运行在设备200上并执行此处所描述的操作的任何其它操作系统。保留内核空间204用于运行内核230，内核230包括任何设备驱动器，内核扩展或其他内核相关软件。就像本领域技术人员所知的，内核230是操作系统的核心，并提供对资源以及设备104的相关硬件元件的访问、控制和管理。根据设备200的实施例，内核空间 204也包括与高速缓存管理器232协同工作的多个网络服务或进程，高速缓存管理器232有时也称为集成的高速缓存，其益处此处将进一步详细描述。另外，内核230的实施例将依赖于通过设备200安装、配置或其他使用的操作系统的实施例。在一个实施例中，设备200包括一个网络堆栈沈7，例如基于TCP/IP的堆栈，用于与客户机102和/或服务器106通信。在一个实施例中，使用网络堆栈267与第一网络(例如网络108)以及第二网络110通信。在一些实施例中，设备200终止第一传输层连接，例如客户机102的TCP连接，并建立客户机102使用的到服务器106的第二传输层连接，例如， 终止在设备200和服务器106的第二传输层连接。可通过单独的网络堆栈267建立第一和第二传输层连接。在其他实施例中，设备200可包括多个网络堆栈，例如267或沈7’，并且在一个网络堆栈267可建立或终止第一传输层连接，在第二网络堆栈沈7’上可建立或者终止第二传输层连接。例如，一个网络堆栈可用于在第一网络上接收和传输网络分组，并且另一个网络堆栈用于在第二网络上接收和传输网络分组。在一个实施例中，网络堆栈267包括用于为一个或多个网络分组进行排队的缓冲器M3，其中网络分组由设备200传输。如图2所示，内核空间204包括高速缓存管理器232、高速层2_7集成分组引擎 M0、加密引擎234、策略引擎236以及多协议压缩逻辑238。在内核空间204或内核模式而不是用户空间202中运行这些组件或进程232、M0、234、236和238提高这些组件中的每个单独的和结合的性能。内核操作意味着这些组件或进程232、M0、234、236和238在设备 200的操作系统的核地址空间中运行。例如，在内核模式中运行加密引擎234通过移动加密和解密操作到内核可改进加密性能，从而可减少在内核模式中的存储空间或内核线程与在用户模式中的存储空间或线程之间的传输的数量。例如，在内核模式获得的数据可能不需要传输或拷贝到运行在用户模式的进程或线程，例如从内核级数据结构到用户级数据结构。在另一个方面，也可减少内核模式和用户模式之间的上下文切换的数量。另外，在任何组件或进程232、M0、235、236和238间的同步和通信在内核空间204中可被执行的更有效率。在一些实施例中，组件232、M0、234、236和238的任何部分可在内核空间204中运行或操作，而这些组件232、M0、234、236和238的其它部分可在用户空间202中运行或操作。在一个实施例中，设备200使用内核级数据结构来提供对一个或多个网络分组的任何部分的访问，例如，包括来自客户机102的请求或者来自服务器106的响应的网络分组。 在一些实施例中，可以由分组引擎240通过到网络堆栈267的传输层驱动器接口或过滤器获得内核级数据结构。内核级数据结构可包括通过与网络堆栈267相关的内核空间204可访问的任何接口和/或数据、由网络堆栈267接收或发送的网络业务或分组。在其他实施例中，任何组件或进程232、M0、234、236和238可使用内核级数据结构来执行组件或进程的需要的操作。在一个实例中，当使用内核级数据结构时，组件232、240、234、236和238在内核模式204中运行，而在又一个实施例中，当使用内核级数据结构时，组件232、对0、234、 236和238在用户模式中运行。在一些实施例中，内核级数据结构可被拷贝或传递到第二内核级数据结构，或任何期望的用户级数据结构。高速缓存管理器232可包括软件、硬件或软件和硬件的任何组合，以提供对任何类型和形式的内容的高速缓存访问、控制和管理，例如对象或由源服务器106提供服务的动态产生的对象。由高速缓存管理器232处理和存储的数据、对象或内容可包括任何格式 (例如标记语言)的数据，或者通过任何协议的通信的任何类型的数据。在一些实施例中， 高速缓存管理器232复制存储在其他地方的原始数据或先前计算、产生或传输的数据，其中相对于读高速缓存存储器元件，需要更长的访问时间以取得、计算或以其他方式得到原始数据。一旦数据被存储在高速缓存存储元件中，通过访问高速缓存的副本而不是重新获得或重新计算原始数据即可进行后续操作，因此而减少了访问时间。在一些实施例中，高速缓存元件可以包括设备200的存储器沈4中的数据对象。在其它实施例中，高速缓存存储元件可包括有比存储器264更快的存取时间的存储器。在又一个实施例中，高速缓存元件可以包括设备200的任一类型和形式的存储元件，诸如硬盘的一部分。在一些实施例中，处理单元262可提供被高速缓存管理器232使用的高速缓存存储器。在又一个实施例中，高速缓存管理器232可使用存储器、存储区或处理单元的任何部分和组合来高速缓存数据、 对象或其它内容。另外，高速缓存管理器232包括用于执行此处描述的设备200的技术的任一实施例的任何逻辑、功能、规则或操作。例如，高速缓存管理器232包括基于无效时间周期的终止，或者从客户机102或服务器106接收无效命令使对象无效的逻辑或功能。在一些实施例中，高速缓存管理器232可作为应用、库、程序、服务、进程或任务操作执行在内核空间204 中，并且在其他实施例中，在用户空间202中执行。在一个实施例中，高速缓存管理器232 的第一部分在用户空间202中执行，而第二部分在内核空间204中执行。在一些实施例中， 高速缓存管理器232可包括任何类型的通用处理器(GPP)，或任何其他类型的集成电路，例如现场可编程门阵列(FPGA)，可编程逻辑设备(PLD)，或者专用集成电路(ASIC)。策略引擎236可包括例如智能统计引擎或其它可编程应用。在一个实施例中，策略引擎236提供配置机制以允许用户识别、指定、定义或配置高速缓存策略。策略引擎236， 在一些实施例中，也访问存储器以支持数据结构，例如备份表或hash表，以启用用户选择的高速缓存策略决定。在其它实施例中，除了对安全、网络业务、网络访问、压缩或其它任何由设备200执行的功能或操作的访问、控制和管理之外，策略引擎236可包括任何逻辑、规贝U、功能或操作以确定和提供对设备200所高速缓存的对象、数据、或内容的访问、控制和管理。特定高速缓存策略的其它实施例此处进一步描述。加密引擎234包括用于操控诸如SSL或TLS的任何安全相关协议或其中涉及的任何功能的处理的任何逻辑、商业规则、功能或操作。例如，加密引擎234加密并解密通过设备200传输的网络分组，或其任何部分。加密引擎234也可代表客户机10加-10211、服务器 106a-106n或设备200来设置或建立SSL或TLS连接。因此，加密引擎234提供SSL处理的卸载和加速。在一个实施例中，加密引擎234使用隧道协议来提供在客户机102a-102n和服务器106a-106n间的虚拟专用网络。在一些实施例中，加密引擎234与加密处理器沈0 通信。在其它实施例中，加密引擎234包括运行在加密处理器260上的可执行指令。多协议压缩引擎238包括用于压缩一个或多个网络分组协议(例如被设备200的网络堆栈267使用的任何协议)的任何逻辑、商业规则、功能或操作。在一个实施例中，多协议压缩引擎238双向压缩在客户机102a-102n和服务器106a-106n间任一基于TCP/IP 的协议，包括消息应用编程接口(MAPI)(电子邮件)、文件传输协议(FTP)、超文本传输协议 (HTTP)、通用互联网文件系统(Cire)协议(文件传输)、独立计算架构(ICA)协议、远程桌面协议(RDP)、无线应用协议(WAP)、移动IP协议以及IP上语音(VoIP)协议。在其它实施例中，多协议压缩引擎238提供基于超文本标记语言(HTML)的协议的压缩，并且在一些实施例中，提供任何标记语言的压缩，例如可扩展标记语言(XML)。在一个实施例中，多协议压缩引擎238提供任何高性能协议的压缩，例如设计用于设备200到设备200通信的任何协议。在又一个实施例中，多协议压缩引擎238使用修改的传输控制协议来压缩任何通信的任何载荷或任何通信，例如事务TCP(T/TCP)、带有选择确认的TCP(TCP-SACK)、带有大窗口的TCP (TCP-Lff)、例如TCP-Vegas协议的拥塞预报协议以及TCP欺骗协议(TCP spoofing protocol)0同样的，多协议压缩引擎238为用户加速经由桌面客户机乃至移动客户机访问应用的性能，所述桌面客户机例如Micosoft Outlook和非web瘦客户机，诸如由像Oracle、 SAP和Siebel的通用企业应用所启动的任何客户机，所述移动客户机例如掌上电脑。在一些实施例中，通过在内核模式204内部执行并与访问网络堆栈267的分组处理引擎240集成，多协议压缩引擎238可以压缩TCP/IP协议携带的任何协议，例如任何应用层协议。高速层2-7集成分组引擎M0，通常也称为分组处理引擎，或分组引擎，负责设备 200通过网络端口 266接收和发送的分组的内核级处理的管理。高速层2-7集成分组引擎 240可包括用于在例如接收网络分组和传输网络分组的处理期间排队一个或多个网络分组的缓冲器。另外，高速层2-7集成分组引擎240与一个或多个网络堆栈267通信以通过网络端口 266发送和接收网络分组。高速层27集成分组引擎240与加密引擎234、高速缓存管理器232、策略引擎236和多协议压缩逻辑238协同工作。更具体地，配置加密引擎234 以执行分组的SSL处理，配置策略引擎236以执行涉及业务管理的功能，例如请求级内容切换以及请求级高速缓存重定向，并配置多协议压缩逻辑238以执行涉及数据压缩和解压缩的功能。高速层2-7集成分组引擎240包括分组处理定时器M2。在一个实施例中，分组处理定时器242提供一个或多个时间间隔以触发输入处理，例如，接收或者输出(即传输) 网络分组。在一些实施例中，高速层2-7集成分组引擎240响应于定时器242处理网络分组。分组处理定时器对2向分组引擎240提供任何类型和形式的信号以通知、触发或传输时间相关的事件、间隔或发生。在许多实施例中，分组处理定时器M2以毫秒级操作，例如 100ms、50ms、或25ms。例如，在一些实例中，分组处理定时器242提供时间间隔或者以其它方式使得由高速层2-7集成分组引擎MO以IOms时间间隔处理网络分组，而在其它实施例中，使高速层2-7集成分组引擎MO以5ms时间间隔处理网络分组，并且在进一步的实施例中，短到3、2或Ims时间间隔。高速层2-7集成分组引擎240在操作期间可与加密引擎234、 高速缓存管理器232、策略引擎236以及多协议压缩引擎238连接、集成或通信。因此，响应于分组处理定时器242和/或分组引擎对0，可执行加密引擎234、高速缓存管理器232、策略引擎236以及多协议压缩引擎238的任何逻辑、功能或操作。因此，在由分组处理定时器 242提供的时间间隔粒度，可执行加密引擎234、高速缓存管理器232、策略引擎236以及多协议压缩引擎238的任何逻辑、功能或操作，例如，时间间隔少于或等于10ms。例如，在一个实施例中，高速缓存管理器232可响应于高速层2-7集成分组引擎240和/或分组处理定时器242来执行任何高速缓存的对象的终止。在又一个实施例中，高速缓存的对象的终止或无效时间被设定为与分组处理定时器242的时间间隔相同的粒度级，例如每10ms。与内核空间204不同，用户空间202是被用户模式应用或在用户模式运行的程序所使用的操作系统的存储区域或部分。用户模式应用不能直接访问内核空间204而使用服务调用以访问内核服务。如图2所示，设备200的用户空间202包括图形用户接口 (⑶1)210、命令行接口(CLI) 212、壳服务(shell service) 214、健康监控程序216以及守护 (daemon)服务218。⑶I 210和CLI212提供系统管理员或其他用户可与之交互并控制设备200操作的装置，例如通过设备200的操作系统。⑶1210和CLI 212可包括运行在用户空间202或内核框架204中的代码。GUI210可以是任何类型或形式的图形用户接口，可以通过文本、图形或其他形式由任何类型的程序或应用(如浏览器)来呈现。CLI 212可为任何类型和形式的命令行或基于文本的接口，例如通过操作系统提供的命令行。例如，CLI 212 可包括壳，该壳是使用户与操作系统相互作用的工具。在一些实施例中，可通过bash、csh、 tcsh或者ksh类型的壳提供CLI 212。壳服务214包括程序、服务、任务、进程或可执行指令以支持由用户通过⑶I 210和/或CLI 212的与设备200或者操作系统的交互健康监控程序216用于监控、检查、报告并确保网络系统正常运行，以及用户正通过网络接收请求的内容。健康监控程序216包括一个或多个程序、服务、任务、进程或可执行指令，为监控设备200的任何行为提供逻辑、规则、功能或操作。在一些实施例中，健康监控程序216拦截并检查通过设备200传送的任何网络业务。在其他实施例中，健康监控程序216通过任何合适的方法和/或机制与一个或多个下述设备连接加密引擎234，高速缓存管理器232，策略引擎236，多协议压缩逻辑238，分组引擎M0，守护服务218以及壳服务 214。因此，健康监控程序216可调用任何应用编程接口(API)以确定设备200的任何部分的状态、情况或健康。例如，健康监控程序216可周期性地查验(ping)或发送状态查询以检查程序、进程、服务或任务是否活动并当前正在运行。在又一个实施例中，健康监控程序216 可检查由任何程序、进程、服务或任务提供的任何状态、错误或历史日志以确定设备200任何部分的任何状况、状态或错误。守护服务218是连续运行或在背景中运行的程序，并且处理设备200接收的周期性服务请求。在一些实施例中，守护服务可向其他程序或进程(例如合适的另一个守护服务218)转发请求。如本领域技术人员所公知的，守护服务218可无人监护的运行，以执行连续的或周期性的系统范围功能，例如网络控制，或者执行任何需要的任务。在一些实施例中，一个或多个守护服务218运行在用户空间202中，而在其它实施例中，一个或多个守护服务218运行在内核空间。现在参见图2B，描述了设备200的又一个实施例。总的来说，设备200提供下列服务、功能或操作中的一个或多个用于一个或多个客户机102以及一个或多个服务器106 之间的通信的SSL VPN连通观0、交换/负载平衡观4、域名服务解析观6、加速288和应用防火墙四0。服务器106的每一个可以提供一个或者多个网络相关服务270a-270n (称为服务270)。例如，服务器106可以提供http服务270。设备200包括一个或者多个虚拟服务器或者虚拟互联网协议服务器，称为vServer 275、vS 275、VIP服务器或者仅是VIP 27fe-275n (此处也称为vServer 275)。vServer 275根据设备200的配置和操作来接收、 拦截或者以其它方式处理客户机102和服务器106之间的通信。vServer 275可以包括软件、硬件或者软件和硬件的任何组合。vServer 275可包括在设备200中的用户模式202、内核模式204或者其任何组合中运行的任何类型和形式的程序、服务、任务、进程或者可执行指令。vServer 275包括任何逻辑、功能、规则或者操作， 以执行此处所述技术的任何实施例，诸如SSL VPN观0、转换/负载平衡观4、域名服务解析观6、加速288和应用防火墙四0。在一些实施例中，Werver 275建立到服务器106的服务 270的连接。服务275可以包括能够连接到设备200、客户机102或者vServer 275并与之通信的任何程序、应用、进程、任务或者可执行指令集。例如，服务275可以包括web服务器、http服务器、ftp、电子邮件或者数据库服务器。在一些实施例中，服务270是守护进程或者网络驱动器，用于监听、接收和/或发送应用的通信，诸如电子邮件、数据库或者企业应用。 在一些实施例中，服务270可以在特定的IP地址、或者IP地址和端口上通信。在一些实施例中，vServer 275应用策略引擎236的一个或者多个策略到客户机 102和服务器106之间的网络通信。在一个实施例中，该策略与vServer 275相关。在又一个实施例中，该策略基于用户或者用户组。在又一个实施例中，策略为通用的并且应用到一个或者多个vServer 27fe_275n，和通过设备200通信的任何用户或者用户组。在一些实施例中，策略引擎的策略具有基于通信的任何内容应用该策略的条件，通信的内容诸如互联网协议地址、端口、协议类型、分组中的首部或者字段、或者通信的上下文，诸如用户、用户组、vServer 275、传输层连接、和/或客户机102或者服务器106的标识或者属性。在其他实施例中，设备200与策略引擎236通信或接口，以便确定远程用户或远程客户机102的验证和/或授权，以访问来自服务器106的计算环境15、应用和/或数据文件。在又一个实施例中，设备200与策略引擎236通信或交互，以便确定远程用户或远程客户机102的验证和/或授权，使得应用传送系统190传送一个或多个计算环境15、应用和/ 或数据文件。在又一个实施例中，设备200基于策略引擎236对远程用户或远程客户机102 的验证和/或授权建立VPN或SSL VPN连接。一个实施例中，设备200基于策略引擎236 的策略控制网络业务以及通信会话。例如，基于策略引擎236，设备200可控制对计算环境 15、应用或数据文件的访问。在一些实施例中，Werver 275与客户机102经客户机代理120建立传输层连接， 诸如TCP或者UDP连接。在一个实施例中，vServer 275监听和接收来自客户机102的通信。在其它实施例中，Werver 275与客户机服务器106建立传输层连接，诸如TCP或者UDP 连接。在一个实施例中，vServer 275建立到运行在服务器106上的服务器270的互联网协议地址和端口的传输层连接。在又一个实施例中，Werver 275将到客户机102的第一传输层连接与到服务器106的第二传输层连接相关联。在一些实施例中，vServer 275建立到服务器106的传输层连接池并经由所述池化(pooled)的传输层连接多路复用客户机的请求。在一些实施例中，设备200提供客户机102和服务器106之间的SSL VPN连接观0。 例如，第一网络102上的客户机102请求建立到第二网络104’上的服务器106的连接。在一些实施例中，第二网络104’是不能从第一网络104路由的。在其它实施例中，客户机102 位于公用网络104上，并且服务器106位于专用网络104’上，例如企业网。在一个实施例中，客户机代理120拦截第一网络104上的客户机102的通信，加密该通信，并且经第一传输层连接发送该通信到设备200。设备200将第一网络104上的第一传输层连接与到第二网络104上的服务器106的第二传输层连接相关联。设备200接收来自客户机代理102的所拦截的通信，解密该通信，并且经第二传输层连接发送该通信到第二网络104上的服务器106。第二传输层连接可以是池化的传输层连接。同样的，设备200为两个网络104、104’ 之间的客户机102提供端到端安全传输层连接。在一个实施例中，设备200寄载虚拟专用网络104上的客户机102的内部网互联网协议或者htranetIP 282地址。客户机102具有本地网络标识符，诸如第一网络104上的互联网协议(IP)地址和/或主机名称。当经设备200连接到第二网络104’时，设备200在第二网络104’上为客户机102建立、分配或者以其它方式提供htranetn^内部网IP)， 其是诸如IP地址和/或主机名称的网络标识符。使用为客户机的所建立的htranetIP 观2，设备200在第二或专用网104'上监听并接收指向该客户机102的任何通信。在一个实施例中，设备200在第二专用网络104上用作或者代表客户机102。例如，在又一个实施例中，Werver 275监听和响应到客户机102的htranetIP 282的通信。在一些实施例中， 如果第二网络104’上的计算装置100发送请求，设备200如同客户机102 —样来处理该请求。例如，设备200可以响应对客户机^itranetIP 282的查验。在又一个实施例中，设备可以与请求和客户机htranetIP 282连接的第二网络104上的计算装置100建立连接，诸如TCP或者UDP连接。在一些实施例中，设备200为客户机102和服务器106之间的通信提供下列一个或多个加速技术观8 1)压缩；幻解压缩；幻传输控制协议池；4)传输控制协议多路复用； 5)传输控制协议缓冲；以及6)高速缓存。在一个实施例中，设备200通过开启与每一服务器106的一个或者多个传输层连接并且维持这些连接以允许由客户机经因特网的重复数据访问，来为服务器106缓解由重复开启和关闭到客户机102的传输层连接所造成的大量处理负载。该技术此处称为“连接池”。在一些实施例中，为了经池化的传输层连接无缝拼接从客户机102到服务器106 的通信，设备200通过在传输层协议级修改序列号和确认号来转换或多路复用通信。这被称为“连接多路复用”。在一些实施例中，不需要应用层协议相互作用。例如，在到来分组 (即，自客户机102接收的分组)的情况中，所述分组的源网络地址被改变为设备200的输出端口的网络地址，而目的网络地址被改为目的服务器的网络地址。在发出分组(即，自服务器106接收的一个分组)的情况中，源网络地址被从服务器106的网络地址改变为设备 200的输出端口的网络地址，而目的地址被从设备200的网络地址改变为请求的客户机102 的网络地址。分组的序列号和确认号也被转换为到客户机102的设备200的传输层连接上的客户机102所期待的序列号和确认。在一些实施例中，传输层协议的分组校验和被重新计算以计及这些转换。在又一个实施例中，设备200为客户机102和服务器106之间的通信提供交换或负载平衡功能观4。在一些实施例中，设备200根据层4有效载荷或应用层请求数据来分配业务量并将客户机请求定向到服务器106。在一个实施例中，尽管网络分组的网络层或者层 2识别目的服务器106，但设备200利用承载为传输层分组的有效载荷的数据和应用信息来确定服务器106以便分布网络分组。在一个实施例中，设备200的健康监控程序216监控服务器的健康来确定分布客户机请求到哪个服务器106。在一些实施例中，如果设备200探测到某个服务器106不可用或者具有超过预定阈值的负载，设备200可以将客户机请求指向或者分布到另一个服务器106。在一些实施例中，设备200用作域名服务(DNS)解析器或者以其它方式为来自客户机102的DNS请求提供解析。在一些实施例中，设备拦截由客户机102发送的DNS请求。 在一个实施例中，设备200以设备200的IP地址或其所寄载的IP地址来响应客户机的DNS 请求。在此实施例中，客户机102把用于域名的网络通信发送到设备200。在又一个实施例中，设备200以第二设备200’的或其所寄载的IP地址来响应客户机的DNS请求。在一些实施例中，设备200使用由设备200确定的服务器106的IP地址来响应客户机的DNS请求。在又一个实施例中，设备200为客户机102和服务器106之间的通信提供应用防火墙功能四0。在一个实施例中，策略引擎236提供用于探测和阻断非法请求的规则。在一些实施例中，应用防火墙四0防御拒绝服务(DoS)攻击。在其它实施例中，设备检查所拦截的请求的内容，以识别和阻断基于应用的攻击。在一些实施例中，规则/策略引擎236 包括用于提供对多个种类和类型的基于web或因特网的脆弱点的保护的一个或多个应用防火墙或安全控制策略，例如下列的一个或多个脆弱点1)缓冲区泄出，2)CGI BIN参数操纵，3)表单/隐藏字段操纵，4)强制浏览，5) cookie或会话中毒，6)被破坏的访问控制列表 (ACLs)或弱密码，7)跨站脚本处理(XSS)，8)命令注入，9) SQL注入，10)错误触发敏感信息泄露，11)对加密的不安全使用，1 服务器错误配置，1 后门和调试选项，14)网站涂改， 15)平台或操作系统弱点，和16)零天攻击。在一个实施例中，对下列情况的一种或多种，应用防火墙四0以检查或分析网络通信的形式来提供HTML格式字段的保护1)返回所需的字段，幻不允许附加字段，幻只读和隐藏字段强制(enforcement)，4)下拉列表和单选按钮字段的一致，以及幻格式字段最大长度强制。在一些实施例中，应用防火墙四0确保cookie 不被修改。在其它实施例中，应用防火墙290通过执行合法的URL来防御强制浏览。在其他实施例中，应用防火墙290保护在网络通信中包含的任何机密信息。应用防火墙290可以根据引擎236的规则或策略来检查或分析任一网络通信以识别在网络分组的任一字段中的任一机密信息。在一些实施例中，应用防火墙290在网络通信中识别信用卡号、口令、社会保险号、姓名、病人代码、联系信息和年龄的一次或多次出现。网络通信的编码部分可以包括这些出现或机密信息。基于这些出现，在一个实施例中，应用防火墙四0 可以对网络通信采取策略行动，诸如阻止发送网络通信。在又一个实施例中，应用防火墙 290可以重写、移动或者以其它方式掩盖该所识别的出现或者机密信息。仍参考图2B，设备200可以包括如上面结合图ID所讨论的性能监控代理197。在一个实施例中，设备200从如图ID中所描述的监控服务198或监控服务器106中接收监控代理197。在一些实施例中，设备200在诸如磁盘的存储装置中保存监控代理197，以用于传送给与设备200通信的任何客户机或服务器。例如，在一个实施例中，设备200在接收到建立传输层连接的请求时发送监控代理197给客户机。在其它实施例中，设备200在建立与客户机102的传输层连接时发送监控代理197。在又一个实施例中，设备200在拦截或检测对web页面的请求时发送监控代理197给客户机。在又一个实施例中，设备200响应于监控服务器198的请求来发送监控代理197到客户机或服务器。在一个实施例中，设备 200发送监控代理197到第二设备200'或设备205。在其它实施例中，设备200执行监控代理197。在一个实施例中，监控代理197测量和监控在设备200上执行的任何应用、程序、进程、服务、任务或线程的性能。例如，监控代理197可以监控和测量vServers 275A-275N的性能与操作。在又一个实施例中，监控代理197测量和监控设备200的任何传输层连接的性能。在一些实施例中，监控代理197测量和监控通过设备200的任何用户会话的性能。在一个实施例中，监控代理197测量和监控通过设备200的诸如SSL VPN会话的任何虚拟专用网连接和/或会话的性能。在进一步的实施例中，监控代理197测量和监控设备200的内存、CPU和磁盘使用以及性能。在又一个实施例中，监控代理197测量和监控诸如SSL卸载、连接池和多路复用、高速缓存以及压缩的由设备200执行的任何加速技术观8的性能。在一些实施例中，监控代理197测量和监控由设备200执行的任一负载平衡和/或内容交换观4的性能。在其它实施例中，监控代理197测量和监控由设备200执行的应用防火墙290保护和处理的性能。C.提供N-核结构的系统和方法摩尔定律似乎还可以适用-集成电路上可安置的晶体管的数量仍然以每两年翻一倍的速度增加。但是，自从2005年达到3. 5-4GHz后，CPU的速度已经稳定在这个水平。 CPU制造商不能再依靠CPU速度增加来获得额外的性能。一些CPU制造商向其处理器中添加额外的核，以提供额外的性能。依靠多个CPU获得性能提升的产品，诸如软件和网络供应商的产品，可以通过利用这些多核CPU来提高其性能。为单个CPU设计和构造的软件可以改写，以利用多线程、并行结构。称为N核技术的设备200的结构允许设备打破单核性能屏障并且利用多核CPU的能力。在之前与图2A关联描述的结构中，运行着单个网络或分组引擎。N核技术和结构允许运行多个分组引擎。通过在每个核上都运行分组引擎，该设备结构利用了额外的核的处理能力。在一些实施例中，这在性能以及可扩展性方面提供高达7倍的提升。参考图3，其中描述用于实现结构的方法的实施例。概括来讲，对于利用多核系统中多个分组引擎的并行性的方法有多种。图3显示了具有一共八个核的设备200’，八个核编号为1至8。可以有多个VIP 275运行在这些核上。对于功能并行性方法，每个核可以运行由分组引擎或设备200提供的功能集(functionality)中的不同的功能。在数据并行性方法中，基于接收数据的网络接口卡(NIC)或VIP 275，数据可以在核上并行或分布。在另一种数据并行性方法中，通过向每个核分布数据流来在核上分布数据处理。对于功能并行性方法，每个核可以被配置为运行由设备分组引擎提供的多个功能集中的一个或多个功能集。例如，核1可以执行设备200’的网络I/O处理，而核2执行设备的TCP连接管理。同样地，核3可以执行SSL卸载，而核4可以执行层7或应用层处理以及业务管理。每一个核可以执行相同的或不同的功能。每一个核可以执行多于一个功能。 任何核可以运行结合图2A和2B所识别和/或描述的任何功能集或其部分。在该方法中， 核上的工作可以以粗粒度或细粒度的方式通过功能来划分。如图3所示，在一些情况下，通过功能来划分可能导致不同的核运行在不同的性能水平上。对于数据并行性方法，可以基于VIP、NIC和/或数据流来划分或分布工作。在这些方法中的一种中，设备的工作在VIP间划分或分布。例如，每个核可以被配置为运行一个或多个VIP。网络业务可以分布给每个处理该业务的VIP的核。在这些方法中的另一种中， 设备的工作可以基于接收网络业务的NIC在核上划分或分布。例如，第一 NIC的网络业务可以分布给第一核，而第二 NIC的网络业务可以分布给第二核。在一些情况下，某个核可以处理来自多个核的数据。虽然如图3所示，基于VIP或NIC在核上分布工作可以具有一定的独立性，但是在一些实施例中，这可能导致对核的不平衡使用。在这些方法中的另一种中，可以基于数据流在核上分布或划分工作。例如，客户机和服务器间经过设备的网络业务可以分布到多个核中的一个核并且由其处理。在一些情况下，最初建立会话或连接的核可能成为该会话或连接的网络业务的分布对象。在一些实施例中，数据流基于网络业务的任何单元或部分，例如源自客户机上的应用的事务、请求/响应通信或业务。在该方式下并且在一些实施例中，客户机和服务器间经过设备200’的数据流可以比其他方法分布得更平衡。现在参考图4A-4C，其中描述了运行多个分组引擎的多核系统的实施例。图4A概括来讲，分组引擎可以在多个核中的每一个上操作，例如在多核设备200’的核1到核8上。 流分布器可以根据上述并行性(数据或功能的)中的任意一种在核上分布网络业务。图4A 显示了流分布器基于数据流方法在核上分布网络业务的实施例。流分布器提供同一数据流的分组到同一核的亲合性。例如，流分布器将某核发起的数据流的分组路由到该核。流分布器维护路由到核的流间分组的顺序。分组引擎M0’可以包括结合图2A和2B描述的设备的任何部分或全部。在一些实施例中，分组引擎M0’包括图2A的分组引擎M0，并且可以包括来自图2A的下列的任何一个或多个或任意组合网络堆栈沈7、高速缓存管理器232、策略引擎236、压缩引擎238、 加密引擎234、⑶I 210,CLI 212、壳服务214和监控程序216.分组引擎240可以包括任何一个或多个vServer 275A-275N。分组引擎M0，可以包括结合图2B描述的SSL VPN 280, 内部网IP观2、交换观4、域名服务解析观6、加速观8、应用防火墙280和监控代理197的功能集中的任意一个或多个或任意组合。同样地，分组引擎对0’可以提供图4A所示的任意下述功能集TCP堆栈、负载平衡、SSL卸载和处理、内容交换、策略评估、缓存、压缩、应用防火墙、XML处理和加速和SSLVPN连接。流分布器400可以包括任何软件和硬件组合，以分布、路由、控制和/或管理哪个核处理哪个网络分组。流分布器可以包括任何形式的可执行指令，例如应用、程序、库、进程、服务、任务或脚本。流分布器可以运行在一个核上，一些核上或所有核上。在一些实施例中，流分布器运行在多个核中的第一核上。例如，核中的一个可能设计为控制核或主核， 所述流分布器在该核上操作。在其他实施例中，流分布器在每一个核上运行。在一些实施例中，流分布器可能互相通信或接口，以分布网络分组。流分布器可能接口到接收侧调整(RRQ网络技术和/或驱动器进行或与其进行通信。接收侧调整(RRQ是一种网络驱动技术，其能够使网络接收处理分布到多处理器系统中的多个CPU上或分布到多核系统的多个核上。在一些实施例中，流分布器在具有接收侧调整器(RRS)的或作为RSS —部分的硬件上运行。基于此处识别的任何功能或数据流并行性方法，流分布器可以将由RSS分布的网络业务重新路由到不同的核。例如，基于RSS算法，RSS可能分布一个或多个网络分组到第一核，而这些分组基于数据流并行性应该分布到第二核。流分布器可以接收来自RSS的向第一核的网络分组分布，并且将该网络分组分布到被分配数据流的第二核。参考图4B，其中描述了实现多核结构的实施例。概括来讲，多核系统的多个核可以通过任何类型或形式的总线(例如存储器总线)进行通信或接口。任何核都可以通过经由总线发送和接收消息来与另一个核进行通信。每一个核都可以具有独立的地址空间或共享地址空间的一部分。流分布器可以使用任何类型和形式的统计或概率算法或决策来平衡核上的流。设备的硬件可以设计或构建为支持在NIC上和/或核上的顺序操作。核可以使用或具有指定给该核或分配给该核使用的存储器。该存储器可以被看作是该核的专用存储器或本地存储器，并且只能由该核访问。核可以具有或使用分配给多个核或在多个核间共享的存储器。该存储器可以被看作是可以被多于一个核访问的公共存储器或共享存储器。核可以使用专用存储器和公共存储器的任何组合。由于每个核具有独立的地址空间，相对于使用相同的地址空间，消除了某种程度的协作。由于具有独立的地址空间，核可以使用其自己的地址空间中的信息和数据执行工作，不必担心会与其他核有冲突。 每一个分组引擎都可以具有用于TCP和/或SSL连接的单独的存储器池。核可以使用任何类型和形式的进程间通信或机制与另一个核通信。在一个实施例中，通过使用在连接核的总线上传送的消息来进行核间通信。这可以称为核到核消息传输 (CCM)。在一些实施例中，核可以使用共享存储器进行通信。在一些实施例中，核可以使用队列来存储和检索到其他核的消息。在其他实施例中，核可以使用API接口到另一个核的地址空间、对象、数据结构或其他存储器单元来进行通信。现在参考图4C，其中描述了多核系统环境的又一个实施例。概括来讲，多核系统的多个核中的一个核可以为指定的管理核。在图4C的例子中，一个核被指定为管理核。该管理核可以包括配置服务、配置存储装置和配置存留模块。该管理核可以包括配置复制器和统计记录聚合器。该管理核还可以包括高可用性(HA)传播和同步模块。核中的任何一个核都可以被指定为或配置为管理核。该指定核可以看作是基本核、主核或配置核。在一些实施例中，第一核为管理核。在其他实施例中，通过设备200’的配置，任何核可以是管理核。在一些实施例中，多个核可以被看作是管理核。在一些实施例中，一个核为管理核，另一个核为备份或失效备援管理核。任何用户接口(例如，图2A中的 ⑶I、CLI)和配置工具可以在管理核上操作或由管理核运行。配置服务可以包括用于配置任何核的任何类型和形式的可执行指令和接口。配置服务可以提供接口用于指定将要使用的并行性的类型。配置服务可以提供接口用于指定网络业务单元来考虑向核分布数据流。配置服务可以提供接口用于指定或配置核的数量。配置服务可以提供接口用于指定要在每一个核上运行的分组引擎的类型。配置服务可以提供接口用于配置要在每一个核上运行的每一个分组弓I擎。配置服务可以提供接口用于识别或配置要在每一个核上运行的每一个分组引擎的功能集。配置服务可以提供接口用于配置流分布器，例如指定或配置分布算法。配置服务可以提供接口用于配置或指定用于定向、控制或管理设备200’或其任何核的操作的任何策略。 配置服务可以将任何配置数据或信息存储到配置存储装置中。配置存储装置可以包括任何类型和形式的存储装置和/或存储器，例如结合图IE和IF描述的存储装置和/ 或存储器。可以将每个核的配置分别存储或一起存储在配置存储装置中。配置中可能有一部分适用于所有核，例如全局配置或通用配置，还可能有一部分专用于任何一个核或预定的核，例如特定核配置。所述配置可以以任何格式类型存储。所述配置可以存储在数据库中。配置数据，例如通过文件，可以经由网络上传到另一个装置，或从另一个装置下载到设备。 配置复制器可以包括任何类型和形式的可执行指令，用于将配置或其任何部分复制到一个或多个核。配置复制器可以复制在配置存储装置或存储在配置服务的存储器中存储的配置。在一些实施例中，配置复制器通过执行到每个分组引擎的一个或多个命令行或命令脚本来将配置复制到每个核。在其他实施例中，配置复制器通过执行到每个分组引擎的一个或多个API调用来将配置复制到每个核。在其他实施例中，配置复制器通过执行 API调用或命令行命令来获取每个核的当前配置。配置复制器可以对比核的当前配置和需要的、存储的或更新的配置。配置复制器可以生成并执行表示配置间区别的和/或更新核的当前配置的一组配置命令。配置存留服务或模块可以包括任何类型和形式的可执行指令，用于存留在配置存储装置中和/或核上和/或设备中的配置。配置存留确保任何核都具有当前期望的配置。 配置存留还可以提供可传送到外部装置(例如另一个设备)的配置的更新。例如，在高可用性情况下，第二设备可以由来自配置存留服务的配置变化进行更新。这将保证备份或从设备具有存留在设备和/或核上的配置。HA传播和同步模块可以包括任何类型和形式的可执行指令，用于传播及同步配置和操作数据到一个或多个其他设备200’。HA传播和同步模块可以传播和/或同步任何SSL 会话和/或TCP连接信息例如状态和其他信息到另一个设备，例如，以使那个设备重新建立或重新产生这些会话和/或连接。HA传播和同步模块可以传播和/或同步任何配置或其部分到另一个设备。记录统计聚合器可以包括任何类型和形式的可执行指令，用于聚合来自每一个核的任何记录的操作和/或性能信息和数据。记录统计聚合器可以组合来自每一个核的操作和/或性能信息和数据，以呈现设备200’的操作和/或性能的系统视图。记录统计聚合器可以使用任何类型和形式的接口，用于从每一个核接收和/或获取记录。在一些实施例中， 记录统计聚合器通过共享的存储器接口与每一个核相接口。在一些实施例中，记录统计聚合器通过消息传输与每一个核相接口，例如核到核消息传输。在一些实施例中，记录统计聚合器通过队列与每一个核相接口。记录统计聚合器可以以预定的计划或频率接收或获取核的记录。记录统计聚合器可以根据需要、特定情况(ad-hoc)或按照请求接收或获取核的记录。现在参考图5A和5B，其中描述了多核系统结构的实施例。图5A和5B显示了使用一个核作为多核系统的控制平面(control plane)。图5A概括来讲，第一核(例如核1) 可以被配置或指定为提供对其他核的控制。多核系统可以具有32GB的存储器，其可以以任何方式在核间分配。图5A显示的实施例中，每个核得到了 4GB或32GB存储器的平均分配。 在其他实施例中，每一个核可以被分配不同大小的存储器。例如，核1或其他控制平面核可以被分配更多的存储器，例如用于多核系统的专用的管理功能集。参考图5B，每一个核的存储器的任一部分可以被分配给或用于由核共享的全局高速缓存。概括来讲，每个核的每个存储器的预定百分比或预定量可以被用于全局高速缓存。 例如，每个核的每个存储器的50%可以专用于或分配给共享的全局高速缓存。也就是说，在图示的实施例中，除了控制平面核或核1外，每个核中的2GB可以用于形成^GB大小的共享全局高速缓存。诸如通过配置服务的控制平面的配置可以确定用于共享全局高速缓存的存储器的数量。在一些实施例中，每个核可以提供不同数量的存储器给全局高速缓存使用。 在其他实施例中，任何一个核可以不提供任何存储器或不使用全局高速缓存。在一些实施例中，任何核可以具有在未分配给全局共享存储器的存储器中的本地高速缓存。每一个核都可以将网络业务的任何部分存储到全局共享高速缓存中。每一个核都可以为任何要在请求或响应中使用的内容检查高速缓存。任何核可以从全局共享高速缓存获取内容以用于数据流、请求或响应。图5A和5B中的多核系统的控制平面可以指定或配置核作为专用管理核或主核。 该控制平面核可以提供在多核系统中多个核的操作和功能集的控制、管理和协作。该控制平面核可以提供在多核系统中多个核之间使用和分配存储器系统的控制、管理和协作，包括对其初始化和配置。在一些实施例中，控制平面包括流分布器，用于基于数据流控制将数据流分配给核和向核分布网络分组。在一些实施例中，控制平面核运行分组引擎，在其他实施例中，控制平面核专用于管理和控制在系统中的其他核。现在参考图6，其中描述了使用数据流方案在核上分布网络业务的方法600的实施例。概括来讲，在步骤605中，诸如设备400的多核装置接收客户机和服务器间不同的网络业务流。在步骤610中，多核装置的流分布器将网络业务流中的每一个分配给核。在步骤 615中，流分布器将每个接收到的对应的流的网络分组分布到被分配给该网络业务流的核。 在步骤620中，所述流分布器接收网络业务流的分组，并且确定将该分组分布给哪个核。进一步的，在步骤605中，多核装置可以通过任何一个或多个类型的网络接口(例如设备200/400的多个网络接口卡)来接收网络分组。多核装置可以接收由任何类型网络业务单元识别的网络业务流。网络业务流可以是在两个端点(例如客户机和服务器)之间通信的网络业务，或者是在应用程序的前端组件和应用程序的后端组件之间通信的网络业务。网络业务流可以基于相同端点间的一个或多个应用层事务。可以在相同的或不同的网络接口接收网络业务流的任意一个或多个分组。例如，第一网络业务流可以具有通过多个不同网络接口接收的网络分组。多核装置可以具有接收侧调整器(receive-side scalar)，其基于算法分布网络分组，该算法对于流分布器所需的基于流的方案是不可知的。流分布器可以要求数据并行类型方案，而RSS可以使用基于一个个分组的基于哈希桶的Toefl算法。这样，RSS可以将相同流的网络分组分布给任何数量的不同的核。流分布器可以以替代RSS的方式、与RSS 结合的方式或与RSS通信的方式操作。进一步的描述步骤610，流分布器可以识别网络业务流并且将该流分配给核或在该核上运行的分组引擎。流分布器可以基于网络分组的元组信息或任何组合或IP地址和端口信息(源和/或目的)识别网络业务流。流分布器可以通过使用网络分组的有效载荷内容中存储的或携带的任何应用信息来识别网络业务流。例如，流分布器可以使用应用内容的任何头部和/或字段为网络分组识别流。流分布器可以使用来自任意多个协议层的分组头部和字段的任意组合。对于每一个网络业务流，或多或少基于核上或在核上运行的分组引擎上的数据流的均勻分布或负载平衡，流分布器可以将每个流分配给不同的或相同的核。在一些实施例中，流分布器将网络业务流分配给执行分组处理引擎的核，所述分组处理引擎在客户机和服务器之间建立通过其传输分组的传输层连接。在一些实施例中，流分布器将网络业务流分配给执行在客户机和服务器之间建立通过其传输分组的应用层会话的分组处理引擎的核。在一些实施例中，流分布器将网络业务流分配给执行在客户机和服务器之间建立通过其传输分组的SSL会话的分组处理引擎的核。在一些实施例中，流分布器基于请求和响应对识别和分配网络业务流到核和/或分组引擎。在一些实施例中，流分布器基于在相同端点之间或相同连接或会话上的一系列请求和响应来识别和分配网络业务流。在步骤615中，当收到网络分组时，流分布器将网络分组分布到被分配给该网络分组对应的流的核。流分布器可以接收流间网络分组，例如第一流的一个分组后跟着第二流的另一个分组。流分布器接收的每个分组都分配给被分配处理该流的网络分组的核或分组引擎。在一些实施例中，当流分布器收到网络分组后，向核转发网络分组，例如，将网络分组作为流来流式传输到每个核。在一些实施例中，流分布器批处理同一个流的多个网络分组，并且转发该成批的数据到所分配的核。在一些实施例中，流分布器批处理分配到同一核的不同流的多个网络分组，并且转发该成批的网络分组到所分配的核。
在步骤620中，在一些实施例中，流分布器可以重新分布分组到与通过RSS分布或分配的核不同的核。例如，流分布器可能接收由RSS分配核的分组，并且基于流的模式，流分布器重新分配或重新分布该分组到流分布器已经将该流的其他分组分布到的核。在一些实施例中，流分布器拦截RSS分布的分组。在一些实施例中，流分布器是RSS分布的接收者。例如，流分布器可以嵌入RSS到核的通信路径。在另一个例子中，流分布器可以在核上运行，并且接收由RSS分布给该核的网络分组。在一些实施例中，流分布器与RSS —起运行或作为RSS的一部分运行。在一些实施例中，核、分组引擎或流分布器重定向在一个核上收到的网络分组到另一个具有该流(例如，连接、会话或关联的事务)的核。例如，接收核或分组引擎可能不具有任何用于该流的上下文，并且重定向、转发或发送该网络分组到处理该网络业务流的合适的核或分组引擎。
权利要求
1.一种用于在多核装置的对应的核上执行的多个分组处理引擎上分布网络业务流的方法，该方法包括(a)由在多个客户机和多个服务器中间的多核装置接收多个客户机的第一客户机和多个服务器的第一服务器之间的第一网络业务流的第一分组；(b)由多核装置的流分布器将所述第一流分配给执行由所述多核装置执行的多个分组处理引擎的第一分组处理引擎的第一核；(c)由流分布器将所述第一分组分布到所述第一核；(d)由流分布器将在第二客户机和第二服务器之间的第二网络业务流的第二分组分布到执行所述多个分组处理引擎的第二分组处理引擎的第二核；和(e)由流分布器确定将所述多核装置接收的、所述第一网络业务流的第三分组分布到所述第一核。
2.如权利要求1所述的方法，其中，步骤(a)还包括由所述流分布器接收来自所述多核装置的接收侧调整器的第一分组。
3.如权利要求1所述的方法，其中，步骤(a)还包括由在所述多核装置的指定为主核的核上执行的流分布器接收。
4.如权利要求1所述的方法，其中，步骤(a)还包括在所述多核装置的多个核上分布流分布器的执行。
5.如权利要求1所述的方法，其中，步骤(b)还包括响应于为第一客户机建立到第一服务器的会话或连接之一的第一核，由流分布器将第一网络业务流分配给该第一核。
6.如权利要求1所述的方法，其中，步骤(b)还包括响应于基于来自第一服务器的、 对第一客户机的请求的响应的第一核，由流分布器将第一网络业务流分配给该第一核。
7.如权利要求1所述的方法，其中，步骤(c)还包括由流分布器通过由第一核共享的或分配给第一核的存储器分布第一分组。
8.如权利要求1所述的方法，其中，步骤(d)还包括响应于为第二客户机建立到第二服务器的会话或连接之一的第二核，由流分布器将第二网络业务流分配给该第二核。
9.如权利要求1所述的方法，其中，步骤(e)还包括由流分布器接收来自接收侧调整器的、由RSS分布给第三核的第三分组，并且重新分布该第三分组到第一核。
10.如权利要求1所述的方法，其中，步骤(a)还包括通过所述多核装置的第一网络接口卡接收第一分组，并且，步骤(e)还包括通过所述多核装置的第二网络接口卡接收第三分组。
11.一种用于在多核装置的对应的核上执行的多个分组处理引擎上分布网络业务流的系统，该系统包括在多个客户机和多个服务器中间的多核装置的网络接口，所述网络接口接收在多个客户机的第一客户机和多个服务器的第一服务器之间的第一网络业务流的第一分组；多核装置的流分布器，其将所述第一流分配给执行由所述多核装置执行的多个分组处理引擎的第一分组处理引擎的第一核，并且分布所述第一分组到所述第一核；其中，所述流分布器将在第二客户机和第二服务器之间的第二网络业务流的第二分组分布到执行所述多个分组处理引擎的第二分组处理引擎的第二核；和其中，流分布器确定将所述多核装置接收的、所述第一网络业务流的第三分组分布到所述第一核。
12.如权利要求11所述的系统，其中，所述流分布器接收由所述多核装置的接收侧调整器分布的网络分组。
13.如权利要求11所述的系统，其中，所述流分布器在所述多核装置中指定为主核的核上执行。
14.如权利要求11所述的系统，其中，所述流分布器执行在所述多核装置的多个核上。
15.如权利要求11所述的系统，其中，响应于为第一客户机建立到第一服务器的会话或连接之一的第一核，所述流分布器将第一网络业务流分配给该第一核。
16.如权利要求11所述的系统，其中，响应于基于来自第一服务器的、对第一客户机的请求的响应的第一核，所述流分布器将第一网络业务流分配给该第一核。
17.如权利要求11所述的系统，其中，流分布器通过由第一核共享的或分配给第一核的存储器分布第一分组。
18.如权利要求11所述的系统，其中，响应于为第二客户机建立到第二服务器的会话或连接之一的第二核，所述流分布器将第二网络业务流分配给该第二核。
19.如权利要求11所述的系统，其中，流分布器接收来自接收侧调整器的、由RSS分布给第三核的第三分组，并且重新分布该第三分组到第一核。
20.如权利要求11所述的系统，其中，通过所述多核装置的第一网络接口接收第一分组，并且，通过所述多核装置的第二网络接口接收第三分组。
全文摘要
本方案涉及用于在多核装置的对应的核上执行的多个分组处理引擎上分布网络业务流的方法。该方法包括由位于客户机和服务器中间的多核装置接收在客户机和服务器之间的第一网络业务流的分组。该方法还包括由多核装置的流分布器将所述第一网络业务流分配给执行分组处理引擎的第一核，并且分布所述分组到该核。流分布器可以将在另一客户机和服务器之间的另一个网络业务流或第二网络业务流的分组分布到执行第二分组处理引擎的第二核。当分配给第一核的网络业务流的分组(如第三分组)被接收时，所述流分布器该分组分布给第一核。
文档编号G06F9/50GK102549985SQ201080030106
公开日2012年7月4日 申请日期2010年5月4日 优先权日2009年5月5日
发明者A·乔汉, A·谢蒂, R·米拉尼, R·辛哈 申请人:思杰系统有限公司