非阻塞式网络系统及其分组仲裁方法

专利名称：非阻塞式网络系统及其分组仲裁方法
技术领域：
本发明涉及通信网络，尤其是涉及一种非阻塞式网络系统及其分组仲 裁方法。
背景技术：
近年来集成电路技术快速地发展，片上系统 (System-on-Chip, SoC ) 的应用日渐普遍，而片上网络(Network-on-Chip， NoC )的架构也随之发展 出来，作为系统元件间的通信基础。由于芯片内元件数及频宽的需求快速 增加，元件间的介面釆用点对点的标准协议，如开放核心协议(Open Core Protocol, OCP )和先进可扩展4妄口 ( Advanced extensible Interface, AXI)十办 议，以提高工作频率及数据传输率(throughputs片上网络的实体层利用点 对点握手(point-to-pointhandshaking)进行数据流控制并分阶段采用单向传 递，而协议所提供的分组信息则用来进行数据的传输，进而提供数据交换 的服务质量(Quality of Service, QoS)功能。系统元件间借助于分组来进行 数据交换，而随着所涉及的系统元件或执行任务的不同，分组也具有不同 的通信需求。例如，为了达到高数据传输率，有些分组需避免传递过程有 太多延迟，以尽快送达目的地；而有些分组则可容许传递过程有较多的延 迟。
图1为先前技术的片上网络的架构图，其中，片上网络IO包含交换单 元11、 12、 13、主装置(master device ) 14、 15、 16及从装置(slave device ) 17。片上网络10采用多层次连结(multi-level, switch-to-switch )的架构, 以各个交换单元为中心，各自形成一集群(cluster)或通信子系统，而交换 单元11与12间、交换单元12与13间以及交换单元13与从装置H间，则 分别以共用的点对点单向的信号路径101、 102及103来连结，以传递跨层 的分组。各个交换单元可能会同时接收来自多个来源(包括主装置或上一 层的交换单元)的分组，而且信号路径101、 102及103为共用，因此各个 交换单元需要考量不同分组的通信需求，来设定其分组仲裁(arbitration)策略，以仲裁出分组的传送顺序。然而，在图1的架构中，各交换单元间 没有交换通信质量的信息管道，而交换单元间又仅有单一共用的信号路径 可传递分组，因此，对于上一层即将传递所需避免过多延迟的分组，或者 对于上一层的信号路径即将发生的通信阻塞，交换单元无法即时调整分组 仲裁策略来因应。
另一方面，若为了避免单一信号路径会造成阻塞的问题，而使用多条 信号路径，则会提高电路成本，并且不利于芯片布局。

发明内容
有鉴于此，本发明的一个目的，在于提供一种非阻塞式网络系统及其 分组仲裁方法，其可动态调整分组仲裁策略，以避免分组传递的阻塞。
在本发明的一实施例中，揭露了一种网络系统，其包含 一交换网络， 包含至少第一交换单元及第二交换单元，第一交换单元与第二交换单元间 具有第一路径与第二路径； 一目标装置，耦接至第二交换单元；以及一来
源装置，耦接至第一交换单元。该来源装置在发出第一分组以经由第一路
径送至该目标装置之前，预先发出第一分组的一对应分组标记(token),经 由第二路径送至第二交换单元，以便告知第二交换单元第一分组即将通过 第一路径。第二交换单元依据该分组标记，动态调整其分组仲裁策略，以 便决定第 一路径上待传送的第二分组的传送顺序。
在本发明的另一实施例中，揭露了一种网络系统，其包含 一交换网 络，包含至少一交换单元及一耦接至该交换单元的緩沖器，该緩冲器产生 一状态信号至该交换单元，该状态信号为一满载信号或一警示信号；以及 一目标装置，耦接至该緩冲器及该交换单元。该交换单元将一待传送的高 优先权分组直接传送至该目标装置，并将一待传送的低优先权分组传送至 该緩冲器暂存。该交换单元依据是否收到该状态信号，调整其分组仲裁策 略，以决定该交换单元的待传送分组的传送顺序。
在本发明的另一实施例中，揭露了一种分组仲裁方法，其被用于一网 络系统。该网络系统包含至少第一交换单元及第二交换单元、 一耦接于第 一交换单元的来源装置以及一耦接于第二交换单元的目标装置。第 一交换 单元与第二交换单元间具有第 一路径与第二路径。该分组仲裁方法包含下
列步骤该来源装置在发出第一分组前，发出第一分组的一对应分组标记，经由第二路径送至第二交换单元，以便告知第二交换单元第一分组即将通
过第一路径；以及第二交换单元依据该分组标记，动态调整其分组仲裁策 略，以便决定第 一路径上待传送的第二分组的传送顺序。


图1为先前技术的片上网络的架构图。 图2为本发明的非阻塞式网络系统的一实施例的架构图。 图3为本发明的实施例所使用的分组标头格式的示意图。 图4为本发明的实施例所使用的分组标记格式的示意图。 图5为图2的交换单元与目标装置间所配置的緩沖区与穿越路径的 方块图。
图6为本发明的分组仲裁方法的一较佳实施例的流程图。
主要元件符号说明
10:片上网络
11、 12、 13、 211、 212、 215:交换单元
14、 15、 16:主装置17:从装置
101、 102、 103:信号^各径20:网络系统
21:交换网络22、 24:来源装置
23:目标装置
213、 216:分组传递路径
214、 217:标记传递3各径30:分组标头 31:需求类型信息32:来源识别码
33:目的地址40:分组标记 41:权重识别码42:目标识别码 51:緩冲器52:多路复用器 53:多路分配器54:穿越路径 55:控制信号56:状态信号
60~63:本发明的分组仲裁方法的一4交佳实施例流程
具体实施例方式
在本发明的非阻塞式网络系统的一实施例中，网络系统包含多个交换单元，用以进行数据的交换与传递，而任两个相连的交换单元间具有两条
信号路径， 一条用来传递分组，另一条用来传递分组标记(token)(分组标 记的意义后详)。每个交换单元还可连接一或多个来源装置或目标装置。来 源装置为主装置(master device),目才示装置为,人装置(slave device ),来源 装置可发出分组，经由一或多个交换单元(在两个交换单元间传递时系经 由用来传递分组的路径)，送至某一目标装置，以与该目标装置进行通信。 每个交换单元包含路由(routing)单元及仲裁(arbitration)单元。路由单 元可执行路由功能，以决定将分组(或分组标记)传至哪个交换单元或目 标装置；仲裁单元可在交换单元同时收到某来源装置或其他交换单元传来 的分组(或分组标记)时，执行仲裁功能，以便决定这些分组(或分组标 记)的传送顺序。
在任两相连的交换单元间，若同时有多个分组需要通过分组传递路径， 就可能造成阻塞。特别是，有些具有高优先权(high priority)的分组需要 更快地到达目的地，因而需要优先传送它们，若因分组传递路径阻塞而无 法尽快通过，就可能造成网络服务的质量降低，甚至产生运作上的问题。 因此，在此实施例中，为避免此问题，来源装置会在发出一分组前，预先 发出 一对应的分组标记，经由独立的分组标记传递路径传送至该分组的预 定传递路径上的每个交换单元，以通知各个交换单元，在其分组的来源路 径上即将有某种特性的分组(如高优先权分组或低优先权分组)要通过， 因此各交换单元可即时调整其分组仲裁策略，以因应即将到来的分组，而 避免阻塞。例如，若即将到来的分组为高优先权分组，则交换单元需仲裁
低优先权分组而被延后处理)，以使后续来到的高优先权分组可以不被前面 的低优先权分组堵住，而能顺利地尽快通过。值得注意的是，由于分组标 记为利用独立的信号路径传递，而且分组标记的大小相对于分组而言小很 多，因此传递分组标记的速度可以很快，而且不会阻塞，因此能确实达到 事先通知交换单元的功效；再例如，若交换单元经由分组标记得知其分组 来源路径有大量的分组即将通过，交换单元会仲裁提高该路径的传输比重 (即提高该路径所配置的频宽)，使该路径保持畅通。
本发明可应用于片上网络，以避免片上网络发生通信阻塞。例如，在 前述实施例中，网络系统为片上网络，可包含多个来源装置及目标装置，分别耦接至某个交换单元；来源装置如直接存储器存取器(DMA)、数字信 号处理器(DSP)、中央处理单元(CPU)、周边DMA 、 LCD控制器或其 他IP元件等，目标装置如DRAM控制器或内部存储器控制器(Internal Memory Controller )等。
图2为本发明的非阻塞式网络系统的另一实施例的架构图，其中，非 阻塞式网络系统20包含一交换网络21、来源装置22、 24及一目标装置23。 交换网络21包含交换单元211、 212及215,交换单元211与212间具有一 分组传递路径213与一标记传递路径214,交换单元215与212间具有一分 组传递^各径216与一标记传递^各径217。来源装置22、 24分别耦接至交换 单元211、 215，目标装置23耦接至交换单元212。来源装置22可发出分 组，经由交换单元211、分组传递路径213及交换单元212传送至目标装置 23，而来源装置24可发出分组，经由交换单元215、分组传递路径216及 交换单元212传送至目标装置23。当分组传递^4圣213与216上同时有分 组等待传送时，交换单元212执行仲裁，以决定先传送哪条路径上的分组。 例如，若分组传递路径213目前的待传送分组为高优先权分组，而分组传 递路径216目前的待传送分组为低优先权分组，则交换单元212先传送分 组传递^各径213上的分组。分组的传递可依据点对点通信协议来进行，如 OCP协议和AXI协议。每个分组包含一标头(header )，其格式如图3所示， 其中标头30包含一需求类型信息(request type information )31、 一来源识 别码32及一目的地址33。需求类型信息31记录分组的通信需求，来源识 别码32记录分组是由哪个来源装置所发出，目的地址33则记录分组所要 传送的目的地，供交换单元211、 212及215执行分组的路由。
当来源装置22要发出一分组(以下称为第一分组)至目标装置23前， 来源装置22预先发出第一分组的一对应分组标记，经由标记传递路径214 送至交换单元212，以便告知交换单元212第一分组即将通过分组传递路径 213。该分组标记是依据第一分组的标头30产生的，其格式如图4所示， 其中分组标记40包含一权重识别码41及一 目标识别码42。权重识别码41 为借助于分别抽取需求类型信息31的一子集合及来源识别码32的一子集 合而组成的，其中需求类型信息31的该子集合可显示第一分组的通信需求 类型(如高优先权或低优先权)，来源识别码32的该子集合则可显示第一 分组是由哪一群组的来源装置(如频宽需求高的群组)所发出。目标识别码42是依据目的地址33解码产生的，可用来显示第一分组要送至哪个目 标装置。
交换单元212在收到分组标记40后，可据以更新分组传递路径213的 一对应^各径权重。该^各径权重用来记录分组传递^各径213所累积的各种不 同权重识别码41的待传送分组^t;由前述可知，4又重识别码41可代表分 组的属性(如通信需求类型或由哪一来源装置群组所发出)，因此路径权重 可显示分组传递路径213上，有多少不同属性的分组等待交换单元212进 行传送。交换单元212会依据分组标记40中的权重识别码41,递增路径权 重中属于该权重识别码的待传送分组数。另一方面，后续交换单元212在 传送第 一分组时，由于第 一分组本身也包含与分组标记40相同的权重识别 码，交换单元212可据以递减i洛径权重中属于该一又重识别码的待传送分组 数，以维持路径权重的正确性。
在第一较佳实施例中，在分组标记40中，权重识别码41所包含的需 求类型信息31的子集合包含一优先权层级信息，以显示第一分组的优先权 层级。优先权层级可区分为高优先权层级及低优先权层级。相对应地，分 组传递路径213的对应路径权重包含一高优先权权重值及一低优先权权重 值，分别用以记录分组传递路径213上待传送的高优先权分组数及低优先 权分组数。在来源装置22发出第一分组前，其所预先发出的分组标记40 会使交换单元212依据第一分组是高优先权分组或低优先权分组，来递增 分组传递路径213的对应路径权重中的高优先权权重值或低优先权权重值。
同样地，当来源装置24要发出一分组至目标装置23前，也预先发出 一对应分组标记，经由标记传递路径217送至交换单元212,以告知交换单 元212该分组即将通过分组传i!M各径216。交换单元212在收到该对应分组 标记后，也可据以更新分组传递路径216的对应路径权重；而交换单元212 后续在传送该分组时，也会更新分组传递路径216的对应路径权重。
借助于分组传递路径213与216的对应路径权重，交换单元212可得 知分组传递路径213与216上各种属性的待传送分组目前各有多少，据以 调整分组仲裁策略；交换单元212依据调整后的分组仲裁策略，仲裁出分 组传送的顺序，来传送这些待传送的分组。例如，在前述第一较佳实施例 中，々i设原本分组传递路径213的对应^各径权重中，高优先权权重值为零 而低优先权权重值不为零，表示分组传递路径213有待传送的低优先权分
9组，若来源装置22所要发出的第一分组为高优先权分组，则其对应分组标 记会使高优先权权重值递增为一，表示分组传递路径213后续将有高优先 权分组要通过，因此，交换单元212调整分组仲裁策略，将原本分组传递 路径213上待传送的低优先权分组视同于高优先权分组来进行传送，因而 可优先传送该低优先权分组，以便高优先权的第一分组要通过分组传递路 径213时，不被前面的低优先权分组堵住。
在一实施例中，交换单元211包含一第一子交换单元，交换单元212 包含一第二子交换单元，而交换单元215包含一第三子交换单元(图中未 显示)；标记传递路径214耦接于第一子交换单元与第二子交换单元之间， 标记传递路径217耦接于第二子交换单元与第三子交换单元之间。第一、 第二及第三子交换单元仅用来处理分组标记40，因此，在交换网络21中， 第一、第二与第三子交换单元及标记传递路径214、 217形成一独立的子交 换网络，用以处理及传递分组标记40，如此可4是高分組标记40的传输效率， 避免阻塞。第一、第二及第三子交换单元可依据分组标记40内的目标识别 码42进行路由以传递分组标记40,而第二子交换单元并依据分组标记40, 来更新分组传递^各径213、 216的对应^各径权重。
在第二较佳实施例中，为了防止交换单元212至目标装置23的路径被 阻塞，以致后续的高优先权分组无法优先通过，在交换单元212与目标装 置23间增设了緩沖区供低优先权分组暂存，并把缓冲区的状态回复给交换 单元212,且另外提供一穿越路径给高优先权的分组使用，如图5所示。图 5中，当交换单元212要送出一高优先权分组时，会送出一控制信号55至 多路复用器52及多路分配器53,使得该高优先权分组可以经由穿越路径 54直接送至目标装置23;当要送出一低优先权分组时，所送出的控制信号 55则使多路复用器52将该低优先权分组转送入緩冲器51暂存。緩冲器51 可提供一状态信号56至交换单元212，以告知緩沖器51目前的状态为何。 在一实施例中，状态信号56为一满载信号或一警示信号，该满载信号用以 表示緩冲器51已满载，无法再存入其他分组，例如，緩沖器51所暂存的 数据量(或分组数)已高于第一临界值；该警示信号用以表示緩冲器51接 近满载，所剩空间不多，例如，緩冲器51暂存的数据量(或分組数)不高 于第一临界值且高于第二临界值。
交换单元212可依据緩冲器51所提供的满载信号及警示信号，来调整其分组仲裁策略，以避免交换单元212至目标装置23的穿越路径54被阻 塞。调整方式分述如下
(1) 当交换单元212收到满载信号时，由于此时緩冲器51已满载， 若再传送低优先权分组，会造成阻塞，因此交换单元212将分组仲裁策略 调整为只允许进行高优先权分组的传送，亦即，高优先权分组可直接通过 穿越路径54至目标装置23，低优先权分组则不允许传送。
(2) 当交换单元212收到警示信号时，由于此时緩冲器51仅剩有限 的空间，只能允许重要的低优先权分组进入缓冲器51。例如，如前文所述， 若分组传递路径213 (或216)目前待传送的分组为低优先权分组且路径上 即将通过高优先权分组，交换单元212为了避免该即将通过的高优先权分 组被堵住，会将目前待传送的低优先权分组视为高优先权分组来传送，亦 即，交换单元212在仲裁分组的传送顺序时，会将该目前待传送的低优先 权分组视同为高优先权分组。请注意，此种优先权的升级是暂时性的，仅 限于此处传送顺序的调整，该获得升级的分组仍旧是低优先权分组。此种 获得暂时性升级以避免堵住后续高优先权分组的低优先权分组，即为重要 的低优先权包，可允许送入緩沖器51，其他不重要的低优先权分组，则不 允许送入緩沖器51。因此，在收到警示信号时，交换单元212将分组仲裁 策略调整为只允许传送高优先权分组或^L同为高优先权分组的低优先权分 组。
(3) 当交换单元212未收到警示信号及满载信号时，表示緩沖器51 尚有充裕的空间可暂存低优先权分组，因此交换单元212将分组仲裁策略 调整为先传送高优先权分组或视同为高优先权分组的低优先权分组，再传 送其他低优先权分组。
在一实施例中，在任两个相连的交换单元间，也配置有如图5所示的 緩冲区及穿越路径。以图2的架构为例，即分组传递路径213与216上皆 配置有緩沖单元及穿越路径(图中未显示)，緩冲单元用以暂存低优先权分 组，穿越路径供高优先权分组直接通过；緩冲单元也能在其暂存的低优先 权分组数高于一警示值时，发出警示信号至交换单元211与215。在此种情 况下，緩冲单元所暂存的低优先权分组数即为分组传递路径213 (或216) 的对应路径权重中的低优先权权重值。为了避免緩沖单元超载，在前述第 (2)点中，交换单元212对分组仲裁策略的调整，还包括"当分组传递路径213 (或216)的对应路径权重中的低优先权权重值超过该警示值时，将 分组传递路径213 (或216 )上目前待传送的低优先权分组(即暂存于缓沖 单元的分组)暂时升级为高优先权分组，以优先进行传送"。如此，分组传 递路径213 (或216)上可空出更多的緩冲空间，以避免阻塞。
总之，交换单元212在进行分组传送时，可同时参考其目的端的状态 (即緩冲器51的状态)及来源端的状态(即分组传递路径213与216的对 应路径权重)，动态调整分组仲裁策略，以使高优先权分组可在预期延迟的 范围内尽速送达目的地，避免发生通信阻塞，进而实现服务质量(QoS)的 通信网络。
图2的架构具有可延展性，可以延伸至包含更多交换单元的情形，其 中任两个相连的交换单元间各具有一分组传递路径与 一标记传递路径，每 个交换单元可耦接一或多个来源装置或目标装置。各交换单元在传送分组 时，可依据其来源端的各分组传递路径的对应路径权重及目的端的緩沖器 状态，动态调整分组仲裁策略，以避免通信阻塞的情形发生。
图6为本发明的分组仲裁方法的一较佳实施例的流程图，其中，该分 组仲裁方法用于本发明的网络系统，如图2及图5的架构。该分组仲裁方 法包含下列步骤
步骤60:来源装置22 (或24)在发出一分组前，发出该分组的一对应 分组标记，经由标记传递^各径214 (或217)送至交换单元212,以-便告知 交换单元212该分组即将通过分组传递路径213 (或216 )。
步骤61:交换单元212依据该分组标记，更新分组传递路径213 (或 216)的一对应^各径^又重。
步骤62:緩沖器51产生一状态信号至交换单元212。
步骤63:交换单元212依据分组传递^4圣213与216的对应路径权重 以及是否收到该状态信号，动态调整其分组仲裁策略，以便决定分组传递 路径213与216上待传送分组的传送顺序。
由于上述步骤已于前文详述，此处省略其说明。
以上所述为利用较佳实施例详细说明本发明，而非限制本发明的范围。 本领域技术人员皆能明了，适当而作些微的改变及调整，仍将不失本发明 的要义所在，也不脱离本发明的精神和范围。
权利要求
1.一种网络系统，包含一交换网络，包含至少一第一交换单元及一第二交换单元，该第一交换单元与该第二交换单元间具有一第一路径与一第二路径；一目标装置，耦接至该第二交换单元；以及一来源装置，耦接至该第一交换单元，该来源装置在发出一第一分组以经由该第一路径送至该目标装置的前，预先发出该第一分组的一对应分组标记(token)，经由该第二路径送至该第二交换单元，以便告知该第二交换单元该第一分组即将通过该第一路径；其中，该第二交换单元依据该分组标记，动态调整一分组仲裁策略，以便决定该第一路径上一待传送的第二分组的传送顺序。
2. 如权利要求1所述的网络系统，其中，若该第一分组为一高优先权分 组且该第二分组为一低优先权分组，则该分组仲裁策略将该第二分组视同 为高优先权分组来决定其传送顺序。
3. 如权利要求1所述的网络系统，其中，该分组标记包含该第一分组所 对应的一第一权重识别码；该第一路径具有一对应的路径权重，以便显示 该第 一路径上属于不同权重识别码的待传送分组数；该第二交换单元依据 该分组标记，更新该^各径权重。
4. 如权利要求3所述的网络系统，其中，该第二交换单元在后续传送该 第一分组时，更新该路径权重。
5. 如权利要求3所述的网络系统，其中，该第二交换单元依据该第一路 径的该路径权重，调整该分组仲裁策略。
6. 如权利要求3所述的网络系统，其中，该第一交换单元包含一第一子 交换单元，该第二交换单元包含一第二子交换单元，该第二路径耦接于该 第一子交换单元与该第二子交换单元之间，其中，该第二子交换单元依据 该分组标记，更新该^各径^又重。
7. 如权利要求3所述的网络系统，其中，该第一分组包含一标头 (header),该标头包含一需求类型信息、 一来源识别码及一 目的地址。
8. 如权利要求7所述的网络系统，其中，该分组标记是依据该第一分组 的该标头而产生的。
9. 如权利要求8所述的网络系统，其中，该第一分组所对应的该第一权重识别码包含该需求类型信息的一子集合。
10. 如权利要求8所述的网络系统，其中，该第一权重识别码包含该来 源识别码的一子集合。
11. 如权利要求8所述的网络系统，其中，该分组标记还包含一 目标识 别码，该目标识别码是依据该目的地址解码产生的。
12. 如权利要求9所述的网络系统，其中，该需求类型信息的该子集合 包含一优先权层级信息，以便显示该第 一分组的 一优先权层级。
13. 如权利要求12所述的网络系统，其中，该优先权层级为一高优先权 层级或一低优先权层级。
14. 如权利要求13所述的网络系统，其中，该路径权重包含一高优先权 权重值，用以显示该第 一路径的待传送的高优先权分组数。
15. 如权利要求14所述的网络系统，其中，该路径权重还包含一低优先 权权重值，用以显示该第一路径的待传送的低优先权分组数。
16. 如权利要求15所述的网络系统，还包含一緩沖器，耦接于该第二交换单元与该目标装置之间，其中，当该第二 分组为低优先权分组时，该第二交换单元传送该第二分组至该緩沖器暂存； 当该第二分组为高优先权分组时，该第二交换单元装置直接传送该第二分 组至该目标装置。
17. 如权利要求16所述的网络系统，其中，该緩冲器产生一状态信号至 该第二交换单元，该状态信号为一满载信号或一警示信号；该第二交换单 元依据是否收到该状态信号，动态调整该分组仲裁策略。
18. 如权利要求17所述的网络系统，其中，当该第二交换单元收到该满 载信号时，该分组仲裁策略调整为只允许进行高优先权分组的传送。
19. 如权利要求17所述的网络系统，其中，当该第二交换单元未收到该 满载信号时，若该路径权重的该高优先权权重值不为零且该第二分组为低 优先权分组，该分组仲裁策略将该第二分组视同为高优先权分组来决定其 传送顺序。
20. 如权利要求17所述的网络系统，其中，当该第二交换单元收到该警 示信号时，该分组仲裁策略调整为只允许传送高优先权分组或视同为高优 先权分组的低优先权分组。
全文摘要
一种非阻塞式网络系统及其分组仲裁方法，其可动态调整分组仲裁策略，以避免分组传递的阻塞。该非阻塞式网络系统包含一交换网络、一来源装置及一目标装置。该交换网络包含至少第一交换单元及第二交换单元，第一交换单元与第二交换单元间具有第一路径与第二路径；该目标装置耦接至第二交换单元，该来源装置耦接至第一交换单元。该来源装置在发出第一分组以经由第一路径送至该目标装置之前，预先发出第一分组的对应分组标记，经由第二路径送至第二交换单元，以便告知第二交换单元第一分组即将通过第一路径。第二交换单元依据该分组标记，动态调整其分组仲裁策略，以便决定第一路径上待传送的第二分组的传送顺序。
文档编号H04L12/56GK101594291SQ20081010881
公开日2009年12月2日 申请日期2008年5月26日 优先权日2008年5月26日
发明者赖奇劭 申请人:瑞昱半导体股份有限公司