缓解热点的片上网络拓扑结构的制作方法
【技术领域】
[0001]本发明属于集成电路领域，特别地，涉及多核片上系统(System on Chip, SoC)设计中的片上网络(Network on Chip, NoC);具体讲，涉及缓解热点的片上网络拓扑结构。
技术背景
[0002]片上网络是片上系统中IP核通信的子系统，跨越同步和异步时钟域或者非钟控逻辑。片上网络在片上通信中应用网络理论和方法，使系统的性能相对传统的总线结构有了显著的提升。片上网络包括三个基本要素:拓扑、路由算法和数据流控制。
[0003]拓扑结构即节点或路由器的组成形式，目前包括2D_Mesh、蝶形、树形、环形等等。其中最为传统且使用最普遍的就是2D-Mesh，一个典型的5x52D-Mesh片上网络如图1所示。R0-R24表示25个路由器，N0-N24则表示本地节点或处理单元。每个路由器(不含边界)有五个端口，其中4组端口分别与四个方向的相邻路由器相连，还有一组端口与本地IP核相连。然而，对于这样的系统，当工作在随机的网络交通下(即每个节点向其他节点发送数据的概率是相等的)时，在网络的中央部分，例如R7、RlU R12、R113和R17，容易产生大量的数据交换，或者说形成热点。这样，当数据包无法请求到其所需要的带宽时，网络容易发生拥塞，进一步降低了系统的吞吐率增大了延时。
[0004]特别地，由于目前处理器由单核到多核甚至众核的发展，网络交通便显得更加重要。当前用于缓解热点和拥塞的方法主要是改进路由算法，采取自适应的方式以缓解网络的局部压力，然而为了实现自适应需要额外的电路面积，功耗也会增加。
【发明内容】
[0005]为克服现有技术的不足，以传统的2D_Mesh拓扑的基础的新型二维拓扑结构，在不显著增加面积的情况下缓和网络中央的热点，减少拥塞几率，提升吞吐率，降低延时。为此，本发明采取的技术方案是，缓解热点的片上网络拓扑结构，在包括R0-R24共25个路由器的5x5的网络中选取R7、R11、R12、R13和R17作为缓冲路由，即移除它们的本地IP连接，取而代之的是将R7、R11、R13和R17顺次连在一起；对于R12，在移除其与本地IP的通信端口后，仅保留水平和竖直四个方向的通道；R7、RlU R13和R17上设置有仲裁器用于根据优先级将高优先级的数据包通过交叉开关连接。
[0006]对于4x4共16个路由器的片上网络，中央四个路由器R5、R6、R9和RlO作为缓冲路由器，移除其与本地IP的通信端口，并设置有仲裁器用于根据优先级将高优先级的数据包通过交叉开关连接。
[0007]对于3x3共9个路由器的片上网络，将中央的R4作为缓冲路由器，移除其与本地IP的通信端口，并设置有仲裁器用于根据优先级将高优先级的数据包通过交叉开关连接。
[0008]对于10x10或更多的大型的NxN片上网络，将整个网络划分成低阶的5x5、4x4、3x3的mesh网络，并分别按前述结构组成相应的缓冲路由器结构。
[0009]与已有技术相比，本发明的技术特点与效果:
[0010]本发明提出的改进型2D-mesh片上网络突破了以往通过改变路由算法缓和热点的策略，从拓扑结构上加以修正，使得网络中数据包传输的自由度更高，形成一种半自适应的路由方式。当数据包在下一级路由器无法请求到足够的带宽时，能够绕过热点路由器，在尽量不增加跳数的情况下从其他路径传至目标路由，能够有效的防止拥塞，提高吞吐率和改善延时，系统性能得到提升。
【附图说明】
[0011]图1标准5x52D-mesh片上网络。
[0012]图2缓和热点的5x52D_mesh片上网络。
[0013]图3单一路由器模型。
[0014]图4基于交叉开关的路由器架构。
[0015]图5缓和热点的4x42D_mesh片上网络。
[0016]图6缓和热点的3x32D_mesh片上网络。
[0017]图7大型mesh片上网络。
【具体实施方式】
[0018]本发明将2D_mesh网络中的中央部分节点加以修正以缓解数据交换的压力。我们这里以5x52D_mesh网络为例(但发明不限于5x5可扩展至NxN或MxN网络)来阐释本发明。
[0019]本发明的整体框架如图2所示，在5x5的网络中选取R7、R11、R12、R13和R17作为缓冲路由，即移除它们的本地IP连接(图3所示的Local连接)，取而代之的是将R7、R11、R13和R17顺次连在一起。对于单一的路由器，其对架构如图4所示。其中，当数据包到达某一路由器的某输入端口 Ii时，数据包会请求某一输出端口 Oj，若有多个数据包同时请求Oj，则仲裁器便根据优先级将高优先级的数据包通过交叉开关Oj连接，这样变完成了数据包在路由器内部的传输。图4中，k的值对应路由器的输入输出端口组数，在本发明中，R7、R11、R13和R17中k值为5，即有六组输入输出，R12的k值为3，即有四组输入输出。在本发明中，相比传统的5x5网络(图1)所做的改变是，对于中央路由器R7、RlU R13和R17，它们不仅在水平方向(X和-X)和竖直方向(y和_y)与其它相邻路由器可以进行直接数据交换，还在斜向互相有直接的数据通道，例如R7通过斜向的两组输入输出端口与Rll和Rl3可以直接进行数据交换，R11、R13和R17同理。对于R12，为了保持系统的对称以及避免硬件实现过于复杂，在移除其与本地IP的通信端口后，仅保留水平和竖直四个方向的通道。
[0020]说明书附图4，是通用的路由器架构，发明中所有的路由器都采用此架构。
[0021]关于仲裁器:仲裁器存在于所有的路由器上，不同位置的路由器具有不同数目的输出端口数目，因此仲裁器需要根据端口数目进行相应的改变，可以成为IP软核。
[0022]不只是R7、R11、R13和R17，所有的路由器都有交叉开关部分。仲裁器都会将高优先级的数据包通过交叉开关连接。
[0023]仲裁器与本地IP核不同，本地IP核通常指的是功能复杂处理器或处理单元。仲裁器只是电路的一个简单功能模块。
[0024]对于4x4的片上网络，如图5所示，其边界12个路由器按照图3所示的方式连接，中央四个路由器(R5、R6、R9和RlO)的结构则与5x5网络中的R12相同，作为缓冲路由器。对于3x3的片上网络，由于其本身数据量较小，通常情况下按照传统的2D-mesh连接方式即可，在某些特殊的数据交通模型下，如果必要可以将中央的R4按上说方式处理，即移除IP的连接端口，仅保留四个方向上与相邻路由器的数据通信(图6)。
[0025]当面对大型的NxN片上网络时(10x10或更多，例如图形处理器阵列)，我们可以根据网络的通信情况，将整个网络划分成部分低阶的mesh网络。如图7所示，给出了一个大型NxN的mesh片上网络，我们将其划分成为若干个区域。当某一部分，或某几个路由器数据交换的压力很大时，便用上文提到的缓和热点的拓扑结构代替该区域网络，缓解压力。例如，图7中虚线框区域是一个5x5的mesh网络，工作时需要产生大量的数据交换，我们用图2所示的网络代替这片区域，来达到减少热点产生几率的目的。
[0026]由上述可以发现，本发明有以下三点优势:(I)首先，本发明所描述的网络没有了中央数据源，能够一定程度的避免热点，防止拥塞；(2)其次，对于5x5的网络中对于路过中央的数据包因为R7、R11、R13和R17的通道可以减少数据包从源头到目标路由的最小跳数(hopcount)，仍以5x5为例，当一个数据包要从R7发送至R18，如果采用传统的X-Y方式传输，且R8处于忙碌状态(即被其他数据包占用)时，数据包便需要从R7中等待直到R8空闲。若采用本发明中的结构，数据可以通过斜向直接经R13传向R18，这样有利于改善吞吐率和延时(减少了等待时间)；(3)最后，本发明中对中央局部路由器的处理有利于扩展到其他2D-mesh层，即作为3D片上网络的层间通信路由。
[0027]以5x52D_mesh片上网络为例，按照图2所示的25个路由器的拓扑结构连接。其连接方式如下:
[0028](I)除去边界的路由器外，所有的路由器都在X，-X，y，-y四个方向与另外的路由器相连，具有直接的数据通路，可以直接进行数据交换，边界的路由器仅在两个(图2中的R0、R4、R20 和 R24)或三个(图 2 中的 R1-R3、R5、R10、R15、R9、R14、R19 和 R21-R23)路由器相连。
[0029](2)除了中央的R7、Rll、R12、Rl3和Rl7夕卜，其余的每个路由器都与一个本地IP或处理单元相连，除上述五个路由器外，其余路由器与本地IP形成一一对应的关系，IP核之间只能通过路由器相互通信。
[0030](3)在(I)和(2)的条件下，R7、R11、R13和R17还形成了菱形地数据通路。如图2，R7与Rll和R13通过1端口相连，即R7与Rll有直接的数据通路，R7与R13有直接的数据通路，可以进行直接的数据交换；同理Rll与R7和R17，R17与Rll和R13，R13与R17和R7亦按照此方式互连。
[0031]值得注意的是R12在四个方向与相邻路由器相连后，并未与额外的路由器建立直接的数据通路。在此种拓扑结构下，即能够减少途经中央的数据包跳数，又能够增加数据传输通路的多样性，自由度更高，能够减缓热点和拥塞。
【主权项】
1.一种缓解热点的片上网络拓扑结构，其特征是，在包括R0-R24共25个路由器的5x5的网络中选取R7、RlU R12、R13和R17作为缓冲路由，即移除它们的本地IP连接，取而代之的是将R7、RlU R13和R17顺次连在一起；对于R12，在移除其与本地IP的通信端口后，仅保留水平和竖直四个方向的通道；R7、R11、R13和R17上设置有仲裁器用于根据优先级将高优先级的数据包通过交叉开关连接。
2.如权利要求1所述的缓解热点的片上网络拓扑结构，其特征是，对于4x4共16个路由器的片上网络，中央四个路由器R5、R6、R9和RlO作为缓冲路由器，移除其与本地IP的通信端口，并设置有仲裁器用于根据优先级将高优先级的数据包通过交叉开关连接。
3.如权利要求1所述的缓解热点的片上网络拓扑结构，其特征是，对于3x3共9个路由器的片上网络，将中央的R4作为缓冲路由器，移除其与本地IP的通信端口，并设置有仲裁器用于根据优先级将高优先级的数据包通过交叉开关连接。
4.如权利要求1所述的缓解热点的片上网络拓扑结构，其特征是，对于10x10或更多的大型的NxN片上网络，将整个网络划分成低阶的5x5、4x4、3x3的mesh网络，并分别按权利要求1、2和3所述结构组成相应的缓冲路由器结构。
【专利摘要】本发明属于集成电路领域，为实现以传统的2D-Mesh拓扑的基础的新型二维拓扑结构，在不显著增加面积的情况下缓和网络中央的热点，减少拥塞几率，提升吞吐率，降低延时，缓解热点的片上网络拓扑结构，在包括R0-R24共25个路由器的5x5的网络中选取R7、R11、R12、R13和R17作为缓冲路由，即移除它们的本地IP连接，取而代之的是将R7、R11、R13和R17顺次连在一起；对于R12，在移除其与本地IP的通信端口后，仅保留水平和竖直四个方向的通道；R7、R11、R13和R17上设置有仲裁器用于根据优先级将高优先级的数据包通过交叉开关连接。本发明主要应用于集成电路的设计制造。
【IPC分类】H04L12-751, H04L12-931
【公开号】CN104683263
【申请号】CN201510038052
【发明人】史再峰, 杨浩宇, 庞科, 李斌桥
【申请人】天津大学
【公开日】2015年6月3日
【申请日】2015年1月26日