共享片上缓存划分装置的制造方法
【技术领域】
[0001] 本发明涉及动态可重构技术领域，特别涉及一种共享片上缓存划分装置。
【背景技术】
[0002] 如图1所示，图中显示了多个可重构阵列共享片上缓存的一种通用的体系结构， 该结构类似于片上多处理器（chip multiprocessor)架构，其中，每个可重构阵列相当于一 个处理器。其中，通过共享片上缓存获得高性能的关键之一是有效地管理共享缓存，从而减 少对片外存储器的访问次数。片上缓存通常采用LRU (Least Recently Used，最近最少使用 页面置换算法）替换方法，该方法并不区分不同处理器的访存请求。因此，共享缓存中一个 处理器将要用到的数据可能被别的处理器的数据替换掉，导致降低共享缓存的效率。
[0003] 相关技术中，共享缓存划分已经被证明是一种可以有效地使用共享缓存的方法， 其为每个处理器在共享缓存中动态地分配独享的空间。主要的共享缓存划分方法包括UCP 方法、PIPP方法和Vantage方法。举例而言，如图2所示，图中给出了一个使用UCP方法划 分两个处理器共享的8路缓存的例子，其使用硬件计数器（UMON)实时在线监视每一路缓存 的命中和缺失状态，以此计数器收集的状态?目息为基础，UCP方法以总的缓存命中最多为目 标来决定分配给每个处理器的缓存资源数量，可以得出，当处理器0分配5路缓存，处理器 1分配3路缓存的情况下，总的缓存命中数最多。
[0004] 然而，相关技术中的共享缓存划分方法以总的缓存利用率最大化为优化目标，导 致未考虑到缓存利用率对可重构阵列性能的影响，并且对于多个可重构阵列组成的流水 线，相关技术中未考虑到平衡各级流水线的访存延时，从而可能会加长流水线的关键路径， 导致系统整体性能的下降。
【发明内容】
[0005] 本发明旨在至少在一定程度上解决上述相关技术中的技术问题之一。
[0006] 为此，本发明的一个目的在于提出一种能够提高系统性能，并且结构简单，操作方 便的共享片上缓存划分装置。
[0007] 为达到上述目的，本发明实施例提出了一种共享片上缓存划分装置，包括：片上缓 存模块；与所述片上缓存模块相连的多个可重构阵列，其中，每个可重构阵列包括多个处理 单元；多个第一监测模块，所述多个第一监测模块一一对应地与所述多个可重构阵列相连， 用于跟踪所述多个可重构阵列上执行应用程序的缓存利用率信息；多个第二监测模块，所 述多个第二监测模块一一对应地与所述多个可重构阵列相连，用于记录所述多个可重构阵 列上执行算法的循环迭代次数；划分模块，所述划分模块分别与所述多个第一监测模块、所 述多个第二监测模块和所述片上缓存模块相连，用于根据所述缓存利用率信息和所述循环 迭代次数确定分配至所述每个可重构阵列相应的共享缓存路数，实现片外存储器的访问。
[0008] 根据本发明实施例提出的共享片上缓存划分装置，通过实时监控并记录每个可重 构阵列上执行算法的循环迭代次数，并且根据缓存利用率信息和循环迭代次数分配至每个 可重构阵列相应的共享缓存路数，实现片外存储器的访问，通过平衡多个可重构阵列之间 的缓存利用率，从而缩短多个可重构阵列组成的流水线的关键路径长度提高了系统性能， 并且结构简单，操作方便。
[0009] 另外，根据本发明上述实施例的共享片上缓存划分装置还可以具有如下附加的技 术特征：
[0010] 进一步地，在本发明的一个实施例中，所述多个第二监测模块中每个第二监测模 块包括：减法器和与所述减法器相连的寄存器；迭代次数解析器，所述迭代次数解析器用 于根据可重构阵列的配置信息获取所述可重构阵列上执行算法的总循环迭代次数；多路选 择器，所述多路选择器分别与所述减法器、所述寄存器和所述迭代次数解析器相连，用于选 择所述减法器的被减数，以每完成一次循环迭代，所述被减数的值减去1。
[0011] 进一步地，在本发明的一个实施例中，分配结果为总性能Pttrtal最大的缓存路数分 配结果，其中，获取所述总性能P trtal的公式为：
【主权项】
1. 一种共享片上缓存划分装置，其特征在于，包括： 片上缓存模块； 与所述片上缓存模块相连的多个可重构阵列，其中，每个可重构阵列包括多个处理单 元； 多个第一监测模块，所述多个第一监测模块一一对应地与所述多个可重构阵列相连， 用于跟踪所述多个可重构阵列上执行应用程序的缓存利用率信息； 多个第二监测模块，所述多个第二监测模块一一对应地与所述多个可重构阵列相连， 用于记录所述多个可重构阵列上执行算法的循环迭代次数； 划分模块，所述划分模块分别与所述多个第一监测模块、所述多个第二监测模块和所 述片上缓存模块相连，用于根据所述缓存利用率信息和所述循环迭代次数确定分配至所述 每个可重构阵列相应的共享缓存路数，实现片外存储器的访问。
2. 根据权利要求1所述的共享片上缓存划分装置，其特征在于，所述多个第二监测模 块中每个第二监测模块包括： 减法器和与所述减法器相连的寄存器； 迭代次数解析器，所述迭代次数解析器用于根据可重构阵列的配置信息获取所述可重 构阵列上执行算法的总循环迭代次数； 多路选择器，所述多路选择器分别与所述减法器、所述寄存器和所述迭代次数解析器 相连，用于选择所述减法器的被减数，以每完成一次循环迭代，所述被减数的值减去1。
3. 根据权利要求1所述的共享片上缓存划分装置，其特征在于，分配结果为总性能 Ptotal最大的缓存路数分配结果，其中，获取所述总性能Pt(rtal的公式为：
K为可重构阵列的个数，j为可重构阵列的索引，L为分配给可重构阵列j的缓存路数， 当L路缓存被分配给所述可重构阵列j时，变量为所述可重构阵列j的缓存利用率，N_ lef^_为所述可重构阵列j上还未被执行的循环迭代次数。
4. 根据权利要求1所述的共享片上缓存划分装置，其特征在于，所述片上共享缓存模 块采用LRU替换算法。
5. 根据权利要求1所述的共享片上缓存划分装置，其特征在于，所述多个第一监测模 块和所述多个第二监测模块为硬件计数器。
【专利摘要】本发明公开了一种共享片上缓存划分装置，包括：片上缓存模块；多个可重构阵列；多个第一监测模块，用于跟踪多个可重构阵列上执行应用程序的缓存利用率信息；多个第二监测模块，用于记录多个可重构阵列上执行算法的循环迭代次数；划分模块，用于根据缓存利用率信息和循环迭代次数确定分配至每个可重构阵列相应的共享缓存路数，实现片外存储器的访问。本发明实施例的划分装置，通过平衡多个可重构阵列之间的缓存利用率，从而缩短多个可重构阵列组成的流水线的关键路径长度提高系统性能，并且结构简单，操作方便。
【IPC分类】G06F12-08
【公开号】CN104699629
【申请号】CN201510112753
【发明人】刘雷波, 杨晨, 罗凯, 李兆石, 尹首一, 魏少军
【申请人】清华大学
【公开日】2015年6月10日
【申请日】2015年3月16日