用以加速高速缓冲存储器存取的高速缓冲存储器填充的关键词优先排序以及相关基于处 ...的制作方法
【专利说明】用以加速高速缓冲存储器存取的高速缓冲存储器填充的关键词优先排序以及相关基于处理器的系统及方法
[0001]优先权主张
[0002]本申请案主张2013年3月7日申请且标题为“用以加速关键词优先高速缓存存取的高速缓冲存储器中的关键词优先排序以及相关基于处理器的系统及方法(CRITICAL-TORD-FIRST ORDERING IN CACHE MEMORIES TO ACCELERATECRITICAL-ffORD-FIRST CACHE ACCESSES, AND RELATED PROCESSOR-BASED SYSTEMS ANDMETHODS) ”的第61/773，951号美国临时专利申请案的优先权，所述申请案以全文引用的方式并入本文中。
[0003]本申请案还主张2013年6月25日申请且标题为“用以加速高速缓冲存储器存取的高速缓冲存储器填充的关键词优先排序以及相关基于处理器的系统及方法(CRITICAL-ffORD-FIRST ORDERING OF CACHE MEMORY FILLS TO ACCELERATE CACHE MEMORYACCESSES, AND RELATED PROCESSOR-BASED SYSTEMS AND METHODS) ” 的第 13/925，874 号美国专利申请案的优先权，所述申请案以全文引用的方式并入本文中。
技术领域
[0004]本发明的领域涉及存取基于处理器的系统中的高速缓冲存储器。
【背景技术】
[0005]高速缓冲存储器可由例如中央处理单元(CPU)等计算机处理器使用，通过存储来自频繁使用的主存储器位置的数据复本来减少平均存储器存取时间。高速缓冲存储器通常具有比计算机的主存储器小得多的存储容量。然而，高速缓冲存储器还具有比主存储器低得多的时延(即，高速缓冲存储器可由CPU快得多地存取)。因此，只要是对先前高速缓存的存储器位置进行CPU的大部分存储器请求，高速缓冲存储器的使用便将导致相比主存储器的时延更接近于高速缓冲存储器的时延的平均存储器存取时延。高速缓冲存储器可集成到与CPU自身相同的计算机芯片中(即，“片上”高速缓冲存储器)，充当CPU与片外存储器之间的接口。高速缓冲存储器可经组织成多个高速缓存级别的分级结构(例如，L1、L2或L3高速缓存)，其中高速缓存分级结构中的较高级别包括比较低级别更小且更快的存储器。
[0006]虽然较大的片上高速缓冲存储器可减小对片外存储器存取的需求，但片上高速缓冲存储器大小的增加也导致片上高速缓冲存储器的互连时延的增加。互连时延是指归因于构成高速缓冲存储器的存储器阵列的物理结构在检索高速缓冲存储器的内容时的延迟。举例来说，大的片上高速缓冲存储器可包括经划分成提供较低互连时延的“快速分区”子阵列及需要较高互连时延的“缓慢分区”子阵列的存储器阵列。由于高速缓冲存储器的物理特性，因此缓慢分区子阵列中高速缓存的数据项的检索可需要比快速分区子阵列中存储的数据项的检索更多的处理器时钟脉冲。因此，如果从高速缓冲存储器请求的数据项(即，“关键词”)位于缓慢分区子阵列中，那么会招致额外互连时延，这对CPU的性能具有负面影响。
【发明内容】
[0007]本文中所揭示的实施例包含用以加速高速缓冲存储器存取的高速缓冲存储器填充的关键词优先排序。还揭示了相关基于处理器的系统及方法。在本文中所揭示的实施例中，排序多个数据项以使得多个数据项当中的关键词在高速缓存填充期间占据高速缓存线的第一数据项块。存储与高速缓存线相关联的高速缓存线排序索引以基于高速缓存线的第一数据项块中排序的关键词指示高速缓存线中的多个数据项的排序。以此方式，在存取高速缓冲存储器中的高速缓存线时，咨询高速缓存线排序索引以基于高速缓存填充已进行关键词优先排序来确定存储于高速缓存线中的数据项的排序。作为非限制性实例，本文中提供的关键词优先排序可增加缓慢分区存储器子阵列中的数据项块命中率，从而降低有效高速缓存存取时延且改进处理器性能。
[0008]就此而言，在一个实施例中，提供一种高速缓冲存储器。高速缓冲存储器包括数据阵列，所述数据阵列包括高速缓存线，所述高速缓存线包括经配置以存储多个数据项的多个数据项块。高速缓冲存储器还包括高速缓存线排序逻辑。高速缓存线排序逻辑经配置以在高速缓存填充期间将多个数据项关键词优先排序到高速缓存线中。高速缓存线排序逻辑还经配置以存储与高速缓存线相关联的高速缓存线排序索引，所述高速缓存线排序索引指示高速缓存线中的多个数据项的关键词优先排序。高速缓冲存储器进一步包括经配置以基于用于高速缓存线的高速缓存线排序索引存取高速缓存线中的多个数据项中的每一者的高速缓存存取逻辑。
[0009]在另一实施例中，提供一种高速缓冲存储器。高速缓冲存储器包括用于将多个数据项存储于高速缓存线中的装置。高速缓冲存储器还包括高速缓存线排序逻辑装置。所述高速缓存线排序逻辑装置经配置以在高速缓存填充期间将多个数据项关键词优先排序到高速缓存线中。高速缓存线排序逻辑装置还经配置以存储与高速缓存线相关联的高速缓存线排序索引，所述高速缓存线排序索引指示高速缓存线中的多个数据项的关键词优先排序。高速缓冲存储器进一步包括经配置以基于用于高速缓存线的高速缓存线排序索引存取高速缓存线中的多个数据项中的每一者的高速缓存存取逻辑装置。
[0010]在另一实施例中，提供一种关键词优先排序尚速缓冲存储器填充的方法。所述方法包括在高速缓存填充期间将多个数据项关键词优先排序到高速缓存线中。所述方法还包括存储与高速缓存线相关联的高速缓存线排序索引，所述高速缓存线排序索引指示高速缓存线中的多个数据项的关键词优先排序。所述方法进一步包括基于用于高速缓存线的高速缓存线排序索引存取高速缓存线中的多个数据项中的每一者。
【附图说明】
[0011]图1说明提供高速缓冲存储器填充的关键词优先排序以加速高速缓冲存储器存取的示范性中央处理单元(CPU);
[0012]图2A及2B为说明在高速缓冲存储器填充的关键词优先排序之前及之后的图1的CPU的LI及L2高速缓存的内容的图；
[0013]图3说明经布置成子阵列的示范性高速缓冲存储器；
[0014]图4说明展示对图3的高速缓冲存储器的“快速分区”及“缓慢分区”子阵列的高速缓存存取的示范性时钟循环图表；
[0015]图5为展示用于用以加速高速缓冲存储器存取的高速缓存填充的关键词优先排序的示范性操作的流程图；
[0016]图6A及6B为更详细地说明用于接收及关键词优先排序用于高速缓存线的高速缓存填充的多个数据项的示范性操作的流程图；及
[0017]图7为根据本文中所描述的实施例中的任一者的示范性基于处理器的系统的框图，所述基于处理器的系统可包含用于在高速缓存填充期间关键词优先排序数据项以加速高速缓冲存储器存取的图3的高速缓冲存储器。
【具体实施方式】
[0018]现在参看各图，描述本发明的若干示范性实施例。术语“示范性”在本文中用于指“充当实例、例子或说明”。本文中被描述为“示范性的”任何实施例不必须被理解为比其它实施例优选或有利。
[0019]本文中所揭示的实施例包含用以加速高速缓冲存储器存取的高速缓冲存储器填充的关键词优先排序。还揭示了相关基于处理器的系统及方法。在本文中所揭示的实施例中，排序多个数据项以使得多个数据项当中的关键词在高速缓存填充期间占据高速缓存线的第一数据项块。存储与高速缓存线相关联的高速缓存线排序索引以基于高速缓存线的第一数据项块中排序的关键词指示高速缓存线中的多个数据项的排序。以此方式，在存取高速缓冲存储器中的高速缓存线时，咨询高速缓存线排序索引以基于高速缓存填充已进行关键词优先排序来确定存储于高速缓存线中的数据项的排序。作为非限制性实例，本文中提供的关键词优先排序可增加“缓慢分区”存储器子阵列中的数据项块命中率，从而降低有效高速缓存存取时延且改进处理器性能。
[0020]就此而言，在一个实施例中