一种基于多芯粒层次化Cache一致性维护系统及方法与流程

本发明涉及处理器，尤其涉及一种基于多芯粒层次化cache一致性维护系统及方法。

背景技术：

1、随着共享存储在各种计算机体系结构中广泛应用，处理设计过程中为了解决存储器与处理器之间的时序“鸿沟”而引入多级高速缓存。上述两个改变使处理器设计增添了新的难题—cache coherence问题。尤其在多核处理器设计中，一致性问题更是设计重点，一般在多核处理器系统中存在多个操作核心，每个操作核心拥有自己私有的高速缓存，而多个操作核心之间同样还可以设计一个更大私有缓存，一般被称之为最后一级缓存(lastlevel cache，llc)，每当引入一层高速缓存都会引入一级数据一致性问题。

2、一致性协议则是用于保证数据在多个缓存与主存中数据一定可以被正确使用的规则，它会影响芯片的访存体系设计、数据通路的带宽以及访存延时的长短。好的协议在保证处理器数据正确性的同时也会有效提升处理的访存效率。目前在主流处理器设计中存在多种一致性协议，但是对于多芯粒(chaiplet)处理设计领域一致性协议相关设计存在空白。传统一致性协议一般基于目录/广播协议进行一层的协议设计，但是面对多芯粒互联共享存储结构的处理器设计，除了需要维护本地副本之间的数据一致性问题还需要维护本地副本与全局副本以及主存数据之间的一致性问题，传统的一级协议已经不能满足多芯粒互联共享存储结构的处理设计。

技术实现思路

1、本发明的目的在于克服现有技术中的不足，提供一种基于多芯粒层次化cache一致性维护系统及方法，以解决多芯粒互联分布共享存储处理器系统中cache一致性问题。

2、为解决上述技术问题，本发明是采用下述方案实现的：

3、本发明提供了一种基于多芯粒层次化cache一致性维护系统，包括至少两个芯粒，每个芯粒包括核组、局部一致性控制模块、全局一致性控制模块和主存；核组包括至少一个核心，每个核心拥有私有cache；局部一致性控制模块包括llc，局部一致性控制模块接收核心发送的请求并查询llc而向核组中对应核心发送请求，接收请求的核心查询其私有cache并向局部一致性控制模块返回回答，局部一致性控制模块接收回答后向发出请求的核心返回响应；全局一致性控制模块接收局部一致性控制模块发送的请求而向所有局部一致性控制模块发送查询请求，并向本芯粒主存发起访存数据请求，各局部一致性控制模块根据查询请求查询其拥有的副本状态并向全局一致性控制模块返回回答，主存向全局一致性控制模块返回访存数据，全局一致性控制模块接收回答后向发起请求的局部一致性控制模块返回响应。

4、本发明还提供了一种基于多芯粒层次化cache一致性维护方法，应用于上述基于多芯粒层次化cache一致性维护系统，包括：

5、在局部一致性维护时：

6、局部一致性控制模块接收核心发送的局部一次请求并查询llc中的tag状态而向核组中对应核心发送局部二次请求；

7、接收到局部二次请求的核心根据请求类型查询其私有cache的状态并向局部一致性控制模块返回局部回答，局部一致性控制模块接收齐局部回答后向发出局部一次请求的核心返回响应；

8、在全局一致性维护时：

9、全局一致性控制模块接收局部一致性控制模块发起的全局一次请求而向所有局部一致性控制模块发送广播查询请求，查询其它芯粒中副本情况，同时向本芯粒主存发起访存数据请求；

10、各局部一致性控制模块根据查询请求查询自己拥有的副本状态并向全局一致性控制模块返回全局回答，主存向全局一致性控制模块返回访存数据，全局一致性控制模块接收并整合所有全局回答后向发起全局一次请求的局部一致性控制模块返回响应。

11、与现有技术相比，本发明所达到的有益效果：本发明解决了多芯粒互联分布共享存储处理器系统中cache一致性问题，适用于多核心、多芯粒、多级缓存的复杂处理器结构。

技术特征：

1.一种基于多芯粒层次化cache一致性维护系统，其特征在于，包括至少两个芯粒，每个芯粒包括核组、局部一致性控制模块、全局一致性控制模块和主存；核组包括至少一个核心，每个核心拥有私有cache；局部一致性控制模块包括llc，局部一致性控制模块接收核心发送的请求并查询llc而向核组中对应核心发送请求，接收请求的核心查询其私有cache并向局部一致性控制模块返回回答，局部一致性控制模块接收回答后向发出请求的核心返回响应；全局一致性控制模块接收局部一致性控制模块发送的请求而向所有局部一致性控制模块发送查询请求，并向本芯粒主存发起访存数据请求，各局部一致性控制模块根据查询请求查询其拥有的副本状态并向全局一致性控制模块返回回答，主存向全局一致性控制模块返回访存数据，全局一致性控制模块接收回答后向发起请求的局部一致性控制模块返回响应。

2.一种基于多芯粒层次化cache一致性维护方法，应用于权利要求1所述基于多芯粒层次化cache一致性维护系统，其特征在于，包括：

3.根据权利要求2所述基于多芯粒层次化cache一致性维护方法，其特征在于，在局部一致性维护时采用基于tag目录的局部一致性协议，基于tag目录的局部一致性协议包括tag信息和当前条目的状态信息。

4.根据权利要求3所述基于多芯粒层次化cache一致性维护方法，其特征在于，当前条目的状态信息包括state域、minc域以及owner位；state域用于描述当前条目状态，minc域用于描述当前条目的脏数据存在位置，owner位用于指示当前拥有最新数据的核心。

5.根据权利要求2所述基于多芯粒层次化cache一致性维护方法，其特征在于，当局部一致性控制模块无法处理其所在芯粒中核心发送的局部一次请求后向全局处理模块发起全局一次请求。

6.根据权利要求2所述基于多芯粒层次化cache一致性维护方法，其特征在于，核组中各核心之间不直接通信，各芯粒中llc之间不直接通信。

技术总结
本发明公开了一种基于多芯粒层次化Cache一致性维护系统及方法，系统包括至少两个芯粒，每个芯粒包括核组、局部一致性控制模块、全局一致性控制模块和主存；核组包括至少一个核心，每个核心拥有私有Cache；局部一致性控制模块包括LLC，用于维护核组中核心与LLC之间的数据一致性；全局一致性控制模块用于维护各芯粒中LLC与主存之间的数据一致性。本发明解决了多芯粒互联分布共享存储处理器系统中Cache一致性问题，适用于多核心、多芯粒、多级缓存的复杂处理器结构。

技术研发人员：乌绮,张琦滨,汪争,韩文艳,刘奔,黄颢彦,张鼎
受保护的技术使用者：无锡先进技术研究院
技术研发日：
技术公布日：2024/1/15