一种AI芯片的计算和通信的融合方法、装置及AI芯片与流程

本发明涉及芯片，尤其涉及一种ai芯片的计算和通信的融合方法、装置及ai芯片。

背景技术：

1、随着科技的发展，ai(artificial intelligence，人工智能)芯片超大规模并行计算能力越来越强，传统的通过pcie(peripheral component interconnect express，一种高速串行计算机扩展总线标准)进行片间数据传输的方式已不能满足ai计算的带宽需求。

2、现有的解决方案有三种，一是增加pcie接口的数量，二是利用额外网口进行ai芯片间的互连，三是在增加额外网口的同时额外设计一款switch芯片，进行ai芯片片间互连。

3、对于第一种方案，由于ai芯片可增加的pcie接口数量是有限的，导致第一种方案不具备可扩展性。对于第二种方案，ai芯片两两之间的带宽随连接关系变化，直连的芯片越多，两两之间带宽越小。对于第三种方案，在动辄一块芯片设计周期数年，上亿元一次的流片成本下，费用高昂，风险巨大。

技术实现思路

1、本发明提供了一种ai芯片的计算和通信的融合方法、装置及ai芯片，以解决现有基于pcie接口进行ai芯片互连导致的可扩展性差、两两芯片直连降低带宽，以及基于额外设计的switch芯片使ai芯片互连存在的成本高的问题。

2、根据本发明的一方面，提供了一种ai芯片的计算和通信的融合方法，包括：

3、在当前ai芯片工作于通信模式时，基于集成在当前ai芯片上的目标通信模块，获取并转发待转发数据请求；其中，目标通信模块包括路由模块以及网络接口；

4、在当前ai芯片工作于网络计算模式时，通过目标通信模块获取待计算数据，并通过集成在当前ai芯片上的网络计算与通信核心，对待计算数据进行数据处理，得到数据计算结果。

5、根据本发明的另一方面，提供了一种ai芯片的计算和通信的融合装置，包括：

6、数据转发模块，用于在当前ai芯片工作于通信模式时，基于集成在当前ai芯片上的目标通信模块，获取并转发待转发数据请求；其中，目标通信模块包括路由模块以及网络接口；

7、数据计算结果获取模块，用于在当前ai芯片工作于网络计算模式时，通过目标通信模块获取待计算数据，并通过集成在当前ai芯片上的网络计算与通信核心，对待计算数据进行数据处理，得到数据计算结果。

8、根据本发明的另一方面，提供了一种ai芯片，ai芯片包括：

9、目标通信模块，用于在当前ai芯片工作于通信模式时，获取并转发待转发数据请求；其中，目标通信模块包括路由模块以及网络接口；

10、目标通信模块，还用于在当前ai芯片工作于网络计算模式时，通过目标通信模块获取待计算数据；

11、网络计算与通信核心，用于对待计算数据进行数据处理，得到数据计算结果。

12、根据本发明的另一方面，提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机指令，计算机指令用于使处理器执行时实现本发明任一实施例的ai芯片的计算和通信的融合方法。

13、本发明实施例的技术方案，通过在当前ai芯片工作于通信模式时，基于集成在当前ai芯片上的目标通信模块，获取并转发待转发数据请求，从而在当前ai芯片工作于网络计算模式时，通过目标通信模块获取待计算数据，并通过集成在当前ai芯片上的网络计算与通信核心，对待计算数据进行数据处理，得到数据计算结果。在本方案中，通过集成于ai芯片的路由模块以及网络计算与通信核心，可以在不对ai芯片直连、不通过pcie以及不通过额外网口的前提下，实现对ai芯片的互连，且不会牺牲带宽资源，并且可通过网络计算与通信核心分担ai芯片计算核心的计算压力，解决了现有基于pcie接口进行ai芯片互连导致的可扩展性差、两两芯片直连降低带宽，以及基于额外设计的switch芯片使ai芯片互连存在的成本高的问题，能够在实现成本较低的前提下，不降低带宽，提升芯片互连的可扩展性。

14、应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

技术特征：

1.一种ai芯片的计算和通信的融合方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，在当前ai芯片工作于通信模式之前，还包括：

3.根据权利要求1所述的方法，其特征在于，在当前ai芯片工作于网络计算模式之前，还包括：

4.根据权利要求2所述的方法，其特征在于，获取并转发待转发数据请求，包括：

5.根据权利要求3所述的方法，其特征在于，通过所述目标通信模块获取待计算数据，并通过集成在所述当前ai芯片上的网络计算与通信核心，对所述待计算数据进行数据处理，包括：

6.根据权利要求5所述的方法，其特征在于，在得到数据计算结果之后，还包括：

7.一种ai芯片的计算和通信的融合装置，其特征在于，包括：

8.一种ai芯片，其特征在于，所述ai芯片，包括目标通信模块以及网络计算与通信核心；

9.根据权利要求8所述的芯片，其特征在于，所述ai芯片还包括计算核心；

10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行权利要求1-6中任一项所述的ai芯片的计算和通信的融合方法。

技术总结
本发明公开了一种AI芯片的计算和通信的融合方法、装置及AI芯片。AI芯片的计算和通信的融合方法，包括：在当前AI芯片工作于通信模式时，基于集成在当前AI芯片上的目标通信模块，获取并转发待转发数据请求；其中，目标通信模块包括路由模块以及网络接口；在当前AI芯片工作于网络计算模式时，通过目标通信模块获取待计算数据，并通过集成在当前AI芯片上的网络计算与通信核心，对待计算数据进行数据处理，得到数据计算结果。本发明实施例的技术方案能够在实现成本较低的前提下，不降低带宽，提升芯片互连的可扩展性。

技术研发人员：赵鹏程,王梦嘉,李晓帅,刘静雯,王煇,严涵,华孙山
受保护的技术使用者：太初（无锡）电子科技有限公司
技术研发日：
技术公布日：2024/1/15