指令处理方法、装置及相关产品与流程

文档序号:23019798发布日期:2020-11-20 13:03阅读:来源:国知局

技术特征:

1.一种指令处理装置,其特征在于,所述装置包括:

控制模块,用于对编译后的数据迁移指令进行解析,得到所述数据迁移指令的操作码和操作域,并根据所述操作码和所述操作域获得待迁移数据的源操作数信息、目标操作数以及迁移参数;其中,所述操作域包括所述源操作数信息、所述目标操作数和所述迁移参数,所述迁移参数包括数据迁移方向和迁移循环参数;以及

处理模块,用于根据所述迁移循环参数,至少执行一次数据迁移操作,所述数据迁移操作包括:按照所述数据迁移方向和所述源操作数信息,将所述待迁移数据搬运至所述目标操作数对应的目标存储空间中。

2.根据权利要求1所述的装置,其特征在于,所述源操作数信息还包括所述待迁移数据的源地址和待迁移数据的数据迁移量;所述数据访存电路用于:

根据所述待迁移数据的源地址和所述数据迁移量,确定所述待迁移数据;

按照所述数据迁移方向,将所述待迁移数据搬运至所述目标操作数对应的目标存储空间中。

3.根据权利要求1或2所述的装置,其特征在于,所述装置还包括存储模块,所述存储模块包括第一片上存储和第二片上存储、通用存储器和所述处理模块的各个计算核对应的私有存储器;

所述待迁移数据的源地址对应的初始存储空间和所述目标操作数对应的目标存储空间为所述第一片上存储、所述第二片上存储、所述通用存储器、所述计算核对应的私有存储器中的至少一种;

所述数据迁移方向包括所述初始存储空间到所述目标存储空间的方向。

4.根据权利要求3所述的装置,其特征在于,所述数据迁移方向包括以下至少一种:

将所述待迁移数据从所述通用存储器搬运至所述第一片上存储或所述第二片上存储;

将所述待迁移数据从所述第一片上存储或所述第二片上存储搬运至所述通用存储器;

将所述待迁移数据从所述计算核的所述第一片上存储或所述第二片上存储搬运至所述计算核对应的私有存储器;

将所述待迁移数据从所述计算核对应的私有存储器搬运至所述计算核上的所述第一片上存储或所述第二片上存储;

将所述待迁移数据从第一片上存储的第一存储空间搬运至所述第一片上存储的第二存储空间;

将所述待迁移数据从所述第一片上存储搬运至所述第二片上存储;

将所述待迁移数据从所述第二片上存储搬运至所述第一片上存储。

5.根据权利要求3所述的装置,其特征在于,所述存储模块还包括寄存器,所述数据迁移方向还包括:

将所述待迁移数据从所述通用存储器搬运至对应寄存器上;

将所述待迁移数据从所述寄存器搬运至对应的通用存储器上;

将所述待迁移数据从寄存器搬运至寄存器所在计算核对应的私有存储器上;

将所述待迁移数据从计算核对应的私有存储器搬运至所述计算核对应的寄存器中;

将所述待迁移数据从寄存器搬运至寄存器所在计算核对应的第一片上存储上;

将所述待迁移数据从所述第一片上存储搬运至所述第一片上存储对应的计算核上的寄存器中。

6.根据权利要求1-5任一项所述的装置,其特征在于,所述迁移循环参数还包括待迁移数据数量、源地址偏移量和目标地址偏移量;所述源操作数信息包括所述待迁移数据的源地址,所述目标操作数包括所述待迁移数据的目标地址;所述处理模块还包括:

计数器,用于根据所述待迁移数据数量确定数据迁移次数,其中,所述数据迁移次数为正整数;

地址偏移电路,用于在每确定一次所述数据迁移操作的待迁移数据之后,根据所述待迁移数据的源地址和所述源地址偏移量,更新所述待迁移数据的源地址,获得更新后的源地址;根据所述目标地址和所述目标地址偏移量,更新所述目标地址,获得更新后的目标地址;

数据访存电路,用于根据更新后的源地址和所述更新后的目标地址执行所述数据迁移操作,直至所述计数器控制的所述数据迁移次数满足预设条件。

7.根据权利要求6所述的装置,其特征在于,所述源操作数信息还包括数据迁移量;

所述源地址偏移量大于或等于所述数据迁移量,所述目标地址偏移量大于或等于所述数据迁移量。

8.根据权利要求1-6任一项所述的装置,其特征在于,所述待迁移数据为标量数据或张量数据。

9.根据权利要求1-6任一项所述的装置,其特征在于,所述控制模块包括:

指令存储子模块,用于存储所述编译后的数据迁移指令;

指令处理子模块,用于对所述编译后的向量数据迁移指令进行解析,得到所述数据迁移指令的操作码和操作域;

队列存储子模块,用于存储指令队列,所述指令队列包括按照执行顺序依次排列的多个待执行指令,所述多个待执行指令包括所述编译后的数据迁移指令。

10.一种指令处理方法,其特征在于,所述方法包括:

对编译后的数据迁移指令进行解析,得到所述数据迁移指令的操作码和操作域,并根据所述操作码和所述操作域获得待迁移数据的源操作数信息、所述目标操作数以及迁移参数;其中,所述操作域包括所述源操作数信息、所述目标操作数和所述迁移参数,所述迁移参数包括数据迁移方向和迁移循环参数;

根据所述迁移循环参数,至少执行一次数据迁移操作,所述数据迁移操作包括:按照所述数据迁移方向和所述源操作数信息,将所述待迁移数据搬运至所述目标操作数对应的目标存储空间中。


技术总结
本公开涉及一种指令处理方法、装置及相关产品。机器学习装置包括一个或多个指令处理装置,用于从其他处理装置中获取待运算数据和控制信息,并执行指定的机器学习运算,将执行结果通过I/O接口传递给其他处理装置;当机器学习运算装置包含多个指令处理装置时,多个指令处理装置间可以通过特定的结构进行连接并传输数据。其中,多个指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据;多个指令处理装置共享同一控制系统或拥有各自的控制系统、且共享内存或者拥有各自的内存;多个指令处理装置的互联方式是任意互联拓扑。本公开实施例所提供的指令处理方法、装置及相关产品的适用范围广,对指令的处理效率高、处理速度快。

技术研发人员:不公告发明人
受保护的技术使用者:上海寒武纪信息科技有限公司
技术研发日:2019.05.20
技术公布日:2020.11.20
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1