运算方法、装置及相关产品与流程

文档序号:26139072发布日期:2021-08-03 14:22阅读:来源:国知局

技术特征:

1.一种指令生成方法,其特征在于,所述方法包括:

接收计算图;

统计所述计算图中的调度节点,得到第一调度集合;

将所述第一调度集合中的并行节点合并为并行调度单元,得到包括并行调度单元的第二调度集合,其中,所述并行节点为符合并行执行条件的调度节点;

根据所述第二调度集合,生成指令。

2.根据权利要求1所述的方法,其特征在于,所述统计所述计算图中的调度节点,得到第一调度集合,包括:

统计所述计算图中的调度节点,其中,所述调度节点为符合调度条件的操作节点;

根据所有所述调度节点,得到第一调度集合。

3.根据权利要求2所述的方法,其特征在于,所述调度节点为符合调度条件的操作节点,包括:

所述调度节点对应的操作被执行时,执行所述操作的资源处于空闲状态,且所述调度节点的所有依赖操作节点均已生成指令;

其中,所述依赖操作节点对应的输出数据,与所述调度节点对应的输入数据相关。

4.根据权利要求2所述的方法,其特征在于,所述根据所有所述调度节点,得到第一调度集合,包括:

按照所述计算图的方向,对所述调度节点进行标号,得到对应标号顺序的调度节点所构成的第一调度集合。

5.根据权利要求1至4中任意一项所述的方法,其特征在于,所述将所述第一调度集合中的并行节点合并为并行调度单元,得到包括并行调度单元的第二调度集合,包括:

将所述第一调度集合中的并行节点合并为并行调度单元;

按照所述计算图的方向,对所述第一调度集合中的调度节点和并行调度单元进行标号,得到对应标号顺序的调度节点和并行调度单元所构成的第二调度集合。

6.根据权利要求1所述的方法,其特征在于,所述并行节点为符合并行执行条件的调度节点包括:

不同的所述并行节点对应的操作被执行时,执行所述操作的资源不一致。

7.根据权利要求1所述的方法,其特征在于,所述根据所述第二调度集合,生成指令,包括:

重复执行以下操作,直到在所述第二调度集合内,不包含能够生成指令的调度节点和并行调度单元;其中,所述执行以下操作,包括:

在所述第二调度集合内包含能够生成指令的并行调度单元时,生成与所述并行调度单元对应的指令;

在所述第二调度集合内包含能够生成指令的调度节点且不包含能够生成指令的并行调度单元时,生成与所述调度节点对应的指令。

8.根据权利要求7所述的方法,其特征在于,所述在所述第二调度集合内包含能够生成指令的并行调度单元时,生成与所述并行调度单元对应的指令,包括:

在所述第二调度集合内包含能够生成指令的并行调度单元时,根据所述并行调度单元的标号顺序,生成与所述并行调度单元对应的并行指令。

9.根据权利要求7所述的方法,其特征在于,所述在所述第二调度集合内包含能够生成指令的调度节点且不包含能够生成指令的并行调度单元时,生成与所述调度节点对应的指令,包括:

在所述第二调度集合内包含能够生成指令的调度节点且不包含能够生成指令的并行调度单元时,根据所述调度节点的标号顺序,生成与所述调度节点对应的指令。

10.一种指令生成装置,其特征在于,包括:

接收单元,用于接收计算图;

统计单元,用于统计所述计算图中的调度节点,得到第一调度集合;

合并单元,用于将所述第一调度集合中的并行节点合并为并行调度单元,得到包括并行调度单元的第二调度集合,其中,所述并行节点为符合并行执行条件的调度节点;

指令生成单元,用于根据所述第二调度集合,生成指令。

11.根据权利要求10所述的装置,其特征在于,所述统计单元用于:

统计所述计算图中的调度节点,其中,所述调度节点为符合调度条件的操作节点;

根据所有所述调度节点,得到第一调度集合。

12.根据权利要求11所述的装置,其特征在于,所述调度节点为符合调度条件的操作节点,包括:

所述调度节点对应的操作被执行时,执行所述操作的资源处于空闲状态,且所述调度节点的所有依赖操作节点均已生成指令;

其中,所述依赖操作节点对应的输出数据,与所述调度节点对应的输入数据相关。

13.根据权利要求11所述的装置,其特征在于,所述统计单元进一步用于:

按照所述计算图的方向,对所述调度节点进行标号,得到对应标号顺序的调度节点所构成的第一调度集合。

14.根据权利要求10至13中任意一项所述的装置,其特征在于,所述合并单元用于:

将所述第一调度集合中的并行节点合并为并行调度单元;

按照所述计算图的方向,对所述第一调度集合中的调度节点和并行调度单元进行标号,得到对应标号顺序的调度节点和并行调度单元所构成的第二调度集合。

15.根据权利要求10所述的装置,其特征在于,所述并行节点为符合并行执行条件的调度节点包括:

不同的所述并行节点对应的操作被执行时,执行所述操作的资源不一致。

16.根据权利要求10所述的装置,其特征在于,所述指令生成单元用于:

重复执行以下操作,直到在所述第二调度集合内,不包含能够生成指令的调度节点和并行调度单元;其中,所述执行以下操作,包括:

在所述第二调度集合内包含能够生成指令的并行调度单元时,生成与所述并行调度单元对应的指令;

在所述第二调度集合内包含能够生成指令的调度节点且不包含能够生成指令的并行调度单元时,生成与所述调度节点对应的指令。

17.根据权利要求16所述的装置,其特征在于,所述指令生成单元进一步用于:

在所述第二调度集合内包含能够生成指令的并行调度单元时,根据所述并行调度单元的标号顺序,生成与所述并行调度单元对应的并行指令。

18.根据权利要求16所述的装置,其特征在于,所述指令生成单元进一步用于:

在所述第二调度集合内包含能够生成指令的调度节点且不包含能够生成指令的并行调度单元时,根据所述调度节点的标号顺序,生成与所述调度节点对应的指令。

19.一种指令生成装置,其特征在于,包括:

处理器;

用于存储处理器可执行指令的存储器;

其中,所述处理器被配置为执行权利要求1-9任一项所述的方法。

20.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至9中任意一项所述的方法。


技术总结
本公开涉及运算方法、装置及相关产品,所述产品包括控制器单元,所述控制器单元包括:指令缓存单元、指令处理单元和存储队列单元;所述指令缓存单元,用于存储所述人工神经网络运算关联的计算指令;所述指令处理单元,用于对所述计算指令解析得到多个运算指令;所述存储队列单元,用于存储指令队列,该指令队列包括:按该队列的前后顺序待执行的多个运算指令或计算指令。通过以上方法,本公开可以提高相关产品在进行神经网络模型的运算时的运算效率。

技术研发人员:不公告发明人
受保护的技术使用者:中科寒武纪科技股份有限公司
技术研发日:2019.07.24
技术公布日:2021.08.03
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1