数据并行化处理方法、系统、设备及存储介质与流程

文档序号:20707335发布日期:2020-05-12 16:38阅读:来源:国知局

技术特征:

1.一种数据并行化处理方法,其特征在于,包括:

从多个第一计算节点中确认具有逻辑关系的至少三个第一计算节点,将所述具有逻辑关系的至少三个第一计算节点定义为第一并行节点组,所述第一并行节点组包括第一前节点和至少两个第一后节点;

获取所述第一前节点的第一输入数据模型并生成所述第一前节点的第一输入张量;

根据所述第一输入数据模型和所述第一输入张量计算所述第一前节点的第一输出张量;

获取所述至少两个第一后节点的第二输入数据模型并将所述第一输出张量作为第二输入张量;

根据所述第二输入数据模型和所述第二输入张量分别计算所述至少两个第一后节点的第二输出张量,得到所述第一并行节点组的第一计算结果。

2.根据权利要求1所述的方法,其特征在于,所述从多个第一计算节点中确认具有逻辑关系的至少三个第一计算节点,将所述具有逻辑关系的至少三个第一计算节点定义为第一并行节点组,包括:

判断所述至少三个第一计算节点是否包括具有逻辑关系的所述第一前节点和所述至少两个第一后节点;

响应于所述至少三个第一计算节点包括具有逻辑关系的所述第一前节点和所述至少两个第二后节点,将所述至少三个第一计算节点定义为所述第一并行节点组。

3.根据权利要求1所述的方法,其特征在于,在所述获取所述第一前节点的第一输入数据模型并生成所述第一前节点的第一输入张量之前,还包括:

根据所述至少两个第一后节点的数量确认所述第一前节点的引用次数。

4.根据权利要求1所述的方法,其特征在于,在所述获取所述第一前节点的第一输入数据模型并生成所述第一前节点的第一输入张量之前,还包括:

对所述第一并行节点组的所述第一前节点和所述至少两个第一后节点进行加锁。

5.根据权利要求3所述的方法,其特征在于,在所述根据所述第二输入数据模型和第二输入张量计算所述至少两个第一后节点的第二输出张量,得到所述第一并行节点组的第一计算结果之后,还包括:

判断每个第一后节点是否完成计算:

在每个第一后节点完成计算后,分别对所述第一前节点的引用次数减一;

判断所述第一前节点的引用次数是否为零;

在所述第一前节点的引用次数为零的情况下,删除片上存储的所述第一输出张量并将所述第一输出张量存储到片外存储器中。

6.根据权利要求5所述的方法,其特征在于,在所述第一前节点的引用次数为零的情况下,删除片上存储的所述第一输出张量并将所述第一输出张量存储到片外存储器中之后,还包括:

删除所述片上存储的与所述第一前节点对应的计算图。

7.根据权利要求5所述的方法,其特征在于,所述在所述第一前节点的引用次数为零的情况下,删除片上存储的所述第一输出张量并将所述第一输出张量存储到片外存储器中之后,还包括:

判断所述第一并行节点组的所述至少两个第一后节点的下游是否存在以所述至少两个第一后节点中的任一节点为第二前节点的第二并行节点组,所述第二并行节点组包括所述第二前节点和至少两个第二后节点;

在所述第一后节点的下游存在以所述至少两个第一后节点中的任一节点为第二前节点的第二并行节点组的情况下,获取所述第二前节点的第三输入数据模型并生成所述第二前节点的第三输入张量;根据所述第三输入数据模型和第三输入张量计算所述第二前节点的第三输出张量;获取所述至少两个第二后节点的第四输入数据模型并将所述第三输出张量作为第四输入张量;根据所述第四输入数据模型和第四输入张量分别计算所述至少两个第二后节点的第四输出张量,得到所述第二并行节点组的第二计算结果;

在所述第一后节点的下游不存在所述第二并行节点组的情况下,接收计算完成指令以结束计算。

8.一种数据并行化处理系统,其特征在于,包括:

筛选模块,用于从多个第一计算节点中确认具有逻辑关系的至少三个第一计算节点,将所述具有逻辑关系的至少三个第一计算节点定义为第一并行节点组,所述第一并行节点组包括第一前节点和至少两个第一后节点;

第一获取模块,用于获取所述第一前节点的第一输入数据模型并生成所述第一前节点的第一输入张量;

第一计算模块,用于根据所述第一输入数据模型和所述第一输入张量计算所述第一前节点的第一输出张量;

第二获取模块,用于获取所述至少两个第一后节点的第二输入数据模型并将所述第一输出张量作为第二输入张量;

第二计算模块,用于根据所述第二输入数据模型和所述第二输入张量分别计算所述至少两个第一后节点以生成第二输出张量,得到所述第一并行节点组的第一计算结果。

9.一种设备,其特征在于,所述设备包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序,

所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一项所述的方法。

10.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。


技术总结
本发明公开了一种数据并行化处理方法、系统、设备及存储介质。其中,所述方法包括:将所述具有逻辑关系的至少三个第一计算节点定义为第一并行节点组,第一并行节点组包括第一前节点和至少两个第一后节点;获取第一前节点的第一输入数据模型并生成第一前节点的第一输入张量;根据第一输入数据模型和第一输入张量计算第一前节点的第一输出张量;获取至少两个第一后节点的第二输入数据模型并将第一输出张量作为第二输入张量;根据第二输入数据模型和第二输入张量分别计算至少两个第一后节点的第二输出张量,得到第一并行节点组的第一计算结果。本发明通过多个输入的图推理重叠运行,实现了充分利用CPU和运算卡资源的技术效果。

技术研发人员:马恺;熊超;牛昕宇;蔡权雄
受保护的技术使用者:深圳鲲云信息科技有限公司
技术研发日:2019.12.27
技术公布日:2020.05.12
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1