一种数据处理方法、装置、设备及计算机存储介质与流程

文档序号:29809363发布日期:2022-04-27 02:31阅读:来源:国知局

技术特征:
1.一种数据处理方法,其特征在于,包括:获取深度学习模型的第一静态中间表示;其中,所述深度学习模型为基于前端模型框架构建的模型,所述第一静态中间表示具有图结构,所述图结构包括m个节点和连接不同节点的有向边,所述有向边上承载有静态张量数据,m>1;将所述第一静态中间表示转化为与所述前端模型框架无关的第二静态中间表示;对所述第二静态中间表示进行优化,得到第三静态中间表示;对所述第三静态中间表示进行编译,得到后端硬件设备可执行的目标代码,以使所述后端硬件设备执行所述目标代码,实现所述目标代码的功能。2.如权利要求1所述的数据处理方法,其特征在于,所述将所述第一静态中间表示转化为与所述前端模型框架无关的第二静态中间表示,包括:对所述第一静态中间表示进行解耦,去除所述第一静态中间表示中与所述前端模型框架相关的节点和静态张量数据,得到与所述前端模型框架无关的所述第二静态中间表示。3.如权利要求1所述的数据处理方法,其特征在于,所述对所述第二静态中间表示进行优化,包括:对所述第二静态中间表示中包含的节点进行融合,以将所述第二静态中间表示中具有同一属性的多个节点融合到同一个内核函数中。4.如权利要求1所述的数据处理方法,其特征在于,所述对所述第二静态中间表示进行优化,包括:获取所述第二静态中间表示中每一节点的张量操作所对应的布局要求;根据所述布局要求对所述第二静态中间表示的静态张量数据进行数据布局转换。5.如权利要求1所述的数据处理方法,其特征在于,所述对所述第二静态中间表示进行优化,包括:对所述第二静态中间表示中包含的节点进行融合,以将所述第二静态中间表示中具有同一属性的多个节点融合到同一个内核函数中,得到至少一个融合节点;获取每一所述融合节点的张量操作所对应的布局要求;根据所述布局要求对融合后的第二静态中间表示的静态张量数据进行数据布局转换。6.一种数据处理方法,其特征在于,包括:获取目标代码和待处理图像;根据所述目标代码对所述待处理图像进行处理,得到图像处理结果;其中,所述目标代码为通过如权利要求1-5中任一项所述的数据处理方法得到的。7.一种数据处理装置,其特征在于,包括接收单元和处理单元:所述接收单元,用于获取深度学习模型的第一静态中间表示;其中,所述深度学习模型为基于前端模型框架构建的模型,所述第一静态中间表示具有图结构,所述图结构包括m个节点和连接不同节点的有向边,所述有向边上承载有静态张量数据,m>1;所述处理单元,用于将所述第一静态中间表示转化为与所述前端模型框架无关的第二静态中间表示;对所述第二静态中间表示进行优化,得到第三静态中间表示;对所述第三静态中间表示进行编译,得到后端硬件设备可执行的目标代码,以使所述后端硬件设备执行所述目标代码,实现所述目标代码的功能。8.如权利要求7所述的数据处理装置,其特征在于,所述处理单元将所述第一静态中间
表示转化为与所述前端模型框架无关的第二静态中间表示,具体为:对所述第一静态中间表示进行解耦,去除所述第一静态中间表示中与所述前端模型框架相关的节点和静态张量数据,得到与所述前端模型框架无关的所述第二静态中间表示。9.如权利要求7所述的数据处理装置,其特征在于,所述处理单元对所述第二静态中间表示进行优化,具体为:对所述第二静态中间表示中包含的节点进行融合,以将所述第二静态中间表示中具有同一属性的多个节点融合到同一个内核函数中。10.如权利要求7所述的数据处理装置,其特征在于,所述处理单元对所述第二静态中间表示进行优化,具体包括:获取所述第二静态中间表示中每一节点的张量操作所对应的布局要求;根据所述布局要求对所述第二静态中间表示的静态张量数据进行数据布局转换。11.如权利要求7所述的数据处理装置,其特征在于,所述处理单元对所述第二静态中间表示进行优化,具体包括:对所述第二静态中间表示中包含的节点进行融合,以将所述第二静态中间表示中具有同一属性的多个节点融合到同一个内核函数中,得到至少一个融合节点;获取每一所述融合节点的张量操作所对应的布局要求;根据所述布局要求对融合后的第二静态中间表示的静态张量数据进行数据布局转换。12.一种数据处理装置,其特征在于,包括接收单元和处理单元:所述接收单元,用于获取目标代码和待处理图像;所述处理单元,用于根据所述目标代码对所述待处理图像进行处理,得到图像处理结果;其中,所述目标代码为通过如权利要求1-5中任一项所述的数据处理方法得到的。13.一种数据处理设备,其特征在于,包括:存储器和处理器,所述存储器用于存储程序,所述处理器执行所述存储器存储的程序,当存储器存储的程序被执行时,所述处理器用于执行如权利要求1-5中任一项所述的数据处理方法或如权利要求6所述的数据处理方法。14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的计算机程序,其中,在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行如权利要求1-5中任一项所述的数据处理方法或如权利要求6所述的数据处理方法。

技术总结
本发明公开了一种数据处理方法、装置、设备及计算机存储介质,所述方法包括:获取深度学习模型的第一静态中间表示;深度学习模型为基于前端模型框架构建的模型,第一静态中间表示具有图结构,图结构包括M个节点和连接不同节点的有向边,有向边上承载有静态张量数据;将第一静态中间表示转化为与所述前端模型框架无关的第二静态中间表示;对第二静态中间表示进行优化,得到第三静态中间表示;对第三静态中间表示进行编译,得到后端硬件设备可执行的目标代码,以使后端硬件设备执行目标代码,实现目标代码的功能。本发明通过对静态中间表示进行优化处理,能够实现前端框架无关以及后端平台无关,提高了中间表示的可移植性,以适用于多种硬件平台。用于多种硬件平台。用于多种硬件平台。


技术研发人员:阳柳 杨强 邬轩 李文成 顾剑 刘勇鹏
受保护的技术使用者:飞腾信息技术有限公司
技术研发日:2021.12.17
技术公布日:2022/4/26
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1