设备运行方法、装置、存储介质及电子设备与流程

文档序号:20920655发布日期:2020-05-29 14:06阅读:来源:国知局

技术特征:

1.一种设备运行方法,其特征在于,包括:

获取神经网络模型,并确定所述神经网络模型中各神经层对应的算子;

配置各所述算子对应的接口;

获取多组不同的运行环境对应的配置参数,所述运行环境对应的配置参数用于指定在电子设备中运行所述神经网络模型时各神经层的运行环境;

按照每一组所述运行环境对应的配置参数,在所述电子设备中运行所述神经网络模型,其中,在不同的运行环境下运行所述神经网络模型时,通过各算子对应的接口调用对应的算子;

基于每一组所述运行环境对应的配置参数,输出所述神经网络模型在对应的运行环境下的运行结果数据,以比较所述神经网络模型在不同运行环境下的运行效率。

2.根据权利要求1所述的设备运行方法,其特征在于,所述方法还包括:获取各所述算子对应的参数;

所述在不同的运行环境下运行所述神经网络模型时,通过各算子对应的接口调用对应的算子包括:在不同的运行环境下运行所述神经网络模型时,获取各算子对应的参数,并根据各算子对应的参数选择对应的目标算子,通过各所述目标算子对应的接口调用所述对应的目标算子。

3.根据权利要求1所述的设备运行方法,其特征在于,所述运行环境至少包括cpu运行环境、fpga运行环境和模拟器运行环境;

所述基于每一组所述运行环境对应的配置参数,输出所述神经网络模型在对应的运行环境下的运行结果数据,以比较所述神经网络模型在不同运行环境下的运行效率,包括:

基于每一组所述运行环境对应的配置参数,输出所述神经网络模型在对应的运行环境下的运行结果数据,所述运行结果数据包括各神经层的运行时间,以根据各神经层的运行时间之和比较所述神经网络模型在不同运行环境下的运行效率。

4.根据权利要求1所述的设备运行方法,其特征在于,所述按照每一组所述运行环境对应的配置参数在所述电子设备中运行所述神经网络模型,包括:

按照每一组所述运行环境对应的配置参数,在所述电子设备中运行所述神经网络模型,其中,在运行所述神经网络模型时获取前一神经层的输出数据格式以及后一神经层的输入数据格式;

若所述前一神经层的输出数据格式与所述后一神经层的输入数据格式不同,则将所述前一神经层的输出数据格式转换为所述后一神经层的输入数据格式后输入至所述后一神经层。

5.根据权利要求1所述的设备运行方法,其特征在于,所述确定所述神经网络模型中各神经层对应的算子,包括:

将所述神经网络模型的格式转换为预设格式,并在格式转换时确定所述神经网络模型中各神经层对应的算子。

6.根据权利要求3所述的设备运行方法,其特征在于,所述方法还包括:

根据各神经层在不同运行环境下的运行时间,确定各对应的神经层的最优运行环境。

7.根据权利要求6所述的设备运行方法,其特征在于,所述方法还包括:

根据各神经层的最优运行环境确定出所述神经网络模型的最优运行环境。

8.根据权利要求7所述的设备运行方法,其特征在于,所述根据各神经层的最优运行环境确定出所述神经网络模型的最优运行环境,包括:

将各神经层的最优运行环境组合得到所述神经网络模型的最优运行环境。

9.一种设备运行装置,其特征在于,包括:

第一获取模块,用于获取神经网络模型,并确定所述神经网络模型中各神经层对应的算子;

设置模块,用于配置各所述算子对应的接口;

第二获取模块,用于获取多组不同的运行环境对应的配置参数,所述运行环境对应的配置参数用于指定在电子设备中运行所述神经网络模型时各神经层的运行环境;

运行模块,用于按照每一组所述运行环境对应的配置参数,在所述电子设备中运行所述神经网络模型,其中,在不同的运行环境下运行所述神经网络模型时,通过各算子对应的接口调用对应的算子;

输出模块,用于基于每一组所述运行环境对应的配置参数,输出所述神经网络模型在对应的运行环境下的运行结果数据,以比较所述神经网络模型在不同运行环境下的运行效率。

10.一种存储介质,其上存储有计算机程序,其特征在于,当所述计算机程序在计算机上执行时,使得所述计算机执行如权利要求1至8中任一项所述的方法。

11.一种电子设备,包括存储器,处理器,其特征在于,所述处理器通过调用所述存储器中存储的计算机程序,用于执行如权利要求1至8中任一项所述的方法。


技术总结
本申请公开了一种设备运行方法、装置、存储介质及电子设备。该设备运行方法包括:获取神经网络模型,并确定神经网络模型中各神经层对应的算子;配置各算子对应的接口;获取多组不同的运行环境对应的配置参数,运行环境对应的配置参数用于指定在电子设备中运行神经网络模型时各神经层的运行环境;按照每一组运行环境对应的配置参数,在电子设备中运行神经网络模型,其中,在不同的运行环境下运行神经网络模型时,通过各算子对应的接口调用对应的算子;基于每一组运行环境对应的配置参数,输出神经网络模型在对应的运行环境下的运行结果数据,以比较神经网络模型在不同运行环境下的运行效率。本申请可以比较神经网络模型在不同运行环境下的运行效率。

技术研发人员:周明君;方攀;陈岩
受保护的技术使用者:OPPO广东移动通信有限公司
技术研发日:2019.12.31
技术公布日:2020.05.29
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1