神经网络模型的运行方法、可读介质和电子设备与流程

文档序号:32601701发布日期:2022-12-17 16:20阅读:来源:国知局

技术特征:
1.一种神经网络模型的运行方法,应用于电子设备,其特征在于,所述神经网络模型包括多个计算层,所述方法包括:根据输入数据张量的大小以及每层计算层的模型参数,预测所述输入数据张量对应的计算结果张量的大小;根据所述计算结果张量的大小,确定多个子结果张量的大小;基于每个子结果张量的大小以及所述每层计算层的模型参数,确定所述每个子结果张量在所述输入数据张量中对应的数据块的范围;根据所述每层计算层的模型参数对所述每个数据块进行计算,得到所述每个数据块对应的子结果张量;根据所述每个数据块对应的子结果张量,确定所述输入数据张量对应的计算结果张量。2.根据权利要求1所述方法,其特征在于,所述计算层为卷积层或者反卷积层,所述卷积层用于对所述输入数据张量进行卷积操作,所述反卷积层用于对所述输入数据张量进行反卷积操作;所述模型参数包括卷积操作或反卷积操作的步长、卷积核大小以及填充块数量。3.根据权利要求2所述方法,其特征在于,基于每个子结果张量的大小以及所述每层计算层的模型参数,确定每个子结果张量在所述输入数据张量中对应的数据块的范围,包括:根据每个子结果张量的大小以及所述每层计算层的模型参数,确定所述每个数据块的大小;根据每个子结果张量的大小以及所述每层计算层的模型参数,确定相邻数据块之间重叠区域的大小;根据所述每个数据块的大小以及所述相邻数据块之间重叠区域的大小,确定每个子结果张量在输入数据张量中对应的数据块的范围。4.根据权利要求3所述方法,其特征在于,根据每个子结果张量的大小以及所述每层计算层的模型参数,确定相邻数据块之间重叠区域的大小,包括:根据所述每个子结果张量在不同维度方向上的前一个子结果张量的大小以及每层计算层的模型参数,确定当前子结果张量对应的数据块与在不同维度方向上的前一子结果张量对应的数据块之间的重叠区域的大小。5.根据权利要求4所述方法,其特征在于,所述计算层共有m层,根据每个子结果张量的大小以及所述每层计算层的模型参数,确定相邻数据块之间重叠区域的大小,还包括:根据每个子结果张量的大小以及第m层计算层的模型参数,确定所述相邻数据块在对应于第m层计算层的输入数据张量中重叠区域的大小;将所述第m层计算层的输入数据张量作为第m-1层计算层的输出数据,并确定所述相邻数据块在对应于第m-1层计算层的输入数据张量中重叠区域的大小,直到确定所述相邻数据块在对应于第一层计算层的输入数据张量中重叠区域的大小。6.根据权利要求5所述方法,其特征在于,根据每层计算层的模型参数对每个数据块进行计算,得到所述每个数据块对应的子结果张量,包括:将多个数据块分别发送给不同计算引擎,所述不同计算引擎分别对接收到数据块根据所述每层计算层的模型参数进行计算,得到所述每个数据块对应的子结果张量。
7.根据权利要求6所述方法,其特征在于,所述计算引擎为所述电子设备处理器的计算引擎,或者所述计算引擎为其他电子设备处理器的计算引擎。8.一种可读介质,其特征在于,所述可读介质中包含有指令,当所述指令被电子设备的处理器执行时使电子设备实现权利要求1至7中任一项所述的神经网络模型的运行方法。9.一种电子设备,其特征在于,包括:存储器,用于存储由电子设备的一个或多个处理器执行的指令;以及处理器,是所述电子设备的处理器之一,用于运行所述指令以使所述电子设备实现权利要求1至7中任一项所述的神经网络模型的运行方法。10.一种计算机程序产品,其特征在于,所述计算机程序产品包括指令,该指令在执行时使计算机执行权利要求1至7中任一项所述的神经网络模型的运行方法。

技术总结
本申请涉及人工智能领域,公开了一种神经网络模型的运行方法、可读介质和电子设备。该方法应用于电子设备,其中方法包括:电子设备根据输入数据的大小以及每层计算层的模型参数,预测计算结果的大小;根据预测计算结果的大小,确定多个子结果的大小;电子设备基于每个子结果的大小以及每层计算层的模型参数,确定每个子结果在输入数据中对应的数据块的范围,然后对每个数据块进行计算,得到每个数据块对应的子结果;电子设备根据每个数据块对应的子结果,确定输入数据对应的计算结果。这样,电子设备每次只用对输入数据中部分数据进行计算,不会一次性产生较多中间数据,减少了运行神经网络模型过程中对内存的占用。行神经网络模型过程中对内存的占用。行神经网络模型过程中对内存的占用。


技术研发人员:许礼武 余宗桥 黄敦博
受保护的技术使用者:安谋科技(中国)有限公司
技术研发日:2022.09.13
技术公布日:2022/12/16
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1