一种数据处理方法、装置、电子设备和存储介质与流程

本发明涉及人工智能，尤其涉及一种数据处理方法、装置、电子设备和存储介质。

背景技术：

1、随着深度学习和神经网络技术的不断发展，输入数据的形状多样性决定了基于深度学习的神经网络模型，需要具备更加灵活的数据处理能力，即适应不同形状的输入数据。

2、现有技术中，基于深度学习的神经网络模型通常是通过构建动态图的方式适应动态形状，模型中的计算单元通过张量计算获取数据计算结果(即获取输出数据)后，还需要通过标量计算执行后向输出的形状推导(即获取输出形状)，以将输出数据和输出形状共同发送给下一个计算单元。

3、然而，这样的形状推导方式，极大地增加了模型中计算单元硬件结构的设计复杂度，同时，增加了每个计算单元的计算耗时，由此降低了基于深度学习的神经网络模型的数据处理效率。

技术实现思路

1、本发明提供了一种数据处理方法、装置、电子设备及存储介质，以解决基于深度学习的神经网络模型中，计算单元硬件结构的设计复杂度较高的问题。

2、根据本发明的一方面，提供了一种数据处理方法，应用于形状推导单元，包括：

3、响应于第一计算单元获取到第一输入数据，根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状；

4、将所述第一输出形状发送给第二计算单元，以使所述第二计算单元根据所述第一输出形状以及所述第一计算单元的第一输出数据，计算第二输出数据；其中，第二计算单元是与第一计算单元相邻的下游计算单元；形状推导单元与第一计算单元和第二计算单元均为异构关系。

5、所述根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状，具体包括：根据所述第一计算单元的数据计算方式，以及本地存储的第一输入数据的第一输入形状，获取第一输出形状，并将所述第一输出形状进行本地存储。

6、所述根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状，还包括：根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取所述第一计算单元的预测计算耗时，并根据所述预测计算耗时获取匹配的目标硬件资源；通过所述目标硬件资源，基于所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状；其中，目标硬件资源包括处理器或者处理器内核。

7、在第一计算单元获取到第一输入数据之后，还包括：根据所述第一输入数据的第一输入形状以及所述第一计算单元的序列标识，通过形状映射表获取匹配的第一输出形状。

8、所述根据所述第一输入数据的第一输入形状以及所述第一计算单元的序列标识，通过形状映射表获取匹配的第一输出形状，具体包括：根据当前计算任务的任务类型，获取匹配的形状映射表；其中，所述任务类型包括视频处理任务、图片处理任务、文本处理任务以及语音处理任务中的至少一个。

9、所述数据处理方法，还包括：根据各个备选输入形状，分别构建匹配的第一类型形状映射表；其中，所述第一类型形状映射表记录了计算单元的序列标识与输出形状间的映射关系；或者根据各个计算单元的序列标识，分别构建匹配的第二类型形状映射表；其中，所述第二类型形状映射表记录了输入形状与与输出形状间的映射关系。

10、所述根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状，具体包括：判断形状映射表中是否存在与第一输入数据的第一输入形状以及第一计算单元的序列标识匹配的第一输出形状；若确定形状映射表中存在第一输出形状，通过所述形状映射表获取所述第一输出形状；若确定形状映射表中不存在第一输出形状，根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状，并将所述第一输出形状更新至所述形状映射表中。

11、根据本发明的一方面，提供了一种数据处理装置，应用于形状推导单元，包括：

12、输出形状获取模块，用于响应于第一计算单元获取到第一输入数据，根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状；

13、输出形状发送模块，用于将所述第一输出形状发送给第二计算单元，以使所述第二计算单元根据所述第一输出形状以及所述第一计算单元的第一输出数据，计算第二输出数据；其中，第二计算单元是与第一计算单元相邻的下游计算单元；形状推导单元与第一计算单元和第二计算单元均为异构关系。

14、根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的数据处理方法。

15、根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的数据处理方法。

16、本发明实施例的技术方案，形状推导单元在第一计算单元获取到第一输入数据时，根据第一输入数据的第一输入形状和第一计算单元的数据计算方式，将第一输出形状发送给第二计算单元，以使第二计算单元根据第一输出形状以及第一输出数据，计算第二输出数据。由此通过独立的硬件设计完成标量计算，降低了各个计算单元硬件结构的设计复杂度，优化了计算过程的流水线设计，同时，通过将串行执行的张量计算和标量计算，变更为并行执行，降低了各个计算单元的计算耗时，极大地提高了神经网络模型的数据处理速度，最大化的压缩了由于动态形状带来的计算任务之间的空闲时间。

17、应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

技术特征：

1.一种数据处理方法，其特征在于，应用于形状推导单元，包括：

2.根据权利要求1所述的方法，其特征在于，所述根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状，具体包括：

3.根据权利要求1所述的方法，其特征在于，所述根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状，还包括：

4.根据权利要求1所述的方法，其特征在于，在第一计算单元获取到第一输入数据之后，还包括：

5.根据权利要求4所述的方法，其特征在于，所述根据所述第一输入数据的第一输入形状以及所述第一计算单元的序列标识，通过形状映射表获取匹配的第一输出形状，具体包括：

6.根据权利要求4所述的方法，其特征在于，所述数据处理方法，还包括：

7.根据权利要求1所述的方法，其特征在于，所述根据所述第一输入数据的第一输入形状以及所述第一计算单元的数据计算方式，获取第一输出形状，具体包括：

8.一种数据处理装置，其特征在于，应用于形状推导单元，包括：

9.一种电子设备，其特征在于，所述电子设备包括：

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的数据处理方法。

技术总结
本发明公开了一种数据处理方法、装置、电子设备及存储介质，涉及人工智能技术领域，该方法包括：形状推导单元响应于第一计算单元获取到第一输入数据，根据第一输入数据的第一输入形状以及第一计算单元的数据计算方式，获取第一输出形状；将第一输出形状发送给第二计算单元，以使第二计算单元根据第一输出形状以及第一计算单元的第一输出数据，计算第二输出数据。本发明实施例的技术方案，通过独立的硬件设计完成标量计算，降低了各个计算单元硬件结构的设计复杂度，优化了计算过程的流水线设计，同时，通过并行执行的张量计算和标量计算，降低了各个计算单元的计算耗时，极大地提高了神经网络模型的数据处理速度。

技术研发人员：帅晋,林砚,张亚林
受保护的技术使用者：上海燧原科技股份有限公司
技术研发日：
技术公布日：2024/2/29