动态链接库文件的生成方法、算子的调用方法及装置与流程

本公开涉及人工智能，尤其涉及深度学习，具体涉及一种动态链接库文件的生成方法、算子的调用方法及装置。

背景技术：

1、张量作为深度学习框架中的基本数据单元，在利用深度学习框架搭建人工智能模型时，通常是将张量作为输入，通过调用深度学习框架中的算子以完成特定的运算逻辑。

技术实现思路

1、本公开提供了一种动态链接库文件的生成方法、算子的调用方法及装置。

2、根据本公开的一方面，提供了一种动态链接库文件的生成方法，包括：获取可执行文件生成模板；从张量配置信息中得到算子核函数的名称信息；根据算子核函数的名称信息，从算子配置信息中得到算子核函数的参数信息；以及根据名称信息、参数信息和可执行文件生成模板，生成动态链接库文件，其中，动态链接库文件包括同一算子在不同运行场景的多个可执行文件。

3、根据本公开的另一方面，提供了一种深度学习框架算子的调用方法，包括：根据用于调用目标算子的源代码，确定目标运行场景和目标算子，其中，目标运行场景指示了目标算子的调用方式和目标算子的运行模式；根据目标运行场景和目标算子，从动态链接库文件中得到目标可执行文件，其中，动态链接库文件是利用上述动态链接库文件的生成方法生成的；以及通过运行目标可执行文件，以执行目标算子的运算逻辑。

4、根据本公开的另一方面，提供了一种动态链接库文件的生成装置，包括：获取模块、第一获得模块、第二获得模块和生成模块。获取模块，用于获取可执行文件生成模板。第一获得模块，用于从张量配置信息中得到算子核函数的名称信息。第二获得模块，用于根据算子核函数的名称信息，从算子配置信息中得到算子核函数的参数信息。生成模块，用于根据名称信息、参数信息和可执行文件生成模板，生成动态链接库文件，其中，动态链接库文件包括同一算子在不同运行场景的多个可执行文件。

5、根据本公开的另一方面，提供了一种深度学习框架算子的调用装置，包括：确定模块、第三获得模块和运行模块。确定模块，用于根据用于调用目标算子的源代码，确定目标运行场景和目标算子，其中，目标运行场景指示了目标算子的调用方式和目标算子的运行模式。第三获得模块，用于根据目标运行场景和目标算子，从动态链接库文件中得到目标可执行文件，其中，动态链接库文件是利用上述动态链接库文件的生成方法生成的。运行模块，用于通过运行目标可执行文件，以执行目标算子的运算逻辑。

6、根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器；其中，上述存储器存储有可被上述至少一个处理器执行的指令，上述指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行如上的方法。

7、根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使上述计算机执行如上所述的方法。

8、根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，上述计算机程序在被处理器执行时实现如上的方法。

9、应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

技术特征：

1.一种动态链接库文件的生成方法，包括：

2.根据权利要求1所述的方法，其中，所述根据所述名称信息、所述参数信息和所述可执行文件生成模板，生成所述动态链接库文件，包括：

3.根据权利要求2所述的方法，其中，所述通过调用目标模板，根据所述名称信息和所述参数信息，生成动态链接库文件，包括：

4.根据权利要求3所述的方法，其中，所述根据所述算子在不同运行场景的多个源代码文件，生成动态链接库文件，包括：

5.一种深度学习框架算子的调用方法，包括：

6.根据权利要求1所述的方法，其中，所述根据用于调用目标算子的源代码，确定目标运行场景和目标算子，包括：

7.根据权利要求6所述的方法，其中，所述根据所述源代码的输入模式和场景标识字段，确定所述目标运行场景，包括：

8.根据权利要求1所述的方法，其中，所述动态链接库文件还包括算子、算子的核函数名称与运行场景的映射关系，所述根据所述目标运行场景和所述目标算子，从所述动态链接库文件中得到目标可执行文件，包括：

9.一种动态链接库文件的生成装置，包括：

10.根据权利要求9所述的装置，其中，所述生成模块包括：

11.根据权利要求10所述的装置，其中，所述生成子模块包括：

12.根据权利要求11所述的装置，其中，所述第二生成单元包括：

13.一种深度学习框架算子的调用装置，包括：

14.根据权利要求13所述的装置，其中，所述确定模块包括：

15.根据权利要求14所述的装置，其中，所述第四确定子模块包括：

16.根据权利要求13所述的装置，其中，所述动态链接库文件还包括算子、算子的核函数名称与运行场景的映射关系，所述第三获得模块包括：

17.一种电子设备，包括：

18.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的方法。

19.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。

技术总结
本公开提供了动态链接库文件的生成方法、算子的调用方法及装置，涉及人工智能技术领域，尤其涉及深度学习技术领域。动态链接库文件的生成方法的具体实现方案为：获取可执行文件生成模板；从张量配置信息中得到算子核函数的名称信息；根据算子核函数的名称信息，从算子配置信息中得到算子核函数的参数信息；以及根据名称信息、参数信息和可执行文件生成模板，生成动态链接库文件，其中，动态链接库文件包括同一算子在不同运行场景的多个可执行文件。

技术研发人员：贾宏宇,杨嘉彬,陈威行,张云飞
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：
技术公布日：2024/1/14