面向智能芯片的设备管理装置和方法与流程

本申请涉及信息处理，特别是涉及面向智能芯片的设备管理装置和方法。

背景技术：

1、随着人工智能技术的发展，智能芯片加速卡已经成为高性能计算和深度学习等领域的重要组成部分，智能芯片加速卡可为智能应用提供高质量的计算资源。然而，当多个智能应用同时运行时，需要通过设备管理装置对智能芯片加速卡资源进行调度和管理。传统的设备管理装置的资源调度策略，无法有效地分配智能芯片加速卡资源，导致设备管理装置对于智能芯片加速卡资源的利用效率较低，且难以进行资源监控和调度。

2、针对相关技术中存在传统的设备管理装置对于智能芯片加速卡资源的利用效率较低问题，目前还没有提出有效的解决方案。

技术实现思路

1、在本实施例中提供了一种面向智能芯片的设备管理装置和方法，以解决相关技术中设备管理装置对于智能芯片加速卡资源的利用效率较低的问题。

2、第一个方面，在本实施例中提供了一种面向智能芯片的设备管理装置，包括信息采集模块、设备管理模块、资源监控模块、设备设置模块以及数据存储模块；

3、所述信息采集模块，与所述数据存储模块连接，用于获取设备信息，并将所述设备信息输出至所述数据存储模块；

4、所述数据存储模块，分别与所述设备管理模块、所述设备设置模块和所述资源监控模块连接，用于存储所述设备信息、智能芯片加速卡资源调度信息和设置信息；

5、所述设备设置模块，分别与所述资源监控模块和所述设备管理模块连接，用于对所述设备的目标参数进行设置，并将生成的所述设置信息输出至所述数据存储模块；其中，所述目标参数包括频率参数、功率参数和温度参数；

6、所述资源监控模块，用于根据所述设备信息、所述智能芯片加速卡资源调度信息和所述设置信息，监控设备的运行情况和所述智能芯片加速卡资源的使用情况；

7、所述设备管理模块，用于调度智能芯片加速卡资源，并将生成的智能芯片加速卡资源调度信息输出至所述数据存储模块。

8、在其中的一些实施例中，所述设备设置模块包括参数设置单元和挂载设置单元；

9、所述参数设置单元分别与所述设备管理模块和所述资源监控模块连接，用于设置设备参数，所述设备参数包括网络设备参数、存储设备参数、显卡和图形设备参数；

10、所述挂载设置单元分别与所述设备管理模块和所述资源监控模块连接，用于自定义设备环境设置规则，所述设备环境设置规则包括设备命名规则、设备权限设置、触发器规则、环境变量设置、弹出通知设置。

11、在其中的一些实施例中，所述设备信息包括pcie总线信息，资源加速卡信息以及soa智能芯片信息。

12、第二个方面，在本实施例中提供了一种面向智能芯片的设备管理方法，包括：

13、通过信息采集模块获取设备信息；将所述设备信息存储于数据存储模块中；

14、通过设备管理模块，对智能应用进行智能芯片加速卡资源调度；将智能芯片加速卡资源调度信息存储于所述数据存储模块中；

15、通过设备设置模块，对设备参数和设备挂载进行设置；将设置信息存储于所述数据存储模块中；

16、通过资源监控模块，从所述数据存储模块中获取所述设备信息、所述智能芯片加速卡资源调度信息和所述设置信息；根据所述设备信息、所述智能芯片加速卡资源调度信息和所述设置信息，对设备的运行情况，和所述智能芯片加速卡资源的使用情况进行监控。

17、在其中的一些实施例中，所述通过设备管理模块，对智能应用进行智能芯片加速卡资源调度，包括：

18、通过所述智能应用向所述设备管理模块发送令牌获取请求；

19、通过所述设备管理模块接收所述令牌获取请求；根据所述令牌获取请求，对智能应用进行所述智能芯片加速卡资源调度；

20、将所述令牌发送至所述智能应用。

21、在其中的一些实施例中，所述将所述令牌发送至所述智能应用之后，还包括：

22、通过所述智能应用，对所述令牌对应的智能芯片加速卡资源进行操作。

23、在其中的一些实施例中，所述根据所述令牌获取请求，对智能应用进行所述智能芯片加速卡资源调度，包括：

24、在所述设备管理模块中，通过读取目标文件获取调度策略集合；根据所述令牌获取请求，从所述调度策略集合中选取目标调度策略。

25、在其中的一些实施例中，所述通过信息采集模块获取设备信息，包括：

26、从所述信息采集模块中获取目标插件文件夹；

27、读取所述目标插件文件夹中的插件；通过所述插件获取目标设备的所述设备信息。

28、第三个方面，在本实施例中提供了一种电子装置，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第二个方面所述的面向智能芯片的设备管理方法。

29、第四个方面，在本实施例中提供了一种存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述第二个方面所述的面向智能芯片的设备管理方法。

30、与相关技术相比，在本实施例中提供的面向智能芯片的设备管理装置，包括信息采集模块、设备管理模块、资源监控模块、设备设置模块和数据存储模块；信息采集模块，与数据存储模块连接，用于获取设备信息，并将设备信息输出至数据存储模块；设备管理模块，分别与数据存储模块和设备设置模块连接，用于调度智能芯片加速卡资源；资源监控模块，分别与数据存储模块和设备设置模块连接，用于监控设备的运行情况，和智能芯片加速卡资源的使用情况；设备设置模块，用于对设备的目标参数进行设置；其中，目标参数包括频率参数、功率参数和温度参数；数据存储模块，用于存储信息采集模块、设备管理模块和设备设置模块中的目标数据，通过该面向智能芯片的设备管理装置，解决了传统的设备管理装置对于智能芯片加速卡资源的利用效率较低问题，提高了加速卡资源的利用效率。

31、本申请的一个或多个实施例的细节在以下附图和描述中提出，以使本申请的其他特征、目的和优点更加简明易懂。

技术特征：

1.一种面向智能芯片的设备管理装置，其特征在于，包括信息采集模块、设备管理模块、资源监控模块、设备设置模块以及数据存储模块；

2.根据权利要求1所述的面向智能芯片的设备管理装置，其特征在于，所述设备设置模块包括参数设置单元和挂载设置单元；

3.根据权利要求1所述的面向智能芯片的设备管理装置，所述设备信息包括pcie总线信息，资源加速卡信息以及soa智能芯片信息。

4.一种面向智能芯片的设备管理方法，适用于权利要求1至权利要求3任一项所述的面向智能芯片的设备管理装置，其特征在于，包括：

5.根据权利要求4所述的面向智能芯片的设备管理方法，所述通过设备管理模块，对智能应用进行智能芯片加速卡资源调度，其特征在于，包括：

6.根据权利要求5所述的面向智能芯片的设备管理方法，所述将所述令牌发送至所述智能应用之后，其特征在于，还包括：

7.根据权利要求5所述的面向智能芯片的设备管理方法，所述根据所述令牌获取请求，对智能应用进行所述智能芯片加速卡资源调度，其特征在于，包括：

8.根据权利要求4所述的面向智能芯片的设备管理方法，所述通过信息采集模块获取设备信息，其特征在于，包括：

9.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行权利要求4至权利要求8中任一项所述的面向智能芯片的设备管理方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求4至权利要求8中任一项所述的面向智能芯片的设备管理方法的步骤。

技术总结
本申请涉及一种面向智能芯片的设备管理装置和方法，其中，该装置包括信息采集模块，用于获取设备信息；数据存储模块，分别与设备管理模块、用于存储设备信息、智能芯片加速卡资源调度信息和设置信息；设备设置模块，用于对设备的目标参数进行设置；资源监控模块，用于监控设备的运行情况和智能芯片加速卡资源的使用情况；设备管理模块，用于调度智能芯片加速卡资源。通过本申请，解决了传统的设备管理装置对于智能芯片加速卡资源的利用效率较低问题，提高了加速卡资源的利用效率。

技术研发人员：高翔,潘爱民
受保护的技术使用者：之江实验室
技术研发日：
技术公布日：2024/1/15