计算资源调用方法、存储装置及电子设备与流程

文档序号:36412069发布日期:2023-12-19 04:02阅读:28来源:国知局
计算资源调用方法与流程

本发明涉及存储,尤其涉及一种计算资源调用方法、存储装置及电子设备。


背景技术:

1、存储装置是计算机系统中为了存放数据和程序的重要设备。为了提高存储装置的性能和智能化管理,满足高端企业级和数据中心级的应用需求,目前,推出了能够搭载其他计算资源的存储装置,例如固态硬盘这种存储装置,能够搭载神经网络处理单元,即npu(neural processing unit),其可在数据写入至固态硬盘内的快闪存储芯片过程中,对数据进行ai处理,进而提高存储装置的数据安全性、智能化和存储空间利用率。

2、然而,目前这种搭载有计算资源的存储装置,通常只能由存储装置自身使用,具体为存储装置通过计算资源对待存储的数据进行处理后再存储,而主机端再进行实时数据处理时只能通过外接计算资源来实现,无法直接调用该计算资源。如此,会降低存储装置内的计算资源的利用率,并增加整机成本。


技术实现思路

1、为了解决上述提出的至少一个技术问题,本发明提供一种计算资源调用方法、存储装置及电子设备,能够解决现有的主机端无法调用存储装置中的计算单元,进而造成资源浪费的问题。

2、第一方面,本发明提供一种计算资源调用方法,应用于存储装置,所述方法包括:

3、接收主机端发送的原始数据与第一执行指令;

4、响应于所述第一执行指令,根据原始数据的数据类型获取对应的算法资源,其中,所述算法资源存储于主机端、存储装置和主机端外接设备中一者或多者内;

5、根据所述第一执行指令调用存储装置内的计算单元加载对应的算法资源,以依据对应的算法资源将所述原始数据处理成目标数据;

6、将所述目标数据发送至主机端。

7、优选地,所述存储装置包括存储单元,所述计算单元包括缓冲器,所述依据对应的算法资源将所述原始数据处理成目标数据,包括:

8、确定所述原始数据的大小和所述缓冲器的容量;

9、当所述原始数据的大小超过所述缓冲器的容量时,将所述原始数据缓存至所述存储单元内,并向所述计算单元发送第二执行指令;

10、响应于所述第二执行指令,所述计算单元获取缓存于所述存储单元内的所述原始数据,并依据对应的算法资源将所述原始数据处理成目标数据。

11、优选地,当获取的所述计算资源为多个时,所述根据所述第一执行指令调用存储装置内的计算单元加载对应的算法资源,以依据对应的算法资源将所述原始数据处理成目标数据,包括:

12、响应于所述第一执行指令,确定所述计算单元加载多个对应的算法资源的加载处理顺序;

13、所述计算单元依据多个对应的算法资源按照所述加载处理顺序将所述原始数据处理成目标数据。

14、优选地,所述存储装置包括存储单元,所述计算单元依据多个对应的算法资源按照所述处理顺序将所述原始数据处理成目标数据,包括:

15、s1、根据所述加载处理顺序,所述计算单元加载起始次序的算法资源,并依据该算法资源将所述原始数据处理成中间数据;

16、s2、将中间数据存储于所述存储单元内,并重置所述计算单元;

17、s3、根据所述加载处理顺序,所述计算单元加载对应次序的算法资源,并依据该算法资源将从所述存储单元获取的中间数据处理成新的中间数据;

18、重复步骤s2至步骤s3,直到所述计算单元依据终末次序的算法资源将中间数据处理成目标数据。

19、优选地,所述根据所述第一执行指令调用存储装置内的计算单元加载对应的算法资源,以依据对应的算法资源将所述原始数据处理成目标数据,包括:

20、当原始数据为语音数据时,结合ctc技术,使用drcnn对声学特征进行建模,使用se-block通道加权残差机制和深度堆叠结构;

21、其中,squeeze 将一个channel上整个空间特征编码为一个全局特征,采用全局平均池化来实现,得到一个channel上的全局描述特征。

22、优选地,所述根据所述第一执行指令调用存储装置内的计算单元加载对应的算法资源,以依据对应的算法资源将所述原始数据处理成目标数据,包括:

23、当原始数据为图像数据时,通过神经网络对图像进行处理,在神经网络的隐藏层内使用多个并行的基分类器训练,根据训练误差产生出新的训练权重;

24、基分类器可表示为,每个分类器分类误差可以通过对基分类器分类前后累加计算:

25、

26、通过分类误差计算分类器权重第i个隐藏层中第j个分类器权重:

27、

28、通过分类器的权重计算样本权重,,代表经过计算后产生的新的样本权重。

29、第二方面,本发明还提供一种存储装置,包括主控单元和计算单元,所述主控单元与所述计算单元通信连接,其中:

30、所述主控单元,用于接收主机端发送的原始数据与第一执行指令,并根据原始数据的数据类型获取对应的算法资源,以调用存储装置内的计算单元加载对应的算法资源,以及将目标数据发送至主机端,其中,所述算法资源存储于主机端、存储装置和主机端外接设备中一者或多者内;

31、所述计算单元,用于加载对应的算法资源,以依据对应的算法资源将所述原始数据处理成目标数据。

32、优选地,所述的存储装置还包括存储单元,所述计算单元包括缓冲器,其中:

33、所述缓冲器,用于缓存所述主控单元传输的原始数据;

34、所述存储单元,用于存储数据大小超过所述缓冲器的容量的所述原始数据,和/或存储所述计算单元处理所述原始数据后生成的中间数据。

35、优选地,所述计算单元还包括:

36、dma控制单元,与所述存储单元和所述缓冲器通信连接,用于从所述存储单元和所述缓冲器中读取所述原始数据,以及向所述存储单元存储和读取中间数据;

37、ai处理单元,用于对所述dma控制单元通信发送的所述原始数据或中间数据进行ai处理。

38、第三方面,本发明还提供一种电子设备,包括如第二方面任意一种实施方式所述的存储装置,以及主机端,所述主机端与所述存储装置通信连接,所述主机端包括:

39、中央处理单元,用于获取原始数据与第一执行指令;发送所述原始数据与所述第一执行指令至存储装置,以使所述存储装置根据所述第一执行指令调用所述存储装置内的所述计算单元,以对所述原始数据进行处理。

40、优选地,所述主机端还包括:

41、数据来源单元和数据使用单元,所述数据来源单元和所述数据使用单元分别与所述中央处理单元通信连接,其中:

42、所述数据来源单元,用于为所述中央处理单元提供所述原始数据;

43、所述数据使用单元,用于接收经由所述中央处理单元传输的所述存储装置对所述原始数据处理后生成的目标数据。

44、优选地,所述主机端还包括:

45、算法资源供应单元,用于供应所述存储装置调用主机端的算法资源,所述算法资源供应单元包括ai模型供应单元。

46、与现有技术相比,本发明的有益效果在于:

47、本发明公开了一种计算资源调用方法,该方法包括:接收主机端发送的原始数据与第一执行指令;响应于第一执行指令,根据原始数据的数据类型获取对应的算法资源,其中,算法资源存储于主机端、存储装置和主机端外接设备中一者或多者内;根据第一执行指令调用存储装置内的计算单元加载对应的算法资源,以依据对应的算法资源将原始数据处理成目标数据;将目标数据发送至主机端。本发明能够由主机端对存储装置内的计算单元进行直接调用,来对实时性数据进行存储装置内的数据处理。本发明无需对主机端额外配置计算单元就能对数据进行实时数据处理,提高了存储装置内计算单元的利用率,降低了硬件设计成本。

48、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1