模型算法的选择方法、装置、设备和介质与流程

文档序号:32435857发布日期:2022-12-06 18:51阅读:44来源:国知局
模型算法的选择方法、装置、设备和介质与流程

1.本公开一般涉及人工智能技术领域,具体涉及深度学习技术领域,尤其涉及一种模型算法的选择方法、装置、设备和介质。


背景技术:

2.神经网络模型可以接收一个输入,并通过不同的算法对上述输入进行运算(例如,卷积运算和矩阵乘法运算),运算后得到相同的输出。例如,将一张具体尺寸的图像输入模型,模型可以从所有候选算法中选取运行时长最短的算法,作为上述输入图像的最终算法。
3.然而,将图像输入模型后,模型会将所有算法作为候选算法并运行。对于一张图像,运行一个算法的时间已经非常漫长,如果将所有算法全部运行,虽然最终得出了最终算法,但是在得出最终算法前,需要耗费大量的时间运所有算法。


技术实现要素:

4.基于此,有必要针对上述技术问题,提供一种模型算法的选择方法、装置、设备和介质,采用本技术的方法,可以通过算法预测模型缩小对目标图像的候选算法范围,从而大大降低了确定模型最终算法的耗时。
5.第一方面,提供一种模型算法的选择方法,该方法包括:
6.将目标图像的属性参数输入算法预测模型,获得算法预测模型输出的一个或多个候选算法;算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的,目标算法是根据历史属性参数和图像预测模型进行图像预测时所采用的算法;根据一个或多个候选算法,确定基于图像预测模型对目标图像进行预测所采用的最终算法。
7.第二方面,提供了一种模型算法的选择装置,该装置包括:
8.预测单元,用于将目标图像的属性参数输入算法预测模型,获得算法预测模型输出的一个或多个候选算法;算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的,目标算法是根据历史属性参数和图像预测模型进行图像预测时所采用的算法;确定单元,用于根据一个或多个候选算法,确定基于图像预测模型对目标图像进行预测所采用的最终算法。
9.第三方面,提供了一种计算机设备,包括存储器、处理器以及存储不在存储器上并可在处理器上运行的计算机程序,其特征在于,处理器执行程序时,实现上述第一方面以及第一方面任意一种可能的实现方式的方法的步骤。
10.第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时,实现上述第一方面以及第一方面任意一种可能的实现方式的方法的步骤。
11.第五方面,提供一种计算机程序产品,计算机程序产品包括指令,当指令被运行时,实现上述第一方面以及第一方面任意一种可能的实现方式的方法的步骤。
12.采用本技术的模型算法的选择方法,可以基于目标图像的属性参数,确定目标图
像采用图像预测模型进行预测时所采用的最终算法。具体地,可以将目标图像的属性参数输入算法预测模型,算法预测模型可以输出多个候选算法,可以根据上述多个候选算法确定目标图像采用图像预测模型进行预测时所采用的最终算法。其中,算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的,目标算法是根据历史属性参数和图像预测模型进行图像预测时所采用的算法。
13.而现有技术中,对于输入神经网络模型中的图像,会运行上述神经网络模型中可以预测图像的所有算法,并基于各个算法的运行时长确定最终算法。但是运行所有算法会耗费大量的时间。
14.相较于现有技术的方案,采用本技术的方法,算法预测模型可以筛从大量的算法中选出目标图像的候选算法,进而根据候选算法确定基于图像预测模型对目标图像进行预测时所采用的最终算法。避免了现有技术遍历所有算法确定最终算法导致耗时较长的问题,可以通过算法预测模型缩小候选算法的搜索范围,也正是因为缩小了候选算法的搜索范围,从而大大降低了确定模型最终算法的耗时。
附图说明
15.通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本技术的其它特征、目的和优点将会变得更明显:
16.图1为本技术实施例提供的计算机设备的结构框图;
17.图2为本技术实施例提供的模型算法的选择方法的流程示意图;
18.图3为本技术实施例提供的模型算法的选择方法的另一流程示意图;
19.图4为本技术实施例提供的模型算法的选择方法的另一流程示意图;
20.图5为本技术实施例提供的模型算法的选择方法的另一流程示意图;
21.图6为本技术实施例提供的模型算法的选择方法的另一流程示意图;
22.图7为本技术实施例提供的累加计数器的示意图;
23.图8为本技术实施例提供的触发目标图像的候选算法的流程图;
24.图9为本技术实施例提供的算法预测模型的训练过程和预测过程的流程图;
25.图10为本技术实施例提供的模型算法的选择方法的完整实施步骤的流程图;
26.图11为本技术实施例提供的模型算法的选择装置的结构示意图。
具体实施方式
27.下面结合实施例和附图对本技术作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与发明相关的部分。
28.需要说明的是,在不冲突的情况下,本技术中的实施例即实施例的特征可以互相结合。下面将参考附图并结合实施例来详细说明本技术。
29.目前,将图像输入模型后,模型会将所有算法作为候选算法并运行,并将运行时间最短的算法作为最终算法。然而,运行所有算法的其中之一个算法都会耗费大量的时间,若将所有算法运行,则消耗的时间会更多。
30.基于此,本技术提出一种模型算法的选择方法、装置、设备和存储介质,可以通过
算法预测模型缩小对目标图像的候选算法范围,从而大大降低了确定模型最终算法的耗时。
31.本技术提供的模型算法的选择方法,可以应用于如图1所示的计算机设备10。该计算机设备10的内部结构示意图可以如图1所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供运行环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过wifi、运营商网络、nfc(近场通信)或者其他技术实现。该计算机程序被处理器执行时,用来实现一种模型算法的选择方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或者鼠标等。
32.本技术实施例中,计算机设备10可以基于目标图像的属性参数确定目标图像采用图像预测模型进行预测时所采用的最终算法。
33.前文图1介绍了本技术的应用场景图。在本技术的另一实施例中,提供了一种模型算法的选择方法,该方法可以应用于图1所示的计算机设备10。如图2所示,该方法包括如下步骤:
34.步骤201、将目标图像的属性参数输入算法预测模型,获得算法预测模型输出的一个或多个候选算法;算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的,目标算法是根据历史属性参数和图像预测模型进行图像预测时所采用的算法;
35.本技术实施例提供了一种候选算法获取方案,可以缩小目标图像的候选算法范围。具体地,可以将所有算法进行筛选,筛选出执行时长较短的多个算法,并将上述多个算法作为目标图像的候选算法。
36.其中,目标图像可以是输入图像预测模型进行预测的图像。目标图像的属性参数包括图像预测模型对目标图像进行预测时的关键参数。例如,属性参数包括模型运行平台标识、图像信息、运算规则的标识以及运算规则的精度中的至少一项。
37.其中,模型运行平台标识用于表征上述图像预测模型所运行的平台或设备,例如,可以是device id(平台编号)。
38.图像信息用于描述目标图像的信息,例如,可以是shape(张量)、像素、分辨率、大小、颜色、色彩通道等。
39.运算规则的标识用于表征图像预测模型对目标图像进行预测采用的运算规则。例如,运算规则的标识可以是operation(运算),其中operation可以是卷积运算或者矩阵乘法运算。
40.运算规则的精度用于表征算法的计算精度。例如,计算精度可以是float16或者float32。
41.在一种可能的实现方式中,算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的。可以理解为,在算法预测模型的训练过程中,可
以将输入图像预测模型的历史图像的属性参数(即历史属性参数)和属性参数对应的算法(即目标算法)分别作为训练样本和样本标签值。在算法预测模型的训练过程中,算法预测模型可以提取到训练样本的特征,并基于提取到的特征进行关联预测,获得算法预测模型输出的预测算法。
42.进一步,根据模型输出的预测算法与标签之间的损失对模型进行迭代训练,直到学习到的特征和样本标签之间的损失达到收敛,可以获得算法预测模型。进而,可以采用算法预测模型预测目标图像的候选算法。示例性的,算法预测模型用于从目标图像的所有算法中筛选出执行时长较短的多个算法,并将上述多个算法作为目标图像的候选算法。
43.历史图像的属性参数包括图像预测模型对历史图像进行预测时的关键参数。例如,属性参数包括模型运行平台标识、图像信息、运算规则的标识以及运算规则的精度中的至少一项。
44.步骤202、根据一个或多个候选算法,确定基于图像预测模型对目标图像进行预测所采用的最终算法。
45.本技术实施例提供了一种最终算法采用方案,可以从目标图像的候选算法中确定执行时长最短的算法,并将上述执行时长最短的算法作为对目标图像进行预测时所采用的最终算法。
46.具体地,候选算法可以是基于图像预测模型对目标图像进行预测时待选的算法,即是图像预测模型对目标图像进行预测可采用的算法。其中,上述待选的算法均可以得出相同的预测结果,但各个算法的执行时长不同。图像预测模型对目标图像进行预测,具体地,图像预测模型可以采用算法预测模型预测出的候选算法对目标图像进行预测,得出目标图像的预测结果。最终算法可以是对目标图像进行预测时所采用的执行时长最短的算法。
47.一种可能的实现方式,算法预测模型可以预测出目标图像的候选算法,可以从上述候选算法中选一个作为对目标图像进行预测时的最终算法。
48.采用本技术的模型算法的选择方法,可以基于目标图像的属性参数,确定目标图像采用图像预测模型进行预测时所采用的最终算法。具体地,可以将目标图像的属性参数输入算法预测模型,算法预测模型可以输出多个候选算法,可以根据上述多个候选算法确定目标图像采用图像预测模型进行预测时所采用的最终算法。其中,算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的,目标算法是根据历史属性参数和图像预测模型进行图像预测时所采用的算法。
49.而现有技术中,对于输入神经网络模型中的图像,会运行上述神经网络模型中可以预测图像的所有算法,并基于各个算法的运行时长确定最终算法。但是运行所有算法会耗费大量的时间。
50.相较于现有技术的方案,采用本技术的方法,算法预测模型可以从大量的算法中筛选出目标图像的候选算法,进而根据候选算法确定基于图像预测模型对目标图像进行预测时所采用的最终算法。避免了现有技术遍历所有算法确定最终算法导致耗时较长的问题,可以通过算法预测模型缩小候选算法的搜索范围,也正是因为缩小了候选算法的搜索范围,从而大大降低了确定模型最终算法的耗时。
51.前文所述的实施例中,介绍了如何根据算法预测模型确定基于图像预测模型对目
标图像预测时所采用的最终算法的技术方案。在本技术的另一实施例中,介绍了如何根据算法预测模型预测出的候选算法,确定基于图像预测模型对目标图像预测时所采用的最终算法的技术方案。例如,前文步骤涉及的“根据一个或多个候选算法,确定基于图像预测模型对目标图像进行预测所采用的最终算法”的具体实施包括图3的步骤:
52.步骤301、运行一个或多个候选算法,获得一个或多个候选算法的执行时长;
53.具体地,候选算法可以是基于图像预测模型对目标图像进行预测时待选的算法。例如,上述待选的算法在基于图像预测模型对目标图像进行预测时,均可以得出相同的预测结果,但各个算法的执行时长不同。候选算法的执行时长可以是执行各个候选算法的运行时间。
54.一种可能的实现方式,图像预测模型可以运行各个候选算法,得到各个候选算法的执行时长。例如,各个候选算法的执行时长可以是t1~t5。
55.步骤302、基于最终算法选择机制确定执行时长最短的候选算法为最终算法。
56.具体地,最终算法选择机制可以将执行时长最短的候选算法确定为基于图像预测模型对目标图像进行预测时所采用的最终算法。
57.一种可能的实现方式,若各个候选算法的执行时长t1~t5中,t1为最小,则最终算法选择机制可以将t1对应的候选算法确定为基于图像预测模型对目标图像进行预测时所采用的最终算法。
58.前文的实施介绍了如何根据算法预测模型预测出的候选算法,确定基于图像预测模型对目标图像预测时所采用的最终算法的技术方案。在本技术的另一实施例中,介绍了如何根据算法预测模型预测出的候选算法确定最终算法的另一技术方案。例如,前文步骤涉及的“根据一个或多个候选算法,确定基于图像预测模型对目标图像进行预测所采用的最终算法”的具体实施包括图4的步骤:
59.步骤401、若一个或多个候选算法有缓存记录,则根据缓存记录确定一个或多个算法的执行时长;
60.具体地,缓存记录可以是图像预测模型对输入图像进行预测时,记录在缓存的相关信息。例如,以键值对的形式记录,其中key包括device id(平台编号),operation(运算),shape(张量),param(运算规则的精度),value包括algo(相当于本技术前文实施例中的目标算法)、time(算法运行时间),workspace(存储运算中间结果的额外空间)。
61.一种可能的实现方式,若将目标图像的属性参数输入算法预测模型,算法预测模型输出多个候选算法,若该目标图像已经多次输入过图像预测模型进行预测,则可以根据缓存中记录的目标图像所采用过的多个算法,确定上述多个算法的执行时长,而不用将候选算法逐一运行。
62.步骤402、将一个或多个候选算法中执行时长最短的算法为最终算法。
63.具体地,最终算法可以是基于图像预测模型对目标图像进行预测时所采用的算法。
64.一种可能的实现方式,缓存记录中记录了目标图像采用过的算法为法1~算法5,当目标图像再次输入图像预测模型时,图像预测模型可以预测出多个候选算法,例如t1~t7,则算法预测模型可以将既在候选算法中,又在缓存记录中,且执行时长最短的算法作为最终算法。例如,可以将执行时长最短的t1对应的算法1作为最终算法。
65.前文所述的实施例介绍了如何根据算法预测模型预测出的候选算法确定最终算法的另一技术方案。在本技术的另一实施例中,介绍了如何根据候选算法确定最终算法的另一技术方案。例如,前文步骤涉及的“根据一个或多个候选算法,确定基于图像预测模型对目标图像进行预测所采用的最终算法”的具体实施包括步骤:
66.若一个或多个候选算法缺失缓存记录,则基于图像预测模型的缓存记录以及目标图像在图像预测模型的输入次数确定图像预测模型对目标图像进行预测所采用的最终算法。
67.具体地,缓存记录可以是图像预测模型对输入图像进行预测时,记录在缓存的相关信息。例如,以键值对的形式记录,其中key包括device id(平台编号),operation(运算),shape(张量),param(运算规则的精度),value包括algo(算法)、time(算法运行时间),workspace(存储运算中间结果的额外空间)。
68.一种可能的实现方式,当缓存记录中未记录目标图像采用过的算法,则可以基于图像预测模型的缓存记录以及目标图像在图像预测模型的输入次数确定图像预测模型对目标图像进行预测所采用的最终算法。
69.本技术实施例还提供了一种可能的实现方式,当目标图像输入图像预测模型时,缓存记录中未记录目标图像采用过的算法,此时可以将缓存记录中的任意算法,确定为目标图像的最终算法,而不采用算法预测模型预测目标图像的候选算法。
70.前文所述的实施例中,介绍了如何根据候选算法确定最终算法的另一技术方案。在本技术的另一实施例中,介绍了如何根据目标图像的输入次数和缓存记录确定最终算法的技术方案。例如,前文步骤涉及的“基于图像预测模型的缓存记录以及目标图像在图像预测模型的输入次数确定图像预测模型对目标图像进行预测所采用的最终算法”包括图5的步骤:
71.步骤501、若输入次数达到第一阈值,则获取目标图像与一个或多个历史输入图像之间的尺寸差值;目标图像与历史输入图像的属性参数相同;
72.具体地,第一阈值用于表征目标图像在图像预测模型中的输入次数的上限值,可以将上限值理解为最大值。例如,最大值可以是5。若达到上述最大值,则获取目标图像和历史输入图像之间的尺寸差值。历史输入图像可以是图像预测模型以往的输入图像,并且,历史输入图像和其在模型中运行的最终算法均保存在某一具体位置,例如,具体位置可以是缓存。尺寸差值可以是目标图像与历史输入图像之间的像素差值。模型运行平台标识、图像信息、运算规则的标识以及运算规则的精度中的至少一项。
73.其中,模型运行平台标识用于表征上述图像预测模型所运行的平台或设备,例如,可以是device id(平台编号)。
74.图像信息用于描述目标图像的信息,例如,可以是shape(张量)、像素、分辨率、大小、颜色、色彩通道等。
75.运算规则的标识用于表征图像预测模型对目标图像进行预测采用的运算规则。例如,运算规则的标识可以是operation(运算),其中operation可以是卷积运算或者矩阵乘法运算。
76.运算规则的精度用于表征算法的计算精度。例如,计算精度可以是float16或者float32。
77.一种可能的实现方式,若输入次数为6,第一阈值为5,则输入次数大于第一阈值,则可以获取目标图像与一个或多个历史输入图像之间的尺寸差值。示例性的,尺寸差值可以但不限于是1、2、
……
100。
78.步骤502、若尺寸差值小于第二阈值,则确定一个或多个历史输入图像在图像预测模型中运行的最终算法;
79.具体地,尺寸差值可以是目标图像与历史输入图像之间的像素差值。第二阈值用于表征目标图像和多个历史输入图像之间的尺寸差值上限值,可以将上限值理解为最大值。例如,最大值可以是6。若达到上述最大值,则可以确定多个历史输入图像在模型中运行的最终算法。
80.一种可能的实现方式,若尺寸差值是1、2、
……
100,第二阈值为6。其中,尺寸差值1~5均小于第二阈值6,则可以确定尺寸差值1~100对应的各个历史输入图像在模型中运行的最终算法。例如,最终算法可以是算法1~算法100。
81.步骤503、根据一个或多个历史输入图像对应的最终算法,确定图像预测模型对目标图像进行预测所采用的最终算法。
82.具体地,可以基于历史输入图像在模型中运行的最终算法确定目标图像的最终算法。例如,若10个历史输入图像在模型中运行的最终算法为算法1~算法10,并且,10个算法中有5个算法的尺寸差值小于第二阈值,则可以基于上述5个算法确定目标图像的最终算法。
83.一种可能的实现方式,若目标图像与历史输入图像之间的尺寸差值小于第二阈值,可以获取各个历史输入图像在模型中运行的最终算法,并将满足尺寸差值小于第二阈值的历史输入图像在模型中运行的最终算法作为目标图像的候选算法。例如,尺寸差值1~5均小于第二阈值6,则基于尺寸差值1~5的历史输入图像在模型中运行的最终算法确定目标图像的最终算法。
84.前文所述的实施例中,介绍了如何根据目标图像的输入次数和缓存记录确定最终算法的技术方案。在本技术的另一实施例中,介绍了如何确定目标图像在模型中的输入次数的技术方案。例如,前文步骤涉及的对“目标图像在图像预测模型的输入次数”确定的具体实施包括图6的步骤:
85.步骤601、若图像预测模型的输入图像的属性参数相同,则将输入次数的计数值累加一次;
86.具体地,属性参数包括图像预测模型对输入图像进行预测时的关键参数。示例性的,关键参数可以是属性参数包括模型运行平台标识、图像信息、运算规则的标识以及运算规则的精度中的至少一项。属性参数相同表明输入图像和历史输入图像的关键参数相同。
87.一种可能的实现方式,图7为本技术实施例提供的累加计数器的示意图。参考图7,当前计数值为0,若输入图像的属性参数中相同,即输入图像和历史输入图像的关键参数相同。例如,图像信息相同,图像信息相同可以是图像的像素尺寸相同,像素尺寸可以均为20*20,则表明输入图像重复输入图像预测模型一次。此时,可以将输入次数的计数值累加一次,即当前计数值由原来的0变为1。
88.需要说明的是,此处的尺寸可以理解为shape(张量)。示例性的,张量可以为二维数组,例如前文中的尺寸,也可以是三维数组,例如,深度为3,宽度为12,高度为12的rgb图
像。此处的深度可以理解为三个颜色通道,即红色、绿色以及蓝色颜色通道。
89.步骤602、根据输入次数的计数值确定目标图像在图像预测模型的输入次数。
90.具体地,输入次数的计数值用于表征目标图像输入模型的频次。示例性的,频次可以但不限于是1次、2次或者3次。输入次数用于表征目标图像具体第几次输入模型。例如,目标图像可以第1次输入模型、也可以第2次输入模型、还可以第3次输入模型。
91.一种可能的实现方式,若输入次数的计数值为3,表明目标图像是第3次输入模型。
92.前文所述的实施例中,介绍了如何确定目标图像在模型中的输入次数的技术方案。在本技术的另一实施例中,介绍了目标图像的属性参数具体包括什么的具体方案。例如,前文步骤中涉及的属性参数包括模型运行平台标识、图像信息、运算规则的标识以及运算规则的精度中的至少一项。
93.具体地,模型运行平台标识用于表征上述图像预测模型所运行的平台或设备,例如,可以是device id(平台编号)。
94.图像信息用于描述目标图像的信息,例如,可以是shape(张量)、像素、分辨率、大小、颜色、色彩通道等。
95.运算规则的标识用于表征图像预测模型对目标图像进行预测采用的运算规则。例如,运算规则的标识可以是operation(运算),其中operation可以是卷积运算或者矩阵乘法运算。
96.运算规则的精度用于表征算法的计算精度。例如,计算精度可以是float16或者float32。
97.前文所述的实施例中,介绍了目标图像的属性参数具体包括什么的技术方案。在本技术的另一实施例中,介绍了算法预测模型的训练过程,具体过程如下:
98.在一种可能的实现方式中,算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的。可以理解为,在算法预测模型的训练过程中,可以将输入图像预测模型的历史图像的属性参数(即历史属性参数)和属性参数对应的算法(即目标算法)分别作为训练样本和样本标签值。在算法预测模型的训练过程中,算法预测模型可以提取到训练样本的特征,并基于提取到的特征进行关联预测,获得算法预测模型输出的预测算法。
99.进一步,根据模型输出的预测算法与标签之间的损失对模型进行迭代训练,直到学习到的特征和样本标签之间的损失达到收敛,可以获得算法预测模型。进而,可以采用算法预测模型预测目标图像的候选算法。示例性的,算法预测模型用于从目标图像的所有算法中筛选出执行时长较短的多个算法,并将上述多个算法作为目标图像的候选算法。
100.前文所述的实施例中,介绍了算法预测模型的训练过程的技术方案,在本技术的另一实施例中,介绍了目标图像的候选算法触发流程,参见图8,图8为本技术实施例提供的触发目标图像的候选算法的流程图,流程中的具体执行步骤如下:
101.w1、新operation启动;
102.需要说明的是,此处的operation相当于本技术前文实施例中的运算规则的标识,可以理解为将输入图像四元组中的operation输入算法预测模型;
103.w2、在新operation启动后,算法预测模型判断输入图像的四元组是否相同;
104.若是,则执行w3;若否,则执行w4;
105.w3、输入图像的计数值累加一次;
106.需要说明的是,这里的计数值累加一次表明图像预测模型再一次接收相同的输入图像;
107.w4、在图像预测模型中运行固定算法,并将该固定算法作为输入图像在图像预测模型中运行的最终算法;
108.w5、计数值是否大于第一阈值;
109.需要说明的是,此处的计数值相当于本技术前文实施例中的输入次数;
110.若是,则执行w6;若否,则步骤执行结束;
111.w6、获取输入图像与历史输入图像的尺寸差值,尺寸差值是否小于第二阈值;
112.若是,则执行w7;若否,则步骤执行结束;
113.w7、将尺寸差值小于第二阈值的历史输入图像在图像预测模型中运行的最终算法作为输入图像的候选算法;
114.w8、运行上述输入图像的候选算法,并将候选算法中运行时长最短的算法作为输入图像在图像预测模型中的最终算法;
115.需要说明的是,此处的最终算法为输入图像的最终算法;
116.w9、计算运行上述候选算法的总时长与运行所有算法的总时长之间的差值;
117.w10、差值是否大于第三阈值;
118.若是,则在新的operation启动时,继续执行w1;若否;则步骤执行结束。
119.前文所述的实施例,介绍了目标图像的候选算法触发流程的技术方案。在本技术的另一实施例中,介绍了算法预测模型的训练过程和预测过程的具体方案,图9为本技术实施例提供的算法预测模型的训练过程和预测过程的流程图。参考图9,流程图中的具体执行步骤如下:
120.p1、cache数据中包含的训练样本为输入图像的四元组,即deviceid(平台编号)、operation(运算)、shape(张量)、param(算法的计算精度),训练样本对应的标签值为输入图像的algo(算法)、time(算法运行时间)、workspace(存储运算中间结果的额外空间);
121.需要说明的是,cache数据相当于本技术前文实施例中的缓存中的数据,device、operation、shape、param分别相当于本技术前文实施例中的模型运行平台标识、图像信息、运算规则的标识以及运算规则的精度中的至少一项。algo分别相当于本技术前文实施例中的目标算法。
122.p2、根据上述训练样本值和标签值训练算法预测模型;
123.p3、算法预测模型预测新数据,新数据为device、operation、shape、param;
124.p4、算法预测模型的预测结果可以是algo;
125.需要说明的是,此处的algo相当于本技术前文实施例中的目标算法。
126.前文所述的实施例介绍了介绍了算法预测模型的训练过程和预测过程的的技术方案。在本技术的另一实施例中,介绍了本技术的模型算法的选择方法的完整实施流程图,图10为本技术实施例提供的模型算法的选择方法的完整实施步骤的流程图,参见图10,模型算法的选择方法的具体执行步骤如下:
127.s1、当目标图像输入图像预测模型时,获取目标图像的属性参数;
128.需要说明的是,此处的目标图像就是输入图像,属性参数可以是四元组;
129.s2、将目标图像的属性参数输入算法预测模型;
130.需要说明的是,此处的算法预测模型用于筛选出输入图像的候选算法;
131.s3、算法预测模型是否可以输出一个或者多个算法;
132.需要说明的是,此处的一个或者多个算法相当于本技术前文实施例中的algo list,即候选算法;
133.若是,则执行s4;若否,则执行s5。
134.s4、则将一个或者多个算法中运行时间最短的算法作为目标图像在图像预测模型中的最终算法;
135.需要说明的是,此处的最终算法为输入图像在图像预测模型中的最终算法;
136.s5、获取目标图像在图像预测模型中的输入次数;
137.s6、输入次数是否小于第一阈值;
138.若是,则执行步骤s7;若否,则步骤执行结束。
139.s7、获取目标图像与一个或多个历史输入图像之间的尺寸差值;
140.s8、尺寸差值是否小于第二阈值;
141.若是,则执行步骤s9;若否,则步骤执行结束;
142.s9、确定一个或多个历史输入图像在图像预测模型中运行的最终算法。
143.s10、将满足第二阈值的历史输入图像在图像预测模型中运行的最终算法作为目标图像在图像预测模型中的候选算法。
144.s11、运行目标图像在图像预测模型中的候选算法,并将运行时间最短的某个候选算法作为目标图像在图像预测模型中运行的最终算法;
145.需要说明的是,此处的目标图像在图像预测模型中运行的最终算法为输入图像在图像预测模型中的最终算法。
146.在一个实施例中,如图11,提供了一种模型算法的选择装置,包括:预测单元1101、确定单元1102。其中:
147.预测单元1001,用于将目标图像的属性参数输入算法预测模型,获得算法预测模型输出的一个或多个候选算法;算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的,目标算法是根据历史属性参数和图像预测模型进行图像预测时所采用的算法;
148.确定单元1102,用于根据一个或多个候选算法,确定基于图像预测模型对目标图像进行预测所采用的最终算法。
149.在一个实施例中,确定单元1102,具体用于运行一个或多个候选算法,获得一个或多个候选算法的执行时长;基于最终算法选择机制确定执行时长最短的候选算法为最终算法。
150.在一个实施例中,确定单元1102,具体用于若一个或多个候选算法有缓存记录,则根据缓存记录确定一个或多个算法的执行时长;将一个或多个候选算法中执行时长最短的算法为最终算法。
151.在一个实施例中,用于若一个或多个候选算法缺失缓存记录,则基于图像预测模型的缓存记录以及目标图像在图像预测模型的输入次数确定图像预测模型对目标图像进行预测所采用的最终算法。
152.在一个实施例中,用于若输入次数达到第一阈值,则获取目标图像与一个或多个历史输入图像之间的尺寸差值;目标图像与历史输入图像的属性参数相同;若尺寸差值小于第二阈值,则确定一个或多个历史输入图像在图像预测模型中运行的最终算法;根据一个或多个历史输入图像对应的最终算法,确定图像预测模型对目标图像进行预测所采用的最终算法。
153.在一个实施例中,用于若图像预测模型的输入图像的属性参数相同,则将输入次数的计数值累加一次;根据输入次数的计数值确定目标图像在图像预测模型的输入次数。
154.在一个实施例中,属性参数包括:模型运行平台标识、图像信息、运算规则的标识以及运算规则的精度中的至少一项。
155.关于模型算法的选择装置的具体限定可以参见上文中对于模型算法的选择方法的限定,在此不在赘述。上述模型算法的选择装置的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各个模块可以以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备的存储器中,以便于处理器调用执行以上各个模块对应的操作。
156.在一个实施例中,提供了一种计算机设备。图1为本技术实施例提供的计算机设备的结构框图,参考图1。该计算设备包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
157.将目标图像的属性参数输入算法预测模型,获得算法预测模型输出的一个或多个候选算法;算法预测模型是根据至少一组历史属性参数以及至少一组属性参数对应的目标算法训练获得的,目标算法是根据历史属性参数和图像预测模型进行图像预测时所采用的算法;
158.根据一个或多个候选算法,确定基于图像预测模型对目标图像进行预测所采用的最终算法。
159.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
160.运行一个或多个候选算法,获得一个或多个候选算法的执行时长;
161.基于最终算法选择机制确定执行时长最短的候选算法为最终算法。
162.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
163.若一个或多个候选算法有缓存记录,则根据缓存记录确定一个或多个算法的执行时长;
164.将一个或多个候选算法中执行时长最短的算法为最终算法。
165.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
166.若一个或多个候选算法缺失缓存记录,则基于图像预测模型的缓存记录以及目标图像在图像预测模型的输入次数确定图像预测模型对目标图像进行预测所采用的最终算法。
167.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
168.若输入次数达到第一阈值,则获取目标图像与一个或多个历史输入图像之间的尺寸差值;目标图像与历史输入图像的属性参数相同;
169.若尺寸差值小于第二阈值,则确定一个或多个历史输入图像在图像预测模型中运行的最终算法;
170.根据一个或多个历史输入图像对应的最终算法,确定图像预测模型对目标图像进行预测所采用的最终算法。
171.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
172.若图像预测模型的输入图像的属性参数相同,则将输入次数的计数值累加一次;属性参数包括模型运行平台标识、图像信息、运算规则的标识以及运算规则的精度中的至少一项;
173.根据输入次数的计数值确定目标图像在图像预测模型的输入次数。
174.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本技术所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(read-only memory,rom)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(random access memory,ram)或外部高速缓冲存储器。作为说明而非局限,ram可以是多种形式,比如静态随机存取存储器(static random access memory,sram)或动态随机存取存储器(dynamic random access memory,dram)等。
175.本技术实施例提供一种计算机程序产品,该计算机程序产品包括指令,当该指令被运行时,使得如本技术实施例描述的方法被执行。例如,可以执行图2所示的模型算法的选择方法的各个步骤。
176.以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
177.以上实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保护范围。因此,本技术专利的保护范围应以所附权利要求为准。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1