用于超参数搜索的参数配置方法、训练方法及相关设备与流程

文档序号:30370228发布日期:2022-06-11 00:23阅读:113来源:国知局
用于超参数搜索的参数配置方法、训练方法及相关设备与流程

1.本技术涉及人工智能技术领域,特别是涉及一种用于超参数搜索的参数配置方法、训练方法及相关设备。


背景技术:

2.近年来随着云计算技术、分布式计算技术、深度学习技术的不断发展,关于如何在分布式环境下进行大规模深度学习自动化训练的问题越来越受到关注。
3.基于超参数搜索和分布式并行计算技术是进行大规模深度学习自动化训练的业界共识。例如,流行的autogluon项目、nin项目等均是基于这一技术实现了深度学习自动化训练。其中,超参数搜索实际就是通过搜索算法找到最优的超参数的过程,从而,超参数搜索的参数配置就尤为重要。


技术实现要素:

4.本技术至少提供一种用于超参数搜索的参数配置方法、训练方法及相关设备。
5.本技术第一方面提供了一种用于超参数搜索的参数配置方法,所述超参数搜索用于深度学习模型,包括:获取并显示用于所述超参数搜索的至少一个任务节点,其中,所述至少一个任务节点被预设轮廓包围成一预设区域;响应于对所述预设区域的第一选择操作,获取并保存所述至少一个任务节点的第一配置参数集,以实现对所述至少一个任务节点的整体配置;以及响应于对所述至少一个任务节点中的任一任务节点的第二选择操作,获取并保存所述任一任务节点的第二配置参数集,以实现对所述任一任务节点的单独配置,其中,所述第二配置参数集包括所述第一配置参数集中所述任一任务节点的至少一个配置参数。
6.上述方案中,通过获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域,响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,实现将任意若干任务节点同时作为一个整体的前端交互,以及可视化参数配置,同时避免误选中的问题,更符合操作直觉,体验友好。
7.在一些实施例中,预设轮廓与预设区域包括以下中的一种:圆角凸包轮廓与不规则形状区域;圆形轮廓与圆形区域;以及矩形轮廓与矩形区域。通过预设轮廓与预设区域,可以任意选择若干任务节点进行后续的参数配置操作。进一步地,通过预设轮廓与预设区域为圆角凸包轮廓与不规则形状区域,不容易将未选中的任务节点进行聚类,避免误选中。
8.在一些实施例中,该方法进一步包括:响应于对预设区域中位于至少一个任务节点所占区域之外区域的第三选择操作,获取并显示至少一个任务节点的整体配置,以实现切换到对至少一个任务节点的整体配置。通过响应于对预设区域中位于至少一个任务节点
所占区域之外区域的第三选择操作,获取并显示至少一个任务节点的整体配置,以实现切换到对至少一个任务节点的整体配置,实现可视化切换,提高可视化配置的体验。
9.在一些实施例中,第一选择操作包括预设区域的预设轮廓以第一效果显示;第二选择操作包括预设区域的预设轮廓以第二效果显示以及任一任务节点所占区域以第一效果显示,其中第一效果与第二效果不同。通过第一选择操作包括预设区域的预设轮廓以第一效果显示;第二选择操作包括预设区域的预设轮廓以第二效果显示以及任一任务节点所占区域以第一效果显示,方便快速分辨,避免漏掉重要操作,进一步提高可视化配置的体验。
10.在一些实施例中,第三选择操作包括预设区域的预设轮廓以第一效果显示以及任一任务节点所占区域以第二效果显示。通过第三选择操作包括预设区域的预设轮廓以第一效果显示以及任一任务节点所占区域以第二效果显示,方便快速分辨,避免漏掉重要操作,提高可视化切换的效率,进一步提高可视化配置的体验。
11.在一些实施例中,第一配置参数集至少包括超参数搜索算法相关的配置参数以及超参数搜索对应的训练任务的输入参数集中需要搜索的至少一个输入参数。通过第一配置参数集至少包括超参数搜索算法相关的配置参数以及超参数搜索对应的训练任务的输入参数集中需要搜索的至少一个输入参数,实现灵活设置超参数搜索的参数,适用大规模深度学习自动化训练,提高了深度学习模型本身的迭代速度,节省人力和时间成本。
12.在一些实施例中,第一配置参数集进一步包括使深度学习模型的训练结果可视化的相关参数。通过第一配置参数集进一步包括使深度学习模型的训练结果可视化的相关参数,实现训练结果可视化,方便实时了解深度学习模型的训练过程。
13.本技术第二方面提供了一种用于深度学习模型的训练方法,包括:响应于针对训练任务的深度学习开启操作,执行超参数搜索的参数配置流程,从而执行针对所述训练任务的超参数搜索任务,以获得针对所述训练任务的输入参数集;以及依据所述输入参数集,执行所述训练任务,以对所述深度学习模型进行训练,得到训练结果;其中,所述超参数搜索的参数配置流程包括如第一方面所述的用于超参数搜索的参数配置方法。
14.本技术第三方面提供了一种用于超参数搜索的参数配置装置,其特征在于,所述超参数搜索用于深度学习模型,包括:显示模块,用于获取并显示用于所述超参数搜索的至少一个任务节点,其中,所述至少一个任务节点被预设轮廓包围成一预设区域;第一获取模块,用于响应于对所述预设区域的第一选择操作,获取并保存所述至少一个任务节点的第一配置参数集,以实现对所述至少一个任务节点的整体配置;以及第二获取模块,用于响应于对所述至少一个任务节点中的任一任务节点的第二选择操作,获取并保存所述任一任务节点的第二配置参数集,以实现对所述任一任务节点的单独配置,其中,所述第二配置参数集包括所述第一配置参数集中所述任一任务节点的至少一个配置参数。
15.本技术第四方面提供了一种用于深度学习模型的训练装置,包括:第一执行模块,用于响应于针对训练任务的深度学习开启操作,执行超参数搜索的参数配置操作,从而执行针对所述训练任务的超参数搜索任务,以获得针对所述训练任务的输入参数集;以及第二执行模块,用于依据所述输入参数集,执行所述训练任务,以对所述深度学习模型进行训练,得到训练结果;其中,所述第一执行模块包括如第三方面所述的用于超参数搜索的参数配置装置。
16.本技术第五方面提供了一种电子设备,包括相互耦接的存储器和处理器,处理器用于执行存储器中存储的程序指令,以实现上述第一方面中的用于超参数搜索的参数配置方法或上述第二方面的深度学习模型的训练方法。
17.本技术第六方面提供了一种非易失性计算机可读存储介质,其上存储有程序指令,程序指令被处理器执行时实现上述第一方面中的用于超参数搜索的参数配置方法或上述第二方面的深度学习模型的训练方法。
18.上述方案中,通过获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域,响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,实现将任意若干任务节点同时作为一个整体的前端交互,以及可视化参数配置,同时避免误选中的问题,更符合操作直觉,体验友好。
19.应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本技术。
附图说明
20.此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本技术的实施例,并与说明书一起用于说明本技术的技术方案。
21.图1是本技术实施例的用于超参数搜索的参数配置方法的流程示意图;
22.图2是本技术实施例的用于超参数搜索的操作界面的示意图;
23.图3是本技术实施例的深度学习模型的训练方法的流程示意图;
24.图4是本技术实施例的用于超参数搜索的参数配置装置的框架示意图;
25.图5是本技术实施例的用于深度学习模型的训练装置的框架示意图;
26.图6是本技术实施例的电子设备的框架示意图;
27.图7是本技术实施例的非易失性计算机可读存储介质的框架示意图。
具体实施方式
28.下面结合说明书附图,对本技术实施例的方案进行详细说明。
29.以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、接口、技术之类的具体细节,以便透彻理解本技术。
30.本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。此外,本文中的“多”表示两个或者多于两个。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括a、b、c中的至少一种,可以表示包括从a、b和c构成的集合中选择的任意一个或多个元素。
31.请参阅图1,图1是本技术实施例的用于超参数搜索的参数配置方法的流程示意图。该方法可以由电子设备,例如,终端设备或服务器或其它处理设备执行,其中,终端设备
可以为用户设备(user equipment,ue)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(personal digital assistant,pda)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
32.具体而言,如图1所示,可以包括如下步骤:
33.步骤s11:获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域。
34.超参数搜索用于深度学习模型,是通过搜索算法找到最优超参数的过程,其中,超参数是在开始训练过程之前,用预先确定的值来手动设置的参数,而不是通过训练得到的参数数据。
35.超参数搜索的至少一个任务节点可以在用于超参数搜索的操作界面显示,其中,每个任务节点具有节点标识,例如,节点id。至少一个任务节点被预设轮廓包围成一预设区域,具体地,在用于超参数搜索的操作界面上,至少一个任务节点先被选中,将至少一个任务节点中所有任务节点的节点id传入特定聚类方法,生成预设轮廓,以包围至少一个任务节点中所有任务节点,从而至少一个任务节点中所有任务节点被聚类,形成预设区域,可作为一个整体。
36.在一些实施例中,预设轮廓与预设区域包括以下中的一种:圆角凸包轮廓与不规则形状区域;圆形轮廓与圆形区域;矩形轮廓与矩形区域。每个任务节点在操作界面的坐标可以是规则图形,也可以是不规则图形,从而,预设轮廓和预设区域可以根据至少一个任务节点的实际情况来选择,例如,根据任务节点在操作界面的坐标来实际选择。例如,至少一个任务节点中每个任务节点在操作界面的坐标均是规则图形,可以采用圆形轮廓与圆形区域或者矩形轮廓与矩形区域,以将至少一个任务节点聚类成为一整体。又例如,至少一个任务节点中每个任务节点在操作界面的坐标均是不规则图形,可以采用圆角凸包轮廓与不规则形状区域,以将至少一个任务节点聚类成为一整体。再例如,至少一个任务节点中部分任务节点在操作界面的坐标是不规则图形,部分任务节点在操作界面上的坐标为规则图形,可以采用圆角凸包轮廓与不规则形状区域,以将至少一个任务节点聚类成为一整体。通过预设轮廓与预设区域,可以任意选择若干任务节点进行后续的参数配置操作。
37.例如,如图2所示,为本技术实施例的用于超参数搜索的操作界面的示意图,其中,操作界面20上显示4个任务节点23,预设轮廓21为圆角凸包轮廓,预设区域22为不规则形状区域。圆角凸包轮廓是基于antv g6框架中的create hull方法生成的。在图2的实施例中,通过预设轮廓与预设区域为圆角凸包轮廓与不规则形状区域,可以任意选择若干任务节点进行后续的参数配置操作,不容易将未选中的任务节点进行聚类,避免误选中。
38.步骤s12:响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置。
39.对预设区域的第一选择操作可以是点击预设区域,从而预设区域被选中,即其中的至少一个任务节点一起被选中。
40.至少一个任务节点的第一配置参数集是依据针对训练深度学习模型的超参数搜索任务的功能而配置的。
41.响应于对预设区域的第一选择操作,对预设区域进行整体的参数配置,从而得到
至少一个任务节点的第一配置参数集,实现整体配置。参数配置可以是一系列的操作。例如,参数配置可以是根据至少一个任务节点的第一配置参数集中配置参数的数量而变化的操作。当第一配置参数集中包括3个配置参数,则存在3个参数配置操作,每个参数配置操作对应一个配置参数。
42.至少一个任务节点的第一配置参数集,表示至少一个任务节点中的每个任务节点均包括第一配置参数集,即第一配置参数集是至少一个任务节点的共同配置参数。
43.对预设区域的整体的参数配置可以是用于超参数搜索的操作界面上第一子操作界面中的一个或多个控件被触发而生成的操作。第一子操作界面可以是用于超参数搜索的操作界面上弹出的界面,可以位于用于超参数搜索的操作界面的右侧。
44.例如,第一子操作界面上提供有多个列表控件,例如列表控件l1、l2和l3,每个列表控件表征一类配置文件,该类配置文件包括多个配置参数,例如,列表控件l1表征配置文件1,列表控件l2表征配置文件2,列表控件l3表征配置文件3,其中,配置文件1中的部分或全部配置参数、配置文件2中的部分或全部配置参数以及配置文件3中的部分或全部配置参数构成第一配置参数集。当某个列表控件被选中时,例如,列表控件l1被选中,例如,列表控件l1被选中,操作界面上显示一个或多个输入控件。当某个输入控件被输入相应的相应参数名称及参数值时,即该输入控件被触发,生成参数配置操作,从而配置文件1中的某个配置参数设置成功,即得到第一配置参数集中的一个配置参数,依次类推,配置文件2和3中的配置参数设置成功,即得到第一配置参数集中的其他配置参数。
45.步骤s13:响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置。
46.对任一任务节点的第二选择操作可以是点击该任务节点所占区域,从而该任务节点被选中。
47.响应于对至少一个任务节点中的任一任务节点的第二选择操作,对该任务节点进行单独的参数配置,从而得到该任务节点的第二配置参数集,实现单独配置,其中,在对预设区域进行整体配置时所配置的配置参数,直接获取并保存即可,无需再配置,即第二配置参数集包括第一配置参数集中任一任务节点的至少一个配置参数,也就是说,第二配置参数集与第一配置参数集中共同存在的这至少一个配置参数无需再配置。
48.对任一任务节点的单独的参数配置可以是用于超参数搜索的操作界面上第二子操作界面的一个或多个控件被触发而生成的操作。第二子操作界面可以是用于超参数搜索的操作界面上弹出的界面,也可以位于用于超参数搜索的操作界面的右侧。需要说明的是,在第二子操作界面也位于超参数搜索的操作界面的右侧的示例中,在弹出第二子操作界面时,第二子操作界面覆盖第一子操作界面。
49.例如,第二子操作界面上提供有一个或多个输入控件。当某个输入控件被输入相应的相应参数名称及参数值时,即该输入控件被触发,生成参数配置操作,某个配置参数设置成功,即得到第二配置参数集中的一个配置参数,依次类推,得到第二配置参数集中的其他配置参数,其中第二配置参数集与第一配置参数集中共同存在的配置参数无需再配置。
50.在一些示例中,第二配置参数集与第一配置参数集中共同存在的至少一个配置参数可以在单独配置的第二子操作界面进行标记,例如,用已配置的标识进行标记。
51.上述方案中,通过获取并显示用于超参数搜索的至少一个任务节点,其中,至少一
个任务节点被预设轮廓包围成一预设区域,响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,实现将任意若干任务节点同时作为一个整体的前端交互,以及可视化参数配置,同时避免误选中的问题,更符合操作直觉,体验友好。
52.如上述,响应于对预设区域的第一选择操作,实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,实现对任一任务节点的单独配置。在一些实施例中,在上述实施例的基础上,该方法进一步包括:响应于对预设区域的第三选择操作,获取并显示至少一个任务节点的整体配置,以实现切换到对至少一个任务节点的整体配置。
53.对预设区域的第三选择操作可以是点击预设区域,从而预设区域被选中,即其中的至少一个任务节点一起被选中。
54.响应于对预设区域的第三选择操作,对预设区域进行整体的参数配置,实现整体配置。对预设区域的整体配置,在上述实施例中已详细说明,为了简洁,在此不再赘述。
55.本公开实施例中,通过响应于对预设区域中位于至少一个任务节点所占区域之外区域的第三选择操作,获取并显示至少一个任务节点的整体配置,以实现切换到对至少一个任务节点的整体配置,实现可视化切换,提高可视化配置的体验。
56.如上述,对预设区域的第一选择操作可以是点击预设区域,对任一任务节点的第二选择操作可以是点击该任务节点所占区域。在一些实施例中,第一选择操作包括预设区域的预设轮廓以第一效果显示;第二选择操作包括预设区域的预设轮廓以第二效果显示以及任一任务节点所占区域以第一效果显示,其中第一效果与第二效果不同。
57.在对至少一个任务节点的整体配置时,预设区域的预设轮廓以第一效果显示,例如,第一效果为高亮效果,随后,在对任一任务节点的单独配置时,预设区域的预设轮廓以第二效果显示,例如,第二效果为非高亮效果,并且所选中的任一任务节点所占区域以第一效果显示,即以高亮效果显示。
58.在一些示例中,高亮效果可以为颜色显示,例如,蓝色,非高亮效果则为非颜色显示,即不显示轮廓。
59.本公开实施例中,通过第一选择操作包括预设区域的预设轮廓以第一效果显示;第二选择操作包括预设区域的预设轮廓以第二效果显示以及任一任务节点所占区域以第一效果显示,方便快速分辨,避免漏掉重要操作,进一步提高可视化配置的体验。
60.在一些实施例中,第三选择操作包括预设区域的预设轮廓以第一效果显示以及任一任务节点所占区域以第二效果显示。
61.在对至少一个任务节点的整体配置时,预设区域的预设轮廓以第一效果显示,例如,第一效果为高亮效果。随后,在对任一任务节点的单独配置时,预设区域的预设轮廓以第二效果显示,例如,第二效果为非高亮效果,并且所选中的任一任务节点所占区域以第一效果显示,即以高亮效果显示。随后,切换到对至少一个任务节点的整体配置时,预设区域的预设轮廓以第一效果显示以及任一任务节点所占区域以第二效果显示。
62.本公开实施例中,通过第三选择操作包括预设区域的预设轮廓以第一效果显示以
及任一任务节点所占区域以第二效果显示,方便快速分辨,避免漏掉重要操作,提高可视化切换的效率,进一步提高可视化配置的体验。
63.如上述,至少一个任务节点的第一配置参数集是依据针对训练深度学习模型的超参数搜索任务的功能而配置的,在一些实施例中,第一配置参数集至少包括超参数搜索算法相关的配置参数以及超参数搜索对应的训练任务的输入参数集中需要搜索的至少一个输入参数。
64.第一配置参数集包括超参数搜索算法相关的配置参数,本技术并不限制超参数搜索算法,因此,可以理解的是,相关的配置参数可以依据不同的超参数搜索算法不同而不同。
65.第一配置参数集包括需要搜索的至少一个输入参数,例如,参数batchsize,其作为一个输入参数可以配置成categorical(离散型)的搜索参数,搜索的离散值为64和128,其它continuous(连续型)、nested(组合型)和file(文件型)也都可以相应配置。
66.本公开实施例中,通过第一配置参数集至少包括超参数搜索算法相关的配置参数以及超参数搜索对应的训练任务的输入参数集中需要搜索的至少一个输入参数,实现灵活设置超参数搜索的参数,适用大规模深度学习自动化训练,提高了深度学习模型本身的迭代速度,节省人力和时间成本。
67.在另一些实施例中,在上述实施例的基础上,第一配置参数集进一步包括使深度学习模型的训练结果可视化的相关参数。使训练结果可视化可以通过相关可视化算法来实现,本技术并不限制此。
68.本公开实施例中,通过第一配置参数集进一步包括使深度学习模型的训练结果可视化的相关参数,实现训练结果可视化,方便实时了解深度学习模型的训练过程。
69.请参阅图3,图3是本技术实施例的深度学习模型的训练方法的流程示意图。该方法可以由电子设备,例如,终端设备或服务器或其它处理设备执行,其中,终端设备可以为用户设备(user equipment,ue)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(personal digital assistant,pda)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
70.具体而言,如图3所示,可以包括如下步骤:
71.步骤s31:响应于针对训练任务的深度学习开启操作,执行超参数搜索的参数配置流程,从而执行针对训练任务的超参数搜索任务,以获得针对训练任务的输入参数集。
72.训练任务指训练深度学习模型的任务。在一些实施例中,训练任务为已封装的工作流,即该训练任务被封装成工作流,以便支持不同的调度。在一些示例中,该工作流为automl pipeline,包含一个高阶组件automl component。
73.深度学习开启操作可以是用于训练任务的操作界面上的控件被触发而生成的,该控件可以由功能插件来实现。例如,操作界面上的控件可以为选择控件,当该选择控件被点击而处于第一状态时,表示深度学习开启操作,当该选择控件被点击而处于第二状态时,表示深度学习关闭操作。
74.其中,超参数搜索的参数配置流程包括上述实施例的用于超参数搜索的参数配置方法。
75.关于用于超参数搜索的参数配置方法的描述,详见上述实施例,为了简洁,在此不再解释。
76.步骤s32:依据输入参数集,执行训练任务,以对深度学习模型进行训练,得到训练结果;
77.依据输入参数集,执行训练任务,实现对深度学习模型的训练。
78.上述方案中,通过响应于针对训练任务的深度学习开启操作,执行超参数搜索的参数配置操作,从而执行针对训练任务的超参数搜索任务,以获得针对训练任务的输入参数集,在执行超参数搜索的参数配置操作时,通过获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域,响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,实现将任意若干任务节点同时作为一个整体的前端交互,以及可视化参数配置,同时避免误选中的问题,更符合操作直觉,体验友好。
79.本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
80.请参阅图4,图4是本技术实施例的用于超参数搜索的参数配置装置的框架示意图。超参数搜索用于深度学习模型,该参数配置装置40包括显示模块41、第一获取模块42和第二获取模块43。显示模块41用于获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域;第一获取模块42用于响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置;第二获取模块43用于响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,其中,第二配置参数集包括第一配置参数集中任一任务节点的至少一个配置参数。
81.上述方案中,通过获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域,响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,实现将任意若干任务节点同时作为一个整体的前端交互,以及可视化参数配置,同时避免误选中的问题,更符合操作直觉,体验友好。
82.在一些实施例中,预设轮廓与预设区域包括以下中的一种:圆角凸包轮廓与不规则形状区域;圆形轮廓与圆形区域;以及矩形轮廓与矩形区域。通过预设轮廓与预设区域,可以任意选择若干任务节点进行后续的参数配置操作。进一步地,通过预设轮廓与预设区域为圆角凸包轮廓与不规则形状区域,不容易将未选中的任务节点进行聚类,避免误选中。
83.在一些实施例中,该方法进一步包括:响应于对预设区域中位于至少一个任务节点所占区域之外区域的第三选择操作,获取并显示至少一个任务节点的整体配置,以实现切换到对至少一个任务节点的整体配置。通过响应于对预设区域中位于至少一个任务节点
所占区域之外区域的第三选择操作,获取并显示至少一个任务节点的整体配置,以实现切换到对至少一个任务节点的整体配置,实现可视化切换,提高可视化配置的体验。
84.在一些实施例中,第一选择操作包括预设区域的预设轮廓以第一效果显示;第二选择操作包括预设区域的预设轮廓以第二效果显示以及任一任务节点所占区域以第一效果显示,其中第一效果与第二效果不同。通过第一选择操作包括预设区域的预设轮廓以第一效果显示;第二选择操作包括预设区域的预设轮廓以第二效果显示以及任一任务节点所占区域以第一效果显示,方便快速分辨,避免漏掉重要操作,进一步提高可视化配置的体验。
85.在一些实施例中,第三选择操作包括预设区域的预设轮廓以第一效果显示以及任一任务节点所占区域以第二效果显示。通过第三选择操作包括预设区域的预设轮廓以第一效果显示以及任一任务节点所占区域以第二效果显示,方便快速分辨,避免漏掉重要操作,提高可视化切换的效率,进一步提高可视化配置的体验。
86.在一些实施例中,第一配置参数集至少包括超参数搜索算法相关的配置参数以及超参数搜索对应的训练任务的输入参数集中需要搜索的至少一个输入参数。通过第一配置参数集至少包括超参数搜索算法相关的配置参数以及超参数搜索对应的训练任务的输入参数集中需要搜索的至少一个输入参数,实现灵活设置超参数搜索的参数,适用大规模深度学习自动化训练,提高了深度学习模型本身的迭代速度,节省人力和时间成本。
87.在一些实施例中,第一配置参数集进一步包括使深度学习模型的训练结果可视化的相关参数。通过第一配置参数集进一步包括使深度学习模型的训练结果可视化的相关参数,实现训练结果可视化,方便实时了解深度学习模型的训练过程。
88.请参阅图5,图5是本技术实施例的用于深度学习模型的训练装置的框架示意图。该训练装置50包括第一执行模块51和第二执行模块52。第一执行模块51,用于响应于针对训练任务的深度学习开启操作,执行超参数搜索的参数配置操作,从而执行针对训练任务的超参数搜索任务,以获得针对训练任务的输入参数集;第二执行模块52用于依据输入参数集,执行训练任务,以对深度学习模型进行训练,得到训练结果;其中,第一执行模块51包括上述实施例的用于超参数搜索的参数配置装置40。
89.上述方案中,通过响应于针对训练任务的深度学习开启操作,执行超参数搜索的参数配置操作,从而执行针对训练任务的超参数搜索任务,以获得针对训练任务的输入参数集,在执行超参数搜索的参数配置操作时,通过获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域,响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,实现将任意若干任务节点同时作为一个整体的前端交互,以及可视化参数配置,同时避免误选中的问题,更符合操作直觉,体验友好。
90.请参阅图6,图6是本技术实施例的电子设备的框架示意图。电子设备60包括相互耦接的存储器61和处理器62,处理器62用于执行存储器61中存储的程序指令,以实现上述任一深度学习模型的训练方法实施例中的步骤。在一个具体的实施场景中,电子设备60可以包括但不限于:微型计算机、服务器,此外,电子设备60还可以包括笔记本电脑、平板电脑
等移动设备,在此不做限定。
91.具体而言,处理器62用于控制其自身以及存储器61以实现上述用于超参数搜索的参数配置方法,或实现上述用于深度学习模型的训练方法实施例中的步骤。处理器62还可以称为cpu(central processing unit,中央处理单元)。处理器62可能是一种集成电路芯片,具有信号的处理能力。处理器62还可以是通用处理器、数字信号处理器(digital signal processor,dsp)、专用集成电路(application specific integrated circuit,asic)、现场可编程门阵列(field-programmable gate array,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。另外,处理器62可以由集成电路芯片共同实现。
92.上述方案中,通过获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域,响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,实现将任意若干任务节点同时作为一个整体的前端交互,以及可视化参数配置,同时避免误选中的问题,更符合操作直觉,体验友好。
93.请参阅图7,图7为本技术实施例的非易失性计算机可读存储介质的框架示意图。非易失性计算机可读存储介质70存储有能够被处理器运行的程序指令701,程序指令701用于实现上述用于超参数搜索的参数配置方法,或实现上述用于深度学习模型的训练方法实施例中的步骤。
94.上述方案中,通过获取并显示用于超参数搜索的至少一个任务节点,其中,至少一个任务节点被预设轮廓包围成一预设区域,响应于对预设区域的第一选择操作,获取并保存至少一个任务节点的第一配置参数集,以实现对至少一个任务节点的整体配置,响应于对至少一个任务节点中的任一任务节点的第二选择操作,获取并保存任一任务节点的第二配置参数集,以实现对任一任务节点的单独配置,实现将任意若干任务节点同时作为一个整体的前端交互,以及可视化参数配置,同时避免误选中的问题,更符合操作直觉,体验友好。
95.在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
96.上文对各个实施例的描述倾向于强调各个实施例之间的不同之处,其相同或相似之处可以互相参考,为了简洁,本文不再赘述。
97.在本技术所提供的几个实施例中,应该理解到,所揭露的方法和装置,可以通过其它的方式实现。例如,以上所描述的装置实施方式仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性、机械或其它的形式。
98.另外,在本技术各个实施例中的各功能单元可以集成在一个处理单元中,也可以
是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
99.集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本技术各个实施方式方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read-only memory)、随机存取存储器(ram,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1