一种功耗调控方法、装置、设备及可读存储介质与流程

文档序号:23397177发布日期:2020-12-22 14:48阅读:209来源:国知局
一种功耗调控方法、装置、设备及可读存储介质与流程

本申请涉及计算机技术领域,特别涉及一种功耗调控方法、装置、设备及可读存储介质。



背景技术:

目前,可以通过os(operatingsystem,操作系统)带内的方式对传统机架式服务器进行功耗调控。其中,对传统机架式服务器进行功耗调控主要是对服务器中的内存、cpu(centralprocessingunit,中央处理器)、风扇等进行调控,因为这些部件的总功耗占整个服务器功耗的较大部分,因此调控这些部件的功耗就可以调控服务器的功耗。

在ai(artificialintelligence)计算节点中,计算芯片的功耗占整个ai计算节点功耗的较大部分,内存、cpu、风扇等的功耗占整个ai计算节点功耗的较小部分,因此对ai计算节点中的内存、cpu、风扇的功耗进行调整,无法有效调控ai计算节点的功耗。可见,现有的调控服务器功耗的方式不适用于调控ai计算节点。

因此,如何调控ai计算节点的功耗,是本领域技术人员需要解决的问题。



技术实现要素:

有鉴于此,本申请的目的在于提供一种功耗调控方法、装置、设备及可读存储介质,以调控ai计算节点的功耗。其具体方案如下:

第一方面,本申请提供了一种功耗调控方法,包括:

若ai计算节点的节点功耗值大于警戒功耗值,则利用bmc获取所述ai计算节点中的各个计算芯片的芯片功耗值;

根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果;

若所述节点功耗值大于封顶功耗值,则查询所述分组结果对应的功耗调控策略,并按照所述功耗调控策略调整各个计算芯片的功耗限制值,以使所有功耗限制值之和处于目标范围;所述警戒功耗值小于所述封顶功耗值;所述功耗调控策略基于所述目标范围预先设定,所述目标范围用于调控所述ai计算节点中的各个计算芯片的能效值。

优选地,所述利用bmc获取所述ai计算节点中的各个计算芯片的芯片功耗值之前,还包括:

利用所述bmc实时监控所述节点功耗值,若所述节点功耗值大于所述警戒功耗值,则开启功耗调控功能。

优选地,所述利用所述bmc实时监控所述节点功耗值,包括:

控制所述bmc通过pmbus总线监控所述节点功耗值。

优选地,所述利用bmc获取所述ai计算节点中的各个计算芯片的芯片功耗值,包括:

利用所述bmc读所述ai计算节点中的各个计算芯片的电流值,以获得相应芯片功耗值。

优选地,所述根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果,包括:

按照获取到的分组指令对各个计算芯片进行分组,获得所述分组结果;

获取所述目标范围中的最优功耗值,将大于所述最优功耗值的计算芯片划分至第一组,将不大于所述最优功耗值的计算芯片划分至第二组,将所述第一组和所述第二组作为所述分组结果;

获取所述目标范围中的最优功耗值,以所述最优功耗值为中值确定缓冲区间,将不属于所述缓冲区间且大于所述最优功耗值的计算芯片划分至第一组,将不属于所述缓冲区间且不大于所述最优功耗值的计算芯片划分至第二组;

计算所述第一组对应的第一功耗梯度,所述第二组对应的第二功耗梯度,以及属于所述缓冲区间中的每个计算芯片对应的芯片功耗梯度;

计算任一个芯片功耗梯度与所述第一功耗梯度的第一相似度,与所述第二功耗梯度的第二相似度,若所述第一相似度大于所述第二相似度,则将所述芯片功耗梯度对应的计算芯片添加至所述第一组,若所述第一相似度小于所述第二相似度,则将所述芯片功耗梯度对应的计算芯片添加至所述第二组,将所述第一组和所述第二组作为所述分组结果。

优选地,所述目标范围的确定过程包括:

利用性能基准测试工具获取所述ai计算节点中的任一个计算芯片在不同芯片功耗值下的各个能效值;所述ai计算节点中的各个计算芯片完全相同;

计算各个能效值与tdp能效值的比值;

将大于预设阈值的比值对应的能效值添加至能效调控区间,将所述能效调控区间对应的各个芯片功耗值确定为所述目标范围。

优选地,所述计算芯片为gpu、npu、fpga或asic。

第二方面,本申请提供了一种功耗调控装置,包括:

获取模块,用于若ai计算节点的节点功耗值大于警戒功耗值,则利用bmc获取所述ai计算节点中的各个计算芯片的芯片功耗值;

分组模块,用于根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果;

调控模块,用于若所述节点功耗值大于封顶功耗值,则查询所述分组结果对应的功耗调控策略,并按照所述功耗调控策略调整各个计算芯片的功耗限制值,以使所有功耗限制值之和处于目标范围;所述警戒功耗值小于所述封顶功耗值;所述功耗调控策略基于所述目标范围预先设定,所述目标范围用于调控所述ai计算节点中的各个计算芯片的能效值。

第三方面,本申请提供了一种功耗调控设备,包括:

存储器,用于存储计算机程序;

处理器,用于执行所述计算机程序,以实现前述公开的功耗调控方法。

第四方面,本申请提供了一种可读存储介质,用于保存计算机程序,其中,所述计算机程序被处理器执行时实现前述公开的功耗调控方法。

通过以上方案可知,本申请提供了一种功耗调控方法,包括:若ai计算节点的节点功耗值大于警戒功耗值,则利用bmc获取所述ai计算节点中的各个计算芯片的芯片功耗值;根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果;若所述节点功耗值大于封顶功耗值,则查询所述分组结果对应的功耗调控策略,并按照所述功耗调控策略调整各个计算芯片的功耗限制值,以使所有功耗限制值之和处于目标范围;所述警戒功耗值小于所述封顶功耗值;所述功耗调控策略基于所述目标范围预先设定,所述目标范围用于调控所述ai计算节点中的各个计算芯片的能效值。

可见,本申请在ai计算节点的节点功耗值大于警戒功耗值时,利用bmc获取ai计算节点中的各个计算芯片的芯片功耗值;然后在节点功耗值大于封顶功耗值时,根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果;最后查询分组结果对应的功耗调控策略,并按照功耗调控策略调整各个计算芯片的功耗限制值,以使所有功耗限制值之和处于目标范围;其中,功耗调控策略基于目标范围预先设定,且目标范围用于调控ai计算节点中的各个计算芯片的能效值,因此按照功耗调控策略调整各个计算芯片的功耗限制值不仅调控了各个计算芯片的功耗,还可以有效调控各个计算芯片的能效值,从而保障ai计算节点的能效。

相应地,本申请提供的一种功耗调控装置、设备及可读存储介质,也同样具有上述技术效果。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为本申请公开的一种功耗调控方法流程图;

图2为本申请公开的一种ai计算节点的结构示意图;

图3为本申请公开的一种警戒功耗值、封顶功耗值以及节点最大功耗的关系示意图;

图4为本申请公开的一种分组示意图;

图5为本申请公开的一种能效与功耗的关系示意图;

图6为本申请公开的另一种功耗调控方法流程图;

图7为本申请公开的一种功耗调控装置示意图;

图8为本申请公开的一种功耗调控设备示意图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

目前,现有的调控服务器功耗的方式不适用于调控ai计算节点。为此,本申请提供了一种功耗调控方案,能够调控ai计算节点的功耗,并保障ai计算节点的能效。

参见图1所示,本申请实施例公开了第一种功耗调控方法,包括:

s101、若ai计算节点的节点功耗值大于警戒功耗值,则利用bmc获取ai计算节点中的各个计算芯片的芯片功耗值。

需要说明的是,ai计算节点为运行某种机器学习算法的设备,其可以为服务器等设备。ai计算节点中一般包括多个计算芯片,这些计算芯片是ai计算节点功耗的主要部件。此外,ai计算节点的其他功耗部件为内存、cpu、风扇等。ai计算节点的结构可参见图2。在图2中,dmi(directmediainterface)为用于连接主板南北桥的总线,upi(ultrapathinterconnect)是处理器之间的通信方式。i2c选路芯片用于选择任一个gpu(graphicsprocessingunit,图形处理器)所在的链路。

在一种具体实施方式中,利用bmc(baseboardmanagementcontroller,基板管理控制器)获取ai计算节点中的各个计算芯片的芯片功耗值之前,还包括:利用bmc实时监控节点功耗值,若节点功耗值大于警戒功耗值,则开启功耗调控功能.此时先对各个计算芯片的功耗进行监控和收集;警戒功耗值小于封顶功耗值。其中,利用bmc实时监控节点功耗值,包括:控制bmc通过pmbus总线监控节点功耗值。pmbus(powermanagementbus)总线即电源管理总线。bmc带外方式获取功耗值,可以提高效率。

节点功耗值为ai计算节点的实际总功耗值,警戒功耗值和封顶功耗值均为预设值,这几个值的关系可参见图3。在图3中,节点最大功耗为ai计算节点中的所有部件全力运行时的总功耗值,因此其为最大值。

在一种具体实施方式中,利用bmc获取ai计算节点中的各个计算芯片的芯片功耗值,包括:利用bmc读ai计算节点中的各个计算芯片的电流值,以获得相应芯片功耗值。各个计算芯片的电流值即各个计算芯片对应的电流传感器上流过的电流值,该电流值可转换为相应的芯片功耗值。利用此方式获取芯片功耗值,可以避免频繁利用i2c总线,也不会影响计算芯片工作的能效。i2c(inter-integratedcircuit)总线即两线式串行总线。需要说明的是,并非所有的计算芯片都可以支持通过i2c的方式直接读取计算芯片的芯片功耗值,所以通过读电流值的方式获得芯片功耗值,是一种低成本且通用的功耗获取方式。能效是一个设备在单位时间内所耗能量与所处理数据量的比值,单位为mb/s/watt。

s102、根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果。

需要说明的是,分组方式以及分组得到的组个数可以根据实际情况灵活确定。下述介绍了三种分组方式,第一种:用户基于人机交互界面提交分组指令或基于命令行窗口输入分组指令(如ipmi指令),ai计算节点按照该分组指令分组即可。ipmi(intelligentplatformmanagementinterface)即智能平台管理接口。第二种:设置一个分界线(即最优功耗值),以该分界线将所有计算芯片划分为两组。第三种(请参见图4):设置一个缓冲区间,将位于缓冲区间左边的计算芯片划分至第一组(高优先级组),将位于缓冲区间右边的计算芯片划分至第二组(低优先级组),然后判断位于缓冲区间中的计算芯片与第一组相似度大,还是与第二组相似度大,按照判断结果划分位于缓冲区间中的计算芯片,避免简单的切割,误将相同工作负载的gpu分到不同的分组里。图4中的计算芯片为gpu(graphicsprocessingunit),圆代表gpu被划分至g0(第一组),五角星代表gpu被划分至g1(第二组)。

对各个计算芯片进行分组后,即可根据分组结果确定相应的调控策略,从而在调控各个计算芯片的功耗的同时,保障各个计算芯片的能效。

在一种具体实施方式中,根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果,包括:按照获取到的分组指令对各个计算芯片进行分组,获得分组结果;或获取目标范围中的最优功耗值,将大于最优功耗值的计算芯片划分至第一组,将不大于最优功耗值的计算芯片划分至第二组,将第一组和第二组作为分组结果;或获取目标范围中的最优功耗值,以最优功耗值为中值确定缓冲区间,将不属于缓冲区间且大于最优功耗值的计算芯片划分至第一组,将不属于缓冲区间且不大于最优功耗值的计算芯片划分至第二组;计算第一组对应的第一功耗梯度,第二组对应的第二功耗梯度,以及属于缓冲区间中的每个计算芯片对应的芯片功耗梯度;计算任一个芯片功耗梯度与第一功耗梯度的第一相似度,与第二功耗梯度的第二相似度,若第一相似度大于第二相似度,则将芯片功耗梯度对应的计算芯片添加至第一组,若第一相似度小于第二相似度,则将芯片功耗梯度对应的计算芯片添加至第二组,将第一组和第二组作为分组结果。

其中,第一组对应的第一功耗梯度可以为第一组中的任一个计算芯片在预设时间段(如5秒)内的相邻芯片功耗值的差值形成的序列,当然,也可以是其他。第二组对应的第二功耗梯度可以为第二组中的任一个计算芯片在预设时间段内的相邻芯片功耗值的差值形成的序列,当然,也可以是其他。芯片功耗梯度为位于缓冲区间中的计算芯片在预设时间段内的相邻芯片功耗值的差值形成的序列。bmc在预设时间段内多次轮询电流传感器,可获得相应的多个芯片功耗值。

例如:gpu0在t0,t1,t2,t3,t4时刻的芯片功耗值分别为p00,p01,p02,p03,p04,那么芯片功耗梯度可以为:p0=[(p01-p00),(p02-p01),(p03-p02),(p04-p03)]。若缓冲区间中的gpu和缓冲区间右侧的gpu存在很大的功耗差,可以认为他们有不同的工作负载,因此,将缓冲区中的gpu划入g1。

请参见图4,若落入缓冲区间中的所有gpu都位于分界线左侧,则可以直接将缓冲区间中的所有gpu加入g1。若落入缓冲区间中的所有gpu都位于分界线右侧,则可以直接将缓冲区间中的所有gpu加入g0。若落入缓冲区间中的所有gpu位于分界线两侧,则执行计算第一组对应的第一功耗梯度,第二组对应的第二功耗梯度,以及属于缓冲区间中的每个计算芯片对应的芯片功耗梯度;计算任一个芯片功耗梯度与第一功耗梯度的第一相似度,与第二功耗梯度的第二相似度,若第一相似度大于第二相似度,则将芯片功耗梯度对应的计算芯片添加至第一组,若第一相似度小于第二相似度,则将芯片功耗梯度对应的计算芯片添加至第二组,将第一组和第二组作为分组结果的步骤。

当然,对于落入缓冲区间中的所有gpu,都可以直接执行计算第一组对应的第一功耗梯度,第二组对应的第二功耗梯度,以及属于缓冲区间中的每个计算芯片对应的芯片功耗梯度;计算任一个芯片功耗梯度与第一功耗梯度的第一相似度,与第二功耗梯度的第二相似度,若第一相似度大于第二相似度,则将芯片功耗梯度对应的计算芯片添加至第一组,若第一相似度小于第二相似度,则将芯片功耗梯度对应的计算芯片添加至第二组,将第一组和第二组作为分组结果的步骤。

s103、若节点功耗值大于封顶功耗值,则查询分组结果对应的功耗调控策略,并按照功耗调控策略调整各个计算芯片的功耗限制值,以使所有功耗限制值之和处于目标范围。

其中。功耗调控策略基于目标范围预先设定,目标范围用于调控ai计算节点中的各个计算芯片的能效值。若节点功耗值大于封顶功耗值,则进入功耗调控功能的调控部分,以调节各个计算芯片的功耗限制值。

在一种具体实施方式中,目标范围的确定过程包括:利用性能基准测试工具(如sgemm)获取ai计算节点中的任一个计算芯片在不同芯片功耗值下的各个能效值;ai计算节点中的各个计算芯片完全相同;计算各个能效值与tdp能效值的比值;将大于预设阈值的比值对应的能效值添加至能效调控区间,将能效调控区间对应的各个芯片功耗值确定为目标范围。

tdp(thermaldesignpower)即散热设计功耗,指芯片全力运行时的功耗值,在该功耗值下用性能基准测试工具测得的性能数据与该功耗值的比值为tdp能效值。即:tdp能效值=tdp下测得的性能数据/tdp。任一个计算芯片在芯片功耗值u下的能效值w=芯片功耗值u下测得的性能数据/芯片功耗值u。

例如:ai计算节点中的某一个计算芯片在不同芯片功耗值下的各个能效值为a、b、c、d,该计算芯片的tdp能效值为x,那么可获得比值a/x、b/x、c/x、d/x,这些比值可形成如图5所示的曲线图。在图5中,目标范围即为:0.6tdp~1tdp。由图5可看出,0.8tdp时曲线可达最高点,说明0.8tdp下的芯片能效值最大,因此0.8tdp即为目标范围中的最优功耗值。

为使功耗调控后,ai计算节点获得较高的能效,可以预先计算ai计算节点中计算芯片对应的目标范围,目标范围即计算芯片对应的功耗可调控范围,计算芯片的功耗保持在此范围内,其能效也会保持在较佳状态。一般地,一个ai计算节点中的各个计算芯片完全相同,因此以其中的任一个计算芯片为基础,就可以确定出目标范围。

如图5所示,alpha>1时,目标范围为:0.6tdp~1tdp,在此范围内调控计算芯片的功耗,可使ai计算节点的能效保持在较佳状态。需要说明的是,功耗调控目标为在ai计算节点最大功耗的基础上,降低n×(tdp-ppeak),其中n为ai计算节点中的计算芯片的数量,ppeak(即0.8tdp)为alpha为最高值时对应的单个计算芯片的功耗。以8张250wnvidiav100gpu卡的ai计算节点为例,即tdp=250w,其最大可降低的功耗为8×(250-0.8x250)w=400w,假设该ai计算节点最大功耗为3100w,则功耗最低值可调为2700w。

在一种具体实施方式中,计算芯片为gpu、npu(neural-networkprocessingunit,嵌入式神经网络处理器)、fpga(field-programmablegatearray,现场可编程门阵列)或asic(applicationspecificintegratedcircuit)。

可见,本申请实施例在ai计算节点的节点功耗值大于封顶功耗值时,利用bmc获取ai计算节点中的各个计算芯片的芯片功耗值;然后根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果;最后查询分组结果对应的功耗调控策略,并按照功耗调控策略调整各个计算芯片的功耗限制值,以使所有功耗限制值之和处于目标范围;其中,功耗调控策略基于目标范围预先设定,且目标范围用于调控ai计算节点中的各个计算芯片的能效值,因此按照功耗调控策略调整各个计算芯片的功耗限制值不仅调控了各个计算芯片的功耗,还可以有效调控各个计算芯片的能效值,从而保障ai计算节点的能效。

参见图6所示,本申请实施例利用bmc监控节点功耗值,若节点功耗值大于警戒功耗值,则开启功耗调控功能,之后确定分组策略,以进行分组,而后在节点功耗值大于封顶功耗值时,按照分组后得到的高优先级组和低优先级组,以及相应功耗调控策略进行调控。图6示意了3种分组策略,具体可参见上述实施例的相关介绍。

在本实施例中,功耗调控策略如表1所示

表1

在表1中,当g0中gpu数量为8,g1中gpu数量为0时,将g0中的8个gpu的功耗限制为0.8*tdp;当g0中gpu数量为6,g1中gpu数量为2时,将g0中的6个gpu的功耗限制为0.9*tdp,g1中的2个gpu功耗限制为0.6*tdp;当g0中gpu数量为4,g1中gpu数量为4时,将g0中的4个gpu的功耗限制为tdp,g1中的4个gpu功耗限制为0.6*tdp;其中0.9*tdp、0.8*tdp、0.6*tdp只是示例。

具体的,手动分组的结果可参见表2,假设ai计算节点中包括gpu0~gpu7共8个计算芯片。其中,√代表属于g0或g1。

表2

表2所示的分组结果为:位于g0的gpu数量为4,位于g1的gpu数量为4,在表1中可查到与此对应的调控策略:位于g0的gpu功耗不做限制,位于g1的gpu功耗限制为60%*tdp。

相应的,假设位于g0的gpu数量为6,位于g1的gpu数量为2,那么按照表1所示,位于g0的gpu功耗限制为90%*tdp,位于g1的gpu功耗限制为60%*tdp。假设位于g0的gpu数量为7,位于g1的gpu数量为1,那么按照表1所示,位于g0和g2的gpu功耗限制为80%*tdp。

需要说明的是,现有机柜的供电能力普遍偏低,而ai计算节点的功耗又比较大,因此需要降低ai计算节点的功耗,以满足机柜的pdu(powerdistributionunit,机柜用电源分配插座)要求。一个机柜上会放置多个ai计算节点。具体的,机柜的pdu一般为c13-c14接口,国内安规要求c13-c14接口最高持续通流不能超过10a,而ai计算节点功耗高,需使用2200w及以上高功率psu(powersupplyunit,电源供应器),该规格需要c19-c20接口(16a)。pdu大批量升级困难,若使用c19-c14电源线缆,由于持续通流会超过10a,不符合国内安全规定的要求。可见,为了符合机柜的供电能力,需要降低ai计算节点的功耗。降低ai计算节点的功耗后,还可以增加一个机柜上放置的ai计算节点的个数,以增加机柜密度。

本实施例能够降低ai计算节点的功耗,同时使ai计算节点保持在较佳运行状态,提高其能效。通过带外的方式,在一定范围内调控gpu功耗,保障了ai计算节点高能效运行。

下面对本申请实施例提供的一种功耗调控装置进行介绍,下文描述的一种功耗调控装置与上文描述的一种功耗调控方法可以相互参照。

参见图7所示,本申请实施例公开了一种功耗调控装置,包括:

获取模块701,用于若ai计算节点的节点功耗值大于警戒功耗值,则利用bmc获取ai计算节点中的各个计算芯片的芯片功耗值;

分组模块702,用于根据各个计算芯片的芯片功耗值对各个计算芯片进行分组,获得分组结果;

调控模块703,用于若所述节点功耗值大于封顶功耗值,则查询分组结果对应的功耗调控策略,并按照功耗调控策略调整各个计算芯片的功耗限制值,以使所有功耗限制值之和处于目标范围;所述警戒功耗值小于所述封顶功耗值;功耗调控策略基于目标范围预先设定,目标范围用于调控ai计算节点中的各个计算芯片的能效值。

在一种具体实施方式中,还包括:

监控模块,用于利用bmc实时监控节点功耗值,若节点功耗值大于警戒功耗值,则开启功耗调控功能。

在一种具体实施方式中,监控模块具体用于:

控制bmc通过pmbus总线监控节点功耗值。

在一种具体实施方式中,获取模块具体用于:

利用bmc读ai计算节点中的各个计算芯片的电流值,以获得相应芯片功耗值。

在一种具体实施方式中,分组模块包括:

第一分组单元,用于按照获取到的分组指令对各个计算芯片进行分组,获得分组结果;

第二分组单元,用于获取目标范围中的最优功耗值,将大于最优功耗值的计算芯片划分至第一组,将不大于最优功耗值的计算芯片划分至第二组,将第一组和第二组作为分组结果;

第三分组单元,用于获取目标范围中的最优功耗值,以最优功耗值为中值确定缓冲区间,将不属于缓冲区间且大于最优功耗值的计算芯片划分至第一组,将不属于缓冲区间且不大于最优功耗值的计算芯片划分至第二组;计算第一组对应的第一功耗梯度,第二组对应的第二功耗梯度,以及属于缓冲区间中的每个计算芯片对应的芯片功耗梯度;计算任一个芯片功耗梯度与第一功耗梯度的第一相似度,与第二功耗梯度的第二相似度,若第一相似度大于第二相似度,则将芯片功耗梯度对应的计算芯片添加至第一组,若第一相似度小于第二相似度,则将芯片功耗梯度对应的计算芯片添加至第二组,将第一组和第二组作为分组结果。

在一种具体实施方式中,目标范围的确定过程包括:

利用性能基准测试工具获取ai计算节点中的任一个计算芯片在不同芯片功耗值下的各个能效值;ai计算节点中的各个计算芯片完全相同;

计算各个能效值与tdp能效值的比值;

将大于预设阈值的比值对应的能效值添加至能效调控区间,将能效调控区间对应的各个芯片功耗值确定为目标范围。

在一种具体实施方式中,计算芯片为gpu、npu、fpga或asic。

其中,关于本实施例中各个模块、单元更加具体的工作过程可以参考前述实施例中公开的相应内容,在此不再进行赘述。

可见,本实施例提供了一种功耗调控装置,该装置能够降低ai计算节点的功耗,同时使ai计算节点保持在较佳运行状态,提高其能效。

下面对本申请实施例提供的一种功耗调控设备进行介绍,下文描述的一种功耗调控设备与上文描述的一种功耗调控方法及装置可以相互参照。

参见图8所示,本申请实施例公开了一种功耗调控设备,包括:

存储器801,用于保存计算机程序;

处理器802,用于执行所述计算机程序,以实现上述任意实施例公开的方法。

下面对本申请实施例提供的一种可读存储介质进行介绍,下文描述的一种可读存储介质与上文描述的一种功耗调控方法、装置及设备可以相互参照。

一种可读存储介质,用于保存计算机程序,其中,所述计算机程序被处理器执行时实现前述实施例公开的功耗调控方法。关于该方法的具体步骤可以参考前述实施例中公开的相应内容,在此不再进行赘述。

本申请涉及的“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法或设备固有的其它步骤或单元。

需要说明的是,在本申请中涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本申请要求的保护范围之内。

本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。

结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(ram)、内存、只读存储器(rom)、电可编程rom、电可擦除可编程rom、寄存器、硬盘、可移动磁盘、cd-rom、或技术领域内所公知的任意其它形式的可读存储介质中。

本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1