神经网络加速器指令的程序事件记录存储更改处理的制作方法

文档序号:36825651发布日期:2024-01-26 16:36阅读:13来源:国知局
神经网络加速器指令的程序事件记录存储更改处理的制作方法

一个或多个方面一般涉及促进计算环境内的处理,并且尤其涉及改进这样的处理。


背景技术:

1、为了增强数据和/或计算密集型计算环境中的处理,利用协处理器,诸如人工智能加速器(也称为神经网络处理器或神经网络加速器)。这样的加速器提供了在执行例如相关计算(诸如对矩阵或张量的计算)中使用的大量计算能力。

2、作为示例,张量计算被用在复杂处理中,包括深度学习,其是机器学习的子集。深度学习或机器学习(即人工智能的一个方面)被用于各种技术中,包括但不限于工程、制造、医学技术、汽车技术、计算机处理等。

3、在计算处理期间,如果发生某些事件,则获得与这些事件和/或处理有关的信息是有益的。因此,在获得这种信息方面将取得进步。


技术实现思路

1、通过提供一种用于促进计算环境内的处理的计算机程序产品,克服了现有技术的缺点,并且提供了附加的优点。该计算机程序产品包括一个或多个计算机可读存储介质和共同存储在该一个或多个计算机可读存储介质上以执行方法的程序指令。该方法包括执行指令的指令处理。该指令被配置为执行多个功能,并且该多个功能中的功能在多个处理阶段中被执行。多个处理阶段中的处理阶段被定义为存储多达选择量的数据。所选择量的数据是基于多个功能中要被执行的功能的。多个功能中的至少一个功能具有与多个功能中的至少一个其他功能不同的用于该选择量的数据的值。基于处理选择功能的多个处理阶段中的选择处理阶段,确定是否发生到指定区域中的存储。基于确定发生到指定区域中的存储,呈现中断,并且基于确定没有发生到指定区域中的存储,继续执行指令处理。

2、使用被配置为执行各种功能的单个架构化的机器指令通过降低复杂度、减少资源的使用和/或提高处理速度来改善计算环境内的性能。

3、通过检查在处理阶段之后是否发生了到指定区域中的存储,到指定区域中的存储仅发生在结束指令之前的单个阶段内。由于在每个阶段期间存储选择量的数据,并且所选择量可以大于4k,因此可能需要减少数量的检查来测试是否存在到指定区域中的存储(例如,如果处理多个连续的4k页)。

4、在一个示例中,继续执行指令处理包括进行到选择功能的下一处理阶段的处理。作为另一示例,继续执行指令处理包括结束指令。

5、作为示例,指定区域包括由起始地址和结束地址定义的存储器区域。由例如一个或多个控制寄存器提供起始地址和结束地址。

6、在一个实施例中,确定是否发生到指定区域中的存储包括检查数据被写入的存储器地址是否在指定区域中。基于存储器地址在指定区域中,该确定指示存在到指定区域中的存储。

7、在一个实施例中,确定是否发生到指定区域中的存储包括检查要由选择功能使用的参数块的至少一部分是否与指定区域重叠。基于参数块的至少一部分与指定区域重叠,该确定指示存在到指定区域中的存储。

8、检查参数块的重叠可在每个阶段之后引起中断,从而容易地提供关于存储器访问的信息。

9、在一个实施例中,确定是否发生到指定区域中的存储包括检查要由选择功能使用的功能特定保存区域的至少一部分是否与指定区域重叠。基于功能特定保存区域的至少一部分与指定区域重叠,该确定指示存在到指定区域中的存储。

10、如果要使用功能特定保存区域,则检查该重叠可能在每个阶段之后引起中断,从而容易地提供关于存储器访问的信息。

11、在一个或多个方面,可以进行某些预测。例如,预测选择功能的多个处理阶段中的特定处理阶段将引起中断,其中预测是基于选择功能的存储器访问模式的。作为另一示例,基于确定要由选择功能使用的参数块的至少一部分与指定区域重叠,预测将发生中断。在另一示例中,基于确定要由选择功能使用的功能特定保存区域的至少一部分与指定区域重叠,预测将发生中断。

12、至少对于可以预测存储更改中断的验证程序,降低了复杂性,提高了验证质量。例如,根据对应于功能代码的存储器访问模式,验证程序可以准确地预测在哪个阶段之后指令将中断并呈现程序事件记录中断;并且验证编程可以在程序事件记录指定区域位于参数块和/或功能特定保存区域内的情况下预测中断,因为中断将在每个阶段之后呈现。

13、本文还描述并要求保护与一个或多个方面相关的计算机实现的方法和系统。此外,本文还描述并要求保护与一个或多个方面相关的服务。

14、通过本文描述的技术实现了额外的特征和优点。在本文中详细描述其它实施例和方面,且将其视为所要求保护的方面的一部分。



技术特征:

1.一种用于促进计算环境内的处理的计算机程序产品,所述计算机程序产品包括:

2.根据前述权利要求所述的计算机程序产品,其中,继续执行指令处理包括进行到所述选择功能的下一处理阶段的处理。

3.根据前述权利要求中任一项所述的计算机程序产品,其中,继续执行指令处理包括结束所述指令。

4.根据前述权利要求中任一项所述的计算机程序产品,其中,所述指定区域包括由起始地址和结束地址限定的存储器区域,其中,由一个或多个控制寄存器提供所述起始地址和所述结束地址。

5.根据前述权利要求中任一项所述的计算机程序产品,其中,确定是否发生到所述指定区域中的存储包括检查数据被写入到的存储器地址是否在所述指定区域中,其中,基于所述存储器地址在所述指定区域中,所述确定指示存在到所述指定区域中的存储。

6.根据前述权利要求中任一项所述的计算机程序产品,其中,确定是否发生到所述指定区域中的存储包括检查要由所述选择功能使用的参数块的至少一部分是否与所述指定区域重叠,其中,基于所述参数块的所述至少一部分与所述指定区域重叠,所述确定指示存在到所述指定区域中的存储。

7.根据前述权利要求中任一项所述的计算机程序产品,其中,确定是否发生到所述指定区域中的存储包括检查要由所述选择功能使用的功能特定保存区域的至少一部分是否与所述指定区域重叠,其中,基于所述功能特定保存区域的所述至少一部分与所述指定区域重叠,所述确定指示存在到所述指定区域中的存储。

8.根据前述权利要求中任一项所述的计算机程序产品,其中,所述方法还包括预测所述选择功能的所述多个处理阶段中的特定处理阶段将引起中断,所述预测是基于所述选择功能的存储器访问模式的。

9.根据前述权利要求中任一项所述的计算机程序产品,其中,所述方法还包括基于确定要由所述选择功能使用的参数块的至少一部分与所述指定区域重叠来预测中断将发生。

10.根据前述权利要求中任一项所述的计算机程序产品,其中,所述方法还包括基于确定要由所述功能使用的功能特定保存区域的至少一部分与所述指定区域重叠来预测中断将发生。

11.一种用于促进计算环境内的处理的计算机系统,所述计算机系统包括:

12.根据前述权利要求所述的计算机系统,其中,确定是否发生到所述指定区域中的存储包括检查数据被写入到的存储器地址是否在所述指定区域中,其中,基于所述存储器地址在所述指定区域中,所述确定指示存在到所述指定区域中的存储。

13.根据前两项权利要求中任一项所述的计算机系统,其中,确定是否发生到所述指定区域中的存储包括检查要由所述选择功能使用的参数块的至少一部分是否与所述指定区域重叠,其中,基于所述参数块的所述至少一部分与所述指定区域重叠,所述确定指示存在到所述指定区域中的存储。

14.根据前三项权利要求中任一项所述的计算机系统,其中,确定是否发生到所述指定区域中的存储包括检查要由所述选择功能使用的功能特定保存区域的至少一部分是否与所述指定区域重叠,其中,基于所述功能特定保存区域的所述至少一部分与所述指定区域重叠,所述确定指示存在到所述指定区域中的存储。

15.根据前四项权利要求中任一项所述的计算机系统,其中,所述方法还包括预测所述选择功能的所述多个处理阶段中的特定处理阶段将引起中断,所述预测是基于所述选择功能的存储器访问模式的。

16.一种用于促进计算环境内的处理的计算机实现的方法,所述计算机实现的方法包括:

17.根据前述权利要求所述的计算机实现的方法,其中,确定是否发生到所述指定区域中的存储包括检查数据被写入到的存储器地址是否在所述指定区域中,其中,基于所述存储器地址在所述指定区域中,所述确定指示存在到所述指定区域中的存储。

18.根据前两项权利要求中任一项所述的计算机实现的方法,其中,确定是否发生到所述指定区域中的存储包括检查要由所述选择功能使用的参数块的至少一部分是否与所述指定区域重叠,其中,基于所述参数块的所述至少一部分与所述指定区域重叠,所述确定指示存在到所述指定区域中的存储。

19.根据前三项权利要求中任一项所述的计算机实现的方法,其中,确定是否发生到所述指定区域中的存储包括检查要由所述选择功能使用的功能特定保存区域的至少一部分是否与所述指定区域重叠,其中,基于所述功能特定保存区域的所述至少一部分与所述指定区域重叠,所述确定指示存在到所述指定区域中的存储。

20.根据前四项权利要求中的任一项所述的计算机实现的方法,还包括预测所述选择功能的所述多个处理阶段中的特定处理阶段将引起中断,所述预测是基于所述选择功能的存储器访问模式的。


技术总结
对指令执行指令处理(700)。指令被配置为执行多个功能(702),其中,多个功能中的功能将在多个处理阶段中被执行(704)。处理阶段被定义为存储多达选择量的数据(706)。所选择量的数据基于要执行的功能(708)。多个功能中的至少一个功能具有与至少一个其它功能不同的用于所选择量的数据的值(710)。基于处理选择功能的选择处理阶段,确定是否发生到指定区域中的存储(712)。基于确定发生到指定区域中的存储,呈现中断(714),并且基于确定没有发生到指定区域中的存储,继续指令处理(716)。

技术研发人员:S·魏斯豪普特,A·萨珀里托,T·什莱格尔
受保护的技术使用者:国际商业机器公司
技术研发日:
技术公布日:2024/1/25
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1