脉冲神经网络信息转换为人工神经网络信息的方法和系统与流程

文档序号:12671843阅读:286来源:国知局
脉冲神经网络信息转换为人工神经网络信息的方法和系统与流程

本发明涉及神经网络技术领域,涉及一种神经网络信息的转换方法及系统,特别是涉及脉冲神经网络信息转换为人工神经网络信息方法和系统。



背景技术:

如今的人工神经网络研究绝大多数仍是在冯·诺依曼计算机软件并搭配高性能GPGPU(General Purpose Graphic Processing Units通用图形处理单元)平台中实现的,整个过程的硬件开销、能耗和信息处理速度都不容乐观。为此,近几年神经形态计算领域迅猛发展,即采用硬件电路直接构建神经网络从而模拟大脑的功能,试图实现大规模并行、低能耗、可支撑复杂模式学习的计算平台。

然而,传统的神经形态系统中,神经网络的主要有两种形态,一种为脉冲神经网络,一种人工神经网络,两者对同样的输入信息有着不同的表达方式,导致人工神经网络和脉冲神经网络因处理的信息不同而不能兼容。



技术实现要素:

基于此,有必要针对两种不同的神经网络输入的信息不兼容的问题,提供一种脉冲神经元信息转人工神经元信息的方法和系统,所述方法包括:

获取转换时间步;

在所述转换时间步持续时长内,接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息;

根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息;

输出所述人工神经元转换信息。

在其中一个实施例中,所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,包括:

将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量;

将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。

在其中一个实施例中,所述接收前继脉冲神经元输入的脉冲神经元输入信息,还包括:

接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息;

则所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,还包括:

将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量;

将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。

在其中一个实施例中,所述脉冲神经元输入信息,还包括:

前继脉冲神经元与当前神经元的连接权重索引;

所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,还包括:

根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;

根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息;

根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。

在其中一个实施例中,通过获取转换时间步的设置,将前继脉冲神经元输入的脉冲尖峰信息,按照不同的时间步持续时长内接收到的脉冲尖峰信息,和预设的脉冲转换算法,将脉冲神经元输入信息,转换为人工神经元信息的表达方式。本实施例所提供的脉冲神经元信息转人工神经元信息的方法,将脉冲神经元信息,按照时间步的方式转换的方式,转换为人工神经元信息,提高了神经网络对于脉冲神经元信息和人工神经元信息的兼容能力。

在其中一个实施例中,通过对转换时间步内的脉冲尖峰信息的数量进行累计的方式,将前继脉冲神经元信息转换为人工神经元转换信息,实施方式简单可靠,且转换效率高。

在其中一个实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲信息转换为人工神经元信息,获取到多个前继脉冲神经元输入的人工神经元转换信息,以便当前的神经元再进行后续的计算,其分别转换的方式,适合前继脉冲神经元数量不多的情况,转换后的单个前继脉冲神经元的人工神经元转换信息,在当前神经元的计算使用中不会产生任何影响。

在其中一个实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将所有前继脉冲神经元输入的脉冲信息进行累加后,将累加的和转换为人工神经元信息,获取到所有前继脉冲神经元输入的一个人工神经元转换信息,其累加后统一转换的方式,适合前继脉冲神经元数量较多的情况,可以提高脉冲神经元信息转换为人工神经元信息的转换效率。

在其中一个实施例中,所接收到的前继脉冲神经元信息,分别携带连接权重索引,对于多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲尖峰信息,分别与其连接权重信息进行计算后,再单个前继脉冲神经元的人工神经元转换信息,保证信息转换过程不会影响最终的计算。

本发明还提供一种脉冲神经网络信息转换为人工神经网络信息的系统,包括:

转换时间步获取模块,用于获取转换时间步;

脉冲神经元输入信息获取模块,用于在所述转换时间步的持续时长内,接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息;

人工神经元转换信息获取模块,用于根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息;

人工神经元转换信息输出模块,用于输出所述人工神经元转换信息。

在其中一个实施例中,所述人工神经元转换信息获取模块,包括:

前继脉冲神经元脉冲尖峰信息获取单元,用于将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量;

第一人工神经元转换信息获取单元,用于将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。

在其中一个实施例中,所述转换时间步获取模块,还用于接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息;

则所述人工神经元转换信息获取模块,还包括:

多前继脉冲神经元脉冲尖峰信息获取单元,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量;

第二人工神经元转换信息获取单元,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。

在其中一个实施例中,所述脉冲神经元输入信息,还包括:

前继脉冲神经元与当前神经元的连接权重索引;

所述人工神经元转换信息获取模块,还包括:

带权重前继脉冲神经元获取单元,用于根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息;

第三人工神经元转换信息获取单元,用于根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。

在其中一个实施例中,通过获取转换时间步的设置,将前继脉冲神经元输入的脉冲尖峰信息,按照不同的时间步持续时长内接收到的脉冲尖峰信息,和预设的脉冲转换算法,将脉冲神经元输入信息,转换为人工神经元信息的表达方式。本实施例所提供的脉冲神经元信息转人工神经元信息的方法,将脉冲神经元信息,按照时间步的方式转换的方式,转换为人工神经元信息,提高了神经网络对于脉冲神经元信息和人工神经元信息的兼容能力。

在其中一个实施例中,通过对转换时间步内的脉冲尖峰信息的数量进行累计的方式,将前继脉冲神经元信息转换为人工神经元转换信息,实施方式简单可靠,且转换效率高。

在其中一个实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲信息转换为人工神经元信息,获取到多个前继脉冲神经元输入的人工神经元转换信息,以便当前的神经元再进行后续的计算,其分别转换的方式,适合前继脉冲神经元数量不多的情况,转换后的单个前继脉冲神经元的人工神经元转换信息,在当前神经元的计算使用中不会产生任何影响。

在其中一个实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将所有前继脉冲神经元输入的脉冲信息进行累加后,将累加的和转换为人工神经元信息,获取到所有前继脉冲神经元输入的一个人工神经元转换信息,其累加后统一转换的方式,适合前继脉冲神经元数量较多的情况,可以提高脉冲神经元信息转换为人工神经元信息的转换效率。

在其中一个实施例中,所接收到的前继脉冲神经元信息,分别携带连接权重索引,对于多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲尖峰信息,分别与其连接权重信息进行计算后,再单个前继脉冲神经元的人工神经元转换信息,保证信息转换过程不会影响最终的计算。

附图说明

图1为一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图;

图2为另一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图;

图3为一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图;

图4为另一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图;

图5为另一个实施例的脉冲神经网络信息转换为人工神经网络信息方法中计算核的结构示意图;

图6为一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图;

图7为另一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。

图1为一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图,如图1所示的脉冲神经网络信息转换为人工神经网络信息方法,包括:

步骤S100,获取转换时间步。

具体地,脉冲神经网络神经元之间的连接采用Spike(1比特)实现,并带有一定的时间深度。在一定的时间范围内,脉冲发放的频率和模式代表着不同的信息。人工神经网络的神经元之间的连接采用多比特量(例如8比特)实现,且没有时间深度。当一个神经网路处理的任务,即需要处理脉冲神经网络信息,也需要处理脉冲神经网络信息时,两种不同的神经网络输出的信息不兼容。

所述转换时间步,是一个预设的时间段,由于所接收到的脉冲神经元输入信息,是具有时间深度的脉冲尖峰信号组成的信息,不同的时间段内的不同发射数量相同发射间隔的尖峰信息,或相同发射数量不同发射间隔的脉冲尖峰信息,也代表不同的含义。因此,需要设定一个预设的时间段,用于将预设时间段内的脉冲尖峰信息进行分析,转换为人工神经元转换信息。

步骤S200,在所述转换时间步持续时长内,接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息。

具体地,所述接收前继脉冲神经元输入的脉冲神经元输入信息,在实际的神经网络中,包括多个所述前继脉冲神经元输入的多个脉冲神经元输入信息。

步骤S300,根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息。

具体地,所述将一个时间步的持续时长内接收到所述脉冲尖峰信息进行转换,包括将脉冲尖峰信号的数量进行累加,或将脉冲尖峰信号的膜电位进行累积,将累加后的脉冲尖峰信号的总数量,或累积后的脉冲尖峰信号的总的膜电位,按照预设的脉冲转换算法进行转换,获取到人工神经元转换信息。

步骤S400,输出所述人工神经元转换信息。

在神经网络的具体实现中,如图5所示,本发明的方法通过一个计算核来实现,其中,计算核接收前继SNN(脉冲神经网络)输入的人工神经元输入信息,将其转换为ANN(人工神经网络)信息后,发送给后续的ANN网路使用。在计算核中,轴突输入用于接收人工神经元输入信息,树突用于具体地信号的累计计算,包括积分计算等,胞体发放用于发放转换后的脉冲神经元信息。通过神经核的计算和处理,将前继的SNN网络和后续的ANN网络进行了无缝连接。

在本实施例中,通过获取转换时间步的设置,将前继脉冲神经元输入的脉冲尖峰信息,按照不同的时间步持续时长内接收到的脉冲尖峰信息,和预设的脉冲转换算法,将脉冲神经元输入信息,转换为人工神经元信息的表达方式。本实施例所提供的脉冲神经元信息转人工神经元信息的方法,将脉冲神经元信息,按照时间步的方式转换的方式,转换为人工神经元信息,提高了神经网络对于脉冲神经元信息和人工神经元信息的兼容能力。

图2为另一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图,如图2所示的脉冲神经网络信息转换为人工神经网络信息方法,包括:

步骤S310a,将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量。

具体地,将接收到的脉冲尖峰信号的个数进行累加,获取所述时间步持续时长内接收到的脉冲尖峰信号的总数量。

步骤S320a,将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。

具体地,将所述总数量,直接用数字的形式表现出来即可,根据实际需求的不同,也可经过一定的数学算法的转换,转换为一定取值范围内的数字,或取不同精度的数字均可。

在本实施例中,通过对转换时间步内的脉冲尖峰信息的数量进行累计的方式,将前继脉冲神经元信息转换为人工神经元转换信息,实施方式简单可靠,且转换效率高。

图3为一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图,如图3所示的脉冲神经网络信息转换为人工神经网络信息方法,包括:

步骤S100b,获取转换时间步。

具体地,同步骤S100。

步骤S200b,接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息。

步骤S300b,将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量;将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。

具体地,当所述前继脉冲神经元信息包括至少两个时,将所述至少两个前继神经元输入的脉冲尖峰信号的数量进行累加后,获取到所接收到的脉冲尖峰信号的总数量,在将所述的总数量进行转换。

也可将所述至少两个前继脉冲神经元输入的脉冲尖峰信号的膜电位全部进行累积后,获取一个总的膜电位值,再进行转换均可。

步骤S400b,输出所述第二人工神经元转换信息。

在本实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将所有前继脉冲神经元输入的脉冲信息进行累加后,将累加的和转换为人工神经元信息,获取到所有前继脉冲神经元输入的一个人工神经元转换信息,其累加后统一转换的方式,适合前继脉冲神经元数量较多的情况,可以提高脉冲神经元信息转换为人工神经元信息的转换效率。

图4为另一个实施例的脉冲神经网络信息转换为人工神经网络信息方法的流程示意图,如图4所示的脉冲神经网络信息转换为人工神经网络信息方法,包括:

步骤S100c,获取转换时间步。

具体地,同步骤S100。

步骤S200c,接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息,所述脉冲神经元输入信息,还包括前继脉冲神经元与当前神经元的连接权重索引。

具体地,所述前继脉冲神经元与当前神经元的连接权重索引,是前继脉冲神经元信息在当前神经元的计算中所占的权重信息的索引值。采用权重索引的方式,可以在信息的传递过程中,占用更小的信息传递空间,不但降低了硬件的处理需求,并且只需要改变索引信息,就能够更加灵活的方便的对权重信息的变化进行更新,使得神经网络中权重信息的更新更加方便。

步骤S300c,根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息;根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。

具体地,所述连接权重索引信息,可以存储在当前神经元本地,也可以存储在神经网络中的其它位置,只要当前神经元能够读取到即可。在接收到多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息后,需要将单个前继脉冲神经元的连接权重信息读取后,与各自接收到的脉冲尖峰信息进行运算后,获取单个前继脉冲神经元输入的脉冲神经元输入信息即可。即,所述的连接权重信息,需要单个前继脉冲神经元在进行脉冲神经元信息和人工神经元信息的转换前,将其与脉冲尖峰信息进行计算。

步骤S400c,输出所述第三人工神经元转换信息。

在本实施例中,所接收到的前继脉冲神经元信息,分别携带连接权重索引,对于多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲尖峰信息,分别与其连接权重信息进行计算后,再单个前继脉冲神经元的人工神经元转换信息,保证信息转换过程不会影响最终的计算。

图6为一个实施例的脉冲神经网络信息转换为人工神经网络信息系统的结构示意图,如图6所示的脉冲神经网络信息转换为人工神经网络信息系统,包括:

转换时间步获取模块100,用于获取转换时间步,还用于接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息。

脉冲神经元输入信息获取模块200,用于在所述转换时间步的持续时长内,接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息。

人工神经元转换信息获取模块300,用于根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息。

人工神经元转换信息输出模块400,用于输出所述人工神经元转换信息。

在本实施例中,通过获取转换时间步的设置,将前继脉冲神经元输入的脉冲尖峰信息,按照不同的时间步持续时长内接收到的脉冲尖峰信息,和预设的脉冲转换算法,将脉冲神经元输入信息,转换为人工神经元信息的表达方式。本实施例所提供的脉冲神经元信息转人工神经元信息的方法,将脉冲神经元信息,按照时间步的方式转换的方式,转换为人工神经元信息,提高了神经网络对于脉冲神经元信息和人工神经元信息的兼容能力。

图7为另一个实施例的脉冲神经网络信息转换为人工神经网络信息系统的结构示意图,如图7所示的脉冲神经网络信息转换为人工神经网络信息系统,包括:

转换时间步获取模块100,用于获取转换时间步,还用于接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息。

脉冲神经元输入信息获取模块200,用于接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息。

前继脉冲神经元脉冲尖峰信息获取单元310a,用于将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量;所述脉冲神经元输入信息,还包括前继脉冲神经元与当前神经元的连接权重索引。

第一人工神经元转换信息获取单元320a,用于将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。

多前继脉冲神经元脉冲尖峰信息获取单元310b,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量。

第二人工神经元转换信息获取单元320b,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。

带权重前继脉冲神经元获取单元310c,用于根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息。

第三人工神经元转换信息获取单元320c,用于根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。

人工神经元转换信息输出模块400,用于输出所述人工神经元转换信息。

在本实施例中,通过对转换时间步内的脉冲尖峰信息的数量进行累计的方式,将前继脉冲神经元信息转换为人工神经元转换信息,实施方式简单可靠,且转换效率高。对于多个前继脉冲神经元输入的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲信息转换为人工神经元信息,获取到多个前继脉冲神经元输入的人工神经元转换信息,以便当前的神经元再进行后续的计算,其分别转换的方式,适合前继脉冲神经元数量不多的情况,转换后的单个前继脉冲神经元的人工神经元转换信息,在当前神经元的计算使用中不会产生任何影响。进一步,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将所有前继脉冲神经元输入的脉冲信息进行累加后,将累加的和转换为人工神经元信息,获取到所有前继脉冲神经元输入的一个人工神经元转换信息,其累加后统一转换的方式,适合前继脉冲神经元数量较多的情况,可以提高脉冲神经元信息转换为人工神经元信息的转换效率。所接收到的前继脉冲神经元信息,分别携带连接权重索引,对于多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲尖峰信息,分别与其连接权重信息进行计算后,再进行单个前继脉冲神经元的人工神经元转换信息,保证信息转换过程不会影响最终的计算。

以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1