电子神经网络及其参数设置方法与流程

文档序号:16539160发布日期:2019-01-08 20:11阅读:321来源:国知局
电子神经网络及其参数设置方法与流程

本公开的实施例涉及一种电子神经网络和电子神经网络的参数设置方法。



背景技术:

人类的大脑发育成熟以后,人类的大脑中的神经元的数目基本不变,各种新掌握的记忆以及信息处理能力主要是依靠长出新的突触和树突连接而产生。神经系统的病变是由于一些神经元失能而无法发放电脉冲信号或者发放的电脉冲信号过强,进而不能刺激或破坏相应的突触和树突之间的连接网络造成的。

当前,随着人工智能的兴起,各种用于模拟大脑行为的电路和电子元器件相应而生,比如,忆阻器可以被用于模拟生物突触的兴奋性连接和抑制性连接过程;积分电容和一些晶体管组成的电路可以被用于模拟神经元的动作电位发放功能等。



技术实现要素:

本公开至少一实施例提供一种电子神经网络,包括:突触阵列、树突阵列和海马电路;所述树突阵列分别与所述突触阵列和所述海马电路连接,所述突触阵列被配置为接收并处理输入信号组,以生成突触输出信号组;所述树突阵列被配置为接收并处理所述突触输出信号组,以生成树突输出信号组;所述海马电路被配置为对所述树突输出信号组进行求和,以得到输出信号,并根据所述输出信号生成神经元的动作电位。

例如,在本公开一实施例提供的电子神经网络中,所述突触阵列包括多个电子突触,所述树突阵列包括多个电子树突,每个所述电子突触包括非挥发性忆阻器或多值存储器,每个所述电子树突包括半挥发性忆阻器。

例如,在本公开一实施例提供的电子神经网络中,所述突触阵列还包括多个驱动电路,所述多个驱动电路和所述多个电子突触连接,所述多个电子突触中的第i个电子突触与所述多个驱动电路中的第j个驱动电路对应连接,其中,i和j均为正整数,且i大于0且小于等于所述多个电子突触的总数量,j大于0且小于等于所述多个驱动电路的总数量,所述第i个电子突触被配置为根据所述输入信号组中的一个输入信号生成并输出中间突触输出信号,所述第j个驱动电路被配置为接收偏置电压和所述中间突触输出信号,并根据所述中间突触输出信号和所述偏置电压得到所述突触输出信号组中的一个突触输出信号。

例如,在本公开一实施例提供的电子神经网络中,每个所述驱动电路与至少一个电子突触连接,以接收所述至少一个电子突触输出的中间突触输出信号。

例如,在本公开一实施例提供的电子神经网络中,每个所述电子突触还包括开关元件,所述第i个电子突触的开关元件连接在所述第i个电子突触的非挥发性忆阻器或多值存储器和所述第j个驱动电路之间,且被配置为控制所述第i个电子突触的非挥发性忆阻器或多值存储器和所述第j个驱动电路之间的连接导通或断开。

例如,在本公开一实施例提供的电子神经网络中,所述多个电子突触并联连接。

例如,在本公开一实施例提供的电子神经网络中,所述海马电路包括动态挥发性忆阻器;或者所述海马电路包括振荡子电路;或者所述海马电路包括积分子电路和比较子电路。

例如,在本公开一实施例提供的电子神经网络中,所述积分子电路被配置为对所述树突输出信号组进行求和,以得到所述输出信号;所述比较子电路被配置为将所述输出信号与动作电压发放阈值进行比较,在所述输出信号大于所述动作电压发放阈值时,生成并输出所述动作电位,在所述输出信号小于所述动作电压发放阈值时,无动作电位输出。

本公开至少一实施例还提供一种电子神经网络的参数设置方法,包括:获取与待修复神经元对应的正常神经元的参数;根据所述正常神经元的参数设置根据上述任一项所述的电子神经网络;通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值;根据所述电子神经网络的网络参数的损失值调整所述电子神经网络的网络参数,在所述电子神经网络的损失函数不满足预定条件时,重复执行上述参数调整过程,在所述电子神经网络的损失函数满足预定条件时,获得设置好的所述电子神经网络。

例如,在本公开一实施例提供的电子神经网络的参数设置方法中,根据所述正常神经元的参数调整所述电子神经网络包括:获取与所述正常神经元的参数对应的调整输入信号组;利用所述电子神经网络对所述调整输入信号组进行处理,以得到调整输出信号;通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值包括:获取与所述调整输入信号组对应的目标输出信号;根据所述调整输出信号和所述目标输出信号,通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值。

附图说明

为了更清楚地说明本公开实施例的技术方案,下面将对实施例的附图作简单地介绍,显而易见地,下面描述中的附图仅仅涉及本公开的一些实施例,而非对本公开的限制。

图1示出了本公开一实施例提供的一种电子神经网络的示意性框图;

图2示出了本公开一实施例提供的一种电子神经网络的示意性结构图;

图3为本公开一实施例提供的一种驱动电路的结构示意图;

图4(a)和图4(b)为本公开一实施例提供的一种半挥发性忆阻器的电流-电压特性曲线图;

图5为本公开一实施例提供的一种动态挥发性忆阻器的电流-电压特性曲线图;

图6为本公开一实施例提供的一种电子神经网络的时序示意图;

图7为本公开一实施例提供的一种电子神经网络的参数设置方法的流程图。

具体实施方式

为了使得本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例的附图,对本公开实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例是本公开的一部分实施例,而不是全部的实施例。基于所描述的本公开的实施例,本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。

除非另外定义,本公开使用的技术术语或者科学术语应当为本公开所属领域内具有一般技能的人士所理解的通常意义。本公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同,而不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接,而是可以包括电性的连接,不管是直接的还是间接的。“上”、“下”、“左”、“右”等仅用于表示相对位置关系,当被描述对象的绝对位置改变后,则该相对位置关系也可能相应地改变。

为了保持本公开实施例的以下说明清楚且简明,本公开省略了已知功能和已知部件的详细说明。

人的大脑主要依靠神经元和在神经元之间进行信息传递的突触来实现信息的传递和处理。神经元是大脑神经系统处理信息的基本单元,其可以用于接收、整合、过滤、存储和传递信息等,从而使人的各种机能活动有规律的进行,以适应内、外环境的变化。突触是神经元之间在功能上发生联系的部位,用于执行神经元之间的信息传递的功能。

目前,在类脑计算体系中,构建类脑计算体系需要大量的类神经元和类突触的电子器件,这些电子器件可以实现模拟神经元和突触的功能。人工电子神经网络是一种模拟大脑神经元通过突触相互联接的计算系统,可以进行信息处理,广泛应用于图像识别、数据分析、神经疾病治疗等领域。

本公开的实施例提供一种电子神经网络和电子神经网络的参数设置方法,其可以模拟实现神经元的功能,从而能够替代生物神经网络中失能的神经元单元发放动作电位或抑制失能的神经元单元发放过强的动作电位,以刺激和修复生物突触和树突之间的连接网络。

下面对本公开的实施例进行详细说明,但是本公开并不限于这些具体的实施例。

图1示出了本公开一实施例提供的一种电子神经网络的示意性框图;图2示出了本公开一实施例提供的一种电子神经网络的示意性结构图。

例如,如图1所示,本公开一实施例提供的电子神经网络100可以包括突触阵列10、树突阵列11和海马电路12。树突阵列11分别与突触阵列10和海马电路12连接。突触阵列10被配置为接收并处理输入信号组,以生成突触输出信号组。树突阵列11被配置为接收并处理突触输出信号组,以生成树突输出信号组。海马电路12被配置为对树突输出信号组进行求和,以得到输出信号,并根据输出信号生成神经元的动作电位。

例如,如图2所示,突触阵列10可以包括多个电子突触101。每个电子突触101包括多阻态的非挥发性忆阻器(nonvolatilememristor)或多值存储器1011。

例如,生物神经网络中的突触是连个两个神经元的组件。生物神经网络利用突触连接的强弱来实现对信号执行不同的处理。对应地,可以利用非挥发性忆阻器模拟突触的功能。若非挥发性忆阻器的电阻值越大,则非挥发性忆阻器传导电流的能力就越弱,反之,若非挥发性忆阻器的电阻值越小,传导电流的能力就越强。当施加到非挥发性忆阻器上的电信号较高,则非挥发性忆阻器的电阻值逐渐下降,非挥发性忆阻器传导电流的能力就逐渐增强;当施加到非挥发性忆阻器上的电信号较低,则非挥发性忆阻器的电阻值逐渐增大,非挥发性忆阻器传导电流的能力就逐渐减弱。由此,可以利用非挥发性忆阻器模拟突触的功能。

例如,在未被施加电压时,非挥发性忆阻器1011的电阻值为第一阻值(例如,100kω),第一电压(例如,第一电压可以为1v)大于非挥发性忆阻器1011的第一阈值电压,由此,当第一电压被施加非挥发性忆阻器1011上后,非挥发性忆阻器1011的电阻值逐渐减小,非挥发性忆阻器1011的电阻值例如从第一阻值变为第二阻值(例如,10kω),第二阻值小于第一阻值。当第二电压被施加到非挥发性忆阻器1011上后,若第一电压大于第二电压(例如,第二电压为0.6v)时,非挥发性忆阻器1011的电阻值可以保持不变,即非挥发性忆阻器1011的电阻值保持为第二阻值;若第一电压小于第二电压(例如,第二电压为1.3v)时,非挥发性忆阻器1011的电阻值继续下降。

例如,非挥发性忆阻器可以为金属氧化物忆阻器,例如使用二氧化钛制备的忆阻器或者使用氧化铝和二氧化钛组合制备的忆阻器等。

例如,多值存储器可以为非挥发性多阻态存储器等。非挥发性多阻态存储器可以包括相变随机存储器、阻性随机存储器、闪存(例如nand或nor闪存)等。例如,相变随机存储器可以通过存储介质在电脉冲作用下在低电阻率的多晶体和高电阻率的非晶态之间的可逆转化进行数据存储,以实现多值存储。

下面以每个电子突触101包括非挥发性忆阻器为例详细描述本公开的实施例,需要说明的是,在不冲突的情况下,在下面的描述中,多值存储器可以替代非挥发性忆阻器,以实现相同的功能。

例如,如图2所示,为了增加电子神经网络100的稳定性和可实现性,突触阵列10还包括多个驱动电路102,多个驱动电路102和多个电子突触101连接。多个电子突触101中的第i个电子突触与多个驱动电路102中的第j个驱动电路对应连接,其中,i和j均为正整数,且i大于0且小于等于多个电子突触101的总数量,j大于0且小于等于多个驱动电路102的总数量。例如,多个电子突触101的总数量为n1,多个驱动电路102的总数量为n2,则0<i≤n1,0<j≤n2,n1、n2均为正整数。i和j可以相同,也可以不同。

例如,第i个电子突触被配置为根据输入信号组中的一个输入信号生成并输出中间突触输出信号,第j个驱动电路被配置为接收偏置电压和从第i个电子突触输出的中间突触输出信号,并根据中间突触输出信号和偏置电压得到突触输出信号组中的一个突触输出信号。

例如,突触阵列10中的各个驱动电路102输出的多个突触输出信号即组成突触输出信号组。

例如,每个驱动电路102与至少一个电子突触101连接,以接收至少一个电子突触101输出的中间突触输出信号。多个电子突触101可以被划分为多个电子突触组103,每个电子突触组103可以包括至少一个电子突触101,多个电子突触组103与多个驱动电路102一一对应连接。如图2所示,在一些实施例中,多个电子突触101被划分为四个电子突触组103,该四个电子突触组103分别为第一电子突触组103a、第二电子突触组103b、第三电子突触组103c和第四电子突触组103d。突触阵列10包括四个驱动电路102,且该四个驱动电路102分别为第一驱动电路102a、第二驱动电路102b、第三驱动电路102c和第四驱动电路102d。第一电子突触组103a连接第一驱动电路102a,第二电子突触组103b连接第二驱动电路102b,第三电子突触组103c连接第三驱动电路102c,第四电子突触组103d连接第四驱动电路102d。在图2所示的示例中,每个电子突触组103包括多个电子突触101,也就是说,每个驱动电路102与多个电子突触101连接,此时,n1大于n2。

例如,多个电子突触101均并联连接。如图2所示,以第一电子突触组103a为例,第一电子突触组103a中的各个电子突触101均并联连接,各个电子突触101的第一端分别接受对应的各个输入信号in,各个电子突触101的第二端均与第一驱动电路102a连接。

例如,如图2所示,输入信号组可以包括多个输入信号in,每个输入信号in可以为模拟信号,可以包括对应于脑电波信号(eeg)、脑磁波信号(meg)或功能性磁共振信号(fmri)等的电压信号。在一些示例中,各个电子突触101接收到的各个输入信号in可以各不相同。在另一些示例中,突触阵列10中的至少部分电子突触101接收的输入信号in可以相同,例如,同一个电子突触组103中的各电子突触101接收的输入信号in相同。本公开对此不作限制。

需要说明的是,如图2所示,每个电子突触组103仅示出了三个电子突触101,但不限于此,每个电子突触组103可以包括两个电子突触、四个电子突触等。另外,各个电子突触组103中的电子突触的数量也可以各不相同,例如,第一电子突触组103a可以包括十个电子突触101,而第二电子突触组103b可以包括七个电子突触101。各个电子突触组103中的电子突触的数量可以根据实际应用需求设置,本公开对此不作限制。

例如,如图2所示,每个电子突触101还可以包括开关元件1012。第i个电子突触的开关元件1012连接在第i个电子突触的非挥发性忆阻器或多值存储器1011和第j个驱动电路102之间,且被配置为控制第i个电子突触的非挥发性忆阻器或多值存储器1011和第j个驱动电路102之间的连接导通或断开。例如,当开关元件1012导通时,非挥发性忆阻器1011和对应的驱动电路102电连接,也就是说,非挥发性忆阻器1011输出的电信号可以被传输至对应的驱动电路102;而当开关元件1012断开时,非挥发性忆阻器1011和对应的驱动电路102断开连接,也就是说,非挥发性忆阻器1011输出的电信号无法被传输至对应的驱动电路102。在另一个示例中,两个或更多个电子突触101还可以共用一个开关元件1012。

例如,开关元件1012可以包括薄膜晶体管、场效应晶体管、三极管、单刀单掷开关等。开关元件1012的控制端被配置为接收控制信号,控制信号用于控制开关元件1012导通或断开。例如,在一些示例中,若开关元件1012为n型薄膜晶体管,则第i个电子突触的开关元件1012的控制极(例如,栅极)被配置为接收该控制信号,第i个电子突触的开关元件1012的第一极(例如,源极)与第i个电子突触的非挥发性忆阻器1011连接,第i个电子突触的开关元件1012的第二极(例如,漏极)与对应的驱动电路102(例如,第j个驱动电路102)连接。当控制信号为高电平信号时,开关元件1012导通;而当控制信号为低电平信号时,开关元件1012断开。本公开对此不作限制,控制信号可以根据开关元件1012的具体结构设计,例如,若开关元件1012为p型薄膜晶体管时,则当控制信号为低电平信号时,开关元件1012导通;而当控制信号为高电平信号时,开关元件1012断开。

需要说明的是,施加到突触阵列10中的各开关元件1012上的控制信号可以被分别控制,从而每个电子突触101可以被单独控制。

图3为本公开一实施例提供的一种驱动电路的结构示意图。

例如,如图3所示,在一些示例中,每个驱动电路102可以包括运算放大器oa和电容c,运算放大器oa和电容c可以构成积分电路。例如,图3示出了第j个驱动电路的结构示意图,在第j个驱动电路中,运算放大器oa的第一输入端被配置为接收第i个电子突触输出的中间突触输出信号,运算放大器oa的第二输入端被配置为接收偏置电压vbias,运算放大器oa的输出端被配置为输出突触输出信号;电容c的第一端与运算放大器oa的第一输入端电连接,电容c的第二端与运算放大器oa的输出端电连接。

例如,第一输入端为同相输入端,第二输入端为反相输入端。

例如,各个驱动电路102接收的偏置电压vbias可以各不相同。但不限于此,在另一些实施例中,突触阵列10中的至少部分驱动电路102接收的偏置电压vbias可以相同。

例如,输入信号组中的各输入信号in均为电压信号。第i个电子突触与第j个驱动电路连接。对于第i个电子突触,其非挥发性忆阻器1011两端的电压分别为输入到第i个电子突触上的输入信号in和第j个驱动电路接收的偏置电压vbias,通过控制第j个驱动电路接收的偏置电压vbias即可控制施加第i个电子突触的非挥发性忆阻器1011上的电压差,从而调节非挥发性忆阻器1011的电阻值,最终,可以控制第i个电子突触输出的中间突触输出信号。如图3所示,在一些示例中,中间突触输出信号为电流信号iin,第j个驱动电路输出的突触输出信号vout可以为电容c上的积分电压和偏置电压vbias之和,也就是说,第j个驱动电路输出的突触输出信号vout可以表示为:

其中,c0表示电容c的电容值,t表示时间。

需要说明的是,图3所示的驱动电路102仅为一种示例,根据实际需要,驱动电路102还可以包括其他合适的器件,本公开对此不作限制。

例如,树突阵列11用于模拟生物神经网络中树突的信号处理功能,对来自突触阵列10的电信号进行非线性放大或非线性衰减。当树突阵列11中的电子树突111接收到的信号小于其阈值电压时,树突阵列11中的电子树突111处于关闭状态,即接收到的信号会在树突阵列11上被衰减。当树突阵列11中的电子树突111接收到的信号大于其阈值电压时,树突阵列11中的电子树突111处于开启状态,即接收到的信号会在树突阵列11上被放大。

例如,如图2所示,树突阵列11可以包括多个电子树突111,每个电子树突111包括半挥发性忆阻器(diffusivememristor),例如该半挥发性忆阻器与前述非挥发性忆阻器不同。例如,在未被施加电压时,半挥发性忆阻器的电阻值为第三阻值(例如,10mω),第三电压大于半挥发性忆阻器的第二阈值电压,则当第三电压(例如,1v)被施加半挥发性忆阻器上后,半挥发性忆阻器的电阻值逐渐减小,半挥发性忆阻器的电阻值例如从第三阻值变为第四阻值(例如,100kω),第四阻值小于第三阻值。例如,第四电压(例如,0.7v)被施加到半挥发性忆阻器上后,半挥发性忆阻器的电阻值保持不变,即半挥发性忆阻器的电阻值保持为第四阻值,此时,第四电压小于第三电压。当第五电压被施加到半挥发性忆阻器上后,若第五电压(例如,第五电压为0.5v)小于第四电压,则半挥发性忆阻器的电阻值逐渐增大,并最终恢复到第三阻值;若第五电压(例如,第五电压为0.8v)大于第四电压且小于第三电压,半挥发性忆阻器的电阻值可以保持不变;若第五电压(例如,第五电压为1.2v)大于第三电压,则半挥发性忆阻器的电阻值继续下降。

图4(a)和图4(b)为本公开一实施例提供的一种半挥发性忆阻器的电流-电压特性曲线图。图4(a)示出了一个半挥发性忆阻器在不同外加电压下的电流(i)-电压(v)特性曲线图,图4(b)示出了一个半挥发性忆阻器在同一个外加电压下不同时间段的电流-电压特性曲线图。

例如,如图4(a)所示,电压信号501大于电压信号502,电压信号502大于电压信号503,且电压信号501、电压信号502和电压信号503均为方波信号。当电压信号501施加到半挥发性忆阻器上,且电压信号501大于半挥发性忆阻器的阈值电压时,半挥发性忆阻器的电阻值逐渐下降,从而流过半挥发性忆阻器的电流逐渐增加,此时电流曲线可以如曲线601所示。当电压信号502施加到半挥发性忆阻器上,半挥发性忆阻器的电阻值仍然逐渐下降,但半挥发性忆阻器的电阻值的变化幅度非常小,从而虽然流过半挥发性忆阻器的电流逐渐增加,但电流的变化幅度也非常小,此时电流曲线可以如曲线602所示。当电压信号503施加到半挥发性忆阻器上,半挥发性忆阻器的电阻值几乎没有变化,由于半挥发性忆阻器的电阻值较大,从而几乎没有电流能够流过半挥发性忆阻器,此时电流曲线可以如曲线603所示。

例如,如图4(b)所示,电压信号504可以包括处于第一时间段t1的第一子信号和位于第二时间段t2的第二子信号(第二子信号包括多个脉冲信号),在第一时间段t1,电压信号504的第一子信号大于半挥发性忆阻器的阈值电压,半挥发性忆阻器的电阻值逐渐下降,从而流过半挥发性忆阻器的电流逐渐增加;在第二时间段t2,由于电压信号504的第二子信号小于半挥发性忆阻器的阈值电压,半挥发性忆阻器的电阻值逐渐缓慢增高,在第二时间段t2的最初阶段,由于半挥发性忆阻器的电阻值仍较低,此时,当电压信号504的第二子信号施加到半挥发性忆阻器上,仍有较小的电流可以流过半挥发性忆阻器,随着时间的推移,半挥发性忆阻器的电阻值逐渐增大并恢复到高电阻状态,由此,电压信号504的第二子电压信号施加到半挥发性忆阻器上,则无电流能够流过半挥发性忆阻器。

例如,多个电子树突111可以被划分为多个电子树突组112,每个电子树突组112可以与至少一个驱动电路102连接。如图2所示,在一些实施例中,多个电子树突111被划分为两个电子树突组112,该两个电子树突组112分别为第一电子树突组112a和第二电子树突组112b。第一电子树突组112a连接第一驱动电路102a和第三驱动电路102c,第二电子树突组112b连接第二驱动电路102b和第四驱动电路102d。

例如,每个电子树突组112可以接收并根据至少一个驱动电路102输出的突触输出信号生成树突输出信号组中的一个树突输出信号。树突阵列11中的多个电子树突组112输出的多个树突输出信号即组成树突输出信号组。

例如,多个电子树突111可以串联连接,也可以并联连接。每个电子树突组112可以包括至少一个电子树突111。如图2所示,第一电子树突组112a可以包括三个电子树突111(即第一电子树突组112a可以包括三个半挥发性忆阻器),其分别为第一电子树突111a、第二电子树突111b和第三电子树突111c。第一电子树突111a和第二电子树突111b并联连接,第一电子树突111a和第三电子树突111c串联连接,第二电子树突111b和第三电子树突111c也串联连接。

例如,每个电子树突111与至少一个驱动电路102连接,以接收至少一个驱动电路102输出的突触输出信号。如图2所示,在一些示例中,第一电子树突111a与第一驱动电路102a连接,以接收第一驱动电路102a输出的突触输出信号。第二电子树突111b与第三驱动电路102c连接,以接收第三驱动电路102c输出的突触输出信号。第三电子树突111c可以经由第一电子树突111a和第二电子树突111b分别与第一驱动电路102a和第三驱动电路102c连接。

需要说明的是,在图2所示的示例中,每个电子树突组112仅示出了三个电子树突111,但不限于此,每个电子树突组112可以包括两个电子树突、四个电子树突等。另外,各个电子树突组112中的电子树突的数量也可以各不相同,例如,第一电子树突组112a可以包括五个电子树突111,而第二电子树突组112b可以包括四个电子树突111。各个电子突触组103中的电子突触的数量和连接方式可以根据实际应用需求设置,本公开对此不作限制。

例如,海马电路12主要负责信号的整合和动作电位的发放。在一些示例中,海马电路12可以包括动态挥发性忆阻器(dynamicmemristor),例如该动态挥发性忆阻器与前述非挥发性忆阻器和半挥发性忆阻器均不同。例如,在未被施加电压时,动态挥发性忆阻器的电阻值为第五阻值(例如,1mω),第六电压(例如,第六电压可以为1v)大于动态挥发性忆阻器的第三阈值电压,则当第六电压被施加动态挥发性忆阻器上后,动态挥发性忆阻器的电阻值逐渐减小,且动态挥发性忆阻器从第五阻值变为第六阻值(例如,20kω),第六阻值小于第五阻值。例如,动态挥发性忆阻器的电阻值从第五阻值变为第六阻值需要的时间为纳秒量级(例如,100ns,500ns等)。当第七电压被施加到动态挥发性忆阻器上后,若第七电压(例如,第七电压为0.6v)小于第六电压时,动态挥发性忆阻器的电阻值迅速从第六阻值恢复至第五阻值,恢复时间也为纳秒量级(例如,100ns,500ns等);若第七电压(例如,第七电压为1.3v)大于第六电压时,则动态挥发性忆阻器的电阻值继续下降。

图5为本公开一实施例提供的一种动态挥发性忆阻器的电流-电压特性曲线图。

例如,如图5所示,在一些示例中,第三阈值电压可以包括正向子阈值电压vth1和负向子阈值电压vth2,正向子阈值电压vth1可以约为0.64v,负向子阈值电压vth2可以约为0.55v。当对动态挥发性忆阻器施加外加电压,外加电压小于负向子阈值电压vth2,若该外加电压随时间逐渐增大,动态挥发性忆阻器的电阻值逐渐缓慢下降,流过动态挥发性忆阻器的电流逐渐缓慢增大,而当该外加电压大于正向子阈值电压vth1时,动态挥发性忆阻器的电阻值迅速下降,动态挥发性忆阻器处于低电阻状态,此时,流过动态挥发性忆阻器的电流值突然增大,海马电路12输出脉冲电流信号(即,动作电位),此过程的电流曲线如图5中的曲线701所示。当对动态挥发性忆阻器施加外加电压,外加电压大于正向子阈值电压vth1,且外加电压随时间逐渐减小,当外加电压大于负向子阈值电压vth2时,动态挥发性忆阻器的电阻值保持不变,流过动态挥发性忆阻器的电流也保持不变,当外加电压小于负向子阈值电压vth2时,动态挥发性忆阻器的电阻值迅速恢复至高电阻状态,流过动态挥发性忆阻器的电流突然减小,此过程的电流曲线如图5中的曲线702所示。

例如,在又一些示例中,海马电路12也包括振荡子电路或施密特触发器等。该振荡子电路由电流控制,当海马电路12包括振荡子电路时,海马电路12还可以包括阈值控制子电路,突触阵列10输出的电压信号全部被施加到树突阵列11上,从而树突阵列11中的各半挥发性忆阻器的电阻值逐渐减小,树突阵列11输出的电流信号逐渐增大,树突阵列11输出的电流信号被传输至阈值控制子电路,当树突阵列11输出的电流信号大于阈值电流信号时,阈值控制子电路可以将该树突阵列11输出的电流信号传输至振荡子电路,从而振荡子电路可以输出一输出信号(例如,可以为正弦信号),该输出信号的振荡频率与树突阵列11输出的电流信号相关,当树突阵列11输出的电流信号越大,则输出信号的振荡频率越大。施密特触发器是包含正反馈的比较器电路。对于标准施密特触发器,当输入电压高于正向阈值电压,输出信号为高电位;当输入电压低于负向阈值电压,输出信号为为低电位;当输入在正负向阈值电压之间,输出信号不改变。也就是说,输出信号由高电位翻转为低电位对应的阈值电压与其由低电位翻转为高电位对应的阈值电压是不同的。只有当输入电压发生足够的变化时,输出信号才会变化,因此将这种元件命名为施密特触发器。这种双阈值动作被称为迟滞现象。

例如,在另一些示例中,海马电路12也包括积分子电路和比较子电路。积分子电路与树突阵列11连接,以接收树突阵列11输出的树突输出信号组。积分子电路被配置为对树突输出信号组进行求和,以得到输出信号;比较子电路被配置为将输出信号与动作电压发放阈值进行比较,在输出信号大于动作电压发放阈值时,生成并输出动作电位,在输出信号小于动作电压发放阈值时,无动作电位输出。

需要说明的是,若多个电子神经网络级联连接,则本级电子神经网络的海马电路12生成的动作电位可以被传输至相邻的下一个或下一级电子神经网络。

例如,突触阵列10可以包括第一参数,树突阵列11可以包括第二参数,海马电路12可以包括第三参数。第一参数、第二参数、第三参数均与电子神经网络100的功能对应,并均可以根据电子神经网络100的功能需求进行调整。例如,第一参数包括非挥发性忆阻器1011的在未加电压的情况下的电阻值和非挥发性忆阻器1011的第一阈值电压,第二参数包括半挥发性忆阻器的第二阈值电压,第三参数包括动作电压发放阈值,第三参数还可以包括动态挥发性忆阻器的第三阈值电压。

例如,驱动电路102输出的突触输出信号被施加到对应的电子树突11和海马电路12上。当驱动电路102输出的突触输出信号在对应的电子树突11上的分压小于对应的电子树突11的电压阈值时,该驱动电路102输出的突触输出信号被过滤掉。当驱动电路102输出的突触输出信号在对应的电子树突11上的分压大于对应的电子树突11的电压阈值时,电子树突11开启,驱动电路102输出的突触输出信号可以被传递至海马电路12,并在海马电路12上累加。当海马电路12上累加的信号大于其动作电压发放阈值的时生成并输出动作电位(例如,动作电位可以为脉冲信号)。

图6为本公开一实施例提供的一种电子神经网络的时序示意图。如图6所示,vout表示驱动电路102输出的突触输出信号,vd表示对应的电子树突11上的电压信号,rd表示对应的电子树突11中的半挥发性忆阻器的电阻值,vs表示海马电路12上的电压信号,rs表示海马电路12中的动态挥发性忆阻器的电阻值,iout表示海马电路12输出的输出信号(例如,输出信号可以为电流信号)。驱动电路102输出的突触输出信号vout为对应的电子树突11上的电压信号vd和海马电路12上的电压信号vs之和,即vout=vd+vs。

例如,如图6所示,当驱动电路102输出的突触输出信号vout逐渐增大,然后保持不变。在最开始阶段,电子树突11上的电压信号vd和海马电路12上的电压信号vs均逐渐增大,当电子树突11上的电压信号vd大于电子树突11中的半挥发性忆阻器的第二阈值电压时,电子树突11中的半挥发性忆阻器的电阻值rd逐渐减小,电子树突11上的电压信号vd逐渐减小;此时,由于海马电路12上的电压信号vs小于动态挥发性忆阻器的第三阈值电压,海马电路12中的动态挥发性忆阻器的电阻值rs几乎不变化,海马电路12上的电压信号vs继续逐渐增大。当海马电路12上的电压信号vs大于动态挥发性忆阻器的第三阈值电压时,海马电路12中的动态挥发性忆阻器的电阻值rs迅速减小,海马电路12可以输出一输出信号。由于海马电路12中的动态挥发性忆阻器恢复为低阻态,海马电路12上的电压信号vs也迅速下降,且小于动态挥发性忆阻器的第三阈值电压,从而电子树突11上的电压信号vd增大。此时,由于海马电路12上的电压信号vs小于动态挥发性忆阻器的第三阈值电压,海马电路12中的动态挥发性忆阻器的电阻值rs又逐渐增加,从而海马电路12上的电压信号vs又逐渐增加,导致电子树突11上的电压信号vd逐渐减小,并且当海马电路12上的电压信号vs大于动态挥发性忆阻器的第三阈值电压时,海马电路12中的动态挥发性忆阻器的电阻值rs再次迅速减小,海马电路12又可以输出一输出信号。在驱动电路102输出的突触输出信号vout施加到电子树突11和海马电路12上时,循环上述过程。

需要说明的是,图2所示的电子神经网络100的结构仅是示例性的,根据实际需要,电子神经网络100还可以包括其他器件,本公开的实施例对此不作限制。

图7为本公开一实施例提供的一种电子神经网络的参数设置方法的流程图。如图7所示,本公开实施例提供的电子神经网络的参数设置方法可以包括:

s10:获取与待修复神经元对应的正常神经元的参数;

s20:根据正常神经元的参数调整电子神经网络;

s30:通过电子神经网络的损失函数计算电子神经网络的网络参数的损失值;

s40:根据电子神经网络的网络参数的损失值调整电子神经网络的网络参数;

s50:判断电子神经网络的损失函数是否满足预定条件;

在电子神经网络的损失函数满足预定条件时,执行步骤s60:获得设置好的电子神经网络;

在电子神经网络的损失函数不满足预定条件时,返回到步骤s20:继续输入正常神经元的参数以重复执行上述参数调整过程。

例如,在一个示例中,待修复神经元例如是存在功能障碍的神经元,例如可以根据现有的检测结果确定的病灶区域的病灶神经元,来确定需要修复的待修复神经元。

例如,病灶神经元可以为病患(例如,病患可以患有神经系统疾病)的神经元,病灶神经元不能执行正常的功能,例如,病灶神经元不能发放动作电位,或者,病灶神经元发放的动作电位太强或太弱。正常神经元可以为正常人的与该病灶神经元对应的神经元。在步骤s10中,可以根据病因并结合脑电波信号、功能性磁共振信号或脑磁波信号等检测技术确定病灶区域的病灶神经元及其参数;或者,还可以利用电子神经网络提取和复制生物神经网络的网络参数,对比正常人的神经元的网络参数和病患的神经元的网络参数,以分析确定病灶区域的病灶神经元。

例如,在步骤s10中,正常神经元的参数可以包括与正常神经元对应的调整输入信号组和目标输出信号。也就是说,正常神经元处理该调整输入信号组后可以得到目标输出信号。例如,调整输入信号组可以包括多个调整输入信号,且每个调整输入信号为脑电波信号,由此,调整输入信号组和对应的目标输出信号均可以通过脑电波信号记录仪获取。

例如,在步骤s20中,电子神经网络可以为根据本公开上述任一实施例所提供的电子神经网络。步骤s20可以包括:获取与正常神经元的参数对应的调整输入信号组;利用电子神经网络对调整输入信号组进行处理,以得到调整输出信号。具体地,步骤s20可以包括:利用电子神经网络的突触阵列接收并处理调整输入信号组,以生成调整突触输出信号组;利用电子神经网络的树突阵列接收并处理调整突触输出信号组,以生成调整树突输出信号组;利用电子神经网络的海马电路对调整树突输出信号组进行求和,以得到调整输出信号。

需要说明的是,步骤s20的具体过程可以参考上述电子神经网络的实施例中对突触阵列、树突阵列和海马单元的功能相关描述,重复之处不再赘述。

例如,步骤s30可以包括:获取与调整输入信号组对应的目标输出信号;根据调整输出信号和目标输出信号,通过电子神经网络的损失函数计算电子神经网络的网络参数的损失值。

例如,在步骤s40中,电子神经网络的网络参数可以包括处于导通状态的开关元件的数量和位置、施加到突触阵列的各驱动电路上的偏置电压等。由此,在步骤s40中,根据电子神经网络的网络参数的损失值可以控制电子神经网络的电子突触中的开关元件的状态(例如,导通状态或断开状态),还可以调节施加到突触阵列的各驱动电路上的偏置电压的大小等。

例如,设置好的电子神经网络可以通过电极植入或芯片植入的方式设置在病患的病灶区域,以代替病症区域的病灶神经元。设置好的电子神经网络也可以通过电刺激等方式,将电信号作用于病症区域的病灶神经元,以使病症区域的病灶神经元产生正常的动作电位。

对于本公开,还有以下几点需要说明:

(1)本公开实施例附图只涉及到与本公开实施例涉及到的结构,其他结构可参考通常设计。

(2)在不冲突的情况下,本公开的实施例及实施例中的特征可以相互组合以得到新的实施例。

以上所述仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,本公开的保护范围应以所述权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1