阈值可塑的人工神经元电路的制作方法

文档序号:20920683发布日期:2020-05-29 14:06阅读:278来源:国知局
阈值可塑的人工神经元电路的制作方法

本发明涉及人工神经网络技术领域,特别涉及一种阈值可塑的人工神经元电路。



背景技术:

模拟生物神经网络信息处理方式的人工神经网络被认为是解决冯诺依曼信息处理架构中,计算与存储之间数据搬运,以及计算单元和存储单元速度不匹配等问题的最有效的途径。虽然人工神经网络强大的计算能力在各行各业也得到了验证,但与生物神经网络相比,人工神经网络在自适应性学习能力,容错能力以及推理能力方面还有非常明显的差距。

要开发出能够与生物神经网络,甚至人类大脑的智能相比拟的人工神经系统,除了系统架构和算法上的创新设计外,硬件电路的创新性设计是及其关键的。

无论是生物神经网络还是人工神经网络,都主要由两个关键的计算单元组成,也就是突触和神经元。突触在神经元之间起到连接作用。在神经网络的学习过程中,会改变突触连接的强弱。而目前的人工神经网络主要也是通过改变突触的权重,也就是神经元之间连接的强弱来表征学习过程的。人工神经网络中的神经元主要是对突触输出的信号进行积分和非线性阈值发放处理。

在生物神经网络中,学习对神经元也是有调节的。最明显的就是通过学习,神经元的发放阈值会改变。这一功能在目前人工神经网络中还没有硬件实现报道。



技术实现要素:

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此,本发明的目的在于提出一种种阈值可塑的人工神经元电路。

为达到上述目的,本发明实施例提出了种阈值可塑的人工神经元电路,包括:累加模块、阈值发放模块和阈值调节模块,其中,所述累加模块与所述阈值发放模块连接,用于累积突触产生的信号,并将所述信号发送给所述阈值发放模块;所述阈值发放模块用于接收所述累加模块的信号,并比较所述信号与预设阈值的大小,若所述信号大于预设阈值时,则神经元被激活,若所述信号小于所述预设阈值时,则神经元未被激活;所述阈值调节模块与所述阈值发放模块连接,用于根据学习算法调节所述预设阈值的大小。

本发明实施例的阈值可塑的人工神经元电路,具有学习能力,且在训练的过程中,突触和神经元同时都具有可调节性,使得人工神经网络具有更强的学习能力,功能更丰富和灵活,更加智能化,为构建功能更强大的人工神经网络提供了关键的硬件电路模块设计方案,另外,该人工神经元电路具有硬件实现简单、体积小和功耗低的优点,可做为植入式应用和便携式用。

另外,根据本发明上述实施例的阈值可塑的人工神经元电路还可以具有以下附加的技术特征:

进一步地,在本发明的一个实施例中,所述阈值发放模块为阈值开关型忆阻器或比较器。

可选地,在本发明的一个实施例中,所述阈值开关型忆阻器包括mott型器件、导电细丝型阈值开关器件和硫族元素基的相变材料阈值开关型器件。

进一步地,在本发明的一个实施例中,所述阈值调节模块利用所述学习算法对神经元进行训练,以调节非挥发忆阻器的阻值,改变所述预设阈值的大小。

可选地,在本发明的一个实施例中,所述非挥发忆阻器包括氧空位导电细丝型忆阻器和金属离子导电细丝型忆阻器。

进一步地,在本发明的一个实施例中,若所述阈值发放模块采用阈值开关型忆阻器,则所述阈值开关型忆阻器与所述阈值调节模块的非挥发忆阻器连接,通过所述信号调节所述预设阈值的大小。

进一步地,在本发明的一个实施例中,若所述阈值发放模块采用比较器,则所述阈值调节模块的非挥发忆阻器与电阻连接,所述电阻与所述比较器连接,通过所述信号和所述电阻的分压调节所述预设阈值的大小。

本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:

图1为根据本发明一个实施例的阈值可塑的人工神经元电路结构示意图;

图2为根据本发明一个实施例的基于非挥发忆阻器的阈值可塑性神经元电路结构示意图;

图3为根据本发明一个实施例的基于比较器的阈值可塑性神经元电路结构示意图。

具体实施方式

下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。

下面参照附图描述根据本发明实施例提出的阈值可塑的人工神经元电路。

图1是本发明一个实施例的阈值可塑的人工神经元电路结构示意图。

如图1所示,该人工神经元电路10包括:累加模块100、阈值发放模块200和阈值调节模块300。

其中,累加模块100与阈值发放模块200连接,用于累积突触产生的信号,并将信号发送给阈值发放模块200。

也就是说,累加模块100也就是积分电路对来自突触模块的信号进行积分。

阈值发放模块200用于接收累加模块100的信号,并比较信号与预设阈值的大小,若信号大于预设阈值时,则神经元被激活,若信号小于预设阈值时,则神经元未被激活。

也就是说,阈值发放模块200接收来自累加模块100输出的信号。如果收到的信号大于其阈值,则输出一个脉冲信号,认为神经元被激活,如果收到的信号小于其阈值,这该模块不发放脉冲,则神经元没有被激活。

可以理解的是,当神经元的阈值比较低的时,更容易发放,也就更容易被激活,表明神经网络对某一类信息更敏感。反之,如果神经元的阈值比较高,则不容易被激活,神经网络就对相应的信息不敏感。

进一步地,在本发明的一个实施例中,阈值发放模块200可以为阈值开关型忆阻器或比较器,其中,阈值开关型忆阻器可以包括mott型器件、导电细丝型阈值开关器件和硫族元素基的相变材料阈值开关型器件。

例如,阈值开关型忆阻器可为基于nbox,vox的mott型器件,也可以为基于ag,cu的导电细丝型阈值开关器件,也可为基于sb,te等硫族元素基的相变材料阈值开关型器件。

阈值调节模块300与阈值发放模块200连接,用于根据学习算法调节预设阈值电压大小。

进一步地,在本发明的一个实施例中,阈值调节模块300利用学习算法对神经元进行训练,以调节非挥发忆阻器的阻值,改变预设阈值电压。其中,非挥发忆阻器包括氧空位导电细丝型忆阻器和金属离子导电细丝型忆阻器,具体地,非挥发忆阻器可为基于taox,hfox,alox等的氧空位导电细丝型忆阻器,也可为基于ag,cu等金属离子的导电细丝型忆阻器。

也就是说,阈值调节模块300可以根据学习算法,采用调节忆阻器的阻值,通过调节忆阻器上分压的大小来调节阈值发放模块的阈值电压,进而对阈值发放模块200的阈值大小进行调节。后面将详细介绍阈值调节模块300的电路设计和工作过程。

需要说明的是,忆阻器内部离子对外部电学激励的不同具有不同的响应的物理机制,故本发明实施例可利用忆阻器本身的物理过程对脑电信号进行滤波和编码,对阈值进行调节。

进一步地,在本发明的一个实施例中,若阈值发放模块采用阈值开关型忆阻器,则阈值开关型忆阻器直接与阈值调节模块的非挥发忆阻器连接,通过信号调节预设阈值的大小。

具体地,如图2所示,当阈值发放模块200采用阈值开关型忆阻器时,阈值开关型忆阻器直接与阈值调节模块300的非挥发忆阻器连接,阈值调节模块300利用学习算法对神经元进行训练,调节非挥发忆阻器的阻值,进而改变预设阈值电压,公式如下:

vth=vin*[rn/(rn+rh)]

其中,vth为阈值电压,rn为阈值开关型忆阻器电阻,rh为非挥发忆阻器电阻,vin为输入的信号。

进一步地,在本发明的一个实施例中,若阈值发放模块采用比较器,则阈值调节模块的非挥发忆阻器与电阻连接,电阻与比较器连接,通过信号和电阻的分压调节预设阈值的大小。

具体地,如图3所示,当阈值发放模200块采用比较器时,阈值调节模块300的非挥发忆阻器与电阻连接,电阻与比较器连接,通过调节非挥发忆阻器的阻值,改变其上的分压,来改变神经元模块的发放阈值电压。在相同的输入电压下,由于非挥发忆阻器的阻值大小不同,其后电路模块的输入电压也就不同,就可在神经元电路制备完成后,通过后续的训练,使神经元电路具有对不同任务进行不同处理的功能,公式如下:

vth=vin=vbias*[ri/(ri+rh)]

其中,vth为阈值电压,ri为电阻ri上的分压,rh为非挥发忆阻器电阻,vin为输入的信号,vbias为偏置电压。

可以理解的是,非挥发忆阻器的电阻调节范围越大,电阻状态越多,则神经元的阈值可塑性越强。

综上,本发明提出的阈值可塑的人工神经元电路与传统的人工神经网络相比,传统的人工神经网络在训练的过程中,只是通过调节突触的权重来达到学习的目的,然而本发明提出的神经元电路结构具有学习能力,且在训练的过程中,突触和神经元同时都具有可调节性,使得人工神经网络具有更强的学习能力,功能更丰富和灵活,更加智能化,为构建功能更强大的人工神经网络提供了关键的硬件电路模块设计方案,另外,该人工神经元电路具有硬件实现简单、体积小和功耗低的优点,可做为植入式应用和便携式用。

此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。

在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1