可同时计算和编程的神经形态电路的制作方法

本发明涉及一种可同时计算及编程的神经形态电路。
背景技术：
：神经网络中两个神经元之间通过突触连接在一起。神经网络中的信号在神经元之间单向传导，通常认为突触完成对传导信号的线性变换，而神经元将突触处理后的信号再做非线性变换，进而将两次变换后的信号传递给下行神经元。突触对信号进行线性变换的线性变换因子(又称为连接强度或权值)是可调节的，且能被保留下来的。忆阻器是一种依赖电荷通量而改变阻值，且对阻值具有非易失的记忆效应的电子元件。忆阻器的上述两个性质恰好对应神经网络中突触的性质，因此忆阻器可以被用于神经形态电路中模拟人脑神经网络中的突触。图1与图2为现有的用于神经网络的忆阻器原理示意图，其中图1为忆阻器1(突触)在阻值(权值)不变的情况下参与计算(或称信号处理)的过程，图2为所述忆阻器1(突触)的阻值(权值)在学习(或称自适应)过程中改变，这种改变是由来自第一神经元2的前向信号和来自第二神经元3的反馈信号共同作用引起的。上述忆阻器计算和学习都占用同一条信号传输通道，因此现有的基于忆阻器的神经形态电路无法同时进行计算和学习。由于计算和学习过程无法同时进行，神经元无法时间连续地计算，而必须在t时间步完成计算后，等待脉冲调制模块产生脉冲并调节忆阻器阻值后，才能继续进行t+dt时间步的计算。因此，忆阻器阻值调节的时间是dt可取的最小值，该值通常在ns-μs之间。技术实现要素：有鉴于此，确有必要提供一种可以同时计算和编程的神经形态电路。一种可同时计算和编程的神经形态电路，包括：第一神经元、第二神经元、突触，其中，所述突触为三端忆阻器，所述三端忆阻器包括源端、漏端和门端；所述源端与所述第一神经元的输出端连接，用于接收该第一神经元发出的前向信号；所述漏端与所述第二神经元的输入端连接；所述门端与所述第二神经元的输出端连接，用于接收该第二神经元发出的反馈信号；所述三端忆阻器的阻值由所述前向信号与所述反馈信号共同控制。一种可同时计算和编程的神经形态电路，包括：第一连接权值矩阵模块、第二连接权值矩阵模块、第三连接权值矩阵模块、神经元模块、递归最小二乘法模块、脉冲调制模块、线性放大器模块、数模转换模块以及模数转换模块；所述第一连接权值矩阵模块用于对外加恒定偏置i(t)进行线性变换，该第一连接权值矩阵模块的矩阵元素由三端忆阻器构成，所述三端忆阻器的门端连接所述脉冲调制模块；所述线性放大器模块对来自所述第一连接权值矩阵、所述第二连接权值矩阵的输入到同一神经元的多路信号进行加和；所述模数转换模块用于对所述线性放大器模块加和后的信号进行模数转换；所述神经元模块用于对所述模数转换模块输出的数字信号进行非线性变换，输出前一时间步神经元输出向量r(t-dt)和当前时间步神经元输出向量r(t)值；所述数模转换模块对所述前一时间步神经元输出向量r(t-dt)和当前时间步神经元输出向量r(t)进行模数转换；所述第二连接权值矩阵模块用于对经所述数模转换模块转换后的所述前一时间步神经元输出向量r(t-dt)进行线性变换，该第二连接权值矩阵模块的矩阵元素由三端忆阻器构成，所述三端忆阻器的门端连接所述脉冲调制模块；所述第三连接权值矩阵模块用于对经所述数模转换模块转换后的所述当前时间步神经元输出向量r(t)进行线性变换，该第三连接权值矩阵模块的矩阵元素由三端忆阻器构成，所述三端忆阻器的门端连接所述脉冲调制模块；所述递归最小二乘法模块用于计算网络输出z(t-dt)与目标函数f(t-dt)之间的误差平方e(t-dt)；所述脉冲调制模块用于产生权值按递归最小二乘法模计算结果更新的脉冲，并将该脉冲由所述三端忆阻器的门端输入。与现有技术相比，本发明提供的神经形态电路由于使用了三端忆阻器，该网络能够使得计算和学习同时进行而互不干扰，不存在由于忆阻器阻值调节时间而导致的网络工作速度物理极限，理论上能够达到更高的工作频率。附图说明图1为现有的神经网络突触参与计算过程的示意图。图2为现有的神经网络突触参与学习过程的示意图。图3为本发明实施例中神经网络突触参学习与计算过程的示意图。图4为本发明实施例中神经网络突触参与计算过程的示意图。图5为本发明实施例提供的第一种三端忆阻器的结构示意图。图6为本发明实施例提供的第二种三端忆阻器的结构示意图。图7为本发明实施例提供的第三种三端忆阻器的结构示意图。图8为本发明实施例提供的神经形态电路结构示意图。主要元件符号说明两端忆阻器1第一神经元2第二神经元3三端忆阻器10，100，200，300源端11漏端12门端13导电沟道102，202，302导电细丝结构3022绝缘层104，204，304栅极106，206，306神经形态电路400，500第一连接权值矩阵模块510线性放大器模块520模数转换模块530神经元模块540数模转换模块550第二连接权值矩阵模块560第三连接权值矩阵模块570递归最小二乘法模块580脉冲调制模块590如下具体实施方式将结合上述附图进一步说明本发明。具体实施方式下面将结合附图及具体实施例对本发明提供的可同时计算和编程的神经形态电路作进一步的详细说明。请一并参阅图3与图4，本发明第一实施例提供一种可同时计算和编程的方法，包括：提供一三端忆阻器10，该三端忆阻器10包括源端11、漏端12和门端13，来自第一神经元2的前向信号由所述源端11输入并向所述漏端12传输，来自第二神经元3的反馈信号由所述门端13输入，所述三端忆阻器10的阻值在所述前向信号与所述反馈信号的共同控制下实时变化。请参阅图3，该图为所述三端忆阻器10同时参与学习与计算过程示意图。来自第一神经元2的前向信号由源端11向漏端12传输，来自第二神经元3的反馈信号由门端13输入。所述三端忆阻器10的阻值在学习过程中改变，这种阻值的改变是由来自第一神经元2的前向信号和来自第二神经元3的反馈信号共同作用引起的。所述三端忆阻器10计算和学习分占两条信号传输通道，因此可以同时进行计算和学习。请参阅图4，该图为所述三端忆阻器10仅参与计算过程示意图。此时第一神经元2发出的信号由源端11向漏端12传输，门端13则接以0偏置，以使所述三端忆阻器10的阻值保持不变。本发明实施例进一步提供一种可同时计算和编程的神经形态电路400，包括：第一神经元2、第二神经元3、突触，其中，所述突触为三端忆阻器10，所述三端忆阻器10包括源端11、漏端12和门端13。所述源端11与所述第一神经元2的输出端连接，用于接收该第一神经元2发出的前向信号，所述漏端12与所述第二神经元3的输入端连接，所述门端13与所述第二神经元3的输出端连接，用于接收该第二神经元3发出的反馈信号。所述三端忆阻器10的阻值由所述前向信号与所述反馈信号共同控制。所述三端忆阻器10的实现的方法有多种，包括但不限于以下方案。方案一请参阅图5，所述三端忆阻器100采用半导体晶体管器件中的“栅极-绝缘层-导电沟道”三层结构，包括依次层叠设置的导电沟道102、绝缘层104及栅极106。所述导电沟道102的两端分别作为源端和漏端。所述栅极106对应三端忆阻器10的门端，接以偏置电压。所述导电沟道102的材料为半导体，包括但不限于zno、gaas、si、ge、gan、mos2、ws2、si/ge的化合物、gap、insb、in/ga/as的化合物、gasb、insb等。所述绝缘层104采用铁电材料，包括但不限于pbtio3(或zr掺杂的)、batio3、bifeo3等。所述栅极106具有金属性，包括但不限于srruo3，单质金属fe、w、pt、cu、al、ti、ag、au以及它们的合金，高掺杂si等。所述绝缘层104中的铁电材料在外电场(门端偏置)作用下产生电极化，偏置消失后极化保留(非易失)。所述导电沟道102在计算过程中提供信号的传输通道，电极化使得导电沟道102内载流子密度随之变化，从而改变导电沟道102的阻值。本方案中导电沟道材料本身没有出现新的内部原子结构。方案二请参阅图6，所述三端忆阻器200同样采用三层结构，包括依次层叠设置的导电沟道202、绝缘层204及栅极206。所述导电沟道202的两端分别作为源端和漏端。所述栅极206对应三端忆阻器10的门端，接以偏置电压。所述导电沟道202的材料采用可因组成原子比例发生改变而发生金属-绝缘体转变的材料。所述金属-绝缘体转变包括但不限于因氧比例变化而发生的金属-绝缘体转变，因氧比例变化而发生金属-绝缘体转变的材料包括但不限于smnio3。所述绝缘层204采用电导差(绝缘性好)且高原子或离子（对应引起导电沟道材料金属-绝缘体转变的原子或离子）溶解度的材料。若所述导电沟道202的材料采用因氧比例变化而发生金属-绝缘体转变的材料，则绝缘层204的材料包括但不限于：离子液体1-乙基-3-甲基咪唑啉双(三氟甲基磺酰基)亚胺([emim][n(tf)2])、己基三乙基铵三乙基硫双(三氟甲基磺酰)亚胺([n6222][n(tf)2])。所述栅极206具有金属性，包括但不限于srruo3,单质金属fe、w、pt、cu、al、ti、ag、au以及由它们的合金，高掺杂si等。在外电场(门端偏置)作用下，氧离子在导电沟道202和绝缘层204之间转移，导电沟道202中产生金属变价导致其发生金属-绝缘体之间的转变，从而直接改变了导电沟道202的阻值(非易失)。本方案中导电沟道材料与绝缘层材料之间有原子或离子交换，导电沟道材料和绝缘层材料本身都出现了新的内部原子结构。方案三请参阅图7，所述三端忆阻器300同样采用三层结构，包括依次层叠设置的导电沟道302、绝缘层304及栅极306。所述导电沟道302的两端分别为源端和漏端。所述栅极306对应三端忆阻器10的门端，接以偏置电压。所述导电沟道302的导电性能在栅极下具有可调性，所述导电沟道302的材料包括但不限于带有特定晶界结构的二维半导体mos2、ws2。不同于方案一，本方案中导电沟道材料内部在阻变过程中出现了新的原子结构，现以mos2为例进行说明。mos2阻变过程中出现了硫缺陷聚集在晶界周围而出现的导电细丝结构3022，聚集程度越大，导电细丝结构3022的体积越大，此时导电沟道302呈现低阻态；硫缺陷散开导致导电细丝结构3022局部缩小或破裂，此时导电沟道302呈现低阻态高阻态。所述绝缘层304的材料包括但不限于sio2、hfo2、al2o3、tio2、ta2o5、zro2、laalo3、srtio3等。所述栅极306具有金属性，包括但不限于srruo3、单质金属fe、w、pt、cu、al、ti、ag、au以及由它们的合金，高掺杂si等。本方案中所述导电沟道材料不和绝缘层材料之间发生原子或离子交换，绝缘层材料内部不出现新的原子结构，新的原子结构只出现在导电沟道材料中，且来自局限于导电沟道材料内部的原子重新分布。请参见图8，本发明实施例进一步提供一种具体的可同时计算和编程的神经形态电路500，该电路为高速时序信号学习网络，包括：第一连接权值矩阵模块510、线性放大器模块520、模数转换模块530、神经元模块540、数模转换模块550、第二连接权值矩阵模块560、第三连接权值矩阵模块570、递归最小二乘法模块580、脉冲调制模块590。该神经形态电路500的动力学方程为：（1）其中，x(t)代表t时刻各神经元的状态参数(膜电位)组成的向量，τ代表膜时间常数，g是一个变换常数，wnn(t)代表各神经元之间的连接权值矩阵，r(t)代表各神经元的输出信号组成的向量，z(t)代表网络的最终输出值(标量),z(t)由各神经元输出信号向量r(t)经连接权值矩阵wzn(t)，wni(t)为外加恒定偏置与各神经元之间的连接权值矩阵，i(t)为外加恒定偏置。所述第一连接权值矩阵模块510存储外加恒定偏置i(t)与各神经元之间的连接权值矩阵wni(t)，用于对外加恒定偏置i(t)进行线性变换，该第一连接权值矩阵模块510的矩阵元素由所述三端忆阻器10构成。输入信号经过该三端忆阻器10的源端11、漏端12完成线性变换(计算过程)，并向目标神经元输出。所述三端忆阻器10的门端13连接所述脉冲调制模块590。所述线性放大器模块520包括多个线性放大器，输入到同一神经元的几路输入信号共用一个线性放大器，该线性放大器对这几路输入信号进行加和。所述模数转换模块530对经线性放大器加和后的信号进行模数转换，转换后的数字信号送入所述神经元模块540。所述神经元模块540用于对输入信号进行非线性变换，其输入端与所述模数转换模块530连接，其输出端与所述数模转换模块550连接。所述神经元模块540包括函数运算单元及寄存器。所述函数运算单元包括加法器、tanh函数、微分器等神经网络计算所需的函数运算单元。所述寄存器用于存储前一时间步x(t-dt)和r(t-dt)的值，使得在当前时间步t可以被调用参与计算。所述神经元模块540输出前一时间步神经元输出向量r(t-dt)和当前时间步神经元输出向量r(t)值。所述数模转换模块550对神经元模块540获得的前一时间步神经元输出向量r(t-dt)和当前时间步神经元输出向量r(t)进行模数转换。所述第二连接权值矩阵模块560存储各神经元之间的连接权值矩阵wnn(t),用于对经所述数模转换模块550转换后的所述前一时间步神经元输出向量r(t-dt)进行线性变换。该第二连接权值矩阵模块560的矩阵元素由三端忆阻器10构成，输入信号经过该三端忆阻器10的源端11、漏端12完成线性变换(计算过程)，并向目标神经元输出。所述三端忆阻器10的门端13连接所述脉冲调制模块590。所述第三连接权值矩阵模块570存储连接权值矩阵wzn(t),用于对经所述数模转换模块550转换后的所述当前时间步神经元输出向量r(t)进行线性变换。该第三连接权值矩阵模块570的矩阵元素由三端忆阻器10构成，输入信号经过该三端忆阻器10的源端11、漏端12完成线性变换(计算过程)，并向目标神经元输出。所述三端忆阻器10的门端13连接所述脉冲调制模块590。所述递归最小二乘法模块580计算网络输出z(t-dt)与目标函数(即学习目标)f(t-dt)之间的误差平方e(t-dt)。为使该误差平方达到最小，所述递归最小二乘法模块580给出当前时间步t连接权值的应取值，具体的，（2）其中，p(0)初始化为i/α(i为单位矩阵，α为学习速率常数)。所述脉冲调制模块590块用于产生使得权值按式（2）更新的脉冲，该脉冲由所述三端忆阻器10的门端13输入，进行的是学习过程。与现有技术相比，本发明实施例提供的可同时计算和编程的神经形态电路由于使用了三端忆阻器，该网络能够使得计算和学习同时进行而互不干扰，不存在由于忆阻器阻值调节时间而导致的网络工作速度物理极限，理论上能够达到更高的工作频率。现实生活中，绝大多数信号都是时间连续的，或很多信号有着很高的频率成分，本实施例提出的三端忆阻器高速时序信号学习网络能够比两端忆阻器网络学习更高频的时序信号。另外，本领域技术人员还可在本发明精神内做其他变化，当然，这些依据本发明精神所做的变化，都应包含在本发明所要求保护的范围之内。当前第1页12