专利名称：脉冲神经网络模式探测装置和模式探测方法
技术领域：
本发明涉及神经网络，特别是一种脉冲神经网络模式探测装置和模式探测方法。
背景技术：
1894年,西班牙神经学家Santiago Ramon y Cajal首次阐述了大脑记忆形成的原理，自1983年W. B. Levy和O. Steward两名科学家通过实验发现哺乳动物大脑的可塑性原理之后，众多神经科学家和脑科学家开始常年探索大脑内的学习方式和工作原理，1992年由Y. Dan和M. Poo两位科学家发现了大脑的一种认知机理，即脉冲时间依赖可塑性学习方式，之后Bert Sakmann实验室的Henry Markram更加精确地描述了 STDP效应,这种基于神经元工作原理的神经网络也称为脉冲神经网络模式探测装置，它被誉为第三代神经网络。该网络的基本组成单元为神经元，是利用其触发的脉冲时序进行信息的处理，目前大部分的研究工作集中在理论和算法等方面。所述的单神经元脉冲神经网络模式探测装置的构 建及模式识别的实现方法详细阐述了神经网络的构建和进行周期性模式识别的步骤。神经网络的应用范围非常广泛，其应用范围主要包括生物信号的检测与自动分析、医学专家系统、计算机领域、数据挖掘、自动驾驶，甚至美国的邮件系统里也应用了神经网络。但是目前人工神经网络在不同的背景噪声中对模式的识别正确率是不同的，噪声越大正确率越低，并且在大量数据输入的情况下，识别速度相对较慢，其训练方式是一些比较复杂的数学模型，收敛性的速度依赖于模型的好坏。
发明内容
本发明的目的在于提供一种脉冲神经网络模式探测装置和模式探测方法，该装置可以探测淹没在背景噪声中模式的出现时刻，其探测正确率高于BP网络，基本接近于100%，而且特别适合于大数据量的输入，识别速度小于O. 7秒，相对其他神经网络来说有很大提高，该装置的脉冲神经网络模式探测装置训练方式简单，因而非常易于软件实现，最重要的是可以实现神经网络的线上学习。本发明的技术解决方案如下—种脉冲神经网络模式探测装置，该装置完成的工作是找到淹没在背景噪声中模式出现的时刻，其特点在于该探测装置由参数处理模块、输入判断模块、权重衰减模块、权重增强模块、输出神经元膜电位计算模块和脉冲处理模块构成；上述模块的连接关系如下脉冲输入信号从所述的输入判断模块的输入端输入，该输入判断模块的输出端分别与所述的权重衰减模块的第一输入端、所述的权重增强模块的第一输入端、所述的输出神经兀膜电位计算模块的第一输入端和所述的脉冲处理模块的第一输入端相连；所述的参数处理模块的第一输出端与所述的权重衰减模块的第二输入端相连，所述的参数处理模块的第二输出端与所述的权重增强模块的第三输入端相连，所述的参数处理模块的第三输出端与所述的输出神经元膜电位计算模块的第三输入端相连，所述的参数处理模块的第四输出端与所述的脉冲处理模块的第四输入端相连，该参数处理模块的输入端与所述的脉冲处理模块的第一输出端相连；所述的权重衰减模块的第一输出端与所述的脉冲处理模块的第五输入端相连，该权重衰减模块的第二输出端与所述的权重增强模块的第二输入端相连；所述的权重增强模块的第一输出端与所述的脉冲处理模块的第二输入端相连，该权重增强模块的第二输出端与所述的输出神经元膜电位计算模块的第二输入端相连；所述的输出神经元膜电位计算模块的输出端与所述的脉冲处理模块的第三输入端相连；所述的脉冲处理模块的第二输出端是本脉冲神经网络模式探测装置的输出端。利用上述脉冲神经网络模式探测装置进行模式探测的方法，其特点在于，该方法 包括以下步骤I)所述的参数处理模块对所述的脉冲神经网络模式探测装置的参数进行初始化权重最小值Wmin，初始化为零；权重最大值Wmax，初始化为I ;输出神经元上一次脉冲时刻tj,单位毫秒，初始化为零；预测脉冲时刻片，单位毫秒，初始化为零；时间分辨率r，初始化为I毫秒；细胞膜时间常量τ m，初始化为10毫秒；突触时间常量τ s，初始化为2. 5毫秒；输出神经元膜电位阈值h,初始化为500 ;间歇时间q,初始化为3毫秒；权重正向增益系数a+,初始化为O. 0312 ;权重负向衰减系数a'初始化为O. 0255 ;正向时间常数τ +,初始化为16. 8毫秒；负向时间常数τ -，初始化为33. 7毫秒；所述的参数处理模块将所述的权重最大值Wmax、所述的输出神经元上一次脉冲时刻#、所述的权重负向衰减系数a—和所述的负向时间常数τ_输出给所述的权重衰减模块；将所述的输出神经元上一次脉冲时刻tj、所述的预测脉冲时刻f、所述的权重最小值Wmin、所述的权重正向增益系数a+和正向时间常数τ +输出给所述的权重增强模块；将所述的细胞膜时间常量τπ、所述的突触时间常量Ts、所述的输出神经元上一次脉冲时刻^和所述的输出神经元膜电位阈值h输出给所述的输出神经元膜电位计算模块；将时间分辨率r和所述的输出神经元膜电位阈值h输出给所述的脉冲处理模块；2)所述的输入判断模块令时刻t = 1，即单位是毫秒，令i=l ；3)当第i个信号源在时刻t发出了信号，所述的输入判断模块将该信号源的编号i和时刻t分别传递给所述的权重衰减模块、权重增强模块、输出神经元膜电位计算模块和脉冲处理模块，之后进入步骤4);当第i个信号源在时刻t没有发出信号，则转到步骤16);4)当所述的权重衰减模块接收到来自所述的输入判断模块输出的信号源的编号i和时刻t后，所述的权重衰减模块再接收来自所述的参数处理模块的参数所述的负向时间常数τ _、所述的权重负向衰减系数a_、所述的权重最大值Wmax和所述的输出神经元上一次脉冲时刻g ;令所述的衰减权重矩阵wD的每一个元素等于所述的未更新权重矩阵W°的对应元素；5)所述的权重衰减模块利用下列公式〈1>和公式〈2>计算并更新所述的衰减权重矩阵wD的第i个元素WDi :
权利要求
1.一种脉冲神经网络模式探测装置，该装置完成的工作是找到淹没在背景噪声中模式出现的时刻，其特征在于该探测装置由参数处理模块(I)、输入判断模块(2)、权重衰减模块(3)、权重增强模块(4)、输出神经元膜电位计算模块(5)和脉冲处理模块(6)构成；上述模块的连接关系如下 脉冲输入信号从所述的输入判断模块(2)的输入端输入，该输入判断模块(2)的输出端分别与所述的权重衰减模块(3)的第一输入端、所述的权重增强模块(4)的第一输入端、所述的输出神经元膜电位计算模块(5)的第一输入端和所述的脉冲处理模块(6)的第一输入端相连； 所述的参数处理模块(I)的第一输出端与所述的权重衰减模块(3)的第二输入端相连，所述的参数处理模块(I)的第二输出端与所述的权重增强模块(4)的第三输入端相连，所述的参数处理模块(I)的第三输出端与所述的输出神经元膜电位计算模块(5)的第三输入端相连，所述的参数处理模块(I)的第四输出端与所述的脉冲处理模块(6)的第四输入端相连，该参数处理模块(I)的输入端与所述的脉冲处理模块(6)的第一输出端相连； 所述的权重衰减模块(3)的第一输出端与所述的脉冲处理模块(6)的第五输入端相连，该权重衰减模块(3)的第二输出端与所述的权重增强模块(4)的第二输入端相连； 所述的权重增强模块(4)的第一输出端与所述的脉冲处理模块(6)的第二输入端相连，该权重增强模块(4)的第二输出端与所述的输出神经元膜电位计算模块(5)的第二输入端相连； 所述的输出神经元膜电位计算模块(5)的输出端与所述的脉冲处理模块(6)的第三输入端相连； 所述的脉冲处理模块(6)的第二输出端是本脉冲神经网络模式探测装置的输出端。
2.利用权利要求I所述的脉冲神经网络模式探测装置进行模式探测的方法，其特征在于，该方法包括以下步骤 1)所述的参数处理模块(I)对所述的脉冲神经网络模式探测装置的参数进行初始化权重最小值Wmin，初始化为零；权重最大值Wmax，初始化为I ;输出神经元上一次脉冲时刻#，单位毫秒，初始化为零；预测脉冲时刻<，单位毫秒，初始化为零；时间分辨率r，初始化为I毫秒；细胞膜时间常量τ m，初始化为10毫秒；突触时间常量τ s，初始化为2. 5毫秒；输出神经元膜电位阈值h,初始化为500 ;间歇时间q,初始化为3毫秒；权重正向增益系数a+,初始化为O. 0312 ;权重负向衰减系数a'初始化为O. 0255 ;正向时间常数τ +,初始化为16. 8毫秒；负向时间常数τ -，初始化为33. 7毫秒； 所述的参数处理模块(I)将所述的权重最大值Wmax、所述的输出神经元上一次脉冲时刻tj、所述的权重负向衰减系数a—和所述的负向时间常数τ_输出给所述的权重衰减模块(3);将所述的输出神经元上一次脉冲时刻ij、所述的预测脉冲时刻 :所述的权重最小值Wmin、所述的权重正向增益系数a+和正向时间常数τ +输出给所述的权重增强模块(4);将所述的细胞膜时间常量τπ、所述的突触时间常量Ts、所述的输出神经元上一次脉冲时刻和所述的输出神经元膜电位阈值h输出给所述的输出神经元膜电位计算模块(5);将时间分辨率r和所述的输出神经元膜电位阈值h输出给所述的脉冲处理模块(6)； 2)所述的输入判断模块(2)令时刻t= 1，即单位是毫秒，令i=l ；3)当第i个信号源在时刻t发出了信号，所述的输入判断模块(2)将该信号源的编号i和时刻t分别传递给所述的权重衰减模块(3)、权重增强模块(4)、输出神经元膜电位计算模块(5)和脉冲处理模块(6)，之后进入步骤4);当第i个信号源在时刻t没有发出信号，则转到步骤16)； 4)当所述的权重衰减模块(3)接收到来自所述的输入判断模块(2)输出的信号源的编号i和时刻t后，所述的权重衰减模块(3)再接收来自所述的参数处理模块(I)的参数所述的负向时间常数τ_、所述的权重负向衰减系数a_、所述的权重最大值Wmax和所述的输出神经元上一次脉冲时刻t令所述的衰减权重矩阵wD的每一个元素等于所述的未更新权重矩阵r的对应元素； 5)所述的权重衰减模块(3)利用下列公式〈1>和公式〈2>计算并更新所述的衰减权重矩阵wD的第i个元素WDi :
全文摘要
一种脉冲神经网络模式探测装置和模式探测方法，该神经网络模式探测装置由参数处理模块、输入判断模块、权重衰减模块、权重增强模块、输出神经元膜电位计算模块和脉冲处理模块构成。本发明可以探测淹没在背景噪声中模式的出现时刻，其探测正确率高于BP网络，基本接近于100%，而且特别适合于大数据量的输入，识别速度小于0.7秒，相对其他神经网络来说识别速度有很大提高，所述的脉冲神经网络模式探测装置训练方式简单，因而非常易于软件实现，最重要的是可以实现神经网络的线上学习。
文档编号G06N3/02GK102831476SQ20121030137
公开日2012年12月19日 申请日期2012年8月22日 优先权日2012年8月22日
发明者王昊, 阮昊, 夏知拓 申请人:中国科学院上海光学精密机械研究所