用于高效地更新尖峰神经元网络的装置和方法
【专利说明】
[0001] 相关申请的交叉引用
[0002] 本申请与下面的美国专利申请有关：
[0003] 2012 年 6 月 4 日提交的、标题为"STOCHASTIC SPIKING NETWORK LEARNING APPARATUS AND METHODS"的共同拥有和共同未决的美国专利申请No. 13/487, 533[代理人 案卷号 021672-0407107,客户查询号 BC201203A];
[0004] 2012 年 6 月 5 日提交的、标题为 "APPARATUS AND METHODS FOR REINFORCEMENT LEARNING IN ARTIFICIAL NEURAL NETWORKS"的共同拥有的美国专利申请 No. 13/489, 280 [客户查询号 BC201204A];
[0005] 与本申请同时提交的、标题为 "APPARATUS AND METHODS FOR GENERALIZED STATE-DEPENDENT LEARNING IN SPIKING NEURON NETWORKS" 的共同拥有的美国专利申请 No. 13/560, 902 [代理人案卷号 021672-0410044,客户查询号 BC201212A];
[0006] 故以引用方式将上述申请中的每一个的全部内容并入本文。
[0007] 版权声明
[0008] 本专利文档的一部分公开内容包含受版权保护的材料。版权所有者不反对任何人 按其出现在（美国）专利商标局中的专利文件或记录中的那样复制本专利文献或本专利公 开内容，但在其它方面无论如何保留所有版权。
技术领域
[0009] 本公开内容涉及实现尖峰神经元网络中的学习。
【背景技术】
[0010] 尖峰神经网络
[0011] 可以频繁地使用人工尖峰神经网络以获得对生物神经网络的理解，和/或用于解 决人工智能问题。通常，这些网络可以采用脉冲编码机制，该机制可以使用脉冲的时序来 编码信息。这些脉冲（还称为"尖峰"或'冲激'）可以是短暂持续的（通常具有l-2ms的 量级）离散时间事件。在2011年6月2日提交的、标题为"APPARATUS AND METHODS FOR PULSE-CODE INVARIANT OBJECT RECOGNITION"的共同拥有和共同未决的美国专利申请 No. 13/152, 084[客户查询号BRAIN. 001A]，以及2011年6月2日提交的、标题为"SENSORY INPUT PROCESSING APPARATUS AND METHODS"的美国专利申请No. 13/152, 119[客户查询号 BRAIN. 003A]中，描述了这种编码的若干示例性实施例，故以引用方式将这些申请中的每一 份的全部内容并入本文。
[0012] 典型的人工尖峰网络（例如，图1中所举例示出的网络100)可以包括多个单元 (或节点）102,这些单元可以对应于生物神经网络中的神经元。任何给定的单元102可以 通过连接1〇4(其还称为通信信道或突触连接）来接收输入。此外，任何给定的单元还可以 通过连接112 (其还称为通信信道或突触连接）连接到其它单元。通过例如连接104向任 何给定的单元提供输入的单元（例如，图1中的单元106)通常称为突触前单元，而接收这 些输入的单元（例如，图1中的单元102)称为突触后单元。此外，一个单元层的突触后单 元（例如，图1中的单元102)可以充当为后续上层单元（没有示出）的突触前单元。
[0013] 可以分配这些连接中的单个连接（图1中的104、112)，除此以外，连接功效（其通 常可以指代突触前尖峰对于发放（firing)突触后神经元的影响的幅度和/或概率，例如， 其可以包括参数突触权重，根据该权重来改变突触后单元的一个或多个状态变量）。在脉冲 编码网络（例如，网络100)的操作期间，通常可以使用称为依赖尖峰时序的可塑性（STDP) 的方式来调整突触权重，以便实现网络学习等等。
[0014] 参照图2-3示出了一个这种自适应机制。图2中的轨迹200、210分别描述了突触 前输入脉冲系列（例如，通过图1中的连接1〇4_1来传送）和突触后输出脉冲系列（例如， 通过图1中的神经元1〇2_1来生成）。
[0015] 通常，可以基于突触前输入（例如，图2中的脉冲202、204、206、208)和突触后输 出脉冲（例如，图2中的脉冲214、216、218)之间的相对时序，来调整连接104的属性（例 如，权重w)。在图3中示出了一种典型的STDP权重调整规则，其中规则300描述了作为突 触后输出生成的时间和突触前输入的到达之间的时间差At = tp()St-tpM的函数改变的突触 权重Aw。在一些实现中，在突触后响应的生成之前，传送突触前输入的突触连接（例如，图 1中的连接104)可以是加强的（如通过与图3中的曲线304相关联的Aw>0所指示的）， 而在突触后响应的生成之后，传送突触前输入的突触连接（例如，图1中的连接104)可以 被压低。通过示例的方式，当生成图2中的突触后脉冲208时，可以：（i)与突触前输入214 相关联的连接是在输出脉冲（其通过表示为224的线来指示）之前的，其可以是强化的（图 3中的A W>0,对权重进行增加）；（ii)对后面的与突触前输入216、218相关联的连接进行 压低。
[0016] 尖峰神经元模型
[0017] 通常，可以将用于尖峰神经元模型的广义动力学方程表示成输入、输入电流和神 经元状态变量之间的相互作用、以及在该尖峰之后重置的神经元的叠加，如下所述：
[0018]
【主权项】
1. 一种其上包含有指令的计算机可读存储介质，所述指令可由处理器执行，以执行用 于实现尖峰神经元的多个连接的学习参数的更新的方法，所述方法包括： 根据被配置为按照时间间隔进行更新的过程来操作所述神经元； 存储经由所述多个连接向所述神经元提供的一个或多个输入的时间历史，给定输入的 所述时间历史描述了出现所述给定输入的时间，在包括多个所述时间间隔的时间窗中执行 对所述时间历史的所述存储； 接收用于传送是否要执行所述更新的指示； 响应于所述指示，确定多个与依据输入的连接变化分量（IDCC)，其中所述多个IDCC分 量中的各个分量与所述多个时间间隔中的相应时间间隔相关联，所述多个IDCC分量是基 于：所述指示的时间、以及与所述多个时间间隔中的各个时间间隔相对应的所述一个或多 个输入中的相应输入的时间；以及 通过调整所述学习参数来实施所述更新，所述调整是基于所述多个IDCC分量来确定 的。
2. 根据权利要求1所述的计算机可读存储介质，其中： 所述更新还包括多个资格迹的确定，所述多个资格迹中的各个资格迹是与所述多个连 接中的给定一个连接相关联的，并包括在所述多个连接中的所述给定一个连接上出现所述 一个或多个输入中的至少一个输入的临时记录；以及 基于所述多个IDCC分量中的相应IDCC分量的积分，来实现对所述多个资格迹的确定。
3. -种操作计算机化网络中的多个数据接口的计算机实现的方法，所述方法由被配置 为执行计算机程序模块的一个或多个处理器执行，所述方法包括： 存储能够经由所述多个数据接口提供的一个或多个数据项的时间记录，给定的数据项 的所述时间记录描述了出现所述给定的数据项的时间； 基于用于传送是否要执行所述更新的指示，更新所述多个参数，所述多个参数是与所 述多个数据接口相关联的，所述更新包括： 读取所述多个参数的先前值； 确定所述多个参数的更新值；以及 存储所述多个参数的所述更新值； 其中： 确定所述更新值是基于所述时间记录的至少一部分，所述部分覆盖所述指示之前的时 间间隔；以及 确定所述更新值包括与所述一个或多个数据项的数量成比例的操作的数量，所述操作 的数量独立于所述多个数据接口的数量。
4. 根据权利要求3所述的方法，还包括： 根据接口动态过程，操作所述多个数据接口中的各个数据接口，所述动态过程以能够 按照时间周期更新的动态状态为特征，所述动态过程的特征由衰减间隔来表征；