使用尖峰发放神经网络的图像的不变对象表示的制作方法

领域本公开的某些方面一般涉及神经系统工程，并且尤其涉及用于使用尖峰发放神经网络的图像的不变对象表示。背景可包括一群互连的人工神经元(即，神经元模型)的人工神经网络是一种计算设备或者表示将由计算设备执行的方法。人工神经网络可具有生物学神经网络中的对应的结构和/或功能。然而，人工神经网络可为其中传统计算技术是麻烦的、不切实际的、或不胜任的某些应用提供创新且有用的计算技术。由于人工神经网络能从观察中推断出功能，因此这样的网络在因任务或数据的复杂度使得通过常规技术来设计该功能较为麻烦的应用中是特别有用的。概述在本公开的一方面，公开了一种用于使用尖峰发放神经网络不变地表示对象的方法。该方法包括通过尖峰序列表示该对象。该方法还包括确定该对象表示的参考特征。该方法进一步包括基于该参考特征将该对象表示转换成规范形式。在本公开的另一方面，公开了一种用于使用尖峰发放神经网络不变地表示对象的装置。该装置包括存储器以及耦合至该存储器的至少一个处理器。(诸)处理器配置成通过尖峰序列表示该对象。(诸)处理器还配置成确定该对象表示的参考特征。(诸)处理器进一步配置成基于该参考特征将该对象表示转换成规范形式。在还有另一方面，公开了一种用于使用尖峰发放神经网络不变地表示对象的设备。该装备包括用于通过尖峰序列表示该对象的装置。该装备还具有用于确定该对象表示的参考特征的装置。该装备进一步包括用于基于该参考特征将该对象表示转换成规范形式的装置。在本公开的又一方面，公开了一种计算机程序产品。该计算机程序产品包括其上编码有程序代码的非瞬态计算机可读介质。该程序代码包括用以通过尖峰序列表示该对象的程序代码。该程序代码还具有用以确定该对象表示的参考特征的程序代码。进一步，该程序代码包括用以基于该参考特征将该对象表示转换成规范形式的程序代码。这已较宽泛地勾勒出本公开的特征和技术优势以便下面的详细描述可以被更好地理解。本公开的附加特征和优点将在下文描述。本领域技术人员应该领会，本公开可容易地被用作修改或设计用于实施与本公开相同的目的的其他结构的基础。本领域技术人员还应认识到，这样的等效构造并不脱离所附权利要求中所阐述的本公开的教导。被认为是本公开的特性的新颖特征在其组织和操作方法两方面连同进一步的目的和优点在结合附图来考虑以下描述时将被更好地理解。然而，要清楚理解的是，提供每一幅附图均仅用于解说和描述目的，且无意作为对本公开的限定的定义。附图简述在结合附图理解下面阐述的详细描述时，本公开的特征、本质和优点将变得更加明显，在附图中，相同附图标记始终作相应标识。图1解说了根据本公开的某些方面的示例神经元网络。图2解说了根据本公开的某些方面的计算网络(神经系统或神经网络)的处理单元(神经元)的示例。图3解说了根据本公开的某些方面的尖峰定时依赖可塑性(STDP)曲线的示例。图4解说了根据本公开的某些方面的用于定义神经元模型的行为的正态相和负态相的示例。图5解说了根据本公开的某些方面的使用通用处理器来设计神经网络的示例实现。图6解说了根据本公开的某些方面的设计其中存储器可以与个体分布式处理单元对接的神经网络的示例实现。图7解说了根据本公开的某些方面的基于分布式存储器和分布式处理单元来设计神经网络的示例实现。图8解说了根据本公开的某些方面的神经网络的示例实现。图9是解说根据本公开的各方面的用于不变对象表示的示例性网络结构的框图。图10是解说根据本公开的各方面的用于提供不变对象表示的尖峰发放神经网络的示例性电路系统的框图。图11是解说根据本公开的各方面的中继单元的示例性配置的示图。图12A-C解说了根据本公开各方面的对象的取向。图13A-B是解说根据本公开的各方面的示例性直方图层的示图。图14是解说根据本公开的各方面的中继单元的经调制的电位的示例性示图。图15是解说根据本公开的一方面的用于使用尖峰发放神经网络的图像的不变对象表示的方法的流程图。图16是解说根据本公开的一方面的用于使用尖峰发放神经网络生成直方图的方法的流程图。详细描述以下结合附图阐述的详细描述旨在作为各种配置的描述，而无意表示可实践本文中所描述的概念的仅有的配置。本详细描述包括具体细节以便提供对各种概念的透彻理解。然而，对于本领域技术人员将显而易见的是，没有这些具体细节也可实践这些概念。在一些实例中，以框图形式示出众所周知的结构和组件以避免湮没此类概念。基于本教导，本领域技术人员应领会，本公开的范围旨在覆盖本公开的任何方面，不论其是与本公开的任何其他方面相独立地还是组合地实现的。例如，可以使用所阐述的任何数目的方面来实现装置或实践方法。另外，本公开的范围旨在覆盖使用作为所阐述的本公开的各个方面的补充或者与之不同的其他结构、功能性、或者结构及功能性来实践的此类装置或方法。应当理解，所披露的本公开的任何方面可由权利要求的一个或多个元素来实施。措辞“示例性”在本文中用于表示“用作示例、实例或解说”。本文中描述为“示例性”的任何方面不必被解释为优于或胜过其他方面。尽管本文描述了特定方面，但这些方面的众多变体和置换落在本公开的范围之内。虽然提到了优选方面的一些益处和优点，但本公开的范围并非旨在被限定于特定益处、用途或目标。相反，本公开的各方面旨在能宽泛地应用于不同的技术、系统配置、网络和协议，其中一些作为示例在附图以及以下对优选方面的描述中解说。详细描述和附图仅仅解说本公开而非限定本公开，本公开的范围由所附权利要求及其等效技术方案来定义。示例神经系统、训练及操作图1解说了根据本公开的某些方面的具有多级神经元的示例人工神经系统100。神经系统100可具有神经元级102，该神经元级102通过突触连接网络104(即，前馈连接)来连接到另一神经元级106。为简单起见，图1中仅解说了两级神经元，尽管神经系统中可存在更少或更多级神经元。应注意，一些神经元可通过侧向连接来连接至同层中的其他神经元。此外，一些神经元可通过反馈连接来后向连接至先前层中的神经元。如图1所解说的，级102中的每一个神经元可以接收可由前级的神经元(未在图1中示出)生成的输入信号108。信号108可表示级102的神经元的输入电流。该电流可在神经元膜上累积以对膜电位进行充电。当膜电位达到其阈值时，该神经元可激发并生成输出尖峰，该输出尖峰将被传递到下一级神经元(例如，级106)。在一些建模办法中，神经元可以连续地向下一级神经元传递信号。该信号通常是膜电位的函数。此类行为可在硬件和/或软件(包括模拟和数字实现，诸如以下所述那些实现)中进行仿真或模拟。在生物学神经元中，在神经元激发时生成的输出尖峰被称为动作电位。该电信号是相对迅速、瞬态的神经脉冲，其具有约为100mV的振幅和约为1ms的历时。在具有一系列连通的神经元(例如，尖峰从图1中的一级神经元传递至另一级神经元)的神经系统的特定实施例中，每个动作电位都具有基本上相同的振幅和历时，并且因此该信号中的信息可仅由尖峰的频率和数目、或尖峰的时间来表示，而不由振幅来表示。动作电位所携带的信息可由尖峰、发放了尖峰的神经元、以及该尖峰相对于一个或数个其他尖峰的时间来确定。尖峰的重要性可由向各神经元之间的连接所应用的权重来确定，如以下所解释的。尖峰从一级神经元向另一级神经元的传递可通过突触连接(或简称“突触”)网络104来达成，如图1中所解说的。相对于突触104，级102的神经元可被视为突触前神经元，而级106的神经元可被视为突触后神经元。突触104可接收来自级102的神经元的输出信号(即，尖峰)，并根据可调节突触权重来按比例缩放那些信号，其中P是级102的神经元与级106的神经元之间的突触连接的总数，并且i是神经元级的指示符。在图1的示例中，i表示神经元级102并且i+1表示神经元级106。此外，经缩放的信号可被组合以作为级106中每个神经元的输入信号。级106中的每个神经元可基于对应的组合输入信号来生成输出尖峰110。可使用另一突触连接网络(图1中未示出)将这些输出尖峰110传递到另一级神经元。生物学突触可以仲裁突触后神经元中的兴奋性或抑制性(超极化)动作，并且还可用于放大神经元信号。兴奋性信号使膜电位去极化(即，相对于静息电位增大膜电位)。如果在某个时间段内接收到足够的兴奋性信号以使膜电位去极化到高于阈值，则在突触后神经元中发生动作电位。相反，抑制性信号一般使膜电位超极化(即，降低膜电位)。抑制性信号如果足够强则可抵消掉兴奋性信号之和并阻止膜电位到达阈值。除了抵消掉突触兴奋以外，突触抑制还可对自发活跃神经元施加强力的控制。自发活跃神经元是指在没有进一步输入的情况下(例如，由于其动态或反馈而)发放尖峰的神经元。通过压制这些神经元中的动作电位的自发生成，突触抑制可对神经元中的激发模式进行定形，这一般被称为雕刻。取决于期望的行为，各种突触104可充当兴奋性或抑制性突触的任何组合。神经系统100可由通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其他可编程逻辑器件(PLD)、分立的门或晶体管逻辑、分立的硬件组件、由处理器执行的软件模块、或其任何组合来仿真。神经系统100可用在大范围的应用中，诸如图像和模式识别、机器学习、电机控制、及类似应用等。神经系统100中的每一神经元可被实现为神经元电路。被充电至发起输出尖峰的阈值的神经元膜可被实现为例如对流经其的电流进行积分的电容器。在一方面，电容器作为神经元电路的电流积分器件可被除去，并且可使用较小的忆阻器元件来替代它。这种办法可应用于神经元电路中，以及其中大容量电容器被用作电流积分器的各种其他应用中。另外，每个突触104可基于忆阻器元件来实现，其中突触权重变化可与忆阻器电阻的变化有关。使用纳米特征尺寸的忆阻器，可显著地减小神经元电路和突触的面积，这可使得实现大规模神经系统硬件实现更为切实可行。对神经系统100进行仿真的神经处理器的功能性可取决于突触连接的权重，这些权重可控制神经元之间的连接的强度。突触权重可存储在非易失性存储器中以在掉电之后保留该处理器的功能性。在一方面，突触权重存储器可实现在与主神经处理器芯片分开的外部芯片上。突触权重存储器可与神经处理器芯片分开地封装成可更换的存储卡。这可向神经处理器提供多种多样的功能性，其中特定功能性可基于当前附连至神经处理器的存储卡中所存储的突触权重。图2解说了根据本公开的某些方面的计算网络(例如，神经系统或神经网络)的处理单元(例如，神经元或神经元电路)202的示例性示图200。例如，神经元202可对应于来自图1的级102和106的任何神经元。神经元202可接收多个输入信号2041-204N，这些输入信号可以是该神经系统外部的信号、或是由同一神经系统的其他神经元所生成的信号、或这两者。输入信号可以是电流、电导、电压、实数值的和/或复数值的。输入信号可包括具有定点或浮点表示的数值。可通过突触连接将这些输入信号递送到神经元202，突触连接根据可调节突触权重2061-206N(W1-WN)对这些信号进行按比例缩放，其中N可以是神经元202的输入连接总数。神经元202可组合这些经缩放的输入信号，并且使用组合的经缩放的输入来生成输出信号208(即，信号Y)。输出信号208可以是电流、电导、电压、实数值的和/或复数值的。输出信号可以是具有定点或浮点表示的数值。随后该输出信号208可作为输入信号传递至同一神经系统的其他神经元、或作为输入信号传递至同一神经元202、或作为该神经系统的输出来传递。处理单元(神经元)202可由电路来仿真，并且其输入和输出连接可由具有突触电路的电连接来仿真。处理单元202及其输入和输出连接也可由软件代码来仿真。处理单元202还可由电路来仿真，而其输入和输出连接可由软件代码来仿真。在一方面，计算网络中的处理单元202可以是模拟电路。在另一方面，处理单元202可以是数字电路。在又一方面，处理单元202可以是具有模拟和数字组件两者的混合信号电路。计算网络可包括任何前述形式的处理单元。使用这样的处理单元的计算网络(神经系统或神经网络)可用在大范围的应用中，诸如图像和模式识别、机器学习、电机控制、及类似应用等。在神经网络的训练过程期间，突触权重(例如，来自图1的权重和/或来自图2的权重2061-206N)可用随机值来初始化并根据学习规则而被增大或减小。本领域技术人员将领会，学习规则的示例包括但不限于尖峰定时依赖可塑性(STDP)学习规则、Hebb规则、Oja规则、Bienenstock-Copper-Munro(BCM)规则等。在一些方面，这些权重可稳定或收敛至两个值(即，权重的双峰分布)之一。该效应可被用于减少每个突触权重的位数、提高从/向存储突触权重的存储器读取和写入的速度、以及降低突触存储器的功率和/或处理器消耗。突触类型在神经网络的硬件和软件模型中，突触相关功能的处理可基于突触类型。突触类型可以是非可塑突触(权重和延迟没有改变)、可塑突触(权重可改变)、结构化延迟可塑突触(权重和延迟可改变)、全可塑突触(权重、延迟和连通性可改变)、以及基于此的变型(例如，延迟可改变，但在权重或连通性方面没有改变)。多种类型的优点在于处理可以被细分。例如，非可塑突触不会使用待执行的可塑性功能(或等待此类功能完成)。类似地，延迟和权重可塑性可被细分成可一起或分开地、顺序地或并行地运作的操作。不同类型的突触对于适用的每一种不同的可塑性类型可具有不同的查找表或公式以及参数。因此，这些方法将针对该突触的类型来访问相关的表、公式或参数。还进一步牵涉到以下事实：尖峰定时依赖型结构化可塑性可独立于突触可塑性地来执行。结构化可塑性即使在权重幅值没有改变的情况下(例如，如果权重已达最小或最大值、或者其由于某种其他原因而不被改变)也可被执行，因为结构化可塑性(即，延迟改变的量)可以是pre-post(前-后)尖峰时间差的直接函数。替换地，结构化可塑性可被设为权重变化量的函数或者可基于与权重或权重变化的界限有关的条件来设置。例如，突触延迟可仅在权重变化发生时或者在权重到达0的情况下才改变，但在这些权重为最大值时则不改变。然而，具有独立函数以使得这些过程能被并行化从而减少存储器访问的次数和交叠可能是有利的。突触可塑性的确定神经元可塑性(或简称“可塑性”)是大脑中的神经元和神经网络响应于新的信息、感官刺激、发展、损坏、或机能障碍而改变其突触连接和行为的能力。可塑性对于生物学中的学习和记忆、以及对于计算神经元科学和神经网络是重要的。已经研究了各种形式的可塑性，诸如突触可塑性(例如，根据Hebbian理论)、尖峰定时依赖可塑性(STDP)、非突触可塑性、活跃性依赖可塑性、结构化可塑性和自稳态可塑性。STDP是调节神经元之间的突触连接的强度的学习过程。连接强度是基于特定神经元的输出与收到输入尖峰(即，动作电位)的相对定时来调节的。在STDP过程下，如果至某个神经元的输入尖峰平均而言倾向于紧挨在该神经元的输出尖峰之前发生，则可发生长期增强(LTP)。于是使得该特定输入在一定程度上更强。另一方面，如果输入尖峰平均而言倾向于紧接在输出尖峰之后发生，则可发生长期抑压(LTD)。于是使得该特定输入在一定程度上更弱，并由此得名“尖峰定时依赖可塑性”。因此，使得可能是突触后神经元兴奋原因的输入甚至在将来作出贡献的可能性更大，而使得不是突触后尖峰的原因的输入在将来作出贡献的可能性更小。该过程继续，直至初始连接集合的子集保留，而所有其他连接的影响减小至无关紧要的水平。由于神经元一般在其许多输入都在一短时段内发生(即，累积性足以引起输出)时产生输出尖峰，因此通常保留下来的输入子集包括倾向于在时间上相关的那些输入。另外，由于在输出尖峰之前发生的输入被加强，因此提供对相关性的最早充分累积性指示的那些输入将最终变成至该神经元的最后输入。STDP学习规则可因变于突触前神经元的尖峰时间tpre与突触后神经元的尖峰时间tpost之间的时间差(即，t＝tpost-tpre)来有效地适配将该突触前神经元连接到该突触后神经元的突触的突触权重。STDP的典型公式化是若该时间差为正(突触前神经元在突触后神经元之前激发)则增大突触权重(即，增强该突触)，以及若该时间差为负(突触后神经元在突触前神经元之前激发)则减小突触权重(即，抑压该突触)。在STDP过程中，突触权重随时间推移的改变可通常使用指数式衰退来达成，如由下式给出的：Δw(t)=a+e-t/k++μ,t>0a-et/k-,t<0,---(1)]]>其中k+和分别是针对正和负时间差的时间常数，a+和a-是对应的比例缩放幅值，并且μ是可应用于正时间差和/或负时间差的偏移。图3解说了根据STDP，突触权重作为突触前(presynaptic)和突触后(postsynaptic)尖峰的相对定时的函数而改变的示例性示图300。如果突触前神经元在突触后神经元之前激发，则对应的突触权重可被增大，如曲线图300的部分302中所解说的。该权重增大可被称为该突触的LTP。从曲线图部分302可观察到，LTP的量可因变于突触前和突触后尖峰时间之差而大致呈指数式地下降。相反的激发次序可减小突触权重，如曲线图300的部分304中所解说的，从而导致该突触的LTD。如图3中的曲线图300中所解说的，可向STDP曲线图的LTP(因果性)部分302应用负偏移μ。x轴的交越点306(y＝0)可被配置成与最大时间滞后重合以考虑到来自层i-1的各因果性输入的相关性。在基于帧的输入(即，呈特定历时的包括尖峰或脉冲的帧的形式的输入)的情形中，可计算偏移值μ以反映帧边界。该帧中的第一输入尖峰(脉冲)可被视为要么如直接由突触后电位所建模地随时间衰退，要么在对神经状态的影响的意义上随时间衰退。如果该帧中的第二输入尖峰(脉冲)被视为与特定时间帧相关或有关，则该帧之前和之后的有关时间可通过使STDP曲线的一个或多个部分偏移以使得这些有关时间中的值可以不同(例如，对于大于一个帧为负，而对于小于一个帧为正)来在该时间帧边界处被分开并在可塑性意义上被不同地对待。例如，负偏移μ可被设为偏移LTP以使得曲线实际上在大于帧时间的pre-post时间处变得低于零并且它由此为LTD而非LTP的一部分。神经元模型及操作存在一些用于设计有用的尖峰发放神经元模型的一般原理。良好的神经元模型在以下两个计算态相(regime)方面可具有丰富的潜在行为：重合性检测和功能性计算。此外，良好的神经元模型应当具有允许时间编码的两个要素：输入的抵达时间影响输出时间，以及重合性检测能具有窄时间窗。最后，为了在计算上是有吸引力的，良好的神经元模型在连续时间上可具有闭合形式解，并且具有稳定的行为，包括在靠近吸引子和鞍点之处。换言之，有用的神经元模型是可实践且可被用于建模丰富的、现实的且生物学一致的行为并且可被用于对神经电路进行工程设计和反向工程两者的神经元模型。神经元模型可取决于事件，诸如输入抵达、输出尖峰或其他事件，无论这些事件是内部的还是外部的。为了达成丰富的行为库，能展现复杂行为的状态机可能是期望的。如果事件本身的发生在撇开输入贡献(若有)的情况下能影响状态机并约束该事件之后的动态，则该系统的将来状态并非仅是状态和输入的函数，而是状态、事件和输入的函数。在一方面，神经元n可被建模为尖峰发放带漏泄积分激发神经元，其膜电压vn(t)由以下动态来支配：dvn(t)dt=αvn(t)+βΣmwm,nym(t-Δtm,n),---(2)]]>其中α和β是参数，wm,n是将突触前神经元m连接至突触后神经元n的突触的突触权重，以及ym(t)是神经元m的尖峰发放输出，其可根据Δtm,n被延迟达树突或轴突延迟才抵达神经元n的胞体。应注意，从建立了对突触后神经元的充分输入的时间直至该突触后神经元实际上激发的时间存在延迟。在动态尖峰发放神经元模型(诸如Izhikevich简单模型)中，如果在去极化阈值vt与峰值尖峰电压vpeak之间有差量，则可引发时间延迟。例如，在该简单模型中，神经元胞体动态可由关于电压和恢复的微分方程对来支配，即：dvdt=(k(v-vt)(v-vr)-u+I)/C,---(3)]]>dudt=a(b(v-vr)-u).---(4)]]>其中v是膜电位，u是膜恢复变量，k是描述膜电位v的时间尺度的参数，a是描述恢复变量u的时间尺度的参数，b是描述恢复变量u对膜电位v的阈下波动的敏感度的参数，vr是膜静息电位，I是突触电流，以及C是膜的电容。根据该模型，神经元被定义为在v＞vpeak时发放尖峰。HunzingerCold模型HunzingerCold神经元模型是能再现丰富多样的各种神经行为的最小双态相尖峰发放线性动态模型。该模型的一维或二维线性动态可具有两个态相，其中时间常数(以及耦合)可取决于态相。在阈下态相中，时间常数(按照惯例为负)表示带漏泄通道动态，其一般作用于以生物学一致的线性方式使细胞返回到静息。阈上态相中的时间常数(按照惯例为正)反映抗漏泄通道动态，其一般驱动细胞发放尖峰，而同时在尖峰生成中引发等待时间。如图4中所解说的，该模型400的动态可被划分成两个(或更多个)态相。这些态相可被称为负态相402(也可互换地称为带漏泄积分激发(LIF)态相，勿与LIF神经元模型混淆)以及正态相404(也可互换地称为抗漏泄积分激发(ALIF)态相，勿与ALIF神经元模型混淆)。在负态相402中，状态在将来事件的时间趋向于静息(v-)。在该负态相中，该模型一般展现出时间输入检测性质及其他阈下行为。在正态相404中，状态趋向于尖峰发放事件(vs)。在该正态相中，该模型展现出计算性质，诸如取决于后续输入事件而引发发放尖峰的等待时间。在事件方面对动态进行公式化以及将动态分成这两个态相是该模型的基础特性。线性双态相二维动态(对于状态v和u)可按照惯例定义为：τρdvdt=v+qρ---(5)]]>-τududt=u+r---(6)]]>其中qρ和r是用于耦合的线性变换变量。符号ρ在本文中用于标示动态态相，在讨论或表达具体态相的关系时，按照惯例对于负态相和正态相分别用符号“-”或“+”来替换符号ρ。模型状态由膜电位(电压)v和恢复电流u来定义。在基本形式中，态相在本质上是由模型状态来决定的。该精确和通用的定义存在一些细微却重要的方面，但目前考虑该模型在电压v高于阈值(v+)的情况下处于正态相404中，否则处于负态相402中。态相相关时间常数包括负态相时间常数τ-和正态相时间常数τ+。恢复电流时间常数τu通常是与态相无关的。出于方便起见，负态相时间常数τ-通常被指定为反映衰退的负量，从而用于电压演变的相同表达式可用于正态相，在正态相中指数和τ+将一般为正，正如τu那样。这两个状态元素的动态可在发生事件之际通过使状态偏离其零倾线(null-cline)的变换来耦合，其中变换变量为：qρ＝-τρβu-vρ(7)r＝δ(v+ε)(8)其中δ、ε、β和v-、v+是参数。vρ的两个值是这两个态相的参考电压的基数。参数v-是负态相的基电压，并且膜电位在负态相中一般将朝向v-衰退。参数v+是正态相的基电压，并且膜电位在正态相中一般将趋向于背离v+。v和u的零倾线分别由变换变量qρ和r的负数给出。参数δ是控制u零倾线的斜率的比例缩放因子。参数ε通常被设为等于-v-。参数β是控制这两个态相中的v零倾线的斜率的电阻值。τρ时间常数参数不仅控制指数式衰退，还单独地控制每个态相中的零倾线斜率。该模型可被定义为在电压v达到值vS时发放尖峰。随后，状态可在发生复位事件(其可以与尖峰事件完全相同)之际被复位：v=v^----(9)]]>u＝u+Δu(10)其中和Δu是参数。复位电压通常被设为v-。依照瞬时耦合的原理，闭合形式解不仅对于状态是可能的(且具有单个指数项)，而且对于到达特定状态的时间也是可能的。闭合形式状态解为：v(t+Δt)=(v(t)+qρ)eΔtτρ-qρ---(11)]]>u(t+Δt)=(u(t)+r)e-Δtτu-r---(12)]]>因此，模型状态可仅在发生事件之际被更新，诸如在输入(突触前尖峰)或输出(突触后尖峰)之际被更新。还可在任何特定时间(无论是否有输入或输出)执行操作。而且，依照瞬时耦合原理，突触后尖峰的时间可被预计，因此到达特定状态的时间可提前被确定而无需迭代技术或数值方法(例如，欧拉数值方法)。给定了先前电压状态v0，直至到达电压状态vf之前的时间延迟由下式给出：Δt=τρlogvf+qρv0+qρ---(13)]]>如果尖峰被定义为发生在电压状态v到达vS的时间，则从电压处于给定状态v的时间起测量的直至发生尖峰前的时间量或即相对延迟的闭合形式解为：其中通常被设为参数v+，但其他变型可以是可能的。模型动态的以上定义取决于该模型是在正态相还是负态相中。如所提及的，耦合和态相ρ可基于事件来计算。出于状态传播的目的，态相和耦合(变换)变量可基于在上一(先前)事件的时间的状态来定义。出于随后预计尖峰输出时间的目的，态相和耦合变量可基于在下一(当前)事件的时间的状态来定义。存在对该Cold模型、以及在时间上执行模拟、仿真、或建模的若干可能实现。这包括例如事件-更新、步阶-事件更新、以及步阶-更新模式。事件更新是其中基于事件或“事件更新”(在特定时刻)来更新状态的更新。步阶更新是以间隔(例如，1ms)来更新模型的更新。这不一定利用迭代方法或数值方法。通过仅在事件发生于步阶处或步阶间的情况下才更新模型或即通过“步阶-事件更新”，基于事件的实现以有限的时间分辨率在基于步阶的模拟器中实现也是可能的。”使用尖峰发放神经网络的图像的不变对象表示本公开的各方面涉及尖峰发放神经网络中的图像的不变对象表示。机器学习或计算机视觉系统中对象表示的期望的属性是不变性。计算机视觉系统的典型示例包括图像分类器和图像识别系统。此类系统的一般功能是识别或分类不同的对象而不管它们呈现给系统的具体空间配置如何。例如，被训练为识别人脸的系统应当能够从各个角度、在各个距离以及在当出现在视觉帧内的不同位置时可靠地检测脸部，神经网络可执行机器学习并且可以识别对象。具体而言，尖峰发放神经网络可以被用来识别对象。这些网络可以一个或多个特征提取层后跟学习层为特征。例如，每层中的节点(例如神经元)可以时间尖峰模式的形式来编码特征。用来解码这些特征的共用度量包括尖峰速率和尖峰间区间。这些网络受制于成为地点码(即，同一对象的特定配置导致神经元尖峰发放的特定的子集)。由此，至多发送到学习层的尖峰发放模式可能不能够在相同对象的不同配置之间进行区分。实现旋转、缩放和移位不变性的标准技术涉及将特征提取层的输出重新索引的不同方法。为了使用此类用于旋转的方案，要推导感兴趣的对象的中心以及旋转的程度。此外，还要维护重新索引矩阵。因此，标准技术对于具有存储器约束的大系统并不会很好地进行缩放。本公开的诸方面涉及传入图像的不变转换。转换层被设计成产生类似的输出而不管对象的具体缩放、位置或取向。这允许学习层对于对象的具体配置保持不可知，并且藉此允许其同时是缩放、旋转和移位不变的。图5解说了根据本公开的某些方面的使用通用处理器502进行前述图像的不变对象表示的示例实现500。与计算网络(神经网络)相关联的变量(神经信号)、突触权重和系统参数，延迟，频率槽信息，尖峰等待时间信息以及直方图信息可被存储在存储器块504中，而在通用处理器502处执行的指令可从程序存储器506中加载。在本公开的一方面，加载到通用处理器502的指令包括用于通过尖峰序列表示对象，确定该对象表示的参考特征，和/或基于该参考特征将该对象表示转换成规范形式的代码。图6解说了根据本公开的某些方面的前述图像的不变表示的示例实现600，其中存储器602可以经由互连网络604与计算网络(神经网络)的个体(分布式)处理单元(神经处理器)606对接。与计算网络(神经网络)相关联的变量(神经信号)、突触权重、系统参数，延迟，频槽信息、以及直方图信息可被存储在存储器602中，并且可从存储器602经由互连网络604的(诸)连接被加载到每个处理单元(神经处理器)606中。在本公开的一方面，处理单元606可以配置成通过尖峰序列表示对象，确定该对象表示的参考特征，和/或基于该参考特征将该对象表示转换成规范形式。图7解说了前述图像的不变对象表示的示例实现700。如图7中所解说的，一个存储器组702可与计算网络(神经网络)的一个处理单元704直接对接。每个存储器组702可存储与对应的处理单元(神经处理器)704相关联的变量(神经信号)、突触权重、和/或系统参数，延迟，频率槽信息，以及直方图信息。在本公开的一方面，处理单元704可以配置成通过尖峰序列表示对象，确定该对象表示的参考特征，和/或基于该参考特征将该对象表示转换成规范形式的代码。图8解说了根据本公开的某些方面的神经网络800的示例实现。如图8中所解说的，神经网络800可具有多个局部处理单元802，它们可执行本文所描述的方法的各种操作。每个局部处理单元802可包括存储该神经网络的参数的局部状态存储器804和局部参数存储器806。另外，局部处理单元802可具有用于存储局部模型程序的局部(神经元)模型程序(LMP)存储器808、用于存储局部学习程序的局部学习程序(LLP)存储器810、以及局部连接存储器812。此外，如图8中所解说的，每个局部处理单元802可与用于为该局部处理单元的各局部存储器提供配置的配置处理器单元814对接，并且与提供各局部处理单元802之间的路由的路由单元816对接。在一个配置中，神经元模型配置用于通过尖峰序列表示对象，确定该对象表示的参考特征和/或基于该参考特征将该对象表示转换成规范形式。该神经元模型包括表示装置、确定装置和转换装置。在一个方面，该检测装置、确定装置和/或转换装置可以是被配置成执行所叙述的功能的通用处理器502、程序存储器506、存储器块504、存储器602、互连网络604、处理单元606、处理单元704、局部处理单元802、和或路由连接处理元件816。在另一种配置中，前述装置可以是被配置成执行由前述装置所叙述的功能的任何模块或任何装置。在另一配置中，神经元模型配置成用于对尖峰进行计数和/或用于生成直方图。该神经元模型包括计数装置和生成装置。在一个方面，该计数和/或生成装置可以是被配置成执行所叙述的功能的通用处理器502、程序存储器506、存储器块504、存储器602、互连网络604、处理单元606、处理单元704、局部处理单元802、和/或路由连接处理元件816。在另一种配置中，前述装置可以是被配置成执行由前述装置所叙述的功能的任何模块或任何装置。根据本公开的某些方面，每个局部处理单元802可被配置成基于神经网络的一个或多个期望功能性特征来确定神经网络的参数，以及随着所确定的参数被进一步适配、调谐和更新来使这一个或多个功能性特征朝着期望的功能性特征发展。图9是解说根据本公开的各方面的用于不变对象表示的示例性网络结构900的框图。参见图9，网络结构900可包括取向层902、不变性层904、直方图层906和时间学习层908。取向层902可包括一个或多个单元或神经元，并且可以用来确定所考虑的对象的主对齐轴或参考取向。不变性层904执行可以将对象映射到规范表示而不管其缩放、空间域中的位置和旋转度数的一组计算。在一些方面，不变性层904接收针对主对齐轴的反馈，并且可以被用来例如通过编码包括对象表示的像素或像素组的不变取向来校正对象表示。直方图层906可以用来通过对与经等待时间编码的对象表示相关联的尖峰进行计数来构建取向的柱状图直方图。时间学习层908可以被训练成识别相对于其主轴的图像中的取向的直方图。直方图层906的输出对于传入图像的各种配置而言可以基本上相同。由此，时间学习层908可以是常规学习层或任何其他学习层。例如，通过使用诸如边沿过滤器的技术，可以计算指定位置处的局部取向。为了实现不变性，当该对象通过面内旋转转换时，将相对于该对象上定义的任何轴所测量的局部取向保持为常量是足以胜任的。这是对于所有刚性对象都正确的非常一般的条件。图10是解说根据本公开的各方面的用于提供不变对象表示的尖峰发放神经网络的示例性取向层电路系统1000的框图。该取向层电路系统1000包括局部取向单元1002a、1002b、1002c和1002d(也可以被统称为局部取向单元1002)、全局取向单元1004a、1004b、1004c和1004d(也可以被统称为全局取向单元1004)以及中继单元1006a(A)、1006b(B)、1006c(C)和1006d(D)(也可以被统称为中继单元1006)。在一些方面，每个前述单元可包括神经元。为了便于解说，取向层电路系统1000被示为具有四个局部取向单元1002、四个全局取向单元1004和四个中继单元1006。然而，这仅是示例性的并且可以替换地使用任何数目的此类单元或神经元。此外，例如，在对象表示系统的每个网格位置(例如，像素)可以提供取向层电路系统1000。在一些方面，可以为每N个网格位置提供取向层电路系统1000以实现图像子采样。局部取向单元1002经由突触网络(未示出)耦合到全局取向单元1004。局部取向单元1002可以配置成检测网格位置处对象的存在。网格位置可以例如是对象表示系统的像素或像素组或者预定义区域或区。在一些方面，该对象可以表示为尖峰或尖峰序列。例如，可以基于显示器的网格位置(例如，像素)处对象的存在而生成尖峰。每个局部取向单元1002可以配置成检测特定局部取向单元(1002a、1002b、1002c或1002d)的视野的空间域内的对象的局部角度或取向的存在。例如，局部取向单元1002a可以检测其视野的空间域内的对象的0°局部取向的存在。类似地，局部取向单元1002b可以检测45°局部取向，局部取向单元1002c可以检测90°局部取向，并且局部取向单元1002d可以检测135°局部取向。局部取向单元1002可以向对应的全局取向单元1004供应关于检测到的该对象的局部角度或取向的信息。全局取向单元1004将来自多组局部定向单元1002的输出池化，并且可以被用来标识参考特征。例如，在一些方面，参考特征可包括对象的主对齐轴。在一些方面，局部取向单元1002和全局取向单元1004可以在集合内具有强侧向抑制。即，在特定时间对于每个像素，仅可以有一个局部取向单元1002(即，1002a、1002b、1002c或1002d中的一者)和一个全局取向单元1004(即，1004a、1004b、1004c或1004d中的一者)活跃。当对象被呈现时，在每个网格位置，单个局部取向单元1002可以响应于该位置处的边沿取向来发放尖峰。当边沿未被呈现时，局部取向单元1002可以不发放尖峰。特定取向的局部取向单元1002投射到相同取向的全局取向单元1004。全局取向单元1004的尖峰时间可以例如取决于传入尖峰的数目。在一个示例性方面，尖峰时间可以取决于传入尖峰的输入是否大于特定阈值(例如，该阈值可以对应于神经元的ALIF模型中的静息电位和阈下电位之间的电压差)。在一些方面，传入尖峰的数目越大，全局取向单元(神经元)1004的尖峰时间越短。不同类型的全局取向单元1004(例如，1004a、1004b、1004c和1004d)可以从在相同空间域上出现的局部取向单元1002接收投射。由此取向最接近于出现在其视野中的参考取向(例如，优势取向)的全局取向单元1004首先发放尖峰，并且在该过程中，禁止其他类型的全局取向单元1004。例如，若全局取向单元1004b最接近于出现在其视野中的参考取向，那么全局取向单元1004b可以首先发放尖峰，并且由此禁止全局取向单元(1004a、1004c和1004d)。相应地，该全局取向单元1004的取向可以用作参考取向/特征。中继单元1006分别经由突触(1008a、1008b、1008c、1008d)从局部取向单元1002接收输入。此外，中继单元1006各自经由突触1010从所有全局取向单元1004接收输入。由此，中继单元1006可以从全局取向单元1004和局部取向单元1002接收取向信息。基于该接收到的信息，中继单元1006可以发信号通知任何取向(例如，0°、45°、90°或135°)的存在。例如，中继单元A1006a可以发信号通知0°，中继单元B(1006b)可以发信号通知45°的存在，中继单元C1006c可以发信号通知90°，以及中继单元D(1006d)可以发信号通知135°的存在。基于接收到的信息，在一些方面，中继单元1006可以发信号通知局部取向单元1002和全局取向单元1004所确定的取向之间的相对取向的测量。例如，若90°局部取向单元(1002c)和45°全局取向单元(1004b)发放尖峰，那么中继单元可以发信号通知90°-45°＝45°。在一些方面，全局取向单元1004(已经基于局部取向单元1002的池化的输出标识该对象的主取向轴)可以在来自局部取向单元1002的尖峰抵达之前调制中继单元1006的静息电位。用这种方式，中继单元1006可以将对象表示转换成规范形式。中继单元1006随后经由突触1014a、1014b、1014c和1014d(可以统称为突触1014)投射到读出神经元(R)1020。中继单元1006和读出神经元1020可包括取向层电路系统1000的中继电路，其可以配置成以类似于复用器的方式来运行。读出神经元1020可以编码局部取向单元1002的网格位置/视野的取向。在一些方面，读出神经元1020可以根据尖峰延迟或等待时间来编码取向。例如，尖峰等待时间可以测量自图像在特定网格/位置(例如，像素)处的呈现直到经由中继单元接收的时间。在一些方面，可以根据尖峰间区间(ISI)(即，从呈现图像直到发放尖峰的时间)测量尖峰等待时间。在一个示例中，1s的尖峰等待时间可以指30°取向，而2s的尖峰等待时间可以指60°取向。此外，读出神经元1020可以用作镜像神经元。即，读出神经元可以用与其突触前在前神经元相同的延迟来发放尖峰。例如，若中继单元1006以1s的等待时间发放尖峰，那么读出神经元1020也可以1s的延迟来发放尖峰。相应地，局部取向单元1002、全局取向单元1004、中继单元1006和直方图层(例如，906)可以被放置在图像的预先指定位置。例如，完整的图像可以被划分成4x4个此类区域，具有16个位置(全局位置)。每个位置可以被划分成许多网格位置(例如，像素)。在此类网格位置处，可以提供一组局部取向单元和中继单元。全局取向单元可以池化自在特定全局位置的每个网格位置处包括的局部取向单元。图11是解说根据本公开的各方面的中继单元1006的示例性配置的示图1100。在该示例性配置中，中继单元1006的静息电位在1102(A-0.44V)、1104(B-0.94V)、1106(C-1.44V)和1108(D-1.94V)处示出。相反，局部取向单元1002和全局取向单元1004的的静息电位为0V。中继单元1006的尖峰电压可以是5V且阈值电压可以是3V。双箭头1110表示在突触前端处接收尖峰之际中继单元1006中的状态改变。在一些方面，中继单元1006的静息电位可对应于可以例如测量自图像在特定网格位置处呈现的时间的尖峰等待时间。即，因为不同的静息电位可以使得神经元最终在ALIF区域的不同电压电平处接收传入尖峰，所以不同的静息电位可以对应于具有不同尖峰等待时间的神经元的尖峰发放。例如，0.09s的尖峰等待时间可以表示0°，0.21s的尖峰等待时间可以表示45°，0.34s的尖峰等待时间可以表示90°，且0.49s的尖峰等待时间可表示135°。由此，中继单元1006可被配置成将对象表示(例如，取向)编码到其激发等待时间中。全局取向单元1004可以基于所确定的参考特征(例如，取向的主轴)来调制中继单元的静息电位。表1列出了每个全局取向单元(1004)可以应用到中继单元(1006)的示例性调制。本质上，从全局取向单元(1004)到中继单元(1006)的每个突触(1010)可以充当兴奋性突触或抑制性突触，并且抑制(或兴奋)的强度可被编码在突触连接的权重中。表1图12A-C解说了根据本公开各方面的对象的取向。如图12A-C中所示的，以不同取向示出了一对象(字母‘K’)。图12A示出了表示规范K的对象1200。对象1200可以划分成3段，段1(1202)、段2(1204)和段3(1206)。在该示例中，可以以逆时针方式从x轴测量角度。由此，字母K的轴可以与x轴对齐(参见段1(1202))。在图12B中，对象1210(字母K)被旋转45°。由此，段1(1202)、段2(1204)和段3(1206)各自被旋转45°。因为45°作为K的参考取向而活跃，所以全局取向单元1004(对于所有段活跃)是45°。在图12C中，对象1200(字母K)被旋转90°。相应地，段1(1202)、段2(1204)和段3(1206)各自被旋转达90°。每个突触具有相关联的延迟。考虑图12B的示例，全局取向单元(例如，1004)和中继单元(例如，1006)之间的延迟例如可以是0.5s，而局部取向单元(例如，1002)和中继单元(例如，1006)之间的延迟可以是1s。例如，沿段1(1202)，45°局部取向单元1002可以在t＝1s处发出尖峰，其将会由中继单元B(1006b)接收。由此，在一些方面，来自全局取向单元(1004)的尖峰可以在来自局部取向单元(例如，1002)的尖峰之前抵达中继单元(例如，1006)。如上文所指示的，在图12B的示例性示图中，字母K的参考取向为45°。由此，对应于45°的全局取向单元是活跃的。参见图11，中继单元B的静息电位是-0.94V。从表1看出，45°全局取向单元(1004b)所实施的调制为+0.5V。由此，在t＝0.5s(全局取向单元和中继单元之间的延迟)处，静息电位将会是-0.44V(-0.94V+.5V)。在1s时从局部取向单元(1002)抵达的尖峰可以使得中继单元B(1006b)以对应于-0.44V的静息电位(对应于中继单元(A))的尖峰等待时间来激发，这进而对应于0°取向。由此，通过经由单元和/或突触参数来编码定时信息，可以实现不使用时钟的操作，因为可以执行局部计算而非全局计算。返回图12B的示例，因为参考取向是45°，所以中继单元(例如，1006b)可以针对该参考取向转换由局部取向单元(例如，1004b)所检测到的取向。在一些方面，该转换可以通过经由全局取向单元(1004)调制中继单元(例如，1006)的静息电位来实施。图14是解说根据本公开的各方面的中继单元的经调制的电位的示例性示图。可以在初始状态(例如，静息状态)提供中继单元(A、B、C和D)的电位。在初始状态中，每个中继单元可以处于静息电位(例如，如图11所示)。全局取向单元(例如，1004)可以调制中继单元的静息电位。例如，可以降低中继单元A的静息电位(1214)，同时可以增加中继单元B、C和D的静息电位(分别是1216、1218、1220)。在一些方面，中继单元的静息电位可以由局部取向单元调制。例如，如图14中所示，中继单元B可以受到来自45°局部单元的尖峰的影响，其进而将中继单元B送入ALIF区域。中继单元B可以基于局部取向单元的取向和参考取向的时间延迟发放尖峰。例如，中继单元B可以基于局部取向和参考取向之间的差(例如，如上文所讨论的，局部取向单元取向(45°)-参考取向(45°)＝0°，这可以例如对应于0.09s的等待时间)的时间延迟来发放尖峰。图13A-B是解说根据本公开的各方面的示例性直方图层的示图1300、1350。参照图13A的示图1300，直方图层可包括中继电路1302，每个中继电路1302包括一组中继单元(例如，1006)和读出神经元(R)(例如，1020)。该直方图层还包括计数神经元(C)1304a、1304b、1304c、1304d、1304e(其可以统称为计数神经元(C)1304)。如图13B的示图1350中所示，每个计数神经元(C)1304耦合到每一个读出神经元(R)(例如，1020)和触发神经元(T)1320。计数神经元(C)1304以给定尖峰等待时间检测输入的数目(取向被编码到读出神经元(R)(例如，1020)的激发等待时间中)。触发神经元(T)1320可以调制计数神经元(C)1304的膜电位以使得其在可以期望对应于特定等待时间的尖峰时是最易兴奋的。例如，用于对45°取向进行计数的计数神经元(C)1304在0.21s的尖峰等待时间处是最易兴奋的，而负责90°的计数神经元(C)1304在尖峰等待时间0.34s处是最易兴奋的。可以为每个计数神经元(C)1304提供触发神经元(T)1320。触发神经元T1320从全局取向神经元1004接收输入。在一些方面，触发神经元(T)1320可以配置有去往计数神经元(C)1304的兴奋性突触1312。在一些方面，每个触发神经元(T)1320可充当定时器。全局取向单元1004的激发可充当触发神经元(T)的参考时间点。在从全局取向单元1004接收输入尖峰之际，触发神经元(T)1320可以进入ALIF区并且参数(τ+)可以配置成使得触发神经元(T)1320在激活对应计数神经元(C)的时间发放尖峰。用这种方式，触发神经元(T)1320的尖峰发放可以激活计数神经元(C)1304以发起计数。在一些方面，计数神经元(C)1304可以在其对应的触发神经元(T)1320发放尖峰之前，忽视其所有输入。在触发神经元(T)1320发放尖峰之后，计数神经元(C)1304可以充当计数器。每个计数神经元(C)1304可以表示直方图的直条。相应地，随着每个计数神经元(C)1304进行计数，它们可以计算取向1308的直方图。在一些方面，计数神经元(C)1304可以计算取向1310的累积直方图。在一个示例性方面，计数神经元(C)可以配置成在累积频率模式中进行计数。在累积频率模式中，在从触发神经元(T)接收尖峰之前，计数神经元(C)可以忽视所有输入。在一个示例中，尖峰时间(0.09s、0.21s、0.34s、0.49s)可以分别对应于0°、45°、90°和135°取向。在该示例中，可以为每个尖峰时间提供计数神经元(C)。由此，0.09s的计数神经元可以在对应于具有0.09s延迟的尖峰抵达的时间被激活，并且由此可以对以0.09s的延迟或在0.09s的延迟之后抵达的所有尖峰进行计数。类似地，0.21s的计数神经元(C)可以对以0.21s的延迟或在0.21s的延迟之后抵达的所有尖峰进行计数。用这种方法，可以获得累积直方图。在另一个示例性方面，计数神经元(C)可以配置成在实际频率模式中进行计数。在实际频率模式中，计数神经元(C)可以在从触发神经元(T)接收尖峰之前忽视所有输入，并且在期望下一组尖峰之前发放尖峰。例如，对应于0°取向的计数神经元(C)在期望具有0.09s左右的延迟的尖峰时开始计数，并且若存在比预先指定的数目更多的尖峰，则在0.21s之前确定性地发放尖峰。由此，当具有0.21s等待时间的尖峰抵达时，对应于0°取向的计数神经元(C)不会参与到计数中。这允许每个计数神经元对预先指定的延迟区间(类似(0.09s-0.21s)、(0.21s-0.34s)、(0.34s-0.49s)等等)之间的尖峰的数目进行计数。在一个示例性方面，直方图层可以如下进行操作。激发全局取向单元(例如，1004)可以将触发神经元(T)1320送入抗泄漏积分激发(A-LIF)区。如上文所指示的，全局取向可以具有强侧向抑制。由此，在任何时间点都仅有一个全局取向单元(例如，1004)激发。触发神经元(T)1320可以与已经激发的全局取向单元没有什么不同，而是，触发神经元(T)1320可以简单地使用参考时间点。触发神经元(T)1320的抗泄漏积分激发(A-LIF)时间常量可以确定其何时激发以及由此，对应的计数神经元(C)1304何时是最易兴奋的。在一些方面，从中继单元(神经元)(R)(例如，1006)去往计数神经元(C)1304的突触权重可以配置成使得即使所有中继神经元(例如，1006)以相同等待时间激发，也没有任何计数神经元(C)1304可以发放尖峰或者移动到抗泄漏积分激发(A-LIF)区，并且会非常快速地返回到其静息电位。而是，在该方面，仅在触发神经元(T)1320使得计数神经元(C)1304易兴奋时，来自中继单元(神经元)(R)(例如，1006)的输入才可引起计数神经元(C)1304的尖峰发放。在一些方面，(在图9中的提到)时间学习层908可以被训练成识别相对于图像的主轴的图像中的取向1308的直方图。缩放可涉及图像中所有取向的边沿的成比例增加或减少。因为缩放保持了对象的任何段相对于其主轴的相对取向，所以其可以不影响直方图层906中表示的取向的相对分布。由此，时间学习层908对于缩放转换来说是不可知的。类似地，在经转换的图像中，相对于主轴的边沿的相对取向可以是不变的。由此，直方图层906输出也可以是不变的，并且在一些方面可以产生时间学习层908中的转换不变性。进一步，因为取向可以被测量并且可以意味着以不同角度检测边沿，并且因为检测边沿可以涉及求差，所以在一些方面，亮度的绝对值也可以是不变的。允许所有不变类型的关键概念是取向域的直方图中未使用地点码。藉此，对象是通过其相对取向来标识的。图15解说了用于使用尖峰发放神经网络不变地表示对象的方法1500。在框1502，神经元模型通过尖峰序列来表示对象。在框1504，神经元模型确定该对象表示的参考特征。进一步，在框1506，神经元模型基于该参考特征将该对象表示转换成规范形式。图16解说了用于在尖峰发放神经网络中生成直方图的方法1600。在框1602，神经元模型对与经等待时间编码的对象表示相关联的尖峰进行计数。进一步，在框1604，神经元模型基于该尖峰计数生成直方图。以上所描述的方法的各种操作可由能够执行相应功能的任何合适的装置来执行。这些装置可包括各种硬件和/或软件组件和/或模块，包括但不限于电路、专用集成电路(ASIC)、或处理器。一般而言，在附图中有解说的操作的场合，那些操作可具有带相似编号的相应配对装置加功能组件。如本文所使用的，术语“确定”涵盖各种各样的动作。例如，“确定”可包括演算、计算、处理、推导、研究、查找(例如，在表、数据库或其他数据结构中查找)、探知及诸如此类。另外，确定摂可包括接收(例如接收信息)、访问(例如访问存储器中的数据)、及类似动作。而且，“确定”可包括解析、选择、选取、确立及类似动作。如本文所使用的，引述一列项目“中的至少一个”的短语是指这些项目的任何组合，包括单个成员。作为示例，“a,b或c中的至少一个”意图包括：a、b、c、a-b、b-c和a-b-c。结合本公开所描述的各种解说性逻辑框、模块、以及电路可用设计成执行本文所描述功能的通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列信号(FPGA)或其他可编程逻辑器件(PLD)、分立的门或晶体管逻辑、分立的硬件组件或其任何组合来实现或执行。通用处理器可以是微处理器，但在替换方案中，处理器可以是任何市售的处理器、控制器、微控制器、或状态机。处理器还可以被实现为计算设备的组合，例如DSP与微处理器的组合、多个微处理器、与DSP核心协同的一个或多个微处理器、或任何其它此类配置。结合本公开所描述的方法或算法的步骤可直接在硬件中、在由处理器执行的软件模块中、或在这两者的组合中体现。软件模块可驻留在本领域所知的任何形式的存储介质中。可使用的存储介质的一些示例包括随机存取存储器(RAM)、只读存储器(ROM)、闪存、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、寄存器、硬盘、可移动盘、CD-ROM，等等。软件模块可包括单条指令、或许多条指令，且可分布在若干不同的代码段上，分布在不同的程序间以及跨多个存储介质分布。存储介质可被耦合到处理器以使得该处理器能从/向该存储介质读写信息。在替换方案中，存储介质可以被整合到处理器。本文所公开的方法包括用于实现所描述的方法的一个或多个步骤或动作。这些方法步骤和/或动作可以彼此互换而不会脱离权利要求的范围。换言之，除非指定了步骤或动作的特定次序，否则具体步骤和/或动作的次序和/或使用可以改动而不会脱离权利要求的范围。所描述的功能可在硬件、软件、固件或其任何组合中实现。如果以硬件实现，则示例硬件配置可包括设备中的处理系统。处理系统可以用总线架构来实现。取决于处理系统的具体应用和整体设计约束，总线可包括任何数目的互连总线和桥接器。总线可将包括处理器、机器可读介质、以及总线接口的各种电路链接在一起。总线接口可用于尤其将网络适配器等经由总线连接至处理系统。网络适配器可用于实现信号处理功能。对于某些方面，用户接口(例如，按键板、显示器、鼠标、操纵杆，等等)也可以被连接到总线。总线还可以链接各种其他电路，诸如定时源、外围设备、稳压器、功率管理电路以及类似电路，它们在本领域中是众所周知的，因此将不再进一步描述。处理器可负责管理总线和一般处理，包括执行存储在机器可读介质上的软件。处理器可用一个或多个通用和/或专用处理器来实现。示例包括微处理器、微控制器、DSP处理器、以及其他能执行软件的电路系统。软件应当被宽泛地解释成意指指令、数据、或其任何组合，无论是被称作软件、固件、中间件、微代码、硬件描述语言、或其他。作为示例，机器可读介质可包括随机存取存储器(RAM)、闪存、只读存储器(ROM)、可编程只读存储器(PROM)、可擦式可编程只读存储器(EPROM)、电可擦式可编程只读存储器(EEPROM)、寄存器、磁盘、光盘、硬驱动器、或者任何其他合适的存储介质、或其任何组合。机器可读介质可被实施在计算机程序产品中。该计算机程序产品可以包括包装材料。在硬件实现中，机器可读介质可以是处理系统中与处理器分开的一部分。然而，如本领域技术人员将容易领会的，机器可读介质或其任何部分可在处理系统外部。作为示例，机器可读介质可包括传输线、由数据调制的载波、和/或与设备分开的计算机产品，所有这些都可由处理器通过总线接口来访问。替换地或补充地，机器可读介质或其任何部分可被集成到处理器中，诸如高速缓存和/或通用寄存器文件可能就是这种情形。虽然所讨论的各种组件可被描述为具有特定位置，诸如局部组件，但它们也可按各种方式来配置，诸如某些组件被配置成分布式计算系统的一部分。处理系统可以被配置为通用处理系统，该通用处理系统具有一个或多个提供处理器功能性的微处理器、以及提供机器可读介质中的至少一部分的外部存储器，它们都通过外部总线架构与其他支持电路系统链接在一起。替换地，该处理系统可以包括一个或多个神经元形态处理器以用于实现本文所述的神经元模型和神经系统模型。作为另一替换方案，处理系统可以用带有集成在单块芯片中的处理器、总线接口、用户接口、支持电路系统、和至少一部分机器可读介质的专用集成电路(ASIC)来实现，或者用一个或多个现场可编程门阵列(FPGA)、可编程逻辑器件(PLD)、控制器、状态机、门控逻辑、分立硬件组件、或者任何其他合适的电路系统、或者能执行本公开通篇所描述的各种功能性的电路的任何组合来实现。取决于具体应用和加诸于整体系统上的总设计约束，本领域技术人员将认识到如何最佳地实现关于处理系统所描述的功能性。机器可读介质可包括数个软件模块。这些软件模块包括当由处理器执行时使处理系统执行各种功能的指令。这些软件模块可包括传送模块和接收模块。每个软件模块可以驻留在单个存储设备中或者跨多个存储设备分布。作为示例，当触发事件发生时，可以从硬驱动器中将软件模块加载到RAM中。在软件模块执行期间，处理器可以将一些指令加载到高速缓存中以提高访问速度。随后可将一个或多个高速缓存行加载到通用寄存器文件中以供处理器执行。在参照以下述及软件模块的功能性时，将理解此类功能性是在处理器执行来自该软件模块的指令时由该处理器来实现的。如果以软件实现，则各功能可作为一条或多条指令或代码存储在计算机可读介质上或藉其进行传送。计算机可读介质包括计算机存储介质和通信介质两者，这些介质包括促成计算机程序从一地向另一地转移的任何介质。存储介质可以是能被计算机访问的任何可用介质。作为示例而非限定，此类计算机可读介质可包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储、磁盘存储或其他磁存储设备、或能用于携带或存储指令或数据结构形式的期望程序代码且能被计算机访问的任何其他介质。另外，任何连接也被正当地称为计算机可读介质。例如，如果软件是使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)、或无线技术(诸如红外(IR)、无线电、以及微波)从web网站、服务器、或其他远程源传送而来，则该同轴电缆、光纤电缆、双绞线、DSL或无线技术(诸如红外、无线电、以及微波)就被包括在介质的定义之中。如本文中所使用的盘(disk)和碟(disc)包括压缩碟(CD)、激光碟、光碟、数字多用碟(DVD)、软盘、和碟，其中盘(disk)常常磁性地再现数据，而碟(disc)用激光来光学地再现数据。因此，在一些方面，计算机可读介质可包括非瞬态计算机可读介质(例如，有形介质)。另外，对于其他方面，计算机可读介质可包括瞬态计算机可读介质(例如，信号)。上述的组合应当也被包括在计算机可读介质的范围内。因此，某些方面可包括用于执行本文中给出的操作的计算机程序产品。例如，此类计算机程序产品可包括其上存储(和/或编码)有指令的计算机可读介质，这些指令能由一个或多个处理器执行以执行本文中所描述的操作。对于某些方面，计算机程序产品可包括包装材料。此外，应当领会，用于执行本文中所描述的方法和技术的模块和/或其它恰适装置能由用户终端和/或基站在适用的场合下载和/或以其他方式获得。例如，此类设备能被耦合至服务器以促成用于执行本文中所描述的方法的装置的转移。替换地，本文所述的各种方法能经由存储装置(例如，RAM、ROM、诸如压缩碟(CD)或软盘等物理存储介质等)来提供，以使得一旦将该存储装置耦合至或提供给用户终端和/或基站，该设备就能获得各种方法。此外，可利用适于向设备提供本文所描述的方法和技术的任何其他合适的技术。将理解，权利要求并不被限定于以上所解说的精确配置和组件。可在以上所描述的方法和装置的布局、操作和细节上作出各种改动、更换和变形而不会脱离权利要求的范围。当前第1页1 2 3