实现马尔科夫随机场概率编码的方法及神经电路的制作方法_2

文档序号:9506581阅读:来源:国知局
模块 的输入,结合第一输入和第二输入进行运算…如此依次运算,可根据第一输入、第二输入和 第t个神经电路子模块的输入得到第t个神经电路子模块的输出。
[0032] S103,将第t个神经电路子模块的输出作为第t+Ι个神经电路子模块的输入,并根 据第一输入、第二输入和第t+Ι个神经电路子模块的输入得到第t+Ι个神经电路子模块的 输出。
[0033] 具体地,在初始输入为cell,1、第一输入为§=ΘΜ&及第二输入为θ = Θ #寸,第t+1 个神经电路子模块的输出为:
[0035] 其中,tanh为双曲正切函数。
[0036] 在本发明的一个实施例中,对于基于二值马尔科夫随机场的多环置信度传播算 法,若定夕
,则传递信息和边缘概率可分别表示为:
[0039] 其中,?为从节点i到节点j的信息,PiUi= 1)和P i(Xi= -1)为二值马尔科 夫随机场中两种状态的边缘概率。
,,则当N(i) >> 1和Θ kl<< 1时,由式⑵和(3)可得:
[0042] 在循环神经电路中,神经电路的动态输出V1 (t)可通过下式计算:
[0044] 当满足以下条件时:
[0050] 式⑷和式(5)等价。应当理解,神经元接收数量较大的突触输入,因此,N(i) > >1;同时,每个输入的突触权重较小,因此,Qkl<<l。由此,本发明实施例中,可通过式 (1)表示神经电路子模块的输出。从而,本发明实施例的神经电路的输出计算过程可达到与 多环置信度传播算法类似的效果,因此能够通过本发明实施例的神经电路实现马尔科夫随 机场概率编码。
[0051] S104,将第T个神经电路子模块的输出作为神经电路的输出,并根据神经电路的 输出计算神经元发放率编码的概率值。
[0052] 依照上述步骤计算出第T个神经电路子模块的输出,并将其作为神经电路的输 出。在本发明的一个实施例中,基于以上假设:
,神经元发 放率代表了二值马尔科夫随机场中两种状态的概率差异,即神经电路的输出与二值马尔科 夫随机场的概率之差相等,即:
[0054] 其中,P'(Xi= I)+P ' (Xi=-I) = 1。
[0055] 由此,可通过本发明实施例的神经元发放率计算二值马尔科夫随机场的边缘概 率,即计算出P t1 U1= 1)和P \ (X1=-I)的值,即第i个神经元发放率编码的概率值,从而 可得到N个神经元的马尔科夫随机场的概率编码。
[0056] 此外,对于本发明实施例的通过神经电路实现马尔科夫随机场概率编码的方法, 可通过多个实施例验证其概率编码的效果。具体地,可分别通过本发明实施例的方法以及 通过多环置信度传播算法得出神经元发放率编码的概率值,并通过以下公式计算其相对误 差值:
[0058] 其中,PlbpU1= 1)和P rneU1= 1)分别表示通过多环置信度传播算法得出的神经 元发放率编码的概率值和通过本发明实施例的方法得出的神经元发放率编码的概率值,该 式表示实验中计算了 8个神经元的边缘概率。通过多次重复实验,对于包括8个神经元的 概率编码,其相对误差值小于〇. 5%。也就是说,本发明实施例的神经电路的输出计算过程 可达到与多环置信度传播算法类似的效果。
[0059] 根据本发明实施例的通过神经电路实现马尔科夫随机场概率编码的方法,通过将 多个神经电路子模块串联,为神经电路中的第一个神经电路子模块提供初始输入,并将神 经电路子模块的输出作为下一个子模块的输入,并最终得到神经电路的输出,从而可根据 神经电路的输出计算出神经元发放率编码的概率值。由此,可将神经元发放率与马尔科夫 随机场的概率联系起来,从而可通过本发明实施例的神经电路实现马尔科夫随机场概率编 码,即能够通过神经电路实现马尔科夫随机场模型。
[0060] 为实现上述实施例的通过神经电路实现马尔科夫随机场概率编码的方法,本发明 还提出一种实现马尔科夫随机场概率编码的神经电路。
[0061] 图4为根据本发明一个实施例的实现马尔科夫随机场概率编码的神经电路的结 构框图。
[0062] 如图4所示,本发明实施例的实现马尔科夫随机场概率编码的神经电路,包括:第 一输入端10、第二输入端20、初始输入端30、依次串联的T个神经电路子模块40、输出端50 和计算模块60。
[0063] 其中,第一输入端10用于为神经电路提供第一输入;第二输入端20用于为神经 电路提供第二输入;初始输入端30用于为神经电路提供初始输入;每个神经电路子模块40 包括输入端、乘法器、加法器、双曲正切函数和输出端,神经电路子模块40用于根据第一输 入、第二输入和第t个神经电路子模块的输入得到第t个神经电路子模块的输出,并将第t 个神经电路子模块的输出作为第t+Ι个神经电路子模块的输入,并根据第一输入、第二输 入和第t+Ι个神经电路子模块的输入得到第t+Ι个神经电路子模块的输出,其中,T为正整 数,t〈T,其中,第1个神经电路子模块的输入为初始输入。
[0064] 图2为根据本发明一个实施例的神经电路子模块的示意图,图3为根据本发明一 个实施例的神经电路的示意图。如图2所示,每个神经电路子模块40包括输入端、乘法器、 加法器、双曲正切函数和输出端。如图3所示,T个神经电路子模块40依次串联,因此,第t 个神经电路子模块的输入可由第t-1个神经电路子模块提供,即第t-i个神经电路子模块 的输出为第t个神经电路子模块的输入。在本发明的一个实施例中,可设定初始输入作为 第1个神经电路子模块的输入,由此,每个神经电路子模块皆具有对应的输入。
[0065] 在本发明的一个实施例中,如图3所示,神经电路中的每个神经电路子模块除具 有对应的输入外,还可由外接的端口为每个神经电路子模块提供相同的第一输入和第二输 入。其中,在发放第i个神经元时,初始输入可为Cdli1,第一输入可为§=θκ,第二输入可为Θ =91,其中,1$11^<1~为神经元的总数,且0>1。在本发明的一个实施例中,01<1可 表示第k个神经元和第i个神经元的连接强度,Θ ki可远小于1。
[0066] 在本发明的一个实施例中,初始输入cell|可为随机值,无需专门设置。
[0067] 参照图3,将第一输入和初始输入通过乘法器进行运算后,将运算结果和第二输入 一起输入加法器,然后将加法器的输出结果进行双曲正切运算,即可得到第1个神经电路 子模块的输出。然后将第1个神经电路子模块的输出作为第2个神经电路子模块的输入, 结合第一输入和第二输入进行运算…如此依次运算,可根据第一输入、第二输入和第t个 神经电路子模块的输入得到第t个神经电路子模块的输出。
[0068] 在初始输入为Celli1、第一输入为§=Θ:Μ&及第二输入为Θ = ,第t+Ι个神经 电路子模块的输出为:
[0070] 其中,tanh为双曲正切函数。
[0071] 在本发明的一个实施例中,对于基于二值马尔科夫随机场的多环置信度传播算 法,若定义
,则传递信息和边缘概率可分别表示为:
[0074] 其中,为从节点i到节点j的信息,PiUi= 1)和P i(Xi= -1)为二值马尔科 夫随机场中两种状态的边缘概率。
[0075] 假设
,则当N(i) >> 1和Θ kl<< 1时,由式⑵和(3)可得:
[0077] 在循环神经电路中,神经电路的动态输出V1 (t)可通过下式计算:
[0079] 当满足以下条件时:
[0083] f (X) = tanh (X)
[0084] τ = I
[0085] 式⑷和式(5)等价。应当理解,神经元接收数量较大的突触输入,因此,N(i) > >1;同时,每个输入的突触权重较小,因此,9kl<<l。由此,本发明实施例中,可通过式 (1)表示神经电路子模块的输出。从而,本发明实施例的神经电路的输出计算过程可达到与 多环置信度传播算法类似的效果,因此能够通过本发明实施例的神经电路实现马尔科夫随 机场概率编码。
[0086] 输出端50用于将第T个神经电路子模块的输出作为所述神经电路的输出。
[0087] 计算模块60用于根据所述神经电路的输出计算神经元发放率编码的概率值。
[0088] 在本发明的一个实施例中,基于以上假设:
神经 元发放率代表了二值马尔科夫随机场中两种状态的概率差异,即神经电路的输出与二值马 尔科夫随机场的概率之差相等,即:
[0091] 由此,
当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1