一种人工神经元-胶质细胞网络优化方法及装置

1.本发明涉及人工神经网络技术领域，尤其是涉及一种考虑星形胶质细胞和神经元相互作用机制的神经网络模型以及网络拓扑结构优化方法及装置。


背景技术：

2.现有的人工神经网络模型虽然在众多领域大放异彩，但这些网络模型不管在结构上还是在功能上，与实际的生物神经系统相比仍相差甚远。神经胶质细胞是神经系统中除神经元以外的另一大类细胞，在中枢神经系统内，神经胶质细胞的数量远超于神经元数量。近期的研究发现了胶质细胞与神经元之间存在双向通讯，能够参与大脑中的学习和记忆。因此，构建人工的神经元-胶质网络能更好的模拟大脑神经系统的工作机制，使模型具有更好的生物可解释性。
3.当前，针对神经元与胶质细胞之间的互作用机制，研究者们也提出了一些人工神经元-胶质细胞网络(angns)模型，这些模型对胶质细胞和神经元的更新规则都做出了定义。定义整体上都遵循这一规则，即当神经元的输出值大于某一阈值时胶质细胞将会被激活，而激活后的胶质细胞又参与神经元值的更新。但是，这些模型仅仅考虑对神经元之间的信息传递进行抽象建模，在做具体任务时结果不尽理想。


技术实现要素：

4.本发明提供一种人工神经元-胶质细胞网络优化方法及装置，能够反应星形胶质细胞和神经元之间的双向通讯机制，更接近神经系统各元素之间的信息处理方式，能提升网络分类性能，通过进化算法对神经元-胶质细胞之间的数量比例、互作用中的各种参数及整体网络结构进行优化，从而自动搜索最优网络模型。
5.为了解决上述技术问题，本发明实施例提供了一种人工神经元-胶质细胞网络优化方法，包括以下步骤：
6.基于胶质细胞与神经元的互作用机制，构建人工神经元-胶质细胞网络模型，并根据胶质细胞的阳性反应和阴性反应设定所述胶质细胞的更新规则以及设定神经元的更新规则；其中，所述人工神经元-胶质细胞网络模型的基本计算单元由神经元以及与所述神经元相连的若干胶质细胞构成；
7.基于进化算法对所述人工神经元-胶质细胞网络模型的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群，并利用所述初始种群中的每一初始化个体的初始值，将所述初始种群中的每一初始化个体的初始值传入所述人工神经元-胶质细胞网络模型中，从而对所述人工神经元-胶质细胞网络模型进行训练；
8.在所述人工神经元-胶质细胞网络模型结束训练后，计算得到训练后的种群中每一个体的适应度，并采用轮盘赌算法根据适应度大小、预设个体数量筛选出个体集，不断将所述个体集中经过交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体。
9.作为其中一种改进，根据胶质细胞的阳性反应和阴性反应设定所述胶质细胞的更新规则以及设定神经元的更新规则，具体为：
10.胶质细胞的更新规则为：
[0011][0012][0013]
其中，g表示胶质细胞的输出值，j表示胶质细胞的位置数，y表示与胶质细胞连接的神经元的输出值，θ表示胶质细胞的激发阈值，t表示当前时刻，τj表示上一次激活时间，t表示胶质细胞激活后的不活动周期，γ表示衰减参数；
[0014]
神经元的更新规则为：
[0015][0016]
其中，y
′j表示经胶质细胞反馈影响后神经元更新的值，w
ij
表示权重，xi表示输入，bj表示偏置值，σ表示激活函数，α表示反应胶质细胞对神经元影响程度的权值，p表示胶质细胞与神经元之间的数量比例。
[0017]
作为其中一种改进，所述基于进化算法对所述人工神经元-胶质细胞网络模型的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群，具体为：
[0018]
根据预设的编码规则，对所述的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群；
[0019]
所述超参的编码至少包括胶质细胞的激发阈值编码、衰减因子编码、胶质细胞影响神经元的权值编码；其中，所述胶质细胞的激发阈值编码、所述衰减因子编码、所述胶质细胞影响神经元的权值编码的取值范围均为[0，1]；
[0020]
所述网络拓扑结构的编码至少包括网络隐藏层层数编码、每层神经元个数编码、与每个神经元连接的胶质细胞数量编码。
[0021]
作为其中一种改进，所述利用所述初始种群中的每一初始化个体的初始值，将所述初始种群中的每一初始化个体的初始值传入所述人工神经元-胶质细胞网络模型中，从而对所述人工神经元-胶质细胞网络模型进行训练，具体为：
[0022]
所述人工神经元-胶质细胞网络模型的输入层读取训练数据集，结合所述初始种群中的每一初始化个体对应的实数编码值进行所述超参和所述网络拓扑结构的初始设置；
[0023]
根据所述输入层的神经元状态逐步更新每层神经元状态，并在更新所述神经元状态之后计算与所述神经元连接的胶质细胞效应值；
[0024]
根据所述胶质细胞效应值和预设的胶质细胞权重值进一步更新与所述胶质细胞连接的神经元状态，并在所有所述神经元状态更新完毕之后，进入反向传播计算更新神经元权重值以完成一次迭代；
[0025]
当判断所述人工神经元-胶质细胞网络模型满足预设的迭代次数时，结束训练。
[0026]
作为其中一种改进，所述不断将所述个体集中经过交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体，具体为：
[0027]
随机选择所述个体集的任意两个个体进行交叉配对，并对两个个体进行变异操作
以使两个个体的待交换编码位的值进行交换；
[0028]
根据变异概率对两个个体的产生变异的编码位上的值进行反操作或重新赋值；
[0029]
不断利用经过所述交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体。
[0030]
本发明实施例还提供一种人工神经元-胶质细胞网络优化装置，包括数据处理模块，用于：
[0031]
基于胶质细胞与神经元的互作用机制，构建人工神经元-胶质细胞网络模型，并根据胶质细胞的阳性反应和阴性反应设定所述胶质细胞的更新规则以及设定神经元的更新规则；其中，所述人工神经元-胶质细胞网络模型的基本计算单元由神经元以及与所述神经元相连的若干胶质细胞构成；
[0032]
基于进化算法对所述人工神经元-胶质细胞网络模型的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群，并利用所述初始种群中的每一初始化个体的初始值，将所述初始种群中的每一初始化个体的初始值传入所述人工神经元-胶质细胞网络模型中，从而对所述人工神经元-胶质细胞网络模型进行训练；
[0033]
在所述人工神经元-胶质细胞网络模型结束训练后，计算得到训练后的种群中每一个体的适应度，并采用轮盘赌算法根据适应度大小、预设个体数量筛选出个体集，不断将所述个体集中经过交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体。
[0034]
作为其中一种改进，所述胶质细胞的更新规则为：
[0035][0036][0037]
其中，g表示胶质细胞的输出值，j表示胶质细胞的位置数，y表示与胶质细胞连接的神经元的输出值，θ表示胶质细胞的激发阈值，t表示当前时刻，τj表示上一次激活时间，t表示胶质细胞激活后的不活动周期，γ表示衰减参数；
[0038]
所述神经元的更新规则为：
[0039][0040]
其中，y
′j表示经胶质细胞反馈影响后神经元更新的值，w
ij
表示权重，xi表示输入，bj表示偏置值，σ表示激活函数，α表示反应胶质细胞对神经元影响程度的权值，p表示胶质细胞与神经元之间的数量比例。
[0041]
作为其中一种改进，所述数据处理模块，还用于：
[0042]
根据预设的编码规则，对所述的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群；
[0043]
所述超参的编码至少包括胶质细胞的激发阈值编码、衰减因子编码、胶质细胞影响神经元的权值编码；其中，所述胶质细胞的激发阈值编码、所述衰减因子编码、所述胶质细胞影响神经元的权值编码的取值范围均为[0，1]；
[0044]
所述网络拓扑结构的编码至少包括网络隐藏层层数编码、每层神经元个数编码、与每个神经元连接的胶质细胞数量编码。
[0045]
作为其中一种改进，所述数据处理模块，还用于：
[0046]
调用所述人工神经元-胶质细胞网络模型的输入层读取训练数据集，结合所述初始种群中的每一初始化个体对应的实数编码值进行所述超参和所述网络拓扑结构的初始设置；
[0047]
根据所述输入层的神经元状态逐步更新每层神经元状态，并在更新所述神经元状态之后计算与所述神经元连接的胶质细胞效应值；
[0048]
根据所述胶质细胞效应值和预设的胶质细胞权重值进一步更新与所述胶质细胞连接的神经元状态，并在所有所述神经元状态更新完毕之后，进入反向传播计算更新神经元权重值以完成一次迭代；
[0049]
当判断所述人工神经元-胶质细胞网络模型满足预设的迭代次数时，结束训练。
[0050]
作为其中一种改进，所述数据处理模块，还用于为：
[0051]
随机选择所述个体集的任意两个个体进行交叉配对，并对两个个体进行变异操作以使两个个体的待交换编码位的值进行交换；
[0052]
根据变异概率对两个个体的产生变异的编码位上的值进行反操作或重新赋值；
[0053]
不断利用经过所述交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体。
[0054]
相比于现有技术，本发明实施例的有益效果在于，通过构建人工神经元-胶质细胞网络的基本模型，考虑胶质细胞与神经元互作用机制，将人工神经网络基本计算机单元——神经元扩展为神经元-胶质细胞，并对每个神经元连接一定数量的胶质细胞参与网络的前向计算；基于进化算法对神经元-胶质细胞之间的数量比例、互作用中的各种参数及整体网络结构进行优化训练，从而自动搜索最优网络模型，得到更接近大脑工作机制的人工神经元-胶质细胞网络模型。
附图说明
[0055]
图1是本发明实施例中的人工神经元-胶质细胞网络优化方法的步骤流程图；
[0056]
图2是本发明实施例中的人工神经元-胶质细胞网络的基本模型示意图；
[0057]
图3是本发明实施例中的遗传算法主体编码项规则示意图；
[0058]
图4是本发明实施例中的人工神经元-胶质细胞网络优化方法的步骤流程图；
[0059]
图5是本发明实施例中的人工神经元-胶质细胞网络优化方法的步骤流程图；
[0060]
图6是本发明实施例中的人工神经元-胶质细胞网络优化方法的算法流程图。
具体实施方式
[0061]
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0062]
经典的人工神经网络(ann)以一个个神经元作为基本计算单元，先将多个输入信
号进行加权求和，然后加上一个偏置后经过激活函数输出结果，该数学模型是对大脑神经元信息处理和传递过程的简单抽象。
[0063]
然而大脑神经元中的信息以电信号和化学物质——神经递质为载体进行传递，神经元内部信号的产生、传导采用电信号的方式进行，树突接收到其它相邻神经元的活动信息后产生电信号并将其传递给神经元的中心部分胞体，胞体将所有信号进行综合汇总，一旦信号强度达到临界值便产生动作电位并将其沿轴突传出。轴突分支形成神经元之间的接触点，即突触，当电信号传递到突触时，突触释放某种化学物质，即神经递质，神经递质通过突触间隙作用下一个神经元，从而完成神经元之间的信息传递。
[0064]
长期以来人们一直认为神经元是参与复杂认知过程的唯一细胞，但通过研究发现胶质细胞(主要是星形胶质细胞)也会参与大脑中的学习、记忆等活动，胶质细胞不仅起到连接和支持各种神经成分的作用，还与神经元细胞之间存在信号交流和双向通讯，可以多种方式响应和操纵神经传导，如图2所示。相邻神经元的信号传导会触发星形胶质细胞中ca2+浓度的变化，诱导胶质递质如谷氨酸的释放，导致与星形胶质细胞相对应的所有突触的突触强度发生改变，从而进一步影响相关神经元膜电位和神经元兴奋性。
[0065]
此外还发现，胶质细胞与神经元的数量比随着动物的进化而增加，比如人类大脑中的神经胶质细胞数量远多于啮齿类动物和灵长类动物，这说明神经胶质细胞可能是导致人类大脑具有更高级功能的关键因素。但是当前的经典人工神经网络仅仅考虑对神经元之间的信息传递进行抽象建模，并没有考虑神经胶质细胞这一重要组成成分及其重要功能。现有的人工神经网络模型不管在结构上还是在功能上都与实际的生物神经系统相比仍相差甚远。
[0066]
本发明基于大脑中神经胶质细胞和神经元互作用机制的研究，胶质细胞与神经元之间存在双向通讯，能够参与大脑中的学习和记忆，神经胶质细胞是神经系统中除神经元以外的另一大类细胞，在中枢神经系统内，神经胶质细胞的数量远超于神经元数量。通过对当前人工神经网络模型中的基本单元——神经元进行了扩展，将每一个神经元连接一定数量的胶质细胞作为网络基本单元，通过神经元和胶质细胞的相互作用模型进行基本单元各元素值的计算和更新，对神经元-胶质细胞之间的数量比例、互作用中的各种参数及整体网络结构进行优化，最后通过进化算法对该模型的参数、拓扑结构进行优化。这样得到的模型能反应星形胶质细胞和神经元之间的双向通讯机制，更接近神经系统各元素之间的信息处理方式，能提升网络分类性能。以下对本发明的实现方法进行举例说明：
[0067]
参见图1和图6，本发明一实施例提供了人工神经元-胶质细胞网络优化方法，包括以下步骤：
[0068]
s1，基于胶质细胞与神经元的互作用机制，构建人工神经元-胶质细胞网络模型，并根据胶质细胞的阳性反应和阴性反应设定所述胶质细胞的更新规则以及设定神经元的更新规则；其中，所述人工神经元-胶质细胞网络模型的基本计算单元由神经元以及与所述神经元相连的若干胶质细胞构成；
[0069]
在本实施例中，通过参考三方突触模型，构建神经网络基本计算单元为神经元和与之相连的一定数量的胶质细胞(每个神经元连接的胶质细胞数量可以恒定，可以不同)，如图2所示，按相应规则对神经元和胶质细胞的值进行更新。考虑到胶质细胞有两种状态，即阳性反应和阴性反应状态，当胶质细胞连接的神经元输出值大于某阈值时，胶质细胞被
激活并产生阳性反应而发送正脉冲，当胶质细胞连接的神经元输出小于某阈值时，胶质细胞产生阴性反应而发送负脉冲，这些脉冲将影响邻近的胶质细胞，并进一步影响与之相连的神经元的输出值。因此，作为其中一种改进，根据胶质细胞的阳性反应和阴性反应设定所述胶质细胞的更新规则以及设定神经元的更新规则，具体为：
[0070]
胶质细胞的更新规则为：
[0071][0072][0073]
其中，g表示胶质细胞的输出值，j表示胶质细胞的位置数，y表示与胶质细胞连接的神经元的输出值，θ表示胶质细胞的激发阈值，t表示当前时刻，τj表示上一次激活时间，t表示胶质细胞激活后的不活动周期，γ表示衰减参数；该更新规则表明，每一个胶质细胞的值受到以下三因素影响：
[0074]
①
当与胶质细胞相连的神经元的输出值yj》θ或yj《1-θ时，即在阳性反应中神经元输出值大于阈值θ或在阴性反应中神经元输出值小于1-θ，胶质细胞被激活并赋值为1或-1。
[0075]
②
胶质细胞也可从与其相邻被激活的胶质细胞中接收到脉冲而被激活并被赋值为1或-1。
[0076]
此外，胶质细胞有一个不活动周期t；因此，必须满足t-τj》t才能产生胶质细胞脉冲，在网络训练中，可设置周期t为1次迭代。
[0077]
③
当不满足以上条件时，当前胶质细胞的输出值为上一个时刻点的值乘以衰减因子γ。
[0078]
神经元的更新规则为：
[0079][0080]
其中，y
′j表示经胶质细胞反馈影响后神经元更新的值，w
ij
表示权重，xi表示输入，bj表示偏置值，σ表示激活函数，α表示反应胶质细胞对神经元影响程度的权值，p表示胶质细胞与神经元之间的数量比例。
[0081]
s2，基于进化算法对所述人工神经元-胶质细胞网络模型的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群，并利用所述初始种群中的每一初始化个体的初始值，将所述初始种群中的每一初始化个体的初始值传入所述人工神经元-胶质细胞网络模型中，从而对所述人工神经元-胶质细胞网络模型进行训练；
[0082]
本实施例基于上述步骤s1构建的人工神经元-胶质细胞网络的基本模型(angns)，对angns模型中基本计算单元所涉及到的胶质细胞更新规则超参(θ、γ、α)以及网络拓扑结构包括网络隐藏层层数、每层神经元个数、与每个神经元连接的胶质细胞数量等设定编码规则，采用实数编码随机初始化个体，从而产生初始种群。如下说明编码规如图3、4所示，包括：
[0083]
s21，根据预设的编码规则，对所述的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群；
[0084]
s22，所述超参的编码至少包括胶质细胞的激发阈值编码、衰减因子编码、胶质细胞影响神经元的权值编码；其中，所述胶质细胞的激发阈值编码、所述衰减因子编码、所述胶质细胞影响神经元的权值编码的取值范围均为[0，1]；
[0085]
s23，所述网络拓扑结构的编码至少包括网络隐藏层层数编码、每层神经元个数编码、与每个神经元连接的胶质细胞数量编码。
[0086]
示例性的，编码主体部分所反映的信息包括：胶质细胞的激发阈值θ、衰减因子γ、胶质细胞影响神经元的权值α、神经网络隐藏层层数、每层神经元个数、每个神经元连接的胶质细胞个数。
[0087]
其中，超参编码部分包含对θ、γ、α的编码，它们的取值范围均为0-1；
[0088]
神经网络层数编码部分主要针对隐藏层层数进行设置，每层神经元个数编码部分将依次给出每一层隐藏层神经元个数；每个神经元连接的胶质细胞个数编码部分由图3中的灰色段g1...gn表示，每个灰色段依次给出当前层每个神经元连接的胶质细胞数量值(设定每个神经元连接的胶质细胞数量值范围为0-15)。如果设置每个神经元连接相同数量的胶质细胞，则可将该数量值作为超参进行编码。
[0089]
下面进行具体说明。假设设定隐藏层层数取值范围为1-3，每层神经元个数取值范围为1-8，若随机初始化的个体编码值为：
[0090]
[0.839486 0.49893907 0.14246924 2.3.5.0.2.3.0.1.0.3.7.9.]
[0091]
则该编码表示：
[0092]
第一位表示参数θ的值为0.839486；
[0093]
第二位表示参数γ的值为0.49893907；
[0094]
第三位表示参数α的值为0.14246924；
[0095]
第四位表示网络隐藏层层数为2；
[0096]
第五位到第七位依次表示每层隐藏层神经元节点数(因为隐藏层层数取值范围为1-3，因此，这里用三位表示各隐藏层神经元节点数)；
[0097]
第八位到第十位表示第一层隐藏层的3个神经元节点分别连接的胶质细胞数量，第十一位到第十五位表示第二层隐藏层的5个神经元节点分别连接的胶质细胞数量。
[0098]
该编码为可变长编码，从第八位开始，编码长度将会依次根据第五位到第七位的值的改变而改变。或可将编码方式设置为定长编码。即，从第八位开始，由于每层神经元节点数最大为8，则后面连续8*3位分别表示每一层的每一个神经元依次连接胶质细胞的数量，若某层神经元节点数未达到8，则以0填充满8位。按照定长编码规则，上述实例的编码值为：
[0099]
[0.839486 0.49893907 0.14246924 2.3.5.0.2.3.0.0.0.0.0.0.1.0.3.7.9.0.0.0.0.0.0.0.0.0.0.0.]
[0100]
对于定长编码，若层数和神经元节点数取值范围较大，其空间代价较大。
[0101]
在主体编码的基础上，可根据由基本计算单元组合而成的网络类型进一步设置与网络架构相关的其它编码部分，如可增加卷积层部分的编码，设置卷积层层数、卷积层连接方式等。
[0102]
另外，如图5所示，所述利用所述初始种群中的每一初始化个体的初始值，将所述初始种群中的每一初始化个体的初始值传入所述人工神经元-胶质细胞网络模型中进行训
练，具体为：
[0103]
s24，所述人工神经元-胶质细胞网络模型的输入层读取训练数据集，结合所述初始种群中的每一初始化个体对应的实数编码值进行所述超参和所述网络拓扑结构的初始设置；
[0104]
s25，根据所述输入层的神经元状态逐步更新每层神经元状态，并在更新所述神经元状态之后计算与所述神经元连接的胶质细胞效应值；
[0105]
在本实施例中，首先根据初始的网络权重值(w
ij
)进行前向计算，即更新每层神经元状态，按规则计算与之相连的胶质细胞效应值，根据胶质细胞效应值进一步更新该层神经元状态；然后进入反向传播计算，更新神经元权重值，完成一次迭代。
[0106]
s26，根据所述胶质细胞效应值和预设的胶质细胞权重值进一步更新与所述胶质细胞连接的神经元状态，并在所有所述神经元状态更新完毕之后，进入反向传播计算更新神经元权重值以完成一次迭代，若未达到，则继续s24、s25步骤，否则结束训练。
[0107]
s27，当判断所述人工神经元-胶质细胞网络模型满足预设的迭代次数时，结束训练。
[0108]
训练结束后，计算该个体的适应度，执行以下步骤：
[0109]
s3，在所述人工神经元-胶质细胞网络模型结束训练后，计算得到训练后的种群中每一个体的适应度，并采用轮盘赌算法根据适应度大小、预设个体数量筛选出个体集，不断将所述个体集中经过交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体。
[0110]
在本实施例中，所述不断将所述个体集中经过交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体，具体为：
[0111]
s31，随机选择所述个体集的任意两个个体进行交叉配对，并对两个个体进行变异操作以使两个个体的待交换编码位的值进行交换；
[0112]
s32，根据变异概率对两个个体的产生变异的编码位上的值进行反操作或重新赋值；
[0113]
s33，不断利用经过所述交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体。
[0114]
本实施例根据适应度大小采用轮盘赌算法选择一定数量的个体，从新的个体中随机选择两个个体进行交叉配对；同时，根据变异概率对个体变异点位置上的值进行重新赋值，利用经过交叉和变异后产生的新个体代替上一代个体，继续进行训练，如此循环往复，当满足终止条件时算法终止。
[0115]
其中，应当说明的是，在交叉配对过程中，对按不定长编码规则产生的个体进行交叉时步骤如下：
[0116]
(1)编码值预处理：
[0117]
表1个体1和个体2的原始编码值
[0118][0119]
如表1所示，对所选择两个个体的每层神经元节点数部分的编码进行比较(按以上实例，即对第五位到第七位进行一一比较)，若某位的值(即某层节点数)不同，则将该层上节点数较少的个体其后面关于该层各节点连接不同胶质细胞数量的编码部分的位数用0值进行扩展，扩展后的位数与另一个个体在这部分的编码位数长度相同。
[0120]
表2经过编码值预处理后的个体1和个体2的编码值
[0121][0122]
表2中，位数10的个体2编码值0、位数16的个体1编码值0、位数17的个体1编码值0、以及位数18的个体1编码值0均为扩充部分。可见，经过编码预处理后，两个个体的编码长度一致，并且第8-10位均表示第一层各个神经元连接的胶质细胞数量，第11-15位均表示第二层各个神经元连接的胶质细胞数量，第16-18层均表示第三层各个神经元连接的胶质细胞数量。这样，各个编码位表示的意义一一对应，便于后续的交叉。
[0123]
(2)交叉操作：
[0124]
对每一编码位随机产生一个bool值，规定当值为0时则不进行交叉，当值为1，对第1-3位进行线性算术交叉，对第4位之后的值，则进行该位上的个体1和个体2的数值交换。
[0125]
(3)编码值修正：
[0126]
根据一定的约束条件进行编码值修正，约束条件
①
确保连接了胶质细胞的神经元总数不大于该层神经元总数；约束条件
②
确保有神经元的隐藏层层数总和不大于隐藏层层数编码位的数值。
[0127]
如表2中，根据约束条件
①
，第8-10位的非零值个数要小于等于第5位的值，第11-15位的非零值个数要小于等于第6位的值，第16-18位的非零值个数要小于等于第7位的值。如果交叉后某一段编码值不符合该约束条件，则对该段的后n位编码值重置为0值。n为该段编码值非零值个数减去对应层神经元个数的值。根据约束条件
②
，第5-7位的非零值个数要小于等于第4位上的值。同样地，若不符合该约束条件，将5-7位的后n位编码值重置为0，n为5-7位的非零值个数减去第4位上的编码值。
[0128]
对按定长编码规则产生的个体进行交叉时，直接操作步骤(2)-(3)。在变异过程中，首先根据变异概率选择需要变异的个体，再对该个体进行重新随机赋值，各编码位的赋值应在规定的取值范围之内。
[0129]
相比于现有技术，当前经典的人工神经网络均只对神经元的工作机制进行简单的抽象和模拟，没有考虑神经元和胶质细胞的双向通讯机制；而实际大脑中，胶质细胞数量远
多于神经元细胞，且不同动物胶质细胞数量不同，人类大脑中的神经胶质细胞数量远多于啮齿类动物和灵长类动物。
[0130]
本实施例提供了一种人工神经元-胶质细胞网络优化方法，通过考虑胶质细胞与神经元互作用机制，将人工神经网络基本计算机单元——神经元扩展为神经元-胶质细胞，每个神经元连接一定数量的胶质细胞参与网络的前向计算，使用进化算法对所构造的基本模型angns进行最优解搜索。
[0131]
基于本发明所提供的人工神经元-胶质细胞网络优化方法，本领域技术人员可利用基本模型angns进行复杂模型构造，如可构造mlp结构的angns，cnn结构的angns，rnn结构的angns等，实验表明，在图像分类、文本生成等任务上，加入胶质细胞的网络性能有明显提升，训练好的网络在其测试集上的准确度有明显提高，且当网络结构越简单(如网络层数和神经元数量越少)时，网络性能提升越明显。另外，本实施例的可进化模型eangns能够针对不同据集自动完成angns参数和架构的最优化搜索，可大大减少人工调整参数和设计网络结构所耗费的时间和精力。此外，通过对其进化过程和结果进行分析，也可以为神经科学中对胶质细胞在神经元间交流中的作用研究提供一定的启发。
[0132]
本发明实施例还提供一种人工神经元-胶质细胞网络优化装置，包括数据处理模块，用于：
[0133]
基于胶质细胞与神经元的互作用机制，构建人工神经元-胶质细胞网络模型，并根据胶质细胞的阳性反应和阴性反应设定所述胶质细胞的更新规则以及设定神经元的更新规则；其中，所述人工神经元-胶质细胞网络模型的基本计算单元由神经元以及与所述神经元相连的若干胶质细胞构成；
[0134]
基于进化算法对所述人工神经元-胶质细胞网络模型的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群，并利用所述初始种群中的每一初始化个体的初始值，将所述初始种群中的每一初始化个体的初始值传入所述人工神经元-胶质细胞网络模型中，从而对所述人工神经元-胶质细胞网络模型进行训练；
[0135]
在所述人工神经元-胶质细胞网络模型结束训练后，计算得到训练后的种群中每一个体的适应度，并采用轮盘赌算法根据适应度大小、预设个体数量筛选出个体集，不断将所述个体集中经过交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体。
[0136]
作为其中一种改进，所述胶质细胞的更新规则为：
[0137][0138][0139]
其中，g表示胶质细胞的输出值，j表示胶质细胞的位置数，y表示与胶质细胞连接的神经元的输出值，θ表示胶质细胞的激发阈值，t表示当前时刻，τj表示上一次激活时间，t表示胶质细胞激活后的不活动周期，γ表示衰减参数；
[0140]
所述神经元的更新规则为：
[0141]
[0142]
其中，y
′j表示经胶质细胞反馈影响后神经元更新的值，w
ij
表示权重，xi表示输入，bj表示偏置值，σ表示激活函数，α表示反应胶质细胞对神经元影响程度的权值，p表示胶质细胞与神经元之间的数量比例。
[0143]
作为其中一种改进，所述数据处理模块，还用于：
[0144]
根据预设的编码规则，对所述的基本计算单元的超参和网络拓扑结构进行实数编码以得到初始种群；
[0145]
所述超参的编码至少包括胶质细胞的激发阈值编码、衰减因子编码、胶质细胞影响神经元的权值编码；其中，所述胶质细胞的激发阈值编码、所述衰减因子编码、所述胶质细胞影响神经元的权值编码的取值范围均为[0，1]；
[0146]
所述网络拓扑结构的编码至少包括网络隐藏层层数编码、每层神经元个数编码、与每个神经元连接的胶质细胞数量编码。
[0147]
作为其中一种改进，所述数据处理模块，还用于：
[0148]
调用所述人工神经元-胶质细胞网络模型的输入层读取训练数据集，结合所述初始种群中的每一初始化个体对应的实数编码值进行所述超参和所述网络拓扑结构的初始设置；
[0149]
根据所述输入层的神经元状态逐步更新每层神经元状态，并在更新所述神经元状态之后计算与所述神经元连接的胶质细胞效应值；
[0150]
根据所述胶质细胞效应值和预设的胶质细胞权重值进一步更新与所述胶质细胞连接的神经元状态，并在所有所述神经元状态更新完毕之后，进入反向传播计算更新神经元权重值以完成一次迭代；
[0151]
当判断所述人工神经元-胶质细胞网络模型满足预设的迭代次数时，结束训练。
[0152]
作为其中一种改进，所述数据处理模块，还用于为：
[0153]
随机选择所述个体集的任意两个个体进行交叉配对，并对两个个体进行变异操作以使两个个体的待交换编码位的值进行交换；
[0154]
根据变异概率对两个个体的产生变异的编码位上的值进行反操作或重新赋值；
[0155]
不断利用经过所述交叉配对和变异后产生的新个体代替上一代个体，直至满足预设的终止条件后输出最佳个体。
[0156]
以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围。