灰色关联分析法确定卷积神经网络隐层特征图个数的方法
【技术领域】：
[0001] 本发明设及卷积神经网络网络结构中隐层特征图个数确定的方法，特别是设及一 种确定卷积神经网络网络结构中隐层特征图个数的灰色关联分析法。
【背景技术】：
[0002] 卷积神经网络是人工神经网络的一种，是基于多层监督学习网络的新型神经网 络，已成为语音分析和图像识别领域上的热点。由于它的权值共享特点，降低了网络模型的 复杂度，减少了权值的数量。并且卷积神经网络通过将特征提取功能融合进分类器中，省略 识别前复杂的特征提取过程，因而被广泛应用于图像识别、物体检测与识别和目标跟踪等。
[0003] 目前，已有研究人员将用于交通标志识别，并且取得了良好的效果，但是关于 CNN网络结构参数设定的论述较少，尤其是对网络结构中隐层特征图个数的设计研究较少。 本发明面向交通标志识别使用C順的方法，同时，为了提高识别率和识别效率，需要对C順网 络结构中的参数进行优化，运其中隐层特征图个数对结果影响最大，如何确定隐层特征图 个数是目前亟待解决的问题。
[0004] 本发明在网络训练过程中基于灰色关联分析法自动选择对识别结果影响更大的 隐藏层特征图，并W交通标志为对象进行识别及算法优化研究。
【发明内容】
：
[0005] 发明目的：
[0006] 本发明设及一种确定卷积神经网络网络结构中隐层特征图个数的灰色关联分析 法，其目的是通过确定网络中隐层特征图个数从而设计出最优的卷积神经网络网络结构。 通过对交通标志数据库进行实验并验证算法的可行性，最终实现对卷积神经网络网络结构 的优化，提高确定网络结构的效率。
[0007] 技术方案：
[000引本发明是通过W下技术方案来实现的：
[0009] -种灰色关联分析法确定卷积神经网络隐层特征图个数的方法，步骤如下：
[0010] (1)设定卷积神经网络的网络结构层数及其他相关参数：
[0011] 1)卷积核大小和网络结构层数设定:卷积核算子是卷积时使用到的权值，可W用 一个矩阵MXN表示，该矩阵与使用的图像区域大小相同，大部分在使用时是对称的，如M= N，其行、列都是奇数，一般N=3、5、7。
[0012] 网络结构层数是除输入层和输出层之外的卷积层数和子采样层数的总和。神经网 络的层数在一定范围内增加，能有效提高识别率，但层数过多，不仅网络结构复杂，同时会 使识别率降低。结合输出特征图简单有代表性的特点，由训练样本的尺寸和卷积核的大小 可决定网络结构层数。
[0013] 2)权值初始化:权值初始化是卷积核神经元和最后两层之间的权值矩阵的初始 化。权值初始化对训练速度、输出精度是有影响的，初始值范围太大会导致无法训练，所W 权值初始值是在[-1,1]之间随机取值，在后面的反向传播过程中进行优化，直到达到最优 解。
[0014] 3)批量样本数的设定:为了减少训练次数，提高实验效率，可W采用分组的方式进 行训练，批量样本数是每组中所含图像的个数。
[001引在总实验样本一定的条件下，批量样本数的个数越少，则训练批次越多，实验识别 率越高，相应时间越长;批量样本数的个数越多，则训练批次越少，实验识别率越低，相应时 间越短。结合识别率和识别效率来选择批量样本数。
[0016] 4)迭代次数的设定:迭代次数是对整体训练图像样本的训练次数。训练的结束取 决于迭代次数的多少。
[0017] 迭代次数越少，识别率越低，相应需要的时间越短;迭代次数越多，识别率越高，相 应需要的时间越长，根据实验，当错误率曲线进入收敛区时，选择刚进入收敛区的迭代次数 作为未来实验的实验标准。
[0018] 5)隐层特征图个数:是隐层中卷积层和子采样层中包含的特征图个数。设置合适 的隐层特征图个数比选择合适的网络层数更适合提高效率，其训练过程更容易调整和改 进。
[0019] (2)训练卷积神经网络：
[0020] 1)正向传播:输入样本从输入层传入，经卷积核滤波器、Sigmoid函数和可加偏置 后产生Cl层特征映射图，该特征映射图中每组四个像素取平均值得到S2层特征映射图，运 些特征映射图再经过一次卷积和子采样得到C3层和S4层，最终将S4层的像素 W全连接的方 式传向输出层。若输出层的实际输出与期望的输出（标签)不符，则将得到的误差转入反向 传播阶段。
[0021] 2)反向传播:将输出误差通过反向隐藏层向输入层反向传播得到每层的误差，利 用每层误差和实际输出得到权值和偏置变化量，即该误差信号作为修改各单元权值的依 据。
[0022] 3)权值更新：利用误差反向传播所得到的权值和偏置变化量求得新的权值和偏 置，重新回到正向传播，再次得到输出，与期望输出相减再次得到误差，循环往复直到网络 达到一定精度或规定的训练时间为止。
[0023] (3)灰色关联分析法优化卷积神经网络隐层特征图个数：
[0024] 假设卷积神经网络除去输入层和输出层共有n层网络结构（C1，S2，C3，S4……Cn-1 ,Sn)，子采样层的特征图个数与上一卷积层的特征图个数相等，所W想要确定隐层特征图 个数只需要确定卷积层特征图个数(或者子采样特征图个数）。
[0025] (4)利用最优的网络结构训练卷积神经网络，并对灰色关联分析法进行鲁棒性测 试。
[0026] 步骤(3)中特征图个数的确定步骤如下：
[0027] 求Sn层与整个网络输出之间关联度排序：
[002引1)求关联系数
[0029] 首先利用灰色关联分析法计算出Sn层每个特征图的输出与整个网络输出之间的 关联系数；
[0030] 设共有N个输入图像样本，整个网络的输出y=(yi，y2,…，yN)为参考序列，每个特 征图的输出ti=(ti(l)，ti(2)，…，ti(N))(i = l，2,…，nn)为比较序列，参考序列与比较序列 之间的关联系数公式如下：
(1)
[0032] 其中P为分辨系数，一般在0~1之间，通常取0.5。
[0033] 2)关联度计算
[0034] 由于关联系数是比较序列和参考序列在不同样本下的关联程度值，所W共有N个， 为了便于观察比较，将所有样本的关联系数集中为一个值，即关联度。可W通过求平均值的 方式计算。关联度公式如下：
(2)
[0036] 若输出为多个神经元时，要取得上一层特征图对输出每个神经元影响最大的特征 图，所W要求出上一层特征图对输出每个神经元关联度的均值。
[0037] 3)关联度排序
[0038] 对上一步取得的关联度从大到小排序，即得到灰关联度排序，而关联度排在尾部 的特征图对网络输出影响较小，可W认为该特征图是可W忽略的，此时给定一个e，此处的 阔值自定义，将不满足阔值的特征图删除再进行实验，直到后续实验的全部关联度满足阔 值则停止实验，范围在0~1之间。W此方法达到优化网络隐层特征图数、提高网络性能的效 果。
[0039] 求Sn-I层与化层之间之间关联度排序：
[0040] 1)求关联系数
[0041] 计算Sn-I层与化层之间的关联系数，首先将Sn-I层与Cn层特征图矩阵和它们之间 的权值矩阵提取出来，做成数据库。Cn层的特征图矩阵y=(yi，y2,…，yN)为参考序列，Sn-I 层特征图矩阵经过权值矩阵的输出ti=(ti(l)，ti(2)，…，ti(N))(i = l，2,…，nn)为比较序 列，它们之间的关联系数利用公式（1)计算得出Sn-I层与化层