基于自适应修正神经网络的模式识别方法

基于自适应修正神经网络的模式识别方法
【专利摘要】本发明涉及模式识别领域，具体的说是一种基于自适应修正神经网络的模式识别方法；该方法首先采用概率神经网络模型对输入的训练样本进行分类，得到分类正确的样本和分类错误的样本；然后在概率神经网络模型结构的基础上添加输入层、中心层和激励层，构建自适应修正神经网络模型结构；之后针对概率神经网络模型分类错误的样本，以自身为中心点，计算与其他类别样本间的允许半径，聚类同类别错误样本，从而实现分类模式的批量修正以及判决分界面的重新规划，建立自适应修正神经网络模型；最后基于自适应修正神经网络模型对输入的测试样本进行模式识别；本发明具有模式分类准确率高、模型泛化能力强、分类实时性能好、应用前景广阔等特点。
【专利说明】基于自适应修正神经网络的模式识别方法
【技术领域】
[0001]本发明属于模式识别领域，特别是一种基于自适应修正神经网络的模式识别方法。
【背景技术】
[0002]神经网络作为一种模式识别技术，不需要预先给出有关模式的经验知识和判别函数，通过自身的学习机制即可自动形成所需要的决策区域，因此，近年来神经网络在模式识别领域得到越来越广泛的应用，文献成果报道最多的主要包括以下几种:
[0003]标准反向传播神经网络(Back Propagation Neural Network, BPNN)米用基于误差代价函数的最速梯度下降静态寻优法进行模式识别，其固定的学习率、学习过程瘫痪现象易导致收敛速度慢、局部极小值、网络结构和规模难以确定等问题。采用变学习速率和附加动量项的改进BPNN诊断方法在一定程度上改善了标准BPNN的收敛速度，避免网络限于较浅的局部极小值，但没有彻底避免不收敛的情况，且仍采用类似于标准BPNN的算法结构，训练精度不高，不适合大规模数据并行处理，难以实现诊断模型的快速在线构建与自动更新。
[0004]径向基函数神经网络(RadialBasis Function Neural Network, RBFNN)基于多变量插值径向基函数，能够以任意精度逼近任意连续函数，具有最佳的局部逼近特性和全局近似性能，无论在逼近能力、分类能力和学习速度等方面均优于BPNN，能够实现大规模数据并行处理，支持在线、离线建模。但是RBFNN需要依靠误差代价函数控制进行反复训练从而形成各类别模式间的判别表面，且输出层采用连接权线性叠加，可能发生样本“拒识”的情况。
[0005]概率神经网络(ProbabilisticNeural Network, PNN)是 RBFNN 的一种变化形式，采用基于模式样本后验概率估计方法进行分类，当获得足够多的有代表性的样本后可直接学习，无需反复训练，收敛速度很快，分类能力理想，且输出层采用竞争机制，避免了样本“拒识”。因此，PNN被广泛应用于大规模数据分类、模式识别、故障诊断、非线性滤波等领域。但是PNN没有考虑不同类别模式间的交错影响，形成的判决分界面是有偏的，整体分类性能是受限的。
[0006]径向基概率神经网络(RadialBasis Probabilistic Neural Networks, RBPNN)是在RBFNN和PNN基础上发展而来的，具有RBFNN和PNN的优点，如快速的收敛性能，降低的计算复杂度等，在保证网络性能前提下，进一步降低了网络规模，减少了训练强度，增强了分类准确性。同RBFNN类似，RBPNN输出层仍采用连接权线性叠加，可能发生样本“拒识”的情况。

【发明内容】

[0007]本发明的目的在于提供一种分类准确率高、模型泛化能力强、分类实时性能好、应用前景广阔的基于自适应修正神经网络的模式识别方法。[0008]实现本发明目的的技术解决方案为:
[0009]一种基于自适应修正神经网络的模式识别方法，包括以下步骤:
[0010]第一步，概率神经网络模式分类，即采用概率神经网络模型对输入的训练样本进行分类，得到分类正确的样本和分类错误的样本；
[0011]第二步，构建自适应修正神经网络模型结构，即在概率神经网络模型结构的基础上添加输入层、中心层和激励层；
[0012]第三步，建立自适应修正神经网络模型，即针对概率神经网络模型分类错误的样本，以自身为中心点，计算与其他类别样本间的允许半径，聚类同类别错误样本，从而实现分类模式的批量修正以及判决分界面的重新规划，最终建立自适应修正神经网络模型；
[0013]第四步，模式识别，即利用上述步骤所得自适应修正神经网络模型，对输入的测试样本进行模式识别。
[0014]本发明与现有技术相比，其显著优点:
[0015](I)分类准确率高。本发明方法针对模式间交错影响造成判决界面有偏的问题，提出一种自适应修正神经网络模型。该模型针对概率神经网络方法分类错误的样本，以自身为中心点，自行计算与其他类别样本间的允许半径，聚类同类别错误样本，从而实现批量模式修正，因此分类准确率高。
[0016](2)模型泛化能力强。本发明方法采用自适应修正神经网络模型，能够在低信噪比情况下避免样本“拒识”现象的发生、保证较高的分类准确率，因此模型泛化能力强。
[0017](3)分类实时性能好。本发明方法中模型的训练时间随训练样本个数的增加而平缓上升，耗时较少，模型的分类时间受模型复杂程度影响较小，波动不大，耗时为毫秒级，因此分类实时性能好，适用于实时分类领域。
[0018]( 4 )应用前景广阔。本发明方法所需先验知识少，并且采用小波分析技术提取数据的特征向量进行建模，对原始数据要求低，得到的模型更加精确，因此应用前景广阔。
[0019]下面结合附图对本发明作进一步详细描述。
【专利附图】

【附图说明】
[0020]图1为本发明基于自适应修正神经网络的模式识别方法流程图。
[0021]图2为本发明方法中概率神经网络模型结构图。
[0022]图3为本发明方法中自适应修正神经网络模型结构图。
[0023]图4为本发明方法中自适应修正神经网络模型算法原理图。
[0024]图5为本发明方法应用的双螺旋训练样本分布示意图。
[0025]图6为使用本发明方法和概率神经网络方法所得的分类界面结果图；其中(a)为概率神经网络方法(PNN)所得的分类界面结果图；(b)为本发明方法(ACNN)所得的分类界面结果图。
[0026]图7为使用本发明方法所得的错误样本的聚类分布结果图。
[0027]图8为使用本发明方法所得的样本训练时间结果图。
[0028]图9为使用本发明方法对测试样本分类的平均时间结果图。
【具体实施方式】[0029]下面结合附图及实施例对本发明一种基于自适应修正神经网络的模式识别方法的实施方式进行详细说明。
[0030]如图1所示，为本发明基于自适应修正神经网络的模式识别方法流程图。第一步，采用概率神经网络模型对输入的训练样本进行分类，得到分类正确的样本和分类错误的样本；第二步，在概率神经网络模型结构的基础上添加输入层、中心层和激励层；第三步，针对概率神经网络模型分类错误的样本，以自身为中心点，计算与其他类别样本间的允许半径，聚类同类别错误样本，从而实现分类模式的批量修正以及判决分界面的重新规划，建立自适应修正神经网络模型(Adaptive Correction Neural Network, ACNN);第三步，基于自适应修正神经网络模型对输入的测试样本进行模式识别。
[0031]如图2所示，为本发明方法中概率神经网络模型结构图。其基本结构包括输入层、模式层、求和层和竞争层，具体说明如下:
[0032](I)输入层包括η个神经元(n e N+)，代表输入样本的维数，即X= (X1, X2，…，xn)；
[0033](2)模式层包括m个隐神经元(m e N+)，对应m个训练样本，即Y=(Yι,Y2,-，ym)，模式层针对输入样本，计算其同每一个训练样本之间的距离，然后使用径向基函数(如高斯函数)计算当前输入与本身所代表样本的相似度，其输出out_yi可根据公式
【权利要求】
1.一种基于自适应修正神经网络的模式识别方法，其特征在于，包括以下步骤:第一步，概率神经网络模式分类，即采用概率神经网络模型对输入的训练样本进行分类，得到分类正确的样本和分类错误的样本；第二步，构建自适应修正神经网络模型结构，即在概率神经网络模型结构的基础上添加输入层、中心层和激励层；第三步，建立自适应修正神经网络模型，即针对概率神经网络模型分类错误的样本，以自身为中心点，计算与其他类别样本间的允许半径，聚类同类别错误样本，从而实现分类模式的批量修正以及判决分界面的重新规划，最终建立自适应修正神经网络模型；第四步，模式识别，即利用上述步骤所得自适应修正神经网络模型，对输入的测试样本进行模式识别。
2.根据权利要求1所述的一种基于自适应修正神经网络的模式识别方法，其特征在于概率神经网络模式分类过程如下:每个训练样本包括原始数据和对应的真实模式，采用概率神经网络模型对训练样本的原始数据进行模式分类，将所得分类模式与样本真实模式进行对比,如果模式相同,则样本分类正确,否则,样本分类错误。
3.根据权利要求1所述的一种基于自适应修正神经网络的模式识别方法，其特征在于自适应修正神经网络模型结构如下:所述自适应修正神经网络模型结构是在概率神经网络的基础上添加输入层、中心层和激励层，输入层代表概率神经网络训练过程中分类错误的样本，中心层代表所有错误分类样本的不同聚类，激励层代表样本模式，能够根据中心层的输出直接输出样本模式，或者激活概率神经网络模型进一步识别模式。
4.根据权利要求3所述的一种基于自适应修正神经网络的模式识别方法，其特征在于:所述中心层的聚类由中心矢量`和半径表示，其中心矢量为错误分类样本，半径为该中心矢量同所有训练样本中其他类别样本之间的最小距离的一半。
5.根据权利要求1所述的一种基于自适应修正神经网络的模式识别方法，其特征在于建立自适应修正神经网络模型步骤如下:第一步，使用概率神经网络模型对输入的训练样本进行分类，将训练样本中分类错误的样本全部提出，存储至错误分类集合中；第二步，判断错误分类集合是否为空，如果是，则训练过程结束，建立自适应修正神经网络模型，如果否，则在错误分类集合中选取一个样本作为中心点，将该样本作为一个中心矢量加入聚类集合中；第三步，获取该中心矢量所属的真实模式类别，并在错误分类集合中删除该样本；第四步，计算该中心矢量同所有训练样本中其他类别样本之间的距离，并从中选取最小距离的一半，作为该中心矢量对应的半径加入聚类集合中；第五步，计算错误分类集合中的所有样本同所选中心矢量之间的距离；第六步，判断错误分类集合中的一个样本同所选中心矢量的距离是否小于对应半径，如果是，则在错误分类集合中删除该样本，选择错误分类集合中的下一个样本重复该判断，如果否，则选择错误分类集合中的下一个样本重复该判断；第七步，如果错误分类集合中的所有样本均已进行过上述判断，则错误分类集合的更新过程结束，进一步判断错误分类集合是否为空，重复上述训练过程。
6.根据权利要求1所述的一种基于自适应修正神经网络的模式识别方法，其特征在于模式识别步骤如下:第一步，使用新的自适应修正神经网络模型对输入的测试样本进行分类，计算新样本同聚类集合中的一个中心矢量之间的距离；第二步，判断该距离是否小于对应半径，如果是，则新样本的分类与该中心矢量所属类别相同，该新样本的模式识别过程结束，如果否，则说明该新样本不属于该聚类，继续选取聚类集合中的下一个中心矢量重复该分类计算；第三步，如果聚类集合中的所有中心矢量均已进行过计算，则说明该新样本不在各聚类的范围内，继续使用概 率神经网络模型对该样本进行模式识别。
【文档编号】G06K9/62GK103489009SQ201310422987
【公开日】2014年1月1日 申请日期:2013年9月17日 优先权日:2013年9月17日
【发明者】高甜容, 岳东峰, 孙雨, 王进, 朱磊森, 张莹莹, 崔梦莹, 王文剑, 高冉, 杜易, 冒蓉 申请人:北方信息控制集团有限公司