专利名称：：一种基于变学习率神经网络的fir滤波器的设计方法
技术领域：
：本发明属于电子科学与通讯
技术领域：
，涉及一种有限冲击响应(FIR)滤波器设计方法，特别涉及一种基于变学习率神经网络的FIR滤波器的设计方法。
背景技术：
：有限冲击响应(FIR)滤波器具有严格的线性相位特性，而无限冲击响应(IIR)滤波器的相位是非线性的，所以设计线性相位IIR滤波器时需要全通网络进行相位校正，因此，在对信号相位要求严格的图形处理以及数据传输等领域，FIR滤波器比IIR滤波器有更广泛的工程实际应用，其设计和实现方法也受到学术界的广泛关注。FIR滤波器设计的常用方法是窗函数加权法和频率采样法，但这两种方法均存在对通带和阻带边界频率与波动不易控制的缺陷，在实际应用中受到很大的限制，为此国内外学者提出了一些优化设计算法，如线性规划算法、加权最小二乘(WLS)法和递推二乘(RLS)算法等，但这些算法中存在复杂的求逆运算或收敛速度慢和阻带衰耗小等缺点。公开报道的神经网络优化算法，利用神经网络很强的函数逼近能力，实现线性相位滤波器幅频响应与理想幅频响应在整个通带和阻带内的误差平方和最小，由该方法设计的滤波器具有良好的通带和阻带特性，易于实现对各种滤波器的优化设计，但在保证神经网络收敛的学习率取值范围内，其学习率的取值是固定不变的，且通常是凭经验或试算法来确定的，然而学习率的大小将直接影响神经网络权值的修正和收敛速度，因而通常的定学习率的神经网络优化FIR滤波器设计方法存在收敛速度慢、难以达到设计快速、结构最优等目的。
发明内容本发明所要解决的技术问题是提供一种基于变学习率神经网络的FIR滤波器的设计方法，以克服现有的固定学习率神经网络的FIR滤波器所具有的收敛速度慢的缺点。本发明的技术解决方案如下一种基于变学习率神经网络的FIR滤波器的设计方法，其特征在于，构造三角基函数神经网络，该三角基函数神经网络的输入为》，输出为//(>)，输入层和输出层各有一个神经元，隐含层有/个神经元，隐层神经元的激励函数4^)4(fi;),…^)分别为AO)=sin(^)'&O)=sin(*)，=sin[(/—/=1,2，…，*,必e;输入层神经元与隐层神经元之间的网络权值为1，隐含层神经元与输出层神经元之间的网络权值为n;，其中n^1,2,…,/，/=iV/2，iV为待设计滤波器的长度；通过训练三角基函数神经网络的权值vv"，使FIR滤波器幅频响应与理想幅频响应在整个通带和阻带内的误差平方和最小；三角基函数神经网络训练过程中自调整学习率的取值，以提高神经网络的学习效率和收敛速度。所述的三角基函数神经网络训练过程中的权值调整为A『=—a---^---=ae0)①0);脾，『(/+1)=『(,)+A『=昨)+ae(/)争,)；式中MP'为权值变化量，a为学习率，o<"<，；J为目标函数，『即『(。为神经网络权值，『=[^，2,..，/;e(O为误差，激励函数向量0()=[^(),02(),..4(6))]『，『(/+1)为/+1时刻的神经网络权值；所述的三角基函数神经网络训练过程中引入学习率"来调整神经网络权值，即目标函数/为a的函数，=+1)+将J(a)对a求导可得攀(0+"AW]&攀(,)+aA岡，'所述的自调整学习率的方法如下1)初始化《=0，"1，给定任意小的正实数f;2)计算<=0:+0.001/1;3)计算/'(《)，若/'(^)=0，贝1』^=3，算法终止；若《/'(《)<0，贝"=2*，a=5，返回2);若0，则执行4);4)计算j'(f)，若r(f)=0，则"4=，，算法终止；若j'(fxo，则"=^，返回2);若A，)X)，则《=，，执行5);5)若|-刊"，则^=，，算法结束；否则，返回4)执行。所述的FIR滤波器为4型FIR滤波器。有益效果本发明利用该方法对FIR高通滤波器和带通滤波器进行了优化设计，主要特征是在三角基函数神经网络训练过程中引入变学习率算法自调整学习率的取值，提高神经网络的学习效率和收敛速度。仿真结果(见附图以及实施例中的表格)表明了该方法设计FIR滤波器的有效性和优越性。所设计出的FIR滤波器，具有收敛速度快、幅频响应通带无过冲和波动的特点，而且它的幅频过渡带窄和阻带衰耗大。本发明为FIR线性相位滤波器的设计提供了一种有效的方法。图1三角基函数神经网络结构示意图2FIR高通滤波器脉冲响应、幅频响应和衰耗特性；(a为脉冲响应；b为最优学习率时的幅频响应；C为非最优学习率(6^0.001)时的幅频响应；d为最优学习率时的衰耗特性；e为非最优学习率(a-0.001)时的衰耗特性)图3FIR带通滤波器脉冲响应、幅频响应和衰耗特性。(a为脉冲响应；b为最优学习率时的幅频响应；c为非最优学习率("-0.004)时的幅频响应；d为最优学习率时的衰耗特性；e为非最优学习率(《=0.004)时的衰耗特性)具体实施例方式下面实例是对本发明的进一步说明，而不是限制发明的范围1.三角基函数神经网络本发明所采用的三角基函数神经网络模型如图1所示，其中三角基函数取正弦基函数，隐层神经元的激励函数A(必),A(fiO,…4(fiO分别为=sin(^))=sin(^)，…,,=sin[(/-丄风/=1,2,…,^,we(1)输入层神经元与隐层神经元之间的网络权值为1，隐层神经元与输出层神经元之间的网络权值为u;，其中"-l，2，…,/，/=W/2，iV为待设计滤波器的长度，/为隐含层神经元个数。神经网络输出函数为<formula>formulaseeoriginaldocumentpage7</formula>，则式(2)的矩阵形式为<formula>formulaseeoriginaldocumentpage7</formula>(3)误差函数为:<formula>formulaseeoriginaldocumentpage7</formula>(4)式中0,l，2,…m-1，m为训练样本数，i/。(q)为理想输出值，即给定的待设计滤波器的幅频响应特性，，//(必,)为神经网络实际输出值，目标函数定义为:神经网络训练过程中的权值调整为<formula>formulaseeoriginaldocumentpage7</formula>上式中"为学习率，"e(O，l)，本发明中"的大小随神经网络的训练进程自调整。2、神经网络收敛性定理1三角基函数神经网络中的学习寧《取0<"<|时,上述神经网络算法是收敛的，其中/为隐层神经元个数。证明取Lyapunov函数r(0-会e2(0，则有<formula>formulaseeoriginaldocumentpage7</formula>其中ll.ll卜》l2为Eudid范数的平方，所以式(8)可写成:△，=会—+帥)f_=MO鄉)2，2、2，鄉)『12一a+鄉)2—課2服2(10)由式(10)可知神经网络收敛的条件是鄉)0<<2/服鄉)-"<0，因为">0，所以有:(11)由式(3)和式(4)可得鄉)鄉)则，，5雖,)課土&(w,)12，由式(l)可知。^^>/，要使神经网络绝对收敛，取^,)=/，结合式(ll)可得0<"<孕，即当学习率"e(O，，)时，有A，〈0，因此，神经网络在讨论的学习范围内是收敛的。3、学习率自调整算法学习率a的选取对神经网络的权值修正有很大的影响。《选得太大，虽然能够提高学习率，但易使网络的学习过程产生振荡；《选得太小，收敛速度变慢。公开报道的神经网络的学习率在取值范围内通常凭经验和试算法来确定，在算法的整个过程中不变，将影响神经网络的学习效率和收敛速度。本发明引入变学习率a来调整神经网络权值，即误差函数J为"的函数，则=1)+必『]，将J(")对a求导可得4酽(0+a厶酽〗.緣当《=0时，贝U、；W)(12)(13)显然式(13)小于等于0。在神经网络训练过程增大《值，寻求使A")大于等于O的"值。设《=^时，式(12)中A")w，则^为a的最优值或接近最优值，算法不断调整a，直至找到最优值^。算法调整a值的具体步骤如下(1)初始化《=0，fc=l，给定任意小的正实数s;(2)计算"a+0細A;(3)计算A。，若"。=0，则a,J，算法终止；若A。"，贝^=2*，《=5，返回(2);若J'O)X)，则执行(4);(4)计算y(f)，若j'(，)-o，则"^f，算法终止；若j'(fxo，则"=^，22222返回(2);若A^)>(),则^f，执行(5);(5)若|-《"，则^=^，算法结束；否则，返回(4)执行。4、FIR线性相位滤波器幅频特性对于W-1阶FIR滤波器，其系统函数为,=^/(14)M=0式中Kw)为FIR滤波器单位冲激响应，W为冲激响应长度，AM为滤波器阶数。定理2FIR滤波器为线性相位滤波器的充分必要条件是单位冲激相应Ww)应满足下列条件A(")=±/z(iV-l-")(15)式中取"+"号时，/z(w)满足偶对称，取"-"号时，A(")满足奇对称。若/!(")=-WW-1-n),(0^n《iV-1)，且AT为偶数，则4型FIR线性相位滤波器的频率特性可表示为那么，滤波器幅频响应为//=^(").sin("—丄>(17)其中c(")=2《—m)，打^1,2,…，冬(18)/(")=-/(7V-卜")，(0S"TV-1)(19)由式(17)可知，幅频响应中d(w)为待定的级数系数，只要利用神经网络逼近理想FIR线性相位滤波器获得网络的权值w(")，即可得到d(")，结合式(18)和式(19)可获得FIR滤波器的脉冲响应序列/<")，("=1，2,-,/-1)。应用示例为了验证本发明变学习率三角基函数神经网络设计4型FIR线性相位滤波器方法的可行性，采用该神经网络方法对4型FIR线性相位高通滤波器和带通滤波器进行设计。实施例1设某一理想高通滤波器的幅频特性为fl0.5兀Sd)S7T,^A、A(w)=iG其它po)设计一个220阶的高通滤波器的方法为对w在[O,;r]内均匀取111个样本值，即=^,=0，1，2,一，110。为了使滤波器的通带和阻带内无过冲和波动，在每个过渡带内分别取两个样本点0.2和0.8。因此，实际的幅频取样序列为/f。(")=[zmw(l,55)，0.2,0.8，o"M(l,54)]。取神经网络的网络结构为lxlllxl，通带和阻带范围内全局误差性能指标为J-4.62x10-6，《学习率初始值为0.001，将取样序列输入神经网络进行训练，经训练后得到的4型FIR线性相位高通滤波器脉冲响应、幅频响应和衰耗特性如附图2所示，不同"值对应神经网络训练次数和运行时间如表1所示。表1不同a值的神经网络训练次数与运行时间比较<table>tableseeoriginaldocumentpage10</column></row><table>从表1可见，采用本发明学习率自调整神经网络算法使得神经网络训练次数大大减少，收敛速度大大加快，其中W为最优学习率。实施例2设某一理想带通滤波器的幅频特性为fl0.3"<y^0.7;r、^^)^G其它(2D设计一个180阶的带通滤波器的方法为对0在[O,;r]内均匀取91个样本值，即0)=工"，"=0，1，2,...,90。为了使滤波器的通带和阻带内无过冲和波动，在每个过渡带内分90别取两个样本点0.2和0.8。因此，实际的幅频取样序列为7/。(")=[zera(l，28),0.2，0.8,o"M(l,31)，0.8,0.2,zems(l,28)]。取神经网络的网络结构为1x91x1，通带和阻带范围内全局误差性能指标为_/=5.64><10-7，"学习率初始值为0.001，将取样序列输入神经网络进行训练，经训练后得到的4型FIR线性相位高通滤波器脉冲响应、幅频响应和衰耗特性如附图3所示，不同《值对应神经网络训练次数和运行时间如表2。表2不同《值的神经网络训练次数与运行时间比较<table>tableseeoriginaldocumentpage11</column></row><table>从表2可见，采用变学习率神经网络算法能够使神经网络训练次数减少，收敛速度加快。如图2和图3，在示例结果图中，图2(a)和图3(a)为4型FIR线性相位滤波器脉冲响应，变学习率三角基函数神经网络模型很好的计算出了滤波器的脉冲响应A(w)。图2(b)和图3(b)为神经网络在最优学习率时的滤波器幅频特性，由图可见，滤波器幅频特性通带内无过冲和波动现象，且滤波器的过渡带窄，而图2(c)和图3(c)中非最优学习率时的滤波器幅频特性通带内有波动，波动见图2(c)和图3(c)中的A处；图2(d)和图3(d)滤波器衰耗特性，其阻带衰耗大，衰减值在lOOdB以上，而图2(e)和图3(e)中非最优学习率时的滤波器衰耗特性不如前者，衰减值小于100dB。同时，由表1和表2可知，当神经网络取得最优学习率时，可以减少网络迭代次数和运行时间，提高网络学习效率和速度，其原因是学习率三角基函数神经网络模型在学习过程中自调整学习率到最优值，使神经网络快速收敛至目标值，实现线性相位滤波器幅频响应与理想幅频响应在整个通带和阻带内的误差平方和最小，有效地解决神经网络训练时学习率的大小固定不变，且通常依靠个人的经验或试算法来确定的缺点。权利要求1、一种基于变学习率神经网络的FIR滤波器的设计方法，其特征在于，构造三角基函数神经网络，该三角基函数神经网络的输入为ω，输出为H(ω)，输入层和输出层各有一个神经元，隐含层有l个神经元，隐层神经元的激励函数φ1(ω)，φ2(ω)，…，φ1(ω)分别为输入层神经元与隐层神经元之间的网络权值为1，隐含层神经元与输出层神经元之间的网络权值为wn，其中n＝1，2，…，l，l＝N/2，N为待设计滤波器的长度；通过训练三角基函数神经网络的权值wn，使FIR滤波器幅频响应与理想幅频响应在整个通带和阻带内的误差平方和最小；三角基函数神经网络训练过程中自调整学习率的取值，以提高神经网络的学习效率和收敛速度。2、根据权利要求1所述的基于变学习率神经网络的FIR滤波器的设计方法，其特征在于，所述的三角基函数神经网络训练过程中的权值调整为緣=—cc---ii---=tte(/)①(ffl);脾，,+1)=,)+Aff=,+ae(f)OO,);式中MF为权值变化量，"为学习率，0<"<|;J为目标函数，『即『G)为神经网络权值，PFKw,，MV..,w,f;e(0为误差，激励函数向量①(wX^(必),A(w)，…4(w)r，『(什l)为汁l时刻的神经网络权值；所述的三角基函数神经网络训练过程中引入学习率"来调整神经网络权值，即目标函数J为a的函数，=1)+将J(a)对a求导可得攀(0+"A『]cto+'所述的自调整学习率的方法如下1)初始化《=0，*=1，给定任意小正实数"2)计算"a+0細fc;3)计算J'05)，若J'(5)-0，则^=<5，算法终止；若JWO，则*=2&，《=返回2);若A。X)，则执行4);4)计算j'(^lf)，若r(^lf—0，则^=^，算法终止；若j'(fxo，则^￡±^，返回2);若A^)>0，则"f，执行5);5)若|-《"，则^=^，算法结束；否则，返回4)执行。3、根据权利要求1或2所述的基于变学习率神经网络的FIR滤波器的设计方法，其特征在于，所述的FIR滤波器为4型FIR滤波器。全文摘要本发明公开了一种基于变学习率神经网络的FIR滤波器的设计方法，该方法在三角基函数神经网络训练过程中引入变学习率算法自调整学习率的取值，提高神经网络的学习效率和收敛速度。根据三角基函数神经网络与线性相位4型FIR滤波器幅频特性之间的关系，构建了相应的神经网络模型。通过训练神经网络的权值，使FIR线性相位滤波器幅频响应与理想幅频响应在整个通带和阻带内的误差平方和最小。利用该方法对FIR高通滤波器和带通滤波器进行了优化设计，结果表明了该方法设计FIR滤波器的有效性和优越性。所设计出的FIR滤波器，具有收敛速度快、幅频响应通带无过冲和波动的特点，而且它的幅频过渡带窄和阻带衰耗大。文档编号H03H17/06GK101425152SQ20081014391公开日2009年5月6日申请日期2008年12月12日优先权日2008年12月12日发明者何怡刚,目李申请人:湖南大学