余弦调制滤波器组的稀疏FIR原型滤波器的设计方法与流程

本发明属于数字信号处理技术领域，提供了一种稀疏、高效的余弦调制滤波器组的线性相位fir(有限脉冲响应)原型滤波器的设计方法。

背景技术：

多速率滤波器组的理论和设计因为其在通信、语音和图像编码/压缩、系统辨识、快速计算等领域有广泛的应用而备受关注。而滤波器组的构成形式一般可分为dft滤波器组和余弦调制滤波器组。余弦调制滤波器组通过对低通原型滤波器进行优化设计，并通过快速离散余弦变换(dct)得到分析和综合滤波器组，因其具有计算复杂度低和设计过程简单等优点，在信号处理、通信和生物医学工程等领域有广泛应用。具有稀疏的线性相位fir(有限脉冲响应)原型滤波器的余弦调制滤波器组是每一通道的滤波器系数具有稀疏特性(非零抽头系数的数目小于滤波器阶数)的滤波器组。稀疏的滤波器其实现所用的加法和乘法器数目远少于与其滤波效果相当的同类滤波器，因此，稀疏的滤波器具有运算速度高、运算误差小和能耗低等优点。

目前对于余弦调制滤波器组的设计方法主要分为分别设计滤波器组中的分析滤波器组与综合滤波器组和单独设计低通原型滤波器后经过余弦调制得到滤波器组，而对于已经提出的余弦滤波组的设计方法中，p.p.vaidyanathan和r.d.koilpillai的设计法可算是经典，通过分析方法，估算出满足幅度失真和混叠失真标准最小的滤波器组。

技术实现要素：

本发明目的是设计实现小纹波，低抽头数，低幅度失真和混叠失真的余弦调制滤波器组的线性相位fir原型滤波器，并提供一种全新的设计方法——可设计稀疏，高效的余弦调制滤波器组的线性相位fir原型滤波器的方法。

本发明提供的余弦调制滤波器组的稀疏线性相位fir原型滤波器的设计方法具体步骤如下：

第1、余弦调制滤波器组的稀疏线性相位fir原型滤波器设计参数的初始化；

第2、迭代计算满足完全重建条件的余弦调制滤波器组的稀疏线性相位fir原型滤波器，包括单位脉冲响应的非零抽头系数数目、位置以及具系数数值的确定。

(下面以ii型线性相位fir滤波器为例)：

(一)根据设计要求构造初始参数：

本发明根据余弦调制滤波器组的通道数m，选择通带、过渡带和阻带分别对应的采样数lp，lt，ls和纹波值δp，δt，δs，确定线性相位fir原型滤波器的初始阶数n，线性相位fir原型滤波器的抽头系数用向量h表示为：

h＝2[h1,h2,…,hm…,hn/2]^t(1)

其中hm(1≤m≤n/2)代表fir原型滤波器的第m个抽头系数；将余弦调制滤波器组的稀疏线性相位fir原型滤波器设计问题转化为如下的数学优化问题：

s.t.|bh-d|≤e(2b)

其中||h||0代表0-范数运算，即表示抽头系数向量中非零抽头的个数；“min”与“s.t.”组合的公式(2a)-(2c)表示求解满足(2b)和(2c)要求的||h||0的最小值；采样矩阵b表示为b＝[bp；bt；bs]，其中bp、bt和bs分别代表通带、过渡带和阻带的采样矩阵，表示为

其中表示维行向量；(lp+lt+ls)×1维的向量d是离散化的理想频率响应，表示为：

其中f(ω)是过渡带要逼近的频率响应函数，表示为：

其中ω0＝απ/2m(0≤α≤1)，公式(7)满足完全重建条件，表示过渡带的频率采样点；误差向量e为(lp+lt+ls)×1维的列向量，表示为：

e＝[δp…δpδt…δtδs…δs]^t,(8)

(二)设定(lp+lt+ls)×1维权重向量初始值为w⁽¹⁾＝[1,1,…,1]^t,本发明在第k(1≤k≤n/2)次迭代中，对b矩阵的列向量做归一化处理：

其中利用omp算法求解如下问题：

s.t.||h^(k)||0≤k(10b)

并且计算(lp+lt+ls)×1维的残差向量r^(k)，表示为：

r^(k)＝φ^(k)s^(k)-d(11)

其中k×1维的s^(k)为公式(10)的运行结果，表示omp算法从b^(k)中选出的列向量集合，集合λ^(k)＝{n1,n2,…,nk}表示非零抽头系数的指标集。

(三)本发明利用得到的非零抽头系数的指标集λ^(k)，求解如下的线性规划问题中：

s.t.|b^(k)h^(k)-d|≤e+μ·1l×1(11b)

判断μ是否小于零，如果大于零，则更新权重向量w，其更新公式表示为：

其中w^(k+1)(l)表示新权重向量w^(k+1)中的值，rl^(k)表示残差向量r^(k)中的值；将新权重向量w^(k+1)带入到第2步中循环计算；如果μ小于等于零，则停止迭代运算，计算得到的即为最终的稀疏的线性相位fir原型滤波器。

本发明具有如下有益效果：

1、本发明首次提供了一种稀疏、高效的余弦调制滤波器组的线性相位fir原型滤波器设计方法。

2、本发明可设计低非零抽头数的原型滤波器，滤波器的稀疏性可使其实现所用的加法器乘法器数目减少，从而能提高其运算速度、减小运算误差和降低能耗，进而降低生产成本。

3、仿真结果表明，在相同设计指标的要求下，本发明的非零抽头系数的数目比国内外最佳的同类滤波器的数目少35％以上。

附图说明

图1是实现本发明的余弦调制滤波器组的稀疏线性相位fir原型滤波器设计方法流程图；

图2根据函数eam(ω)计算得出近似完全重建的余弦调制滤波器组的幅度失真图；

图3是根据函数ea(ω)计算得出近似完全重建的余弦调制滤波器组的混叠失真图；

图4是画出表-2中余弦调制滤波器组的稀疏线性相位fir原型滤波器的频域响应图。

具体实施方式

实施例1：

本发明提供的余弦调制滤波器组的稀疏线性相位fir原型滤波器设计方法具体步骤如下：

第1、余弦调制滤波器组的稀疏线性相位fir原型滤波器设计参数的初始化；

第2、迭代计算满足完全重建条件的余弦调制滤波器组的稀疏线性相位fir原型滤波器，包括单位脉冲响应的非零抽头系数数目、位置以及具系数数值的确定。

为了验证该滤波器组设计方法的有效性，对该方法进行了计算机模拟仿真。

设计要求：利用文献：(f.tan,etal.:“optimaldesignofcosinemodulatedfilterbanksusingquantum-behavedparticleswarmoptimizationalgorithm,”4thinternationalcongressonimageandsignalprocessing,vol.5,pp.2280-2284,2011.)(f.tan,etal.:“基于量子粒子群优化算法的余弦调制滤波器组优化设计,”第四界国际图像与信号处理会议,vol.5,pp.2280-2284,2011.)中所给出的设计指标，滤波器组通道数m＝16，原型滤波器初始系数个数n＝256，并设计通带、过渡带和阻带分别对应的采样数lp＝4，lt＝7，ls＝94，纹波值δp＝δt＝δs＝1·10^-8带入计算。本发明用iromp算法设计余弦滤波器组的原型滤波器，根据权重值的计算，在得到的变量集b中，选择非零的系数位置对应的列向量bj，带入到iromp算法中迭代计算得到的滤波器系数。

步骤一：根据余弦调制滤波器组的稀疏线性相位fir原型滤波器的设计参数要求将各设计参数带入初始化条件，得到待求解问题：

s.t.|bh-d|≤e(2b)

将设计的通带、过渡带和阻带分别对应的采样数lp＝4，lt＝7，ls＝94带入公式(6)得到(4+7+94)×1维的离散化的理想频率响应d，表示为：

其中f(ω)数值如表-1所示：

表-1

将设计纹波值δp＝δt＝δs＝1·10^-8带入公式(7)，得到(4+7+94)×1维误差列向量e，向量中每个值都为1·10^-8，设定(4+7+94)×1维权重向量初始值为w⁽¹⁾＝[1,1,…,1]^t；

步骤二：在第k(1≤k≤n/2)次迭代中，对b矩阵的列向量做归一化处理：

然后使用附录1中的omp算法求解如下问题：

s.t.||h^(k)||0≤k(10b)

计算得到非零抽头系数的指标集λ^(k)；

步骤三：使用步骤二求解得到的非零抽头系数的指标集λ^(k)，带入求解如下的线性规划问题中：

s.t.|b^(k)h^(k)-d|≤e+μ·1l×1(11b)

进而得到余弦调制滤波器组的稀疏线性相位fir原型滤波器抽头系数其数值列在表-2中。

表-2

因为ii型fir滤波器的脉冲响应具有对称性，故经过本发明求得的滤波器抽头系数为需要求解的原型滤波器抽头系数的一半，另一半对称相等，即所求稀疏fir原型滤波器总抽头系数表示为：

其中表示将向量上下翻转。

利用本发明算法对变量矩阵b进行变量选择。对于256阶滤波器，本算法进行选择后可得到一半抽头系数的所有情况(另一半系数与其对称相等)，即将带入滤波器总抽头系数表达式中，得到原型滤波器总抽头系数最终得到的余弦调制滤波器组的稀疏线性相位fir原型滤波器是非零系数为166阶的滤波器，与粒子群优化算法相比节省了35.6％。

利用步骤三得到的原型滤波器抽头系数计算分析滤波器组hm(n)和综合滤波器组gm(n)：

其中1≤m≤m，并计算余弦调制滤波器组的幅度失真值eam和混叠失真值ea，其计算公式表示为：

eam(ω)＝1-|a0(e^jω)

其中a0(e^jω)和al(e^jω)表示为：

hk(e^jω)为分析滤波器组的频域响应，gk(e^jω)为综合滤波器组的频域响应。

在表-3中，分别比较了本发明算法与粒子群优化算法得到的fir陷波滤波器的阶数、非零抽头权重的数量、滤波器组的幅度失真和混叠失真等几项关键指标，如表-3中所示，在幅度失真值eam与混叠失真值ea相似情况下，本发明的原型滤波器阶数明显少于粒子群优化算法。

表-3

在附图2中，根据函数eam(ω)计算得出近似完全重建的余弦调制滤波器组的幅度失真图，其最大值与表-3中本发明算法得到的幅度失真值eam对应相等；在附图3中，根据函数ea(ω)计算得出近似完全重建的余弦调制滤波器组的混叠失真图，其最大值与表-3中本发明算法得到的混叠失真值ea对应相等；图4是画出表-2中余弦调制滤波器组的稀疏线性相位fir原型滤波器的频域响应。

附录1

式(13)omp算法计算过程

利用omp算法计算式(10)，m×n的矩阵b即为omp算法的传感矩阵，n×1的d为观测值，ri表示残差，t表示迭代次数，表示空集，λt表示t次迭代的索引集合，λt表示第t次迭代找到的索引，aj表示矩阵β的第j列，bt表示按索引λt选出的矩阵b的列集合，θt为t×1的列向量，符号∪表示集合并运算，<rt-1,aj>表示求第t次迭代更新前的残差与矩阵β的第j列向量内积。具体实现步骤如下：

1、初始化残差使其等于

r0＝d；(1)

2、用公式

计算得到索引λt；

3、对λt和bt并集运算，令

λt＝λt-1∪{λt}，

4、求新观测值d＝btθt的最小二乘解：

5、用(4)求得的最小二乘解更新残差ri，计算为：

6、令t＝t+1，如果t小于预设值则返回第(2)步，否则停止迭代进入第7步；

7、重构所得在λt处有非零项，其值分别为最后一次迭代所得