[发明专利]一种可分离二维FIR滤波器的系数量化方法

权利要求书

1.一种可分离二维FIR滤波器的系数量化方法，其特征在于：该方法具体包括以下步骤：

步骤一、根据设计要求，确定滤波器的基本参数，包括二维FIR滤波器的类型、阶数N²、频率点数Γ，通带截止频率ω_p，阻带截止频率ω_s，设计出可分离的二维FIR滤波器原型，称之为原型滤波器；

设计的可分离二维FIR滤波器的脉冲响应系数矩阵描述如式(1)；

其中列向量r_i和s_i是一维FIR子滤波器的脉冲响应，r_i尺寸大小为2·N₁+1，s_i尺寸大小为2·N₂+1，其中N₁＝N₂＝(N-1)/2，K是并行结构的数量；为保证滤波器是线性相位，这些列向量满足中心对称或者反中心对称，所以只需要考虑r_i和s_i列向量中的一半元素，分别记为

r_{i_half}＝[r_i(N₁+1) r_i(N₁+2)…r_i(2·N₁+1)]^T (2)

s_{i_half}＝[s_i(N₂+1) s_i(N₂+1)…s_i(2·N₂+1)]^T，i＝1,2,...,K (3)

所设计具有线性相位的可分离二维FIR滤波器的每个频率点的响应见式(4)；

式(4)中ω_l是感兴趣的频率点，l∈{1,2,...,Γ}，所要设计的可分离二维FIR滤波器系数向量记为x，定义如下：x＝[r_{1_half}^Τ r_{2_half}^Τ...r_{K_half}^Τ s_{1_half}^Τs_{2_half}^Τ...s_{K_half}^Τ]^Τ；

步骤二、使用信赖域迭代梯度搜索技术优化原型滤波器中的系数向量x；

2-1.确定求解目标函数及约束条件；

根据式(4)可分离二维FIR滤波器的整体频率响应为H(ω|x)＝[H(ω₁|x) H(ω₂|x)...H(ω_Γ|x)]^Τ，记理想滤波器的频率响应为H_d(ω)＝[H_d(ω₁) H_d(ω₂)...H_d(ω_Γ)]^Τ；记w＝[w(ω₁) w(ω₂)...w(ω_Γ)]^T为权重向量；采用最大误差最小化设计准则，使用TR-IGS优化系数向量x见式(5)；

Subject to:||w·(H(ω|x)-H_d(ω))||_∞≤δ (5.b)

式(5)中，||·||_∞无穷范数运算，x_v指的是x中的非0和非1的元素，“·”指两向量中逐元素相乘，δ指通带、阻带中最大峰值纹波误差；

2-2.求解H(ω|x)的雅克比矩阵G(x)；

式(6)中，M为x的长度，若x(e)＝0，e＝1,2,...,M，则令

2-3.求解H(ω|x)的泰勒一阶近似，见式(7)；

式(7)中，x_I是x的初始值，▽x是x＝x_I时沿G(x_I)下降的步长，若x(e)＝0，则令▽x＝0，ε是一个正实数，可根据实际系数情况进行取值；将式(7)代入式(5)中，将问题(5)转化成凸规划问题(8)；

Subject to:||w·(H(ω|x_I)+G(x_I)·▽x-H_d(ω))||_∞≤δ (8.b)

||▽x||_∞≤ε (8.c)

2-4.求解凸规划问题(8)；

记j为迭代次数，初始值j＝0，x_I^(j)＝x，根据式(6)求出此时的G(x_I^(j))，代入式(8)并进行求解，求出的解记为▽x^(j)；然后求出新的x^(j+1)＝x_I^(j)+▽x^(j)，并将此时的x^(j+1)作为第j+1迭代的初始值x_I^(j+1)重复上述求解过程，直到x不能进一步优化或不再满足式(8)的约束条件或达到最大迭代次数；

步骤三、确定系数量化的表达式；

设步骤二得出的x经过量化后的整数系数向量为量化后的实际频率响应记为设要求的滤波器系数的最大有限字长为Q比特，其中字长包含符号位，量化目标准则采用最大误差最小化设计准则，则系数量化问题描述为

其中δ_Q表示最大有限字长为Q比特时滤波器的最大峰值纹波误差，也称为Q比特下的量化误差；记和分别是r_i和s_i量化后的系数，则记则量化后每个频率点的实际响应见式(10)；

式(10)中ρ＝1/||x||_∞为归一化因子，Ω＝2^(Q-1)-1；记

则量化后的实际频率响应又可以表述为式(13)；

将式(13)代入式(9)，可将系数量化问题具体化简为式(14)；

步骤四、采用分步式整数规划算法求解式(14)；

式(14)是一个整数规划问题，由于变量包含着级联的一维FIR子滤波器的系数变量和在计算频率响应时，两者是一种相乘的关系，是非线性的，所以无法采用相关的整数规划算法直接求解，提出分步式整数规划算法量化方案；

4.1利用步骤二得出的连续系数r_{i_half}，求解中的量化系数，目标函数和相应的约束条件为

式(15)中，δ′_Q是当前量化状态下所获得的最小峰值纹波误差，式(15.b)中除以(Ω·ρ)表示将量化的整数值转化为小数值用于计算实际的频率响应；

式(15.c)表示的动态取值范围，式(15.d)中，Ψ_s表示向量x_s中0元素的集合，量化过程中，0元素不参与量化；采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的

4.2利用4.1求解出的再求解中的量化系数，目标函数和相应的约束条件为

式(18)中，

式(18.c)表示的动态取值范围，式(18.d)中Ψ_r表示r_{i_half}系数中的0元素的集合；采用Gurobi求解器与yalmip工具箱嵌套使用的方式求解式(15)中的

最终获得量化后的整数系数向量