用于滤波器组多载波系统的新型滤波器优化设计算法

王 磊，梁 燕，兰海翔

(重庆邮电大学 移动通信技术重庆市重点实验室，重庆 400065)

0 引 言

正交频分复用(orthogonal frequency division multiplexing,OFDM)作为4G的核心技术，其巧妙地利用了子载波频谱的周期性零点，使各子载波在频域相互重叠而不相互干扰，从而使其具有很高的频谱利用率，这一点在频谱资源日趋紧张的当下，显得很有吸引力[1]。然而，OFDM技术也存在很多缺点，比如，时频定位要求很高，大量频谱资源消耗在解决时频同步问题上；对多普勒频偏非常敏感，高速移动终端的通信质量无法得到保障；调制方式缺乏灵活性，难以满足5G多样化的业务需求[2]。针对OFDM技术的缺点，很多新型滤波器组多载波调制方案陆续被提出来，诸如，滤波多音调制(filtered multi-tone, FMT)、基于滤波器组多载波的偏移正交幅度调制(filter bank based multicarrier offset quadrature amplitude modulation, FBMC-oQAM)、滤波正交频分复用(filtered-OFDM, F-OFDM)、通用滤波器组多载波(universal bank multicarrier, UFMC)、广义频分复用(generalized frequency division multiplexing, GFDM)等[3]。新型滤波器组多载波调制方案大多是利用滤波器组的滤波作用来实现子载波频谱约束性的提高，从而解决OFDM技术存在的对频率偏移敏感等问题[4-6]。滤波器组的滤波性能主要由原型滤波器决定，因而如何在诸多限制条件下设计出令人满意的原型滤波器是解决问题的关键。

用于多载波调制系统的数字滤波器一般为有限脉冲响应(finite impulse response,FIR)滤波器， FIR滤波器的设计方法有很多，比较经典的有窗函数法、升余弦(rise cosine,RC)法、等波纹法、频率采样法等[7-8]。窗函数法通过对理想低通滤波器的无限长时域脉冲响应乘以一个窗函数，进行软截断，从而得到一个物理可实现的滤波器。但是，这种软截断的做法会带来吉布斯(Gibbs)效应，即滤波器过渡带的加宽以及通带和阻带内的波动；而且通过加窗软截断来获得滤波器系数的做法，局限性很大，滤波器的系数可能的取值有限且无法单独改变。RC滚降法是对理想低通滤波器的频谱做升余弦滚降，从而得到一个可物理实现的滤波器，同时也带来了时域拖尾幅度的降低，减轻了多载波符号间干扰(inter symbol interference, ISI)，但是却导致了滤波器主瓣的展宽，降低了多载波系统的频谱利用率，加重了载波间干扰(inter carrier interference, ICI)[9]。RC滚降法同样无法单独改变滤波器的系数，而是被滚降因子整体性地改变，缺乏灵活性。

为了解决传统滤波器设计方法的不足，新型滤波器优化设计算法陆续被提出，许多启发式优化算法，如遗传算法、模拟退火算法等，已经被应用于数字滤波器的设计中[10]。2003年N.E. Mastorakis等[11]提出用遗传算法解决数字滤波器优化设计问题，虽然遗传算法在寻找搜索空间中极小值可能存在的区域方面具有良好的性能，但在解决方案质量以及确定局部最小值方面效率并不高。B. Luitel和 G.K. Venayagamoorthy[12]提出进化粒子群优化算法(evolution particleswarm optimization，EPSO)，EPSO算法易于实现，其收敛可以通过少量参数进行控制，但是EPSO算法的局限性在于它可能受到过早收敛和停滞问题的影响。介绍了一种基于贪心策略的启发式算法—雕塑算法，这种算法的灵感来自于雕刻的过程，本算法将约束条件转化为多维空间的一个子空间，通过寻找此子空间中能使目标函数获得最大或最小值的向量，来达到解决问题的目的。

1 多载波原型滤波器优化设计问题的数学模型

评价多载波原型滤波器的性能，主要有以下4个评价参数[13]:①阻带衰减幅度。阻带衰减幅度越大，带外能量泄露越少，当前子载波对其他子载波的干扰(ICI)也就越少，载波间干扰的降低会带来系统误码率性能的显著提高；②通带波动程度。原型滤波器通带幅度的波动会引起信号的幅度失真，从而给接收端准确地恢复出发送端的数据造成困难；③过渡带宽度。过渡带越窄，每一个子载波占用的频带资源越少，在带宽受限的情况下就可以容纳更多的子载波，从而提高系统的频谱利用率；④时域拖尾衰减速率。原型滤波器时域拖尾衰减越快，符号之间重叠部分的功率就会越低，符号间干扰(ISI)就会越少，接收端就能更准确地解调出发送的数据。因此，以多载波原型滤波器的这4个参数的加权和为优化目标函数，可以准确而全面地反映原型滤波器的整体性能。

图2为滤波器幅频特性示意图，图2中显示了[0,π]的频率成分，整个幅频特性曲线被分割为3部分，即：Ⅰ通带、Ⅱ过渡带和Ⅲ阻带。其中，通带截至频率为kp，阻带截至频率为ks。

设滤波器的时域响应为h(n)，通过DFT变换，可以得到其频率响应H(k)为

(1)

(1)式中：n为滤波器时域响应序号；k为频率响应序号；N为滤波器阶数。

图1 滤波器幅频特性示意图Fig.1 Filter amplitude-frequency characteristics

滤波器阻带衰减幅度用阻带平均功率Pstop来衡量，Pstop可表示为

(2)

(2)式中，ks表示滤波器阻带截止频率。

通带波动程度用通带标准差Spass来衡量，Spass可以表示为

0≤m,l≤kp-1

(3)

(3)式中，kp表示滤波器的通带截止频率。

过渡带宽度的影响用过渡带加权平均功率Ptranss来衡量，Ptranss可表示为

(4)

(4)式中，w(i)为权重函数。

时域拖尾衰减速率用加权平均衰减加速度atail来衡量，atail可表示为

0≤l≤Ntail-1

(5)

vtail(m)=‖h(m+1)-h(m)‖,

0≤m≤Ntail-1

(6)

(5)式中，vtail为衰减速度向量；w(l)为权重函数；Ntail为时域第一零点对应的序号。

所以，总优化目标函数φ可以表示为

φ=α·Pstop+β·Spass+χ·Ptranss+δ·atail

(7)

(7)式中，α，β，χ，δ为各评价参数的权重系数，这4个权重系数的和约束于1。

综上所述，多载波原型滤波器的优化设计问题可以归结为：求得使目标函数φ取得最小值时对应的h(n)向量。

2 雕塑算法简介

2.1 雕塑算法核心思想

一尊美丽的雕塑作品最初只是一块普通的大理石，随着刻刀一点点地雕刻，其轮廓慢慢地清晰起来，这个雕刻的过程实际上也是一个优化的过程。如果将最初的这块大理石看作一个多维空间的子空间，大理石外轮廓上的每一个点看作一个向量的每一个元素，那么一尊完美的雕塑作品就等价于这个向量的每一个元素取值达到符合审美标准的一种最佳组合[14]。

当雕塑艺术家开始雕刻之前，首先要在大脑中有一个基本的构图，这个构图是一个模糊的形象，每次雕刻都在逼近这个模糊的形象，每一次雕刻后，雕塑艺术家重新对得到的模糊形象进行再构图，产生一个比之前更清晰的形象，然后挥动刻刀去逼近这个形象，如此反复，作品的形象逐渐清晰起来，最终得到一尊完美的雕塑作品。艺术家最初的构图可以看作待优化向量的初始值，刻刀每挥动一下可以看作对初始向量的其中一个元素进行优化，每一次重新构图可以看作从全局角度重置优化目标函数的基准值，以达到每次优化后的目标函数基准值都比前一次更加理想，这也是贪心策略的核心要求[15]。

2.2 雕塑算法步骤及流程图

雕塑算法的具体步骤整理如下。

①将实际问题抽象为数学问题，建立优化目标函数φ。

②根据约束条件，划定待优化向量的可能子空间p。

③设置初始值Oorig，并求出优化目标函数的基准值Torig。

④根据梯度值确定待优化向量的具体变量元素Ok。

⑤求出可能子空间Vp中此变量下优化目标函数的最优值Tk。如果本次迭代产生的最优值比优化目标函数的基准值Tk-1更优，以本次迭代产生的最优值作为下次迭代的优化目标函数的基准值Tk，并将取得最优值时对应的变量Ok取值替代原变量取值Ok-1，同时算法终止变量C置0。如果本次迭代产生的最优值比优化目标函数的基准值Torig更劣或相等，按偏导数值大小原则执行对下一个变量的优化，同时保持优化目标函数的基准值Torig和此变量值Ok不变，算法终止变量C加1。

⑥重复④,⑤的操作，直到算法终止变量C等于变量的个数N时判定算法终止，同时得到优化目标函数的最优值和求得最优值时对应的最优向量。

雕塑算法的简易流程图如图2所示。

图2 雕塑算法的流程图Fig.2 Flowchart of the sculpture algorithm

雕塑算法可用于解决各种非线性优化问题，在优化目标函数为非凸函数、约束条件要求苛刻和优化变量过多的情形下，相比于其他启发式算法，雕塑算法具有显著的优势。越严苛的约束条件对应的优化变量可能子空间越小，从而使迭代次数减少，算法收敛速度更快。合理地选取初始值，有利于算法更快地求得最优解。

3 雕塑算法解决多载波原型滤波器优化设计问题

为了使多载波系统在接收端完全恢复发送端的信号，不存在相位失真，要求原型滤波器具有线性相位。本文考虑设计具有第一类线性相位的FIR滤波器，第一类线性相位FIR滤波器要求其系数满足偶对称的特性，即h(n)=h(N-n)，其中，N为滤波器阶数。因此，滤波器优化设计问题可以用公式(8)表示。

s.t.h(n)=h(N-n),0≤n≤N

(8)

(8)式中，N为滤波器阶数。

实用的多载波系统中原型滤波器都具有时域拖尾逐渐衰减至0的特性，根据这一特性，通过合理地增加约束条件，排除那些不满足要求的取值，从而使搜索空间V更小，有利于算法更快地寻找到最优的解向量。在本文中，用一个偶对称的四边形包络来限定滤波器系数的取值，从而在不影响滤波器系数最优解取值的前提下，缩小变量取值的搜索范围，减少算法迭代次数。因此，滤波器的优化设计问题可以更加准确地表示为

s.t.h(n)=h(N-n)

h(n)∈V,0≤n≤N

(9)

(9)式中，V为偶对称四边形包络限定的滤波器系数取值范围，如图3中的四边形所示。

图3 偶对称四边形包络Fig.3 Even symmetrical quadrilateral envelope

根据前面介绍的雕塑算法的一般步骤结合滤波器优化设计的具体问题，用雕塑算法解决滤波器优化设计问题的过程如下：首先，将实际问题抽象为数学模型，建立优化目标函数φ，确定解向量的可能取值空间Vp，这些工作前面已经完成；然后，指定解向量的初始值Oorig，根据初始值求出目标函数的基准值Torig，作为第一次迭代结果的参照标准，本文选择由传统的窗函数法生成的滤波器作为解向量的初始值。在每一次迭代过程中，求出优化目标函数在解向量初始值所在位置的梯度值

(10)

(10)式中：N为滤波器的阶数；Oi为Oorig的第i个元素。

偏导数绝对值越大，说明此变量对目标函数的影响越大，本算法中取偏导数绝对值最大的变量作为待优化变量Ok，即

Ok∈Oorig

(11)

其他变量用解向量的初始值代替，即为常数。在待优化变量的约束条件范围内求出目标函数的最小值φmin，如果φmin小于目标函数的基准值Tk-1，以此最小值φmin更新目标函数的基准值称为Tk，以此极小值对应的变量取值更新解向量的初始值；否则，目标函数的基准值Tk-1和解向量Oorig不变，根据偏导数大小执行对下一个变量的优化。

在整个算法执行过程中，始终遵循着贪心策略的原则：每次更新的目标函数基准值Tk都比上次优化得到的值Tk-1更小。即

T1>T1>…>Tk-1>Tk…

(12)

许多启发式算法，例如：模拟退火算法、遗传算法、蚁群算法等都存在一个问题，即无法保证得到的结果是全局最优解。在本文的算法中设置了一个算法终止控制变量C，当本次优化得到的变量值等于上次的优化值时，判定此变量与上一个变量已经联合优化得到局部最优解，此时令C加1。但是随着其他变量数值的改变，此局部最优解可能会改变，所以当本次得到的优化变量值不等于上次的优化值时，说明还存在可以优化的变量，前面得到的局部最优解并不是全局最优解，此时将算法终止控制变量C置零，优化过程继续。当连续N个变量的优化取值都等于上次的优化值时，这时C=N，此时改变任何变量都无法使优化目标函数获得更小的值，那么可以断定全部N个变量已经联合优化到最优值，此时得到的局部最优解就是全局最优解，不存在还可以优化的变量，算法终止。

4 仿真及结果分析

将给出一个用上述算法优化一个由传统的窗函数法生成的滤波器的实例。为了评价所提算法的性能，以2014年Roland Baudin等提出的一种基于模拟退火算法的滤波器优化设计算法[16]作为参照对象。在雕塑算法滤波器优化设计中，滤波器的设计规格参数如表1所示。其中，α，β，χ，δ各评价参数的权重系数是作者在多次仿真实践中得到的使系统性能最好的一组参数组合。

表1 滤波器设计规格参数

图4是不同方法设计的滤波器的频率响应，包括由窗函数法、模拟退火算法和雕塑算法设计的滤波器的频率响应。其中，窗函数法设计的滤波器也作为模拟退火算法和雕塑算法的待优化滤波器初始值。由图4可知，窗函数法设计的滤波器第一旁瓣的峰值为-61.3 dB，而模拟退火算法和雕塑算法设计的滤波器第一旁瓣的峰值分别为-75.2 dB和-76.4 dB，模拟退火算法和雕塑算法都可以使滤波器的阻带衰减幅度明显增加。值得注意的是，与模拟退火算法相比，雕塑算法得到的滤波器具有更窄的过度带和更大的阻带衰减幅度，这是因为雕塑算法可以保证算法得到全局最优解，而模拟退火算法无法保证这一点。

图4 滤波器的频率响应Fig.4 Frequency response of the filters

图5是不同方法设计的滤波器的脉冲响应，其中，三角mark，星mark和圆圈mark分别代表由窗函数法、模拟退火算法和雕塑算法设计的滤波器的脉冲响应。从图5中可以明显看出，雕塑算法的拖尾衰减速率比其他2条曲线的要快，而模拟退火算法的拖尾衰减速率最慢。这是因为模拟退火算法是以理想低通滤波器为参照物，以最大限度逼近理想低通滤波器为优化目标，而理想低通滤波器脉冲响应的拖尾衰减速率很慢。

图5 滤波器的脉冲响应Fig.5 Impulse response of the filters

FMT作为一种滤波器组多载波方案，其技术的特点是：各子载波之间的频谱不重叠，使各子载波获得良好的抗ICI的性能[17]。下面以前面得到的3种滤波器作为FMT系统的原型滤波器，以评估这3种滤波器在实际应用中的性能表现，评价指标为系统误码率。FMT系统参数配置如表2所示。

表2 FMT系统参数配置

图6为3种滤波器对应的误码率，其中，幅度从高到低的曲线分别代表由窗函数法、模拟退火算法和雕塑算法设计的滤波器对应的系统误码率。从图6中可以明显看出，在不同信噪比下，用雕塑算法设计的滤波器表现出了优良的系统误码率性能，充分证明了其设计思想的正确性以及雕塑算法在滤波器优化设计中的优越性。用窗函数法和模拟退火算法设计的滤波器在低信噪比条件下两者区别不大，在高信噪比条件下，模拟退火算法设计的滤波器系统误码性能要优于窗函数法设计的滤波器，这是因为在信噪比较低时，滤波器阻带衰减幅度大，对误码性能的贡献被高强度的信道噪声所淹没，而在高信噪比条件下这种优点才渐渐体现出来。

图6 系统误码率Fig.6 System error rate

5 总 结

介绍了一种用于解决优化问题的启发式算法—雕塑算法，其灵感来自于雕塑作品的创作过程，此算法是基于贪心策略，通过迭代来逐步优化，最终得到多变量的联合最优解。紧接着，分析了多载波系统原型滤波器优化设计问题，建立模型并用公式表达出优化目标函数。然后，将雕塑算法用于解决多载波系统原型滤波器优化设计问题，并与窗函数法和模拟退火算法做了对比。最后，将3种算法设计的滤波器应用于FMT系统，以系统误码率为评价标准，对比它们在实际系统中的性能。仿真结果证明，相比其他2种算法，用雕塑算法设计的原型滤波器表现出了优异的误码率性能。