水声通信近似L0范数约束的BP网络均衡器

王 凯 吴立新 张青青

(1 中国科学院声学研究所 声场声信息国家重点实验室 北京 100190)

(2 中国科学院大学 北京 100049)

0 引言

水声信道的多径效应会对通信信号造成严重的码间干扰，影响通信系统性能，因此需要在接收端进行信道均衡来消除或减少码间干扰。远程水声通信中，水声信道经常表现出明显的稀疏特性，具体表现为信道时延扩展长，大多数信道系数能量很小或趋近于0，且能量较大的系数相隔较远。较长的时延扩展导致信道均衡时均衡器阶数较大，均衡器收敛速度相应变慢，运算量较高。同时由于水声环境的复杂多变，如存在非线性内波等特殊情况下水声信道可能不完全是线性的。神经网络作为一种非线性系统，不仅可以处理线性信道下的均衡问题，同样可以用来处理非线性信道下的情况[1−3]。因此，研究适合水声信道中应用的神经网络均衡器是有价值的。

近年来已经有很多基于神经网络的信道均衡算法研究。目前针对神经网络在均衡问题中的研究主要可以分为两个方面，一是采用不同的网络结构进行均衡：文献[4]首次将多层感知器(Multilayer perceptron, MLP)应用于信道均衡，该方法采用4层多层感知器结构，证明了多层感知器均衡器可以克服信道非线性和加性噪声的干扰。文献[5]采用递归神经网络(Recurrent neural network, RNN)进行信道均衡，但是其构造代价函数时采用了四阶累积量，计算复杂度较高。文献[6]将卷积神经网络(Convolution neural network, CNN)与softmax 回归模型相结合，采用分类问题的思想对相位调制信号进行均衡；二是利用不同的优化算法对神经网络的权值初始化及权值迭代进行优化：文献[7]采用差异进化算法解决了神经网络权值初始化的问题；文献[8–9]分别将遗传算法、粒子群优化算法应用于网络权值的初始化和迭代当中，并取得了较好的效果。

虽然目前利用神经网络进行信道均衡的研究已经取得了不错的进展，但是神经网络依然存在收敛速度慢、需要较长训练序列的问题。同时面对带宽极其有限且时延扩展大的水声信道，这个问题显得更为严重。已有的神经网络均衡器在设计时没有考虑水声信道的特性，难以满足水声通信系统快速收敛的应用需求。在常规的均衡器中，人们已经提出了许多针对水声信道稀疏特性的自适应均衡方法，主要可分为门限稀疏化方法[10]和基于范数约束[11]的方法。门限稀疏化方法通过一个固定门限值来决定抽头系数是否进行学习；基于范数约束的方法通过对代价函数中增加范数约束项实现权值的收缩调整，相较于门限法更加稳健。因此将传统均衡器中的稀疏约束方法与神经网络结合来提升均衡器收敛速度是一个值得研究的方向。

文章首先在网络结构中增加判决反馈项，更好地消除由先前符号对当前符号的影响，然后结合水声信道稀疏特性，在代价函数中增加均衡器输入层到下一层网络权值的L0范数约束，并利用高斯族函数对L0范数进行近似，通过第二层神经元节点输出权值L2范数大小来调整输入到该节点神经元的权值。仿真结果表明，在稀疏信道下，本文算法在提升均衡器的收敛速度的同时也可以获得更低的误码率，提升了BP 神经网络均衡器在水声通信中的性能。

1 判决反馈的BP网络均衡器系统模型

在稀疏水声信道中，信道时延扩展较大，但是信道能量仅集中在少数几个抽头中，其余抽头系数均为0。这导致神经网络均衡器基于梯度下降法的迭代方法需要更长的训练序列才能收敛，影响通信系统效率，针对这个问题提出了近似L0范数约束的判决反馈神经网络均衡器模型。假设发射端的发射符号为s(n)，经过水声信道及加性噪声干扰后，接收端接收信号的等效基带信号可以建模为

其中，h代表长度为K的信道冲激响应，ε代表加性高斯噪声。

均衡器结构如图1所示，输入数据P分为两部分：归一化后的接收符号及均衡后符号的硬判决，分别提取两部分数据的实部与虚部作为均衡器的输入。BP 网络工作过程可以分为两部分：数据的前向传输及误差的反向传递。假设神经网络共有L层，Ul(l= 2,···,L)代表l层的线性输出，V l(l= 1,···,L −1)代表l层经激活函数后的输出，当l=1 时有V l=P，代表系统输入。

图1 均衡器结构Fig.1 Equalizer structure

数据的前向传输可以表示为

式(2)中，l=1,···,L −1，Wl代表连接l层和l+1层的网络权值，均衡器输出Y=UL，其中Y1和Y2分别代表均衡后符号的实部和虚部，将Y转化为复值可得最终均衡后结果Y1+Y2j。

令输出误差为e(n)=D(n)−Y(n)，其中D(n)= [Re(d(n))Im(d(n))]T，d(n)为期望信号，代价函数定义为

在权值调整阶段，沿着网络逐层反向对网络权值进行调整，定义局部梯度∇Ul为

则网络权值梯度可以表示为

由式(5)根据梯度下降法可以对网络权值进行更新。

2 近似L0-范数约束

神经网络输入层到隐含层是通过多个横向滤波器对接收信息进行处理，结构与常规的均衡器相似。通常神经网络学习过程中每个权值的迭代步长是相同的，导致了神经网络学习速度过慢，不能满足水声信道均衡问题快速收敛的需求。考虑水声信道的稀疏特性，在代价函数中对输入层到第二层的网络权值增加近似L0范数约束，以保证权值迭代过程中，权值系数中0 的个数尽可能多，以此提升整个网络的收敛速度。均衡器代价函数设置如下：

其中，‖·‖0代表L0范数约束，表示权值中非零值个数，γ是调节约束项占比的参数。由于L0范数属于分段函数，存在断点无法求导，因此通过高斯族连续函数进行近似[12]：

式(7)中，当δ趋近于无穷大时等式两边相等，式(7)对w1求导可得近似L0范数的梯度：

其中，N1和N2分别代表第一层和第二层的神经元个数，zij(n)表示为

为降低计算复杂度，对exp(−δ|wjk(n)|)进行一阶泰勒近似：

式(10)中将模值小于1/δ的权值定义为模值极小值权值，1/δ阈值以下的权值进行收缩调整。1/δ取值过大会导致均衡器直接将较小的多途项当成噪声项处理，影响均衡器的整体性能；1/δ取值过小会导致收缩的权值系数较少，对加速均衡器收敛速度作用不大。假设第l层神经元个数为Nl,则神经网络均衡器输入层到第二层的计算过程可以看作N2个横向滤波器的计算过程，由于每个滤波器初始权值不同，因此在迭代过程中需要设置不同的模值极小值来分别对其进行调整。

在神经网络中，可以用神经元节点的输出权值来分析节点对整个网络的贡献度。当第二层神经元输出权值的L2范数较大时，表明其在网络中贡献度较大，考虑保留其输入权值的更多信息，相对应的模值极小值设置的较大；当输出权值的L2范数较小，则设置较小的模值极小值加速其收敛。同时L2范数与其输入权值的大小也呈正相关，因此当L2范数值较大时也需要设置较大的模值极小值来适应较大的权值系数，同样当L2范数值较小时也需要缩小模值极小值。因此考虑采用输出权值的L2范数调整模值极小值的参数，L2范数可以表示为

其中，N3代表第三层神经元个数，当网络为三层结构有N3=2，结合式(5)、式(9)、式(10)和式(11)的结果，可以得到近似L0范数约束的神经网络均衡器权值迭代公式：

其中，下标j代表取矩阵的第j列，f(wlj(n),Φj)=[f(wl1j(n),Φj),···,f(wlN1j(n),Φj)]，f(wlij(n),Φj)由式(13)表示：

式(12)与传统BP 神经网络权值迭代公式相比，多了一项µγf(wil(n),Φi)，称为吸引子，可以保证模值较小的权值向0 收缩，同时模值极小值可以根据不同神经元的贡献度大小自适应调整，最终达到加速均衡器收敛的效果。

3 仿真结果

为验证本文算法的有效性，采用Bellhop 对稀疏水声信道进行仿真，设定声源深度200 m，接收深度300 m，收发距离100 km，声速剖面如图2(a)所示，得到的信道冲激响应幅值如图2(b)所示，可以看到信道分为两簇，中间有较长时间间隔，具有明显的稀疏特性。发射信号采用正交相移键控(Quadrature phase shift keying, QPSK)调制，中心频率1.5 kHz，带宽100 Hz，采用图2信道进行仿真。

图2 仿真信道Fig.2 Simulation channel

3.1 算法性能分析

采用单隐层BP 网络进行仿真，将本文算法与传统BP 网络均衡器及加了判决反馈结构的BP 网络均衡器进行性能比较，均衡器输入信号长度均为500，其中反馈符号阶数为100，隐层神经元个数为15，激活函数采用tansig 函数。两算法训练阶段迭代步长分别设为0.004 和0.002，收敛阶段步长为训练阶段的1/10，γ设为1.3×10−3。

图3(a)、图3(b)分别是信噪比10 dB 时，传统BP 和本文算法在训练结束后，第二层神经元输出权值输入权值的关系图，其中横坐标为输出权值的L2范数，纵坐标为输入权值绝对值的最大值。由图3(a)可以看出，输出权值的L2范数与输入权值的绝对值最大值接近正相关，由此可以表明本文采用输出权值的L2范数定义模值极小值的方法是可行的。根据图3(b)可以发现，横纵坐标基本呈正相关，与图3(a)不同的是，当输出权值较小的时候，输入权值的最大值接近0。这是因为迭代过程中，输出权值L2范数值较小的神经元，其模值极小值会变小，导致更多的权值向0 收缩调整，最终使得贡献度较低的神经元在神经网络中的影响越来越小；同时对L2范数值较大的神经元，其本身的输入权值也较大，需要保留的权值也更多，相对应提升了其在整个均衡器中的作用。

图3 输出权值L2 范数与输入权值模值最大值关系Fig.3 Relationship between L2 norm of output weight and maximum modulus of input weight

图4(a)为信噪比10 dB 时，3 种算法的均方误差曲线，对比传统BP 算法与增加判决反馈后的BP算法误码率曲线可以看出，判决反馈结构明显降低了收敛后的稳态误差；在判决反馈BP 算法的基础上，增加近似L0范数约束的算法有效提升了均衡器的收敛速度，本文算法在约5000次迭代后均方误差趋于平稳，而传统方法则需要9000 次迭代；图4(b)为不同信噪比下的误码率曲线，可以看到本文算法的误码率低于传统BP 方法，特别是高信噪比情况下，由于根据不同神经元设置不同的收敛参数，对贡献度高的神经元增加其影响力，对贡献度低的神经元降低其影响力，这种放大和缩小的方法使得均衡器能够取得更低的误码率。

图4 线性信道仿真结果Fig.4 Algorithm simulation results in linear channel

对比所提算法与传统判决反馈均衡器误码率曲线可以发现，当信噪比较低时，噪声对接收符号的影响较大，采用神经网络的均衡器性能反而较低，这是由于线性信道条件下，神经网络采用多层横向滤波输入引入了过多的噪声导致性能反而下降；当信噪比逐渐增大时，信道造成的码间干扰对符号的影响占主导地位，神经网络方法采用多个横向输入使得均衡过程不易陷入局部极小值，因此性能得到了一定的提升。

为验证所提算法在非线性信道下的性能，采用如下信道模型进行仿真[13]：

其中，r(n)为经过线性信道后的基带接收符号。图5为仿真结果，其中图5(a)为信噪比15 dB 时，3 种算法的均方误差曲线，可以看到所提算法在收敛速度及收敛后的稳态误差均优于传统算法；图5(b)为不同信噪比下的误码率曲线，可以看到在信道非线性的影响下，相同信噪比情况时算法的性能均有所下降，不同之处在于传统的判决反馈均衡器性能下降较为严重，由图中曲线可以看到，其误码率明显高于所提算法，这也表明了神经网络均衡器在非线性信道条件下的有效性。

图5 非线性信道仿真结果Fig.5 Algorithm simulation results in nolinear channel

4 结论

本文提出了一种近似L0范数约束的BP 网络均衡器，在输入端增加判决反馈项的同时，利用高斯族函数的连续性对神经网络输入层到第二层权值的L0范数约束进行近似，然后根据不同神经元输出权值的L2范数调整近似约束的大小。仿真结果显示，本文算法较其他算法可以更快的收敛同时有更小的均方误差和更低的误码率，提升了神经网络均衡器的在水声通信中的性能。