基于CNN的非线性传递函数建模与波形重建
2017-12-07向前
向前
摘要:在噪声有源控制、电磁屏蔽效能评估等问题中,对信号传递函数的准确建模是实现控制性能的关键因素。卷积神经网络(CNN)可以多层次提取和组合复杂对象的特征,并在图像和语音等领域取得了广泛应用。本文提出了一种基于CNN模型的非线性通道传递函数建模及输出波形重建方法,并与自适应辨识算法(FxLMS)进行了比较。仿真试验表明,对于典型的非线性传输通道,基于CNN的传递函数建模和波形重建方法具有更高的精度和可接受的计算时间。
关键词:传递函数建模;CNN;非线性
中图分类号:TP391.9 文献标识码:A 文章编号:1007-9416(2017)09-0057-03
在主动噪声控制(ANC)、电磁信号屏蔽效能分析等应用中[1,2],往往需要对信号传递函数进行准确建模以重建输出信号的时域波形。当信号传递系统存在非线性过程时,基于线性模型的通道建模算法效果不甚理想。针对这一问题,相关研究引入了基于多层感知机模型的神经网络用于非线性传递函数建模[3—7]。但传统的多层感知机神经网络训练算法存在易陷入局部极小点,训练时间长、泛化能力差等问题。近年来,由Hinton等人提出的深度学习算法较好地解决了让深层数神经网络的训练问题,释放了神经网络对于非线性映射的建模潜力,目前CNN(卷积神经网络)、LSTM(长短时记忆网络)已成为图像处理、语音识别等领域的研究热点并取得广泛应用[8]。
本文针对存在非线性过程的信号传递函数建模,利用图像和语音序列化生成原理设计了一种于基于深度学习框架的CNN。仿真试验表明,对于非线性传递函数模型,基于CNN深度学习网络的自适应算法准确地重建了源信号波形,并具有良好的泛化能力和可接受的训练时间。对于非最小相位的噪声通道函数同样适用。
1 卷积神经网络(CNN)模型
CNN模型的主要特点是借鉴了人脑处理视觉类任务的工作原理,在原来多层神经网络的基础上,使用了“局部感受野”和“权植共享”的概念,大大减少了训练参数的数量。同时在激活函数,权重初始化,以及防止过拟合等方面引入了一系列新的方法和技术。解决了传统深层网络参数太多,存在梯度消失,过拟合,难以训练的问题。目前CNN已在图像识别、语音处理等诸多领域都取得了令人瞩目的成果。
CNN一般由卷积层、全连接层与池化层等组合构成,核心是卷积层。在CNN的一个卷积层中,卷积核首先与局部输入数据进行卷积运算,结果再输入激励函数。上述操作移动覆盖整个输入数据,最终得到完整的输出。用公式表示为:
式中:为激励函数(Sigmoid,Relu,Tanh);是第l层输出数据集上对应位置的值;是第l-1层输出数据集上对应位置的值;j取m到k的值表示其为局部连接;为卷积核的权重值;为阈值。
2 基于CNN的ANC系统通道建模及波形重建
2.1 非线性ANC系统模型
前馈式ANC系统工作模型如图1所示[9—10]:
其中Hr(ω),Hp(ω),Hs(ω)分别表示参考通道,初级通道和次级通道。当通道存在非线性过程时,则通道传递函数为非线性函数。根据文献[11],一般而言非线性函数可描述为一组基函数的线性组合:
式中为函数空间中一组正交基函数,f( . )为非线性传递函数。可以看出这是一个NMA模型,即通道输出信号可由输入信号及时延通过非线性传递函数得到。
2.2 通道建模及波形重建的CNN模型
已经证明,含有一个Sigmoid隐层的三层神经网络可以逼近任意单值连续函数[12]。CNN作为一种多层神经网络,同样具有强大的函数逼近能力。根据式(2)取初级声源x(t)的时延信号组成输入层信号X(t):
针对波形重建,将CNN的输出层维数取为1,设CNN输出层输出信号为ys(t),以误差传感器接收到的信号d(t)作为训练目标,定义训练函数:
2.3 算法步骤
(1)数据预处理。为了加快训练速度,首先对输入数据序列按式(6)进行归一化处理。
(2)为了进一步提高泛化能力,减小数据顺序对训练的影响,将训练数据对进行了随机混合。将80%的数据作为训练集(Training set),20%的数据作为验证集(Validation set)。
(3)参数初始化及CNN训练。网络初始权值及学习速率采用基于低阶矩自适应估计的一阶梯度随机优化Adam算法[13],网络训练采用keras包。训练完成后的CNN网络作为对非线性通道的建模。
(4)仿真预测。使用训练得到的通道模型对经过输入信号进行处理,对输出数据按式(7)进行反归一化得到重建波形。
3 仿真试验
3.1 试验场景设置[14]
设初级噪声源为谐波带通噪声,采样率为2000Hz,谐波频率为100Hz,200Hz和300Hz相位分别为0,π/2,4*π/5的3个正弦信号的叠加,分别加入信噪比为10dB,20dB,40dB的高斯白噪声,经过截止频率为500Hz的低通滤波器得到。设通道为非最小相位通道,传递函数为。假设参考噪声与初级噪声相关性存在差异,即通道存在非线性效应,误差传感器处的初级噪声采用以下3阶模型产生:
為了满足训练要求,按照仿真场景设置,生成了150000个训练数据点,时延阶数N=256。经过20次迭代,完成网络训练。完成训练时,训练集误差损失为0.0073,验证集误差损失为0.0213。
3.2 算法性能比较
本试验使用的了一块GeForce/ GTX1060显存为6G的显卡,Intel i5-6500的CPU和16G内存。取信噪比为20dB,通道为非线性时初级噪声波形和参考噪声波形如图2 所示。当通道分别非线性,SNR=20dB时,自适应算法和深度学习网络得到重建波形和误差波形如图3所示,抵消误差如表1所示。测试波形与预测波形如图4所示,可以看出CNN具有较高的时域波形重建精度。endprint
从表1可以看出,在线性通道条件下深度学习网络的性能略优于自适应算法,但当通道为非线性时,深度学习网络的性能远优于自适应算法。由图中可以看出,由于非线性效应,初级噪声能量出现在多个频段,此时自适应算法的性能不理想,而CNN波形重建精度更高。
4 结语
本文讨论了非线性系统输入输出模型,利用多层神经网络对于非线性函数的逼近能力,提出了一种基于CNN模型的非线性通道建模和波形重建算法。设定了不同的仿真场景对本文算法和其他有代表性的算法进行了对比,结果表明,对于存在非线性过程的传递通道,本文算法的通道建模及波形重建性能远优于自适应FxLMS算法。而利用keras包及其对GPU的支持可大大简化CNN构建,提升网络训练速度,初步验证了CNN在非线性系统辨识和波形重建领域的应用潜力。
参考文献
[1]聂永红,程军圣.有源噪声控制次级声源的非线性建模[J].振动工程学报,2011,24(5):562-566.
[2]胡小锋,陈翔,张龙.基于波形重建的开封小腔体电磁脉冲屏蔽效能仿真分析[J].高电压技术,2015,41(5):1659-1663.
[3]Haiqun Zhao, Xiangping Zeng, Jiashu Zhang. Adaptive reduced feedback FLNN filter for active control of nonlinear noise processs[J]. Signal Processing,2010,90(3):834-847.
[4]姚加飞,李瑞明,刘育峰.改进型RBF神经网络在有源降噪坦克头盔中的应用.传感器与微系统[J].2013,32(10):142-145.
[5]张晓宇,仪垂杰.基于神经网络的有源噪声控制实验研究[J].噪声与振动控制,2009, 29(2):66-68.
[6]张丽娟,徐兆坤.基于蚁群BP神经网络的汽车排气噪声有源控制[J].电声技术,2015,39(2):77-80.
[7]马杰.基于神经网络的自适应噪声主动控制研究[D].浙江理工大学,2011.
[8]Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning[M]. MIT Press, 2016.11.
[9]L j Eriksson, M C Allie. Use of random noise for on-line transducer modeling in an adaptive active attenuation system[J].Acoustical Society of America,1989, 80(2):797-802.
[10]M T.Akhtar, M Abe, M Kawamata. A new variable step size LMS algorithm-based method for improved on line secondary path modeling in active noise control systems[J].IEEE Transaction on Audio,Speech,and languge processing, 2006.14(2):720-726.
[11]D.Y.Zhou, V. D. Brunner, Effice adaptive nonlinear filter for nonlinear activate noise control.IEEE Trans. Circuts Syst.I Regular Pap,2007,54(3): 669-681.
[12]楊行峻,郑君里.人工神经网络与盲信号处理[M].清华大学出版社, 2003.
[13]Diederik Kingma,Jimmy Ba. Adam: A Method for Stochastic Optimization[C].ICLR,2015.
[14]陈珏,玉昊昕,陈克安.三类有源噪声控制算法性能比较[J].噪声与振动控制,2013(4):107-113.endprint