APP下载

基于SCFNN之PAM非线性信道均衡器成效研究

2017-03-27李庆海林瑞昌

计算机测量与控制 2017年3期
关键词:均衡器错误率训练样本

李庆海,林瑞昌

(浙江工贸职业技术学院 电子工程系,浙江 温州 325003)

基于SCFNN之PAM非线性信道均衡器成效研究

李庆海,林瑞昌

(浙江工贸职业技术学院 电子工程系,浙江 温州 325003)

自组织型模糊类神经网络(SCFNN)可依据一定的法则自我构建神经网络的组织结构,从而适用于当前控制对象;多层神经元是传统的类神经网络,广泛应用于各个领域;倒传递学习法与最陡坡降法相结合,可使以上两种类神经网络进行有效的融合;目前,信道均衡器上的系统架构种类非常多,各种类神经网络应用于信道均衡器也颇为普遍;在研究SCFNN的基础上,将其应用于通道均衡器确实可行,效果良好;比较了SCFNN与MLP在通道均衡器的成效;仿真表明,在相同通道环境下,SCFNN的训练收敛速度、位错误率与系统敏感度优于MLP,完成结构学习后SCFNN的结构也颇为精简。

自组织型模糊类神经网络;均衡器;多层神经元;最陡坡降法

0 引言

在信道中传送数字信号,难免会遭受到噪声的干扰及产生符际干扰(ISI),或是信号能量在传送过程中衰减,使接收端收到的是失真的信号,因此,我们必须在接收端补偿或修正收到的信号,希望能恢复失真的信号。过去以线性信道均衡器解决此类问题,慢慢的通道环境日趋复杂,线性信道均衡器难以恢复严重的非线性失真信号[1]。

经过学习的类神经网络可以在输入信号与输出信号间行成复杂的决策边界(decision boundary),所具有的复杂映对(Mapping)能力能解决非线性或高度非线性分类问题,所以,多采用类神经网络解决信道非线性失真的问题[2-3]。在复数类神经网络方面,Chen 等专家[3-9]证实各种类神经网络均衡器可以产生复数非线性隔离曲线,亦即等化高度非线性信道。上述这些类神经网络都是训练架构已经确定的神经网络,训练期间调整其前后层间链接权重(link weight),或神经元的偏权值(Bias),或同一层间神经元的链接权重,经过数十次甚至于上万次学习循环网络收敛后,才是一个可以工作的类神经网络。

图1 自组织型模糊类神经网络应用于均衡器

图1的自组织型模糊类神经网络(self-constructing fuzzy neural network,SCFNN)最早由Faa-Jeng Lin等提出并实现于永久磁铁式同步马达速度控制[10]。本文将SCFNN加上Hard decision之后,应用在有ISI效应、非线性与噪声的信道失真后衰败信号重建,我们去仿真ISI、非线性、与噪声不同组合模型,经过一再测试,SCFNN所建出来的类神经网络均衡器,有很好的信号恢复能力且硬件需求简单。以目前均衡器所使用的类神经系统架构来说,图2的多层神经元(multi-layer perceptron,MLP)结构[11-12]是信号恢复程度相当高的一种,虽然MLP存在收敛容易落入局部极小值与训练周期数过长的问题普遍也有专家学者改善传统MLP后,将其应用于通道均衡器[5-13]。本文除了测试SCFNN在通道均衡器的表现之外,并以MLP信道均衡器为比照对象,来验证SCFNN在信号恢复上能否比MLP更为强健(Robustness)。

图2 多层神经元类神经网络

1 数字传输系统

具有均衡器的数字通信系统如图3所示,在时间KT时传送的信号t(k),k=0、1、2表示原始数字序列,假设其具有统计独立与机率相等的特性,其中,1/T代表符号率,信道(Channel)表示信号行经路线特性,一个被广泛使用的线性分散信道模型是有限长度脉冲响应(finite impulse response, FIR)模型,在时间kT时通道的输出a(k)可表示为[4]:

(1)

h(i),i=0…nh-1为通道的脉冲响应而nh是FIR通道的长度。传送设备的电子组件可能会引起信号产生非线性失真,a(k)经NL后的输出b(k)可表示为:

b(k)=f[a(k),a(k-1),...,a(k-nk+1),

h(0),h(1),...h(nk-1)

(2)

φ(…)表示NL产生的非线性函数。通道也可能受具有变异数σ2平均值为0的白色高斯噪声影响,所以,当我们考虑白色高斯噪声时,均衡器收到的信号r(k)=b(k)+q(k),q(k)即代表白色高斯噪声,y*(k)是经均衡器补偿后的输出,y*(k)与正确信号y(k)比较,产生一个误差信号e(k)=y(k)-y*(k),若所有训练数字序列的e(k)均方根值超出可容许的误差范围,则持续训练修正均衡器的参数,直至e(k)均方根值在许可范围之内为止。

图3 具有均衡器的数字传输系统

在本研究中所采用的信道模型有以下3种,其转移函数分别表示如下[6-8]:

CH=1:1.0

CH=2:0.447+0.89z-1

CH=3:0.2.9+0.995z-1+0.2.9z-2

(3)

CH=1因具单位脉冲响应所以相当于是一个没有任何ISI的通道,CH=2相当于是一个不具最小相的通道。CH=3表示目前的位数受后续两个位影响的信道。ISI效应产生主要是因为数据在高速传输时需要相当高的符元速率,然而在多重传输环境中,由于时间的不准确性,频宽不足,振幅失真,相位失真,而受到严重的“相邻符元互相干扰”,如图4所示。为了处理由ISI所引起的有限频宽通道,首先必须要有此ISI之离散时间模型。如图5所示,为有ISI之通道离散时间截线滤波器(transversal filter)模型,其跳阶增益为XK,时间区间为2LT,其输入信号为In,输出信号为yn,噪声信号为vn。

图4 ISI效应

图5 ISI效应的通道离散时间模型

在本研究中,采用的非线性现象有以下4种[6-8]:

NL=0:b(k)=a(k)

NL=1:b(k)=tanh(a(k))

NL=2:b(k)=a(k)+0.2a2(k)-0.1a3(k)

NL=3:b(k)=a(k)+0.2a2(k)-0.1a3(k)+0.5cos(πa(k))

(4)

NL=0相当于一个线性信道模型,NL=1相当于是传输系统放大器饱和的非线性信道,NL=2与NL=3则是两个任意非线性信道。本研究中仿真各种信道模型、非线性模型、讯号噪声强度比(SNR=8-18,间隔2)不同组合条件下,研究SCFNN所建出来的结构与信号恢复情形。

2 自组织型模糊类神经网络应用在信道均衡器

图1自组织型模糊类神经网络系统[10],运作之始就是三个输入节点与一个输出节点,随着训练动作的进行逐步加入第二层归属函数(membership function)节点与第三层乘积运作节点,并逐步调整第二层每一个高斯型归属函数的平均值(Mean)mji、标准差(Deviation)σji与第三层、输出节点间的链接权重(link weight)ωj,直至所有训练样本的推论输出值与期望输出值差的均方根值收敛为止。训练周期视训练样本的复杂度而异,可能需数个至数十个训练周期,所谓一个训练周期表示所有的训练样本执行过一次。

我们逐步说明自组织型模糊类神经网络推论输出值的计算过程与学习方法,训练样本逐笔进入自组织型模糊类神经网络,经过逐层运算得到一个推论输出值。以下是各层的计算过程。

Layer 1:此层是输入节点,序列r(k)、r(k-1)、r(k-2)透过此节点传到下一层,没有计算动作。其中:

r(k):非线性模型输出加上白色高斯噪声后的数字序列;

r(k-1):较r(k)延迟1个位的数字序列;

r(k-2):较r(k)延迟2个位的数字序列。

Layer 2:此层的每一节点相当于是第一层输入变量的语意项(linguistic label),亦即算出输入变量i属于此归属函数的程度Aji,本研究中采用高斯函数作为归属函数(membership function),

(5)

mji:信号r(k-i)对第j个归属函数的中点(Mean)。

σji:信号r(k-i)对第j个归属函数的标准差(Standard deviation)。

Layer 3:此层的每一节点表示模糊规则的命题部(Precondition part),其函数是:

uj=Aj1(r(k))·Aj2(r(k-1))·Aj3(r(k-2))

(6)

亦即第二层三个输入归属函数群中第j个归数函数值进入此节点相乘,得一乘积为此层的输出。

Layer 4:此层仅有一个节点主要的动作是解模糊化(Defuzzify),若以y*表示推论输出值,则:

(7)

uj(1<=j<=M)表示第三层的输出,ωj(1<=j<=M)表示第三层每一节点与第四层输出节点之间的链接权重,M是系统学习过程中已建立的规则数目。

SCFNN的特色之一是在线学习(on-line learning),SCFNN在初始状态仅有n个输入节点与一个输出节点,经由结构学习(structure learning)建立系统,经由参数学习(parameter learning)将系统每个规则的3个参数调到最佳状态。开始结构学习之后,每一训练样本进入SCFNN输入节点,对每一输入值产生每一个归属函数的激发量,若发现激发量的值都小于设定值,则在第二层为每一个输入变量增加一个节点,第三层也增加一个节点,亦即增加一条规则,完成结构学习后系统可以将输入变量的论域(universe of discourse),做合理的模糊分割(fuzzy partition),当然我们希望建立最少的规则也希望产生最少的模糊集合(fuzzy sets)。

接着我们说明学习过程的参数学习,倒传递(back propagation)算法是参数学习的主要精神,我们将一笔三位的数据r(k)、r(k-1)、r(k-2)输入给自组织型模糊类神经网络经过计算得到一个推论输出值的同时,也有一个位的正确输出值y(k)传到自组织型模糊类神经网络以比较两者的差,进而推论出3个要修正参数(链接权重ωj、归属函数的平均值mji与标准差σji的修正量然后进行修正。这个动作在每一笔数据进入系统就做一次,直至系统学习完成,完成学习后系统可以工作。我们以求输出值相反方向说明上述3个参数修正量的公式。首先定义能量函数E如下:

(8)

y:对应每一训练样本的正确输出值。

y*:r(k)、r(k-1)、r(k-2)进入系统之后的推论输出值。

Layer 4:

链接权重ωj变化量及更新方式如下:

ηw(y-y*)uj

(9)

wj(N+1)=wj(N)+Δwj

(10)

N为学习样本编号;j为第三层节点编号。

由(8)式可看出每输入一笔训练样本给自组织型类神经网络得到推论输出值后,调整计算正确输出值与推论输出值差后进行参数调整。

归属函数的中间值与标准差之调整量公式如下:

Layer 3:

(11)

(12)

式中,ηm、ησ是参数,可调整以得到较佳的结果。接着实际进行归属函数参数的调整,

mji(N+1)=mji(N)+Δmji

(13)

σji(N+1)=σji(N)+Δδji

(14)

经过了结构学习与参数学习,系统也收敛,表示这是一个可以工作的自组织型模糊类神经网络,即可切换进入传输模式进行信息接收工作。在模拟过程中,我们另外随机产生100,000位PAM{+1,-1}测试数据,逐笔进入系统进行运算,求推论输出值并计算位错误率。

3 总结自组织型模糊类神经网络为基础的信道均衡器算法

为仿真通道的ISI现象,本研究以r(k)、r(k-1)、r(k-2)三个数字序列作为自组织型模糊类神经网络的输入信号,图1与图3是本研究之系统结构。以下总结本研究的算法:

1)学习部分。

(a)若是第一笔数据则分别对n个输入变量建立n个高斯型归属函数,以输入变量值为高斯函数中点m,偏离值(Deviation)σ采固定值。计算3个激发量(firing strength)Aj1、Aj2、Aj3的乘积u1,u1与输出端间之链接权重ω1(link weight)初始时采随意值。j在本论文中表示图一第二层每一群归属函数编号,亦是第三层乘积运作节点编号。

(b)第二笔数据起,对已建立之归属函数求出u1、u2、…un并找出这中间最大值Umax,将此值与既定值Umin做比较,若小于Umin则建立一个新的规则,亦即第二层每群增加一个高斯归属函数。归属函数的平均值mji=r(k)、r(k-1)、r(k-2),标准差σji则采随机值,因为后续尚需调整),第三层增加一个乘积运作节点,链接权重值ωj亦采随机值。

(c)计算推论输出值y*=u1ω1+u2ω2+u3ω3+…+uMωM,M表示目前归属函数的数目。

(d)调整每一个高斯型归属函数中点mij、偏离值(Deviation)σij与链接权重(Link Weight)ωj。

(e)计算所有训练样本之推论输出值与正确输出值誤差之均方根值。

2)重复步骤(b)~(e)直至所有训练样本之推论,输出与正确输出之均方根值收敛至设定值或训练次数已达一定次数为止。

3)使用另一数字序列,测试已训练好的自组织型类神经网络均衡器计算其位错误率(Bit Error Rate)。

4 模拟结果

我们仿真3种主要的信道模型搭配非线性模型、不同信号噪声强度比,每一种状况都以500位PAM信号{+1,-1}进行20个学习循环的训练,再以100000位PAM信号{+1,-1}进行测试,记录均方根值收敛曲线、位错误率与SCFNN完成学习后的规则数。在上一节曾提到训练样本进入输入节点之后,若激发量小于设定值,则需建立一个规则,此最小激发量我们设定为0.125。在参数学习过程中,更新链接权重、高斯函数平均值与标准差时有三个重要的参数ηw、ηm、ησ,我们分别设定为0.025。本文以信道转移函数CH=3,非线性模型(NL=0-3)与噪声(SNR=8-18)作为模拟条件。在仿真过程中SCFNN所建立的规则数列于表1。 图6~7是MLP与SCFNN的MSE值、由图中可看出SCFNN的收敛较为快速,亦即可在较短训练周期下达到相等程度信号恢复。NL=3加上低SNR值会产生收敛不是很理想情況。图8~9是MLP与SCFNN的位错误率值,本文发现相对于MLP,我们可看出,SCFNN对此4种非线性现象变化较大,亦即SCFNN对不同的非线性现象,展现出其高敏感度。

表1 SCFNN在CH=3、NL=0-3、最小激发量0.125 经500 bit/20cycle训练的最后规则数

图6 MLP-CH=3,NL=3,训练期间均方根值收敛曲线

图7 SCFNN-CH=3,NL=3,训练期间均方根值收敛曲线

图10~13是SCFNN与MLP 位错误率的比较,我们可以发现,SCFNN的位错误率都在MLP之下,亦即SCFNN的信恢复能力比较高 。

图8 MLP-CH=3,NL=0-3,位错误率

图9 SCFNN-CH=2,NL=0-3,位错误率

图10 MLP与 SCFNN CH=3,NL=0,位错误率比对

图11 MLP与 SCFNN CH=3,NL=1位错误率比对

图12 MLP与SCFNN CH=3,NL=2位错误率比对

图13 MLP与 SCFNN CH=3,NL=3位错误率比对

5 结论

本研究以自组织型模糊类神经网络(SCFNN)设计数字传输系统非线性均衡器,在适度非线性搭配不同程度SNR仿真条件组合下,检视SCFNN在数字传输系统非线性均衡器的成效。证实SCFNN在信号恢复程度明显优于MLP,且其M.S.E曲线收敛状况亦比较快速。系统敏感度是目前各个架构所欠缺的能力,本文验证了SCFNN在系统敏感度优于MLP。SCFNN架构虽简单但也不是很精简,再进一步,为了使硬件成本降低,将结构数降低乃是必要途径,也是后续可努力改善的目标之一。

[1] Haykin S. Communication Systems[A].4thed[C].,New york:Wiley,2001.

[2] Lee C C,Fuzzy logic in control system:Fuzzy logic controller-Part I and part II[J].IEEE Trans.Syst.,Man,Cybern,1990, 20(9):404-436.

[3] Bernard Mulgrew.Applying radial basis functions[J].IEEE Signal Processing Magazines,1996,23(6):50-65.

[4] Jean-pierre Martens,Nico Weymaere,An equalized error back-propagation algorithm for the on-line training of multilayer perceptrons[J].IEEE Trans.Neural Networks.,2002,13(6):532-541.

[5] Azzedine zerguine,Ahmar shafi,and Maamar bettayeb,Multilayer perceptron-based lattice structure[J].IEEE Trans.Neural Networks, 2001,9(12):532-545.

[6] Deng Jianpimg,P.Saratchandran,Communication channel equalization using complex-valued minimal radial basis function neural networks[J].IEEE Trans.Neural Networks, 2003,13(6):687-696.

[7] Kechriotis G, ZervasE, Manolakos E S. Using recurrent neural networks for adaptive communication channel equalization[J].IEEE Trans.Neural Networks,1994,9(19):267-278.

[8] Chen S, Gibson G, Cowan C,et al. Reconstruction of binary signals using an adaptive radial-basis-function equalizer[J].Signal Processing,1991,22(6):77-93.

[9] Chen S, Gibson G, Cowan C,et al. Adaptive equalization of finite non-linear channels using miltilayer perceptron[J].Signal Processing,1990,20(6):107-119.

[10] Faa-Jeng Lin,Chih-Hing Lin, Po-Hung Shen.Self-constructing fuzzy neural network speed controller for permanent-magnetic synchronous motor drive[J].IEEE Tran.Fuzzy Syst,2001,9(5):751-759.

[11] 暴 春,谢邦昌.浅谈类神经网络[J].山西科技,2006,10(1):132-132.

[12] 赵 娟,高正明.基于BP神经网络的盲均衡器设计[J].声学技术,2013,32(2):141-145.

[13] 董玉华,张俊星.修正的解相关前馈神经网络盲均衡算法研究[J].大连民族学院学报,2012,14(5):460-462.

A SCFNN Based PAM Channel Equalizer Performance Research

Li Qinghai,Lin Ruichang

(Department of Electronic Engineering, Zhejiang Industry & Trade Vocational College,Wenzhou 325003,China)

Self-Constructing Fuzzy Neural Network(SCFNN)can create a fuzzy neural network for a target in accordance with a dedicated algorithm.Multi-layer Perceptron(MLP)neural network is a very traditional neural network and many applications were developed in different fields.Back Propagation(BP) combined with steepest descent method make the SCFNN and MLP learned efficiently.Today, many kinds of channel equalizers were constructed, and many kinds channel equalizers based on neural network were also constructed.We prove that the SCFNN can be a superior equalizer. We also compare the performance of SCFNN and MLP applied in channel equalizer. The simulation results show the SCFNN is superior than the MLP in convergence speed, bit error rate and sensitivity. When the SCFNN learning processes is completed the, we found the structure is very simpler.

self-constructing fuzzy neural network(SCFNN);equalizer; multi-layer perceptron(MLP);steepest descent method

2016-12-27;

2017-01-19。

李庆海(1980-),男,黑龙江哈尔滨人,研究生,讲师,主要从事自动化控制,神经网络方向的研究。

1671-4598(2017)03-0222-05

10.16526/j.cnki.11-4762/tp.2017.03.060

TP911.5

A

猜你喜欢

均衡器错误率训练样本
无线通信信道凸峰型包络时域均衡器长度研究
心情如曲调般平衡缤纷
人工智能
专业音响中均衡器的调试
小学生分数计算高错误率成因及对策
正视错误,寻求策略
基于小波神经网络的网络流量预测研究
宽带光谱成像系统最优训练样本选择方法研究
解析小学高段学生英语单词抄写作业错误原因
降低学生计算错误率的有效策略