CNN-AE在超奈奎斯特无线光通信端到端系统中的性能

曹明华,王 瑞,张 悦,张星宇,王惠琴

(兰州理工大学,计算机与通信学院,兰州 730050)

0 引 言

随着第五代通信网络的发展,移动通信网络数据业务呈现爆炸式增长[1],面对不断增长的流量需求以及日益紧张的频谱资源,提高通信系统的频谱效率变得尤为重要。超奈奎斯特(faster-than-Nyquist,FTN)技术突破了奈奎斯特速率的限制,可以实现更高的传输速率,但这是以引入符号间干扰(inter symbol interference,ISI)为代价[2]。同时,相比于传统的射频通信,无线光通信(free space optical,FSO)也可以实现更高的数据速率,具有容量大、安全性好、成本低等优点[3]。遗憾的是,光信号在大气信道传输会受到大气湍流和不同类型噪声的影响。

已有研究表明[4],在FTN系统中考虑衰落信道,FTN-ISI和额外的信道ISI会导致非常复杂的混合ISI。为了应对衰落信道下FTN系统更加复杂的ISI,文献[5-6]提出了基于循环前缀(cyclic prefix,CP)的分块FTN传输的频域均衡(frequency-domain equalizer,FDE)算法。由于混合ISI比信道ISI更严重,因而这些FDE算法不能有效对抗严重的混合ISI,强残余ISI会导致误差下限。考虑到后置均衡器并不能完全消除复杂的ISI,研究者将注意力放在发射机中,希望通过预均衡技术在发射端就完全消除FTN引入的ISI。例如,曹明华等[7]提出了一种逐点消除自适应预均衡算法,通过适量增加计算复杂度来换取更高频谱效率和误码性能;Jana等[8]提出了2种预均衡方案来替代接收机中复杂的均衡算法,该技术能够使系统在提供高频谱效率的同时获得最优的误码性能;在文献[8]的基础上,文献[9]进一步将线性谱预编码引入到FTN系统中,通过复合预编码来解决信号频谱展宽问题,虽然在较高信噪比(signal noise ratio,SNR)条件下实现了更准确的信道估计(channel estimation,CE),但残余的CE误差也会导致显著的性能下降。

近年来,随着深度学习(deep learning,DL)技术的发展,越来越多通信方面的专家将注意力转向DL技术[10-11]。在FTN技术方面,文献[12]采用了基于长短时记忆(long short-term memory,LSTM)网络的算法消除FTN相邻信号之间的连续干扰。在文献[13]中,使用基于深度学习的预均衡方案来消除无线光通信中的ISI。与传统均衡算法相比,使用该方法的系统误码性能得到了有效的改善。

在以上研究中神经网络只能根据特定模块优化性能,不一定会得到全局最优的性能。文献[14]将端到端通信系统用自编码器概念表示,编码器负责提取输入信号特征并压缩数据,而解码器负责最大限度地恢复原始数据;文献[15]提出了一种基于卷积神经网络(convolutional neural network,CNN)的端到端学习框架,该框架可在任意块长度下工作,并支持不同的吞吐量;文献[16-17]提出了一些信道响应逼近和信息编码的对抗性方法,并使用生成对抗网络(generative adversarial networks,GANs)结构来模拟信道表示。此外,端到端系统也因其较强的适应性被应用于各种领域,包括,多维信号的概率整形[18]、非正交多址接入[19](non-orthogonal multiple access,NOMA)、水下声学通信[20]和正交频分复用[21](orthogonal frequency division multiplexing,OFDM)等。

受预均衡系统思想与端到端系统特性的启发,本文提出了一种基于CNN自编码器的超奈奎斯特端到端(FTN-end to end,FTN-E2E)通信系统,用于消除FSO系统中采用FTN技术后复杂的ISI问题。发射端和接收端由2个一维卷积(Conv1D)模块构成,采用Gamma-Gamma衰落信道来描述大气信道,通过端到端全局优化来消除衰落信道下系统的ISI干扰,提高系统的可靠性。

1 系统模型

1.1 超奈奎斯特系统模型

FTN无线光通信系统原理框图如图1所示。

图1 FTN无线光通信系统框图Fig.1 Schematic of FTN free space optical communication system

发射端将数据进行脉冲位置调制(pluse position modulation,PPM)编码,过程是将k位比特信息映射到2k个时隙上,即一个时隙长度为U的PPM已调符号可发送的信息量为lbU。当采用4PPM映射时,即U=4时,2 bit二进制码元组分别为(0,0)、(0,1)、(1,0)、和(1,1)。所对应的脉冲位置u分别为1、2、3和4。将调制好的4PPM信号进行FTN成型,输出信号为SFTN(t),即

(1)

(1)式中:E为符号脉冲能量;τ表示加速因子(0<τ<1);an表示发送信息的序列;T为码元周期;r(·)表示脉冲成型。

信号经过数/模转换后驱动半导体激光器(laser diode,LD)生成光信号并发送到信道中,此时得到的光信号SOP(t)[4]可以表示为

(2)

(2)式中:GOC表示光信号的平均发射功率;ωOC表示光载波频率;φOC表示信号初始相位。该信号经大气信道传输后,接收信号SRT(t)可表示为

SRT(t)=h·SOP(t)+n(t)

(3)

(3)式中:n(t)为信道加性噪声;h为衰落信道系数。

采用Gamma-Gamma信道来模拟实际大气信道。接收到的光信号经光电探测器(photodetector,PD)转换得到电信号,经过模/数转换,再通过匹配滤波器,并加入干扰补偿后,接收信号的第m个符号采样值的表达式为

(4)

1.2 FTN-E2E系统模型

图2 端到端系统框图Fig.2 Schematic of end-to-end learning communication system

FTN-E2E原理框图如图3所示,输入信号s经过PPM编码,变成一个2k维的行向量输入系统。

图3 基于卷积自编码器的FTN-E2E系统框图Fig.3 FTN-E2E system block diagram based on convolutional autoencoder

在端到端系统中,PPM编码除了与传统FTN系统的编码输入相对应外,另一个目的是改变数据维度和类型,使其更适合神经网络的输入。研究表明,数据表示的选择可以影响分类准确性[22]。将PPM信号经过FTN成形滤波器得到FTN信号,可表示为

(5)

(5)式中,SPPM表示生成的PPM信号序列。

随后,将FTN信号SPPM-FTN送入Conv1D层,通过卷积与激活函数运算得到非线性的编码信号。从深度学习的角度看,发射机隐藏Conv1D层分别有256、128和32个滤波器,以第1层为例,通过将每个PPM向量从2k维空间映射到256维空间,在高维空间中,针对复杂的ISI寻找最优的符号映射方案,以便接收机恢复相应的信息。功率归一化层对符号进行压缩,以模拟硬件约束[15]。

图3中,信道模型用条件概率密度函数p(Y|X)来表示。考虑到FSO大气信道中光强的强烈波动,使用Gamma-Gamma信道模型来近似这种强烈波动。因此,发送的信号X需要与信道衰落系数进行运算。将有固定方差σ=(2REb/N0)-1的加性高斯白噪声添加到信号中。发送信号经过Gamma-Gamma信道后,接收到的信号可以写成

Y=h·SDL-OP+n(t)

(6)

(6)式中:SDL-OP为发射机卷积层预处理后的信号;n(t)为信道加性噪声;h为Gamma-Gamma模型取值分布,其概率密度函数可以表示为

h>0

(7)

(7)式中:Kv(·)为第二类修正贝塞尔函数,v=α-β;Γ(·)为Gamma函数;α和β分别为大尺度散射系数和小尺度散射系数。α和β分别表示为

(8)

(9)

接收机的任务是根据神经网络学习到的信号特征对每个接收信号进行还原。图3中,使用g(Y)来表示接收端的学习与变换过程。Conv1D层将接收信号Y解压回高维空间,以便提取足够的信息进行分类。最后一层用softmax激活函数将信号映射到维度为2k的向量中并进行判决。在这里,将信道模型生成的理论信道状态信息(channel state information,CSI)与接收信号Y拼接后一并传递给接收机,接收端经过反复训练之后,可以通过学习得到理想信道状态信息的近似值。编码器和解码器的参数设置如表1所示。

表1 系统的主要参数

2 训练策略

在时域中,FTN技术通过压缩发射信号之间的间隔,以非正交的方式传输来提高频谱效率。在FTN脉冲成形之后,信号尺寸通常会改变。在神经网络训练中输入输出信号尺寸不匹配,会导致数据驱动的有监督训练无法进行。

在FTN-E2E系统的训练中,其关键思想是将发射器和接收器作为2个单独的参数函数进行训练,共同优化以满足特定系统的性能要求。训练算法的迭代由2个阶段组成:①发送端训练;②接收端训练。由于训练算法是在接收机和发射机之间交替训练,因此,被称为交替训练算法[23]。该训练过程的思想是,在每个迭代过程中,接收器在固定的发射器参数θT下被改进,然后发射器在固定的接收器参数θR下被改进,通过不断迭代进行这一过程,最终端到端系统性能得到改善。

(10)

2.1 发射端训练

图4 发射端训练策略Fig.4 Transmitter training strategy

2.2 接收端训练

图5 接收端训练策略Fig.5 Receiver training strategy

在交替训练的方案中,发射机和接收机进行训练迭代的次数作为系统的超参数是固定的,同时,也可以依赖于一些停止准则,例如,在本系统训练过程中,采用早停法[24]防止过拟合。当模型在验证集上的表现开始下降的时候,停止训练。

3 结果分析

3.1 仿真分析

为了验证所提出的基于卷积自编码器的FTN-E2E系统的有效性,通过仿真实验证明FTN-E2E系统在不同加速因子τ、湍流强度等条件下的系统性能。系统模型基于图3所示的结构和表1的参数。

此外,该系统由Keras实现,用Python编写,并使用TensorFlow作为后端执行张量操作。训练数据集和测试数据集都是在Matlab中随机生成的。FTN信号生成采用4PPM调制和根升余弦(root rising cosine,RRC)脉冲成型滤波器,且滤波器滚降系数设为0.5,上采样率和截断的RRC脉冲长度分别设为10和6。训练系统用了12 800条样本,每条样本包含了L个符号,每个符号含有k比特信息。将训练样本分出一部分作为测试数据,其比例为7∶3,batch_size设置为64。由于卷积神经网络权重共享的特性,系统可以对任意长度的符号序列进行训练,因此,L长度均被设置成100。损失函数采用二进制交叉熵(binary cross entropy,BCE),梯度优化器采用SGD,其中,学习率设置为0.001,当损失函数值不再下降时,学习率自动减小为当前值的1/10。训练周期epoch设置为100,并通过早停法防止过拟合。

在无线光通信系统中,大气信道湍流情况不同,与其相适应的分布模型也不同。例如,Log-normal分布模型适用于弱湍流情况,其数学形式简单且便于处理,而在湍流饱和区中负指数分布模型更适用。虽然Gamma-Gamma分布模型的数学形式比较复杂,但Gamma-Gamma分布模型对从弱至强的湍流区都有效,并且当湍流增加至强湍流域,就必须考虑多次散射效应[25]。

图6 不同弱湍流信道下,BER与SNR的关系Fig.6 Relationship between BER and SNR under different weak turbulence channels

此外,端到端系统接收端需要在决策边界周围处理足够多的统计样本来学习受到噪声污染的信号特征。为了验证系统最佳训练信噪比,在Gamma-Gamma信道下,以10-5为标准,在0～20 dB以2 dB为步长逐点进行测试。训练SNR对BER的影响如图7所示,当训练信噪比为6 dB时,自编码器的BER性能表现最好。因此,在之后的仿真中,以SNR=6 dB为固定条件进行训练,然后在0 dB≤SNR≤30 dB内进行测试。

图7 训练SNR对BER的影响Fig.7 Impact of training SNR on BER

图8为不同信道下FTN系统BER与SNR的关系曲线图。Gamma-Gamma信道为弱湍流,接收端为最大似然(maximum likelihood sequence estimation,MLSE)检测算法。以10-4为标准,因受信道湍流和光电转化效率等因素的影响,在相同调制方式和无FTN-ISI时,Gamma-Gamma信道与加性高斯白噪声(additive white Gaussian noise,AWGN)信道相比,信噪比损失了约1.4 dB。当引入FTN技术时,FTN-ISI和信道ISI会导致更复杂的混合ISI,这会带来更严重的性能损失。图8中,当加速因子τ=0.8时,与无FTN-ISI相比,AWGN信道性能损失了约3 dB,而Gamma-Gamma信道性能损失了约3.9 dB。

图8 不同信道下,FTN系统的BER与SNR的关系Fig.8 Relationship between BER and SNR of FTN systems under different channels

为了验证基于自编码器的端到端系统的合理性与可靠性,将其与使用MLSE检测的FSO系统在不同湍流强度下进行误码率对比,曲线如图9所示。在AWGN信道下,使用4PPM调制的端到端系统的误码率曲线与传统通信系统相吻合[28]。此外,有研究表明,在AWGN信道下,CNN-AE系统的块误码率(block error ratio,BLER)性能与相应的传统BPSK、QPSK、16QAM和64QAM调制方案相吻合[15]。这是因为端到端系统发送端网络可以针对信道干扰进行编码,从而达到最优的通信性能。

图9 不同湍流强度下,端到端系统与传统FSO系统BER与SNR的关系Fig.9 Relationship between BER and SNR of end-to-end and conventional FSO systems under different turbulence intensities

同时,随着湍流强度的增大,所有系统的性能都在不断减弱。但无论在何种湍流强度下,端到端系统的误码性能都优于传统FSO系统的误码率。在BER=10-4时,弱、中2种不同湍流强度下,端到端系统分别优于FSO系统1 dB和2.2 dB,并且在强湍流高信噪比区域也有较大的领先。

图10为端到端系统与使用MLSE检测的传统无线光FTN系统相比较,其均方误差(mean square error,MSE)与信噪比的关系图,系统大气湍流强度为弱湍流,FTN加速因子τ=0.8。可以发现,端到端系统的MSE始终优于MLSE检测的传统无线光FTN系统。同时,由于端到端系统发送端是针对衰落信道下FTN系统复杂的混合ISI进行编码,因此,在低信噪比下,端到端系统的MSE曲线略优于AWGN信道下FTN系统的曲线。另外,在高信噪比时与AWGN信道逐渐趋于吻合,这也验证了图9中端到端系统能够达到接近AWGN信道的误码性能。

图10 端到端系统与传统FSO系统,MSE与SNR的关系Fig.10 Relationship between MSE and SNR in end-to-end systems and conventional FSO systems using MLSE detection

图11为端到端系统与传统无线光FTN系统在不同加速因子下BER与SNR的关系图。当加速因子大于等于Mazo限时(τ≥0.802),端到端系统误码率接近于奈奎斯特系统的误码率。当τ=0.9和0.8时,端到端系统的误码率分别优于传统FTN系统1.5 dB和2.4 dB。

图11 弱湍流不同加速因子下,端到端系统与传统FSO系统BER与SNR的关系Fig.11 Relationship between BER and SNR of end-to-end systems and conventional FSO systems under weak turbulence and different acceleration factors

同时,当加速因子低于Mazo限时,2种系统都出现了较为严重的性能恶化。端到端系统在τ=0.7时,仍然优于传统FTN系统3.6 dB左右。同时,从图9和图11可以看出,当干扰明显增大时,端到端系统性能损失会更加严重,说明端到端系统更容易受到干扰的影响[29]。当τ=0.6时,FTN和信道干扰带来的混合ISI过于严重,2种系统都出现了严重的“地板效应”,BER已经达不到实际应用的要求。

考虑到不同天气情况下,大气信道的湍流强度也不同,图12绘出了不同湍流强度下,BER与SNR的关系图。

图12 不同湍流强度下,FTN-E2E与FTN-FSO系统BER与SNR的关系Fig.12 Relationship between BER and SNR of FTN-E2E and FTN-FSO systems under different turbulence intensities

图12中,当加速因子τ=0.8时,端到端系统的误码性能都优于传统FSO系统的误码性能。以BER=10-4为标准,弱湍流和中湍流时,端到端系统分别优于传统FSO系统2.4 dB和4.5 dB。而在强湍流时,因强烈的混合ISI干扰,FSO系统要达到10-3级别的误码性能,使用传统MLSE算法时需要32 dB的信噪比,而端到端系统只需要27 dB的信噪比即可。但根据已有研究,在现实信道环境中,强湍流情况较为罕见,大多数天气都属于弱中湍流[30]。因此,大部分情况下系统只需考虑中、弱湍流强度即可。

3.2 复杂度分析

本小节通过分析比较了端到端系统和使用MLSE检测的传统FSO系统的计算复杂度。端到端系统和传统通信系统之间的直接比较是困难的,因为2个系统所使用的仿真框架不同,并且系统复杂度受所使用的特定架构和仿真设置等众多因素的影响。

对PPM信号X而言,由MLSE检测准测可知,计算Y-δHX需要2NtNrN次浮点运算,其中,ρ表示光电转换率,H为Nr×Nt维的信道衰落矩阵,Nt为发射机天线数,Nr为接收机天线数,N为数据块大小数。求取F-范数需要2NtN-1次浮点运算。PPM信号的所有可能结果有NtN种,因此,MLSE检测复杂度为ComMLSE=NtN(2NtNrN+2NrN-1)[31]。

在实际系统设置中,Nt=Nr=1,Conv1D层卷积核尺寸为1×1,N=M×L,M为调制阶数,L为块长。假设块长L=1 000,则每个块的计算复杂度与调制阶数M的关系如表2所示。

表2 计算复杂度

从表2可以看出,当调制阶数较低时,MLSE的计算复杂度优于CNN-AE,这是因为端到端系统发射端和接收端共使用了6个Conv1D层。但是,当调制阶数提高时,MLSE的计算复杂度快速增大,在M=32时,CNN-AE的计算复杂度相比MLSE下降了28.71%。当系统超参数确定时,端到端系统的计算复杂度随着N的增大呈线性增长,而MLSE的计算复杂度将随N的增大呈二次方增长。因此,端到端系统在高阶调制或数据批量更大时,系统复杂度方面会更有优势。

4 结束语

本文提出了一种基于卷积神经网络自编码器的超奈奎斯特端到端通信系统。该系统采用端到端系统中的编码器和解码器部分替代原有通信系统中发射机和接收机的功能模块;通过CNN的特征学习、快速训练收敛、特征重用以增强特征提取等特点,联合执行调制和解调任务;同时,根据FTN信号成型特点,采用交替训练算法联合训练接收机和发射机,解决了FTN-E2E监督训练无法进行的问题。仿真结果表明,与采用了MLSE估计算法的传统FSO系统相比,该系统在Gamma-Gamma衰落信道中的BER性能有了显著的提升,并且在干扰相对较弱的情况下,能达到与奈奎斯特系统相近的性能。