基于稀疏自编码器的混合信号符号检测研究

郝崇正 党小宇 李 赛 王成华

(南京航空航天大学电子信息工程学院 南京 210016)

1 引言

盲信号检测在合作和非合作通信中发挥着重要的作用，例如民用通信中的频谱管理和认知无线电，军事通信中的电子侦察和电子对抗等。符号检测(Symbol Detection, SD)是盲信号检测中重要且具有挑战性的任务。SD是指接收机端的检测器根据概率模型对受噪声干扰和信道损伤的发送信号进行重建，从而恢复原始的发送信息[1]。传统的符号检测算法完全依赖已知的信道模型和调制方式等参数，然而，实际通信系统中信道模型的建立和准确的参数估计面临较大的挑战。

目前，深度神经网络(Deep Neural Network,DNN)在信号检测和处理中得到了快速的发展[2–6]，基于DNN的信号检测方法为解决上述挑战提供了一种途径。文献[7]设计了一种基于自编码器架构的最优发射和接收系统，该系统中信道被认为是自编码器神经网络的一层，通过使用准确的条件概率密度函数进行描述。然而，该结构的检测性能依赖已知的信道模型。文献[8]利用卷积神经网络(Convolutional Neural Network, CNN)实现了二进制相移键控(Binary Phase Shift Keying, BPSK)信号的解调。然而，该检测器仅能完成对BPSK一种调制信号的相位检测。文献[9]利用DNN对理想信道条件下的多输入多输出信号进行检测，并与传统的迫零均衡检测、反馈均衡判决检测、球译码检测等进行了比较，但是，该研究仅对理想信道条件下的检测性能进行了分析。文献[10]提出了一种联合专家知识和DNN的正交频分复用接收机，通过使用DNN结构简化传统接收机的设计。

以上研究中，使用的DNN结构较复杂(包含较多的神经元数目和层数)，导致网络的训练和部署困难，在战场等实际场景下应用受限。其次，研究中大多使用计算机视觉或自然语言处理等领域成熟的DNN架构，然而，通信信号具有区别于图像和语言文本的属性，因此，信号检测中DNN检测器的结构应根据通信信号特点进行设计。此外，已知的DNN符号检测器仅能完成单一调制信号的检测，无法处理混合信号的符号恢复。同时，大多数检测是在理想条件下进行的，忽略了DNN检测器的通用性和信号损伤等因素对检测性能的影响。

与已有工作不同，本文研究了基于稀疏自编码器(Sparse AutoEncoder, SAE)神经网络的混合信号符号检测方法，提出了基于误符号率(Symbol Error Rate, SER)度量的稀疏自编码器检测器(Sparse AutoEncoder Detector, SAED)结构选择策略，通过该方法优化SAED的结构，从而降低网络的复杂度。同时，提出了利用累积量和矩特征向量实现混合信号的符号检测方案。本文设计的SAED不依赖信道模型和噪声假设，在加性高斯白噪声(Additive White Gaussian Noise, AWGN)和Rayleigh衰落信道下对不同调制方式的混合信号均具有较好的检测性能。此外，SAED在频率和相位偏移及有限训练样本下均具有较强的鲁棒性。本文结构安排如下：第2节给出了问题的阐述；第3节给出了SAED结构选择策略和基于特征向量的混合信号检测模型；第4节给出了仿真结果和讨论；第5节进行了复杂度的分析；第6节总结全文。

2 问题阐述

调制信号经过信道传播后，接收信号的复基带模型可表示为

3 SAED结构选择方法和混合信号符号检测模型

3.1 SAE检测模型

自编码器(AutoEncoder, AE)是一种可以实现在输出端重建输入信号的深度神经网络结构[11]。已知的AE结构通常包含较多的隐藏层数目，从而导致网络结构复杂[7]。本文利用基于SER度量的SAED结构选择策略对SAE检测器的结构进行设计，从而降低符号检测器的复杂度。

SAED通过式(1)的采样信号，在接收端重建发送符号。该过程即最小化符号检测器的最优判别函数的错误概率。最小化错误概率可等价为最小化符号检测器的损失函数，根据式(2)，最小化判别函数的错误概率问题可表示为

3.2 基于误符号率度量的SAED结构选择方法

已知的基于DNN的信号检测相关文献中，大多没有对DNN中每层神经元数目和层数的选择方法开展研究。然而，DNN检测器的结构影响网络的训练、部署、检测精度和计算复杂度。为了简化DNN检测器的结构，同时保证检测的精度，本文提出了基于SER度量的SAED节点数目和层数选择策略。设输入层节点数目为L，Ni表 示第i个隐藏层上的神经元数目，∆(该值通过实验确定)用以衡量理论SER值κt与 SAED计算的SER值κSAED之间的误差。基于SER度量的SAED结构选择策略步骤如下：

3.3 基于累积量和矩特征向量的混合信号符号检测

累积量和矩是信号处理的重要工具，用以提取信号的有效特征[13]。本文提出一种基于累积量和矩的特征向量(Cumulants and Moments Features Vector, CMFV)方法进行信号的预处理，提取信号的特征以实现混合信号的符号检测。

图1 基于CMFV的混合信号符号检测模型框图

4 实验数值仿真和讨论

实验部分分别对SAED的结构选择策略和SAED在不同信道和非理想条件下的混合信号检测性能进行数值仿真。仿真参数设置如下：(1)SAED的结构选择策略仿真中，使用BPSK在AWGN信道下的采样数据分析不同结构对SAED检测性能的影响；(2)符号检测仿真中，在确定SNR下，训练数据集的大小为D×N×P，其中，D=L=8为输入层信号的维度(输入层节点数目与特征向量的数目相同)，N=2为 混合数据集中信号的种类，P是符号观察周期。混合信号调制方式包括FSK,PSK和QAM，信道包括AWGN和Rayleigh衰落。仿真中的频率偏移(Frequency Offsets, FO)和相位偏移(Phase Offsets, PO)参照文献[13]设置，其中，归一化最大频偏为 1.4×10−4，最大相位偏移为 π/8。SAED的符号检测性能与最大似然检测(Maximum Likelihood, ML)进行比较。表2是符号检测中SAED的结构和参数设置。其中，激活函数为Linear, ReLU, Softmax，优化算法为L-BFGS。

表2 SAED结构和参数配置

实验1 为了验证基于SER度量的SAED结构选择策略的有效性，使用BPSK在AWGN信道下的采样数据集作为SAED的输入信号，分析不同结构的SAED误符号率性能。根据表1的SAED结构选择算法，分别验证了隐藏层节点数目和隐藏层数目对SAED符号检测性能的影响。由图2可知，SAED的结构对符号检测性能具有较大的影响。当仅有1个隐藏层时，SAED 符号检测性能明显低于BPSKML理论值。具体来说，当输入层节点数目为8个，隐藏层节点数目为4个时，SAED的检测性能不稳定，SER曲线的波动较大；当隐藏层节点数目为6个时，SAED在0～5 dB的检测性能与ML相比约有1 dB的损失。这是因为，SAED的隐藏层神经元数目较少时，其无法从输入数据中提取足够的信号特征进行符号的恢复。同时，当SAED具有两个隐藏层时，其符号检测性能接近ML检测理论值，即采用(8,7,3)结构时，SAED误符号率性能与ML理论值最大误差仅为0.3 dB。

表1 基于SER度量的SAED结构选择策略

图2 SAED结构对符号检测性能的影响

实验2 图3是SAED在AWGN信道下BFSK和BPSK混合信号的SER性能曲线。原始采样数据经过归一化和CMFV预处理形成BFSK和BPSK混合信号训练数据集，数据集大小为8×2×20 K。由图3可知，在理想条件下，CMFV-SAED-BFSK和CMFV-SAED-BPSK的SER性能几乎可达到ML的理论值。具体来说，CMFV-SAED-BFSK与MLBFSK的最大性能差约0.2 dB；CMFV-SAEDBPSK与ML-BPSK的最大性能差仅为0.1 dB左右。此外，在频偏条件下，SAED具有较好的鲁棒性，当归一化频偏为1.4×10−4时，SAED-BPSKFO和ML-BPSK在–6～7 dB上的最大性能损失约为0.3 dB。

图3 AWGN信道下BFSK和BPSK混合信号的SER性能曲线

实验3 图4是AWGN信道下16QAM和BFSK混合信号的SER性能曲线。BFSK和16QAM的符号观察周期均为20 K。由图4可知，SAED对BFSK和16QAM混合信号具有较好的检测性能，CMFVSAED-BFSK和CMFV-SAED-16QAM的SER性能基本可以达到ML理论值。具体来说，CMFVSAED-16QAM与ML-16QAM相比，在整个SNR范围内的最大的性能损失约为0.2 dB；CMFV-SAEDBFSK在–6～6 dB 上与ML理论值的性能差小于0.1 dB。同时，当最大相位偏移为π /8时，CMFVSAED-16QAM-PO比ML-16QAM约有0.3 dB的性能损失。

图4 AWGN信道下16QAM和BFSK混合信号的SER性能曲线

实验4 图5是Rayleigh衰落信道下QPSK和16QAM混合信号的SER性能曲线。QPSK和16QAM混合信号经过CMFV预处理后作为SAED的输入，其中，QPSK的符号观察周期为20 K，16QAM的符号观察周期为30 K。由图5可知，CMFV-SAEDQPSK和CMFV-SAED-16QAM在Rayleigh信道中的SER性能曲线与ML-QPSK和ML-16QAM曲线分别有0.5 dB和1 dB左右性能差异，该性能损失可能是由时变信道和高阶调制引起的。此外，CMFVSAED-16QAM使用8×30 K样本的SER性能，可以达到原始16QAM采样信号使用8×40 K样本的性能，从而说明，CMFV预处理可以从原始数据中提取更多的信号特征，从而降低SAED符号检测对样本数目的需求。

图5 Rayleigh衰落信道下QPSK和16QAM混合信号的SER性能曲线

5 复杂度分析和讨论

为了对DNN符号检测器的复杂度进行分析，本部分将SAED与文献[15]的SD-DNN检测器和文献[16]的SD-DenseNet检测器进行复杂度的对比分析。DNN符号检测器的复杂度分析中，分别从节点数目和1次迭代过程中执行乘法运算的次数两方面进行对比。

表3 SAED复杂度对比分析

6 结论

针对已知的DNN符号检测器结构复杂且无法实现混合信号的符号检测问题，本文首先提出了一种基于误符号率度量的SAED结构选择策略；然后，提出了基于累积量和矩特征向量的混合信号符号检测方法。本文设计的符号检测器不依赖信道模型和噪声假设，通过采样数据可重建发送符号。实验结果表明，SAED在AWGN和Rayleigh信道下符号检测性能接近ML理论值；在频率偏移、相位偏移和有限训练样本条件下具有较好的鲁棒性。此外，相比于已知的DNN符号检测器，本文设计的SAED具有较低的计算复杂度。