融合DAE-LSTM的认知物联网智能频谱感知算法

2024-03-12段闫闫徐凌伟

计算机工程与应用 2024年5期

段闫闫，徐凌伟，2

1.青岛科技大学信息科学技术学院，山东青岛 266061

2.数字化学习技术集成与应用教育部工程研究中心，北京 100039

随着全球经济一体化的发展，物联网得到了广泛的应用[1-2]。第五代（fifth-generation，5G）移动通信技术推动了物联网的发展[3-4]。物联网在各行各业发挥了重要作用，给生产、管理等方方面面带来了深刻的变化。由于每个行业对频谱资源的需求不同，网络的快慢也会受到物联网数据流量大小的影响，物联网流量的突发性也极易引起网络的拥塞等这些问题都对物联网频谱资源的需求提出了挑战。物联网技术的发展需要大量的频谱，但是由于频谱资源有限，在现有的情况下，迫切需要寻找智能的频谱共享方式，认知无线电频谱感知作为一种新技术实现频谱智能共享，可以提高频谱资源易用性和频谱资源物联网使用率两难的事情。本文是通过研究认知无线电频谱感知和物联网技术，以认知无线电频谱感知技术为基础，研究频谱共享问题。

认知无线电（cognitive radio，CR）技术主要是通过频谱感知等技术的智能学习，实现频谱共享。具体而言，将CR 技术应用于5G 物联网网络，可以实现有限频谱的最大化使用。Deemah等人[5]阐述了CR的未来研究方向。Cengis等人[6]提出了一种随时间推移进行频谱调整的分配方案。Luo 等人[7]设计了一种融合探测器，然后通过最大化探测器的偏转系数获得最优权值，从而解决频谱共享问题。Konmal等人[8]提出了一种CR和非正交多址（non orthogonal multiple access，NOMA）结合的高性能用户选择方案。Anand 等人[9-10]研究了新框架NOMA 的性能，详细地说明了如何以最佳方式选择功率分配系数和目标速率。由于传统盲频谱感知分类器存在噪声信息未知时感知性能低的缺陷，Wang 等人[11]提出了协同采样和二进制输出（CSBO）采样相融合的方案。在文献[12]中，基于大时延扩展信道，验证了谱分量相关性对频谱感知有效性的影响。Mahdi 等人[13]针对5G 频谱的特殊频段提出了一种KLMS（kernel least mean square）感知算法，以提高频谱利用率。Haythem等人[14]提出了一种5G物联网中频谱高效共享的跨层设计方法。

机器学习被广泛应用于频谱感知领域。Amir 等人[15]论证了将CR和ML结合实现智能频谱感知的可行性。Zhao等人[16]设计了一种改进的朴素贝叶斯分类器，实验结果证明提高了感知性能。Muard等人[17]提出了一种用于协同频谱感知的K-means学习算法，该算法可以降低高噪声和严重衰落信道对感知性能的影响。Waleed等人[18]提出了一种基于高斯核最小均方差的方法，用于5G 移动网络的频谱感知，以提高频谱利用率。Mei 等人[19]设计了一种改进的朴素贝叶斯分类器，获得了较好的频谱感知性能。Dhaval 等人[20]分析了车辆移动性和主要用户活动对感知性能的影响，并且推导了漏检概率的闭合表达式。

深度学习优秀的学习特性，在移动无线通信领域得到了广泛的应用。Kawtar 等人[21]设计了利用深度学习对滤波后的多载波波形进行分类的实验。文献[22]提出了在传统卷积神经网络（convolutional neural network，CNN）中添加密集连接，实现高效频谱感知的方法。Xu等人[23-24]采用改进的CNN 等网络对人工物联网保密性能进行预测。

认知物联网中智能频谱感知是频谱感知相关研究的新方向。随着深度学习技术的兴起，许多学者将CNN与移动通信相结合。但是CNN 的网络结构比较复杂，并且是通过学习空间特征进行分类。由于无线信号是具有时间连续性的时序信号，CNN 不能很好地学习时间相关性特征。本文针对单一固定特征易畸变，采用去噪自编码器（denoising autoencoder，DAE）学习数据的底层结构，然后采用改进长短时记忆（long short term memory，LSTM）模型对特征进行学习分类，以提高频谱感知性能。其主要贡献可归纳如下：

（1）针对移动无线信号易受噪声干扰、传统的提取单一固定信号特征进行感知分类的算法难以实现的特点。通过DAE 学习局部破碎的信息来复原原始数据，使编解码过程提取出的特征更具有鲁棒性，同时又避免了传统自编码器的编解码过程只是简单的复制粘贴。因此，提出利用DAE学习信号和噪声的底层特征表示，提高分类特征的鲁棒性，实现特征的高效降维和提取。

（2）针对移动无线信号具有明显的周期性和波动性的特征，设计了一种时序分类感知模型。该算法采用改进的LSTM作为频谱感知分类器，通过离线训练获得动态阈值。然后，通过在线测试获得频谱感知结果，提高了频谱感知性能。

（3）在两种调制方式和5 种信噪比下对所提出的频谱感知算法进行了验证。结果表明，与支持向量机（support vector machine，SVM）、循环神经网络（recurrent neural network，RNN）、LeNet5、学习向量量化（learning vector quantization，LVQ）和Elman 算法相比，DAELSTM 提高了约45%的感知准确率。表明该算法在频谱感知方面具有良好的鲁棒性。

1 系统模型

如图1 所示：智能频谱感知系统由发射机、主用户（primary user，PU）和次用户（secondary user，SU）三部分组成。经过调制之后的模拟信号搭载载波以及功率放大器放大，然后经过N-nakagami信道完成噪声畸变，最后在PU 接收端对信号进行滤波采样，这是PU 信道正常的通信过程。频谱感知是判断某频段是否空闲的过程。

图1 认知物联网频谱感知系统模型Fig.1 Cognitive ⅠoT spectrum sensing system model

在认知物联网中，PU 表示“授权物联网设备”，SU表示“认知物联网设备”。基站与PU 在特定频段通信，由SU进行频谱感知判断。过程如下：

其中，H0、H1分别表示PU存在和不存在。x(t)为离散采样信号序列，h(t)为服从高斯分布的信道衰落系数，s(t)是发射机发射的信号，n(t)是接收到的噪声。

通过比较T值与经验值λ进行频谱感知判断。如果T ＞λ，则确定是PU 在使用该频段。否则，频段空闲SU可以介入使用。T的计算公式为：

检测概率Pd，虚警概率Pf可定义为：

2 DAE-LSTM的智能频谱感知算法

图2中，本文提出的算法根据网络结构的功能分为特征提取和特征学习分类。提出的DAE-LSTM的频谱感知过程包括两个主要步骤：第一步是对频谱感知信号进行预处理，第二步是使用DAE-LSTM 模型对预处理后的数据进行训练，下面将详细讨论。

图2 DAE-LSTM系统模型图Fig.2 DAE-LSTM system model diagram

2.1 数据预处理

假设采样信号序列x(t)是通过对包含过多冗余信息的相同分布的模型进行重复采样得到的。因此，在输入频谱感知分类模型之前，需要对数据进行预处理。首先对采样获取的数据整理成矩阵，以某点i开始将每个时间帧分成N个信号子片段，每个信号子片段M(i)的长度为L。因此，

在实际应用中，通过抽样得到的样本数据容易出现大数吃小数的问题。为了避免数值问题，平衡各维度之间的贡献，有必要对采样信号进行标准化处理，降低异常数据对频谱感知性能的影响。标准化处理公式如下：

构造信号矩阵为：

构造信号协方差矩阵为：

2.2 提出DAE-LSTM模型的体系结构

（1）DAE：在认知物联网中，由于噪声干扰，单个固定信号特征的质量下降。然而基于DAE的特征提取可以自动补充受损信号，并根据样本协方差矩阵能量值在H1和H0中的分布差异提取特征降维，使特征更具鲁棒性。结构示意图如图3所示。

图3 DAE网络结构图Fig.3 DAE network structure diagram

首先，对原始输入数据Q进行局部人为破坏，通过添加人工噪声的方法随机抹除局部特征。然后通过编码函数Sg(·)和解码函数Sf(·)学习重构回Q[25]。添加人工噪声不仅可以避免编解码过程机械的复制，还可以提高编码之后特征的鲁棒性。DAE编解码过程为：

其中，w和w′为权值，by1和by2为偏置，bn为高斯随机噪声。

最后用损失函数loss(Q,Y)训练DAE网络为：

（2）改进LSTM 模型：改进LSTM 模型训练过程中选择性地传递或者遗忘网络的状态，动态学习信号和噪声的结构特征。LSTM模型单个神经元的结构如图4所示。单位神经元包括一个控制记忆单元和3个控制门。

图4 改进的LSTM模型结构Fig.4 Ⅰmproved LSTM model structure

遗忘门：遗忘门主要是保证前一时刻的记忆细胞状态Ct-1以一定概率延续到当前时刻，以一定的概率对过去的信息进行有效取舍。时间t的输入向量和时间t-1的输出向量决定了时间t的遗忘程度。其计算过程为：

其中，WF表示权值矩阵，gt表示当前时刻t的输入信息，UF表示流入遗忘门的输入层权值，bF表示偏移量参数，ht-1表示上一个神经元节点的输出。

输入门：输入门的结构由两层神经网络组成，将部分结果按对应的元素相乘作为输入的输出。输入门表示模型在当前时刻接收输入信息，并为记忆单元状态的下一次更新做好准备。其计算过程为：

记忆单元存储更新：通过添加过去长期状态和当前状态两部分来更新当前内存单元状态。其计算过程为：

其中，×表示每个元素之间的乘法运算。这样，LSTM模型将当前的信息状态和过去的长时记忆状态Ct-1结合起来，更新细胞状态Ct。

输出门：计算结果由两部分组成，先是结合当前时刻的输入信息从短期记忆中得到的信息输出Ot，然后结合长期记忆模型，得到最终的输出值ht。其计算过程为：

（3）智能频谱感知算法：智能频谱感知算法流程图如图5 所示，伪代码如算法1 所示。该算法首先得到离散信号序列。该算法首先获取采样信号序列，由采样信号序列构造信号矩阵，对其进行标准化处理，并将其输入DAE。DAE 通过编码和解码过程完成动态特征提取。最后，将测试集输入到最佳的LSTM 模型中，得到频谱感知结果。

图5 DAE-LSTM频谱感知算法流程图Fig.5 Flowchart of DAE-LSTM spectrum sensing algorithm

算法1智能频谱感知算法

2.3 模型训练

在这项工作中，小型批量梯度下降和自适应运动估计（adaptive moment estimation，Adam）优化器被用来训练神经网络模型。

（1）损失函数：在训练阶段，均方误差通常被作为神经网络的损失函数。损失函数是描述数据实际标签和网络预测值之间的偏差，称为损失。然后，神经网络在训练过程中通过调整参数值来降低损失函数逐渐收敛至最低。损失函数描述为：

其中，A为输出层神经元数量，O为实际值，第j个神经元输出输出层对应分类的概率值。

（2）优化器：在训练过程中，神经网络计算梯度，并利用梯度更新网络权值。在本工作中，利用Adam优化器调整网络中各个参数的梯度值。Adam优化器是通过结合两次矩估计来有效矫正各梯度值的。第一个矩估计mt的数学表达式为：

其中，β1为指数衰减率，gt为t时刻计算的梯度，mt为t时刻第一个矩估计。

第二个矩估计Vt被描述为：

其中，Vt为时刻t的第二个矩估计。

根据经验，在模型训练的前期，被初始化为0 的m0会使得mt产生偏差。通过公式（23）可以对偏差进行修正：

其中，m̂t为第一修正矩。

与m0类似，mt也需要修改。

其中，V̂t为第二次修正力矩。

网络的权值更新为：

其中，θt为网络在时刻t时的权值，α为学习率。

3 实验分析

本章验证了所提智能频谱感知算法的有效性。实验中模拟发射机端随机生成01 序列的数字信号，经过2FSK和QPSK两种调制方式调制生成模拟信号之后再分别搭载不同的载波器以及功率放大器，然后经过NNakagami 信道完成噪声的畸变。在-12 dB～0 dB 信噪比环境下产生混合训练集34 000组和33 000组，测试集10 000组和15 000组。仿真实验参数如表1所示。

表1 仿真实验使用的数据集参数Table 1 Data set parameters used in simulation experiments

LSTM网络的不同堆叠层数对算法性能影响较大，仿真实验验证了网络堆叠一层、两层和三层三种情况在不同调制方式下的Pd和Pf。表2和3展示了不同网络堆叠层数对Pd和Pf的影响，从而设计一种最佳的网络层数。

表2 不同网络层数下检测概率Pd 对比Table 2 Comparison of detection probability Pd under different network layers

表3 不同网络层数下虚警概率Pf 对比Table 3 Comparison of detection probability Pf under different network layers

根据表2和3可以得出结论，单层网络时，感知性能Pd值最低，两层网络堆叠与三层网络堆叠时Pd值差别不大，但三层网络在低信噪比下时QPSK 的Pf值过高。并且结合图6可以看出，由于堆叠三层网络模型相对复杂，算法耗时较长。因此，该分类模型设计了一个两层网络堆叠的LSTM结构。网络结构参数如表4所示。

表4 网络结构参数表Table 4 Table of network structure parameters

图6 不同网络层数的运行时间Fig.6 Running times for different network layers

最后，将该算法的性能与Elman、SVM、LeNet5、LVQ和RNN算法的性能进行了对比。图7、图8分别显示了2FSK 和QPSK 调制下的Pd。两种调制方式下DAELSTM算法的Pd都高于对比算法。-12 dB下Elman算法接近失效，其他的对比算法的性能也在50%左右，处于二分类的盲猜状态，随着信噪比的升高也就是噪声干扰逐渐减低所有算法的性能都有所提高，但是都不及DAE-LSTM 算法的Pd高。当信噪比大于-3 dB 时，DAE-LSTM算法和RNN算法的Pd接近达到100%。相比之下，SVM和LeNet5的Pds不超过90%，LVQ的检测概率不超过80%。Elman 和LVQ 算法对强噪声干扰信号的识别精度较差，甚至在低信噪比条件下接近失效。

图7 2FSK调制方式下不同算法Pd 的对比Fig.7 Comparison of Pd of different algorithms in 2FSK modulation mode

图8 QPSK调制方式下不同算法Pd 对比Fig.8 Comparison of Pd of different algorithms in QPSK modulation mode

同样，图9、图10 给出了六种算法的Pf对比，可以看到LVQ 算法的Pf最高，其次是Elman 算法，而SVM和LeNet5 算法的整体Pf约为20%，RNN 算法的Pf在低信噪比下也非常高。相比之下提出的DAE-LSTM算法具有最佳的Pf性能。更精确地说，与SVM和LeNet5算法相比，该算法的Pf降低了3%～15%。

图9 2FSK调制方式下不同算法Pf 对比Fig.9 Comparison of Pf of different algorithms in 2FSK modulation mode

图10 QPSK调制方式下不同算法Pf 对比Fig.10 Comparison of Pf of different algorithms in QPSK modulation mode

高效的算法是兼备感知准确率高和算法运行所花费的系统开销小。图11 和图12 展示了六种算法的运行时间的对比效果。可以得出两种调制方式下DAELSTM 算法的运行时间是100 s左右明显短于对比算法。2FSK调制方式下，LeNet5 运行时间花费297.13 s，其次是SVM 运行花费204.8 s，DAE-LSTM 模型相比于运行时间较长的LeNet5和SVM分别减少了70%～80%左右；QPSK 调制方式下，LVQ 和LeNet5 花费时间也较长，其次是SVM 和Elman，RNN 与所提算法运行时间相当。经过分析：经典的LeNet5模型在数据维数为36时，能表现出来最佳的分类性能。然而，本文工作是将数据降低为60 维特征向量作为输入数据，从而导致模型参数和运行时间增加。SVM通过计算最优超平面得出分类结果，但当数据量过大或者数据畸变严重时迭代计算就会耗费大量的时间。LVQ 算法的分类原理与传统聚类算法相同，根据距离搜索最近的原型向量需要较长的时间。因此，提出的DAE-LSTM 模型是一个较优的感知模型。