APP下载

DP-DRCnet卷积神经网络信号调制识别算法

2023-03-21王洋冯永新宋碧雪田秉禾

兵工学报 2023年2期
关键词:特征提取信噪比卷积

王洋, 冯永新, 宋碧雪, 田秉禾

(沈阳理工大学 辽宁省信息网络与信息对抗重点实验室, 辽宁 沈阳 110159)

0 引言

认知化是未来电子对抗技术发展的必然趋势,认知化电子对抗系统通过对周边环境信息的感知,并融合动态历史资源库形成完备的作战策略,从而提升信息对抗的作战效能[1]。

当前随着通信终端数量的与日俱增,电磁环境复杂化、调制波形先进化以及频谱拥塞等多种因素均给信息感知带来巨大困难。调制方式的识别是信号分析的先决条件,对认知化电子对抗系统的发展有着重大的意义。

目前,常见的调制识别算法有两类,Huang等[2]和Shi等[3]提出的基于最大似然估计的调制识别算法,其思想是在对信号特征量统计分析的基础上,采用概率理论、决策理论及假设检验理论实现信号的识别,该算法受限于计算量大和复杂度高的问题,难以在实际中应用。张笑宇等[4]、Dong等[5]、Liang等[6]提出的基于特征分类识别的算法,利用信号时域瞬时特征、高阶统计量特征以及变域特征等进行分类。当信噪比大于5 dB时,该算法可对给定信号调制方式实现有效的识别,但当信噪比低于5 dB时,其识别能力明显下降。

近年来,深度学习在调制自动识别领域得到了广泛的应用[7],目前基于深度学习的调制自动识别算法主要包含两类:一类是基于特征图像的识别算法,包括目标信号的时频特征图[8]、星座图[9]、高阶谱相关图[10]等,此类算法在特征解释上有较强的说服力,不过在图像生成前的预处理及图像输入网络模型后的处理上都将产生额外的资源开销;另一类是直接利用深度学习网络对原始信号进行处理[11-12],实现调制自动识别。该方法不需要对原始信号进行预处理,避免了在预处理过程中加入先验因素,确保原始特征的完整,但同时也保留了通信系统中的大量噪声,从而增加了网络的开销,如Lin等[13]提出的HybridNet网络,该网络通过融合信道注意力机制和信号的时间相关性机制对信号在不同信噪比下的特征进行提取,并实现了高效的分类识别,但因其参数量较大、训练时间较长限制了其应用场景。此外,很多学者通过将传统信号处理技术与深度神经网络进行结合,实现了调制方式的有效识别,如张天骐等[14]提出一种基于独立分量分析与神经网络相结合的调制识别算法,实现了调制方式的高效识别;江伟华等[15]提出了一种基于独立变量分析与神经网络相结合的调制识别算法,实现了调制方式的高效识别;安泽亮等[16]首先采用迫零盲均衡技术对信号表征能力进行增强,然后利用卷积神经网络(CNN)实现对信号调制方式的准确识别。

从实际应用性出发,尽管传统深度神经网络具有良好的特征提取能力、较高的识别准确率及泛化能力,但由于其自身网络结构复杂度高、参数量和计算量大等不足,很大程度上限制了它在实际环境中的应用。

针对以上问题,本文提出了双路降维CNN(DP-DRCnet),以非合作通信接收方为背景,对多种不同信号调制方式的识别能力进行研究分析,并对该网络的参数量及计算量进行评估。

1 卷积层特征提取及开销控制分析

卷积层是CNN的核心,卷积层中卷积核的合理设计有助于准确提取数据的特征及控制网络的开销[17]。

一般地,需要提取的特征都是高度非线性的,对于传统的CNN网络,为更好地提取潜在的特征,通常需要选择超完备的卷积层把所有可能的特征全部覆盖,但将使得网络参数量十分庞大,导致网络性能较差。因此依据数据样本结构设计相对合理的卷积层,是实现高性能网络的有效手段。

文献[11]中,选用1×8维卷积核对I/Q两路数据进行独立的纵向自相关特征提取;文献[12]中,首先选用1×3维卷积核对I/Q两路数据进行纵向自相关特征提取,之后选用2×3维卷积核获取横向的互相关特征;文献[18]是在文献[11]基础上的改进,先选用2×1维卷积核对数据特征进行提取,后选取1×3维卷积核,从而有效降低了网络开销。

从数据特征提取的角度分析,文献[11]选用单路自相关方案获取I/Q两路数据纵向自相关特征;文献[12]和文献[18]选用自相关和互相关混合方案获取I、Q路混合相关特征。图1、图2分别给出了文献[11]和文献[18]的特征提取可视化过程。从图1、图2中可以看出,对于相同的输入样本,不同提取方案输出的特征存在很大差异,同时文献[18]也证明了混合相关特征比单独自相关特征更有利于信号的识别。但是,由于自相关和互相关特征混合会产生部分特征的抵消,从而降低了信号识别的准确度。

图1 卷积层(1×8)特征提取可视化过程[11]Fig.1 Visualization process of the extraction of convolution layers (1×8) features[11]

图2 卷积层(2×1) (1×3)特征提取可视化过程[18]Fig.2 Visualization process of the extraction of convolution layers (2×1) (1×3)features[18]

CNN的开销主要来源于卷积层的参数量和计算量。

Pm=Wk×Hk×Ni×No+K×No

(1)

式中:Pm为卷积层的参数量;Wk、Hk分别为卷积核的宽和高,(Wk×Hk)为卷积核的维度;Ni为输入通道数;No为输出通道数;K为偏置项参数。

从卷积层参数量的角度分析,式(1)为卷积层参数量的计算通用公式,当卷积层偏置项bias=Ture时K=1;当bias=False时K=0;当采用BN层时K=3。由式(1)可知,Pm由卷积核的维度和输入输出的通道数(即卷积核的数量)决定。文献[11]中指出,将I/Q原始信号作为输入信号的CNN,适当减少卷积层中卷积核的数量对特征提取的性能不会产生明显的影响,因此降低卷积层输入和输出的通道数可有效降低卷积层的参数量。

另一方面,小维度卷积核的使用同样可以控制网络参数量的使用,但同时也限制了网络提取特征的能力。文献[19]和文献[20]指出,小维度卷积核对特征提取能力的影响可通过增加网络层的深度和宽度来解决。

从卷积层计算量的角度分析,式(2)给出了单个卷积层计算量公式,式(3)和式(4)给出了输入特征维度和输出特征维度关系:

Cm=Wk×Hk×Ni×No×Swo×Sho

(2)

(3)

(4)

式中:Cm为卷积层的计算量;S为步长;Swo、Sho分别为输出特征的宽和高,(Swo×Sho)为卷积层输出特征维度;Swi、Shi分别为输入特征的宽和高,(Swi×Shi)为卷积层输入特征维度;Pwp、Php分别为填充数据的宽和高,(Pwp×Php)为卷积核的填充维度。

不失一般性,令Swi=Sho、Wk=Hk、Pwp=Php、S=1,可得到计算量与输入特征维度之间关系式。

由式(5)可看出,在给定卷积核维度和输入输出通道数的前提下,随着卷积层输入特征的维度增大,卷积层的计算量近乎以平方数列形式增长。因此限制网络模型中每个卷积层输入特征的维度可有效控制网络的计算量。

(5)

2 DP-DRCnet网络结构及特征提取算法

本文提出的DP-DRCnet网络模型是对传统CNN的一种改进。首先,本文网络模型采用两路并行从两个维度对数据的特征进行提取,在保证特征提取全面性的同时避免了不同特征间产生交叉影响;其次,采用小维度卷积核和恒定通道数控制网络模型的参数量;最后,在每层卷积层输出后,采用自适应池化方案对输出特征进行降维处理,实现了网络模型计算量的有效控制,并保证了网络模型的可扩展性。

DP-DRCnet网络采用的是双路、两类特征并行提取的方案,以2×128维I/Q数据为例,式(6)给出了单样本数据的样式。

(6)

为便于描述起见,设卷积层为单通道输入输出,步长S=1,padding=0,上下两路卷积核可表示为

(7)

(8)

式中:ωu1、ωu2与ωd1、ωd2、ωd3均为卷积核的权重。则上下两路输出的特征为

outu=[y′1…y′i…y′128]

(9)

(10)

图3以8相相移调制(8PSK)信号的I/Q两路数据为例,作为双路CNN的输入信号,给出了其特征提取可视化过程。考虑到感受野和网络开销的因素,本文网络卷积层采用1×3和2×1维度卷积核,分别对I/Q两路数据纵向自相关和横向互相关的特征进行提取,再将特征合并后输出。从图3中可以看出,该网络提取的特征具有互补性优势,提高了网络特征获取能力。

如图4所示,DP-DRCnet网络由上下两路组成,借鉴文献[19-20]卷积核的设计理论思想,两路并行采用多个2×1和1×3的小维度卷积核进行特征提取。在每个卷积层后,利用自适应池化层将原有的输出维度降低为原来的一半,之后将两路特征合并,通过全连接层进行分类输出。

图5给出了DP-DRCnet网络特征提取算法,该算法可灵活地对上下两路网络深度进行配置,具备较强的扩展性(见图6)。此外r(n)可为多种不同维度(例如2×128,2×256,…)的输入信号,不会被全连接层输入特征维度的固定性所局限[21]。

图3 双路卷积层(1×3)、(2×1)特征提取Fig.3 Feature extraction of two-path convolution layers (1×3),(2×1)

图7给出了DP-DRCnet网络中自适应池化层的输出维度,该维度由全连接层输入特征维度、卷积核数量和该自适应池化层所处的层数所决定。文献[19-21]指出,池化层的输出特征维度通常随着网络层深度加深而减小,一般情况下两层间输出维度相差2倍。

使用DP-DRCnet(numu,numd,numk)来表示网络中的具体参数,上路由numu个convu和avgu组成,下路由numd个convd和avgd组成,其中卷积层中卷积核的数目为numk。表1以输入信号的维算法:DP-DRCnet网络特征提取算法度2×128为例,给出了DP-DRCnet(2,2,32)网络的具体参数。

图4 DP-DRCnet网络结构Fig.4 Structure of the DP-DPCnet network

表1 DP-DRCnet(2,2,32)网络模型参数Table 1 Model parameters of DP-DRCnet(2,2,32)

3 对比网络模型的参数配置

将DP-DRCnet网络两路卷积核的维度均改为 1×3 和2×1,生成单独纵向自相关网络模型和横向互相关模型,分别记作DP-DRCnetd和DP-DRCnetu,与DP-DRCnet网络进行调制识别准确度对比,用于验证双路网络不同卷积核对特征提取的有效性。以输入信号维度为2×128为例,表2、表3分别给出了DP-DRCnetd(2,2,32)和DP-DRCnetu(2,2,32),网络模型的参数。

表2 DP-DRCnetdown(2,2,32)网络模型参数Table 2 Model parameters of DP-DRCnetd(2,2,32)

此外,为验证DP-DRCnet网络性能,本文选择CLDNN[11]、CNN_LSTM[12]及IQCNet[18]网络模型,与DP-DRCnet(4,4,32)网络进行调制识别准确度及网络开销对比。

表3 DP-DRCnetup(2,2,32)网络模型参数Table 3 Model parameters of DP- DRCnetu(2,2,32)

CLDNN网络由CNN、LSTM与DNN构成,其主要特点是具有良好的时间相关特征提取能力;CNN_LSTM网络是在CLDNN网络基础上的改进,利用LSTM代替全连接层,在减少网络计算量的同时提高了调制识别的准确率。以上两种网络模型均采用较大的参数量或计算量来达到提高识别准确率的目的;IQCNet网络是一种轻量级CNN,通过改变卷积核的维度降低了输入数据的尺度,从而使该网络的参数量仅为CNN_LSTM网络的10%,可达到近乎相同的识别准确度。表4给出了以上3种网络的参数配置。

表4 对比网络的模型参数Table 4 Model parameters of the network for comparison

4 仿真实验及分析

4.1 仿真数据

实验数据采用Tim O’SheaTim的RLM2016.10a数据集[11],此数据集中包含11种不同调制方式,分别为8PSK、AM-DSB、AM-SSB、BPSK、CPFSK、GFSK、PAM4、16QAM、64QAM、QPSK和WBFM。每种调制方式有10 000个样本,平均分布在-6~12 dB信噪比内,总样本数为110 000。同一信噪比下的样本数为11 000。

在同一信噪比下,将数据集的80%作为训练集和验证集,记作A,20%为测试集,记作T。将A随机均分成8份,循环选择其中1份作为验证集,记作Vi,剩余部分为训练集,记作Pi,其中i为循环次数,取值范围为{1≤i≤8,i∈Z},可获得每次训练和验证数据对,记作{Pi,Vi}。

4.2 模型训练流程

信噪比范围为-6~12 dB,间隔为2 dB,在同一信噪比下进行8次实验,具体训练流程如图8所示,从{Pi,Vi}中选择Pi对DP-DRCnet网络模型进行训练,利用Vi对已训练好的模型进行验证,得到该训练模型的识别准确率,经过8次试验后计算识别准确率的均值acc,找出距离acc最近的识别准确率acci,选择获得acci的模型作为最终模型,利用测试集T对生成的最终模型进行测试,最后得到该模型调制识别的准确率。

4.3 仿真结果分析

4.3.1 特征提取有效性验证

实验分别选择不同支路深度的DP-DRCnet、DP-DRCnetd和DP-DRCnetu网络进行对比。验证DP-DRCnet网络在同等条件下对信号特征提取的有效性,是否有助于识别准确度的提高。

图8 模型训练流程Fig.8 Model training process

图9给出了采用32个卷积核在不同深度下的DP-DRCnet、DP-DRCnetd和DP-DRCnetu网络识别准确率。图10给出了DP-DRCnet(4,4,32)、DP-DRCnet(4,4,24)和DP-DRCnet(4,4,16)网络识别准确率。

图9 不同深度识别度对比Fig.9 Comparsion of recognition at different depths

图10 相同深度不同数量卷积核识别度对比Fig.10 Comparison of recognition of convolution kernels with different numbers butthe same depth

由图9、图10可知:DP-DRCnet网络随着支路网络层深度的增加,平均识别率有明显的提升;在相同的深度下,卷积核的数量对DP-DRCnet网络的平均识别率影响较小。

图11、图12分别给出了DP-DRCnet(4,4,32)、DP-DRCnetu(4,4,32)和DP-DRCnetu(4,4,32)网络信噪比在0 dB和12 dB时11种信号的F1-score得分柱状图。图8、图9从对不同调制信号识别的角度进行了分析。由图8、图9可知,在0 dB和12 dB条件下,DP-DRCnet(4,4,32)网络对11种调制信号识别的F1-score得分均高于另外两种网络。

图11 F1-score对比(SNR=0)Fig.11 F1 score comparison (SNR=0)

图12 F1-score对比(SNR=12)Fig.12 F1 score comparison (SNR=12)

表5分段列出了信噪比在-6~12 dB范围内信号的平均识别率。DP-DRCnet网络在支路深度为2时,其平均识别准确率超过相同条件下另两个网络1.4%左右;当深度为3时超出值为3.1%左右;当深度为4时该值达到4.5%左右。

表5 识别率对比Table 5 Comparison of recognition rate %

由此可见,当网络层支路深度增加时,DP-DRCnet的识别度准确率有显著的提升。当支路深度大于1时,DP-DRCnet的平均识别度均高于其他两种网络,并且随着支路网络深度增加,该网络的优势将更加明显,从而证明本网络特征提取的有效性。

4.3.2 网络性能对比

实验选择CLDNN、CNN_LSTM和IQNet(5,32)与DP-DRCnet(4,4,32)进行对比,图13给出了4种网络的在不同信噪比下的识别准确度对比;表6分段列出了4种网络在不同信噪比下的平均识别准确率。

图13 识别率对比Fig.13 Comparison of recognition rate

由图13和表6可知,信噪比在-6~0 dB条件下,DP-DRCnet(4,4,32)网络的平均识别准确率为76.59%,相比CLDNN、CNN_LSTM和IQNet(5,32)网络分别提升了10.64%、4.72%和8.58%;信噪比在2~6 dB条件下,DP-DRCnet(4,4,32)网络的平均识别准确率达到90.2%,相比CLDNN、CNN_LSTM和IQNet(5,32)网络分别提升了7.38%、4.13%和2.55%;信噪比在8~12 dB条件下,DP-DRCnet(4,4,32)网络的平均识别准确率达到92.71%,相比CLDNN、CNN_LSTM和IQNet(5,32)网络分别提升了8.04%、4.23%和4.09%。

表6 识别率对比Table 6 Comparison of recognition rate %

表7给出了4种网络的参数量和单次样本计算量,DP-DRCnet(4,4,32)网络的参数量和单次样本计算量明显少于其他3种网络,CLDNN、CNN_LSTM、IQNet(5,32)网络的参数量和单样本计算量分别为DP-DRCnet(4,4,32)网络的5.16、41.05、1.26倍和36.94、17.98、3.08倍,此外在RTX3090,内存32G训练平台上,当每批训练数据(batch size)大小为512时,CLDNN、CNN_LSTM、IQNet(5,32)网络的训练时间和测试时间分别为DP-DRCnet(4,4,32)网络的32.18、12.46、1.6倍和20.64、9.81、2.07倍。

表7 网络参数与计算量Table 7 Network parameters and computational load

总体来看,DP-DRCnet(4,4,32)网络的平均识别率高于其他3种网络。CLDNN网络的平均识别率最低,IQNet(5,32)网络的平均识别率略低于CNN_LSTM网络,但其网络参数量和单次样本计算量远低于CNN_LSTM网络,因此IQNet(5,32)网络性能优于CNN_LSTM网络,DP-DRCnet(4,4,32)网络性能为最佳。

4.3.3 信号调制识别能力验证

本节给出DP-DRCnet(4,4,32)网络和IQNet(5,32)网络对不同调制方式信号的识别率。为更客观地评测网络性能,采用F1-score作为测评标准,给出网络对单个信号识别能力的得分;此外利用混淆图,给出网络对多个信号分辨能力的仿真结果。

图14、图15给出了DP-DRCnet(4,4,32)和IQNet(5,32)网络在0 dB和12 dB下11种信号的F1-score得分柱状图。由图14、图15可知:DP-DRCnet(4,4,32)网络在0 dB条件下,11种信号识别的F1-score得分均高于IQNet(5,32)网络,其中有10种信号的得分超过0.7,7种信号的得分超过0.9;在12 dB条件下,除AM-DSB信号得分略低于IQNet(5,32)网络得分外,其余信号得分均高于IQNet(5,32)网络,且有9种信号的得分超过0.9。

图14 F1-score对比(SNR=0)Fig.14 F1 score comparison(SNR=0)

图15 F1-score得分对比(SNR=12)Fig.15 F1 score comparison (SNR=12)

图16、图17、图18、图19分别给出了DP-DRCnet(4,4,32)网络和IQNet(5,32)网络,在0 dB和12 dB条件下信号识别的混淆图。通过对比图16~图19可知,随着信噪比的提高,IQNet(5,32)网络和DP-DRCnet(4,4,32)网络均可缓解QPSK和BPSK信号混淆的问题,但由于信噪比的提升,QAM16和QAM64两种调制方式的特征相似性将更加明显,IQNet(5,32)网络丧失了对这两种信号特征的分辨能力。而DP-DRCnet(4,4,32)网络可有效地对QAM16和QAM64两种调制方式的识别。

图16 DP-DRCnet(4,4,32)识别混淆图(SNR=0)Fig.16 Recognition confusion map of DP-DRCnet (4,4,32)(SNR=0)

图17 DP-DRCnet(4,4,32)识别混淆图(SNR=12)Fig.17 Recognition confussion map of DP-DRCnet(4, 4,32)(SNR=12)

图18 IQNet(5,32)识别混淆图(SNR=0)Fig.18 Recognition confusion map of IQNet(5,32) (SNR=0)

图19 IQNet(5,32)识别混淆图(SNR=12)Fig.19 Recognition confusion map of IQNet(5,32) (SNR=12)

值得注意的是,为客观地验证DP-DRCne网络的性能,本文采用的是RLM2016.10a公开数据集,在该数据集中WBFM和AM-DSB样本是通过采样模拟音频信号生成的,其中存在较多的静默周期[11],因此导致WBFM和AM-DSB产生严重的混淆。

5 结论

本文提出了一种轻量级的CNN,采用双路降维的方法并行提取I/Q信号的纵向自相关特征和I/Q信号的横向互相关特征,在保证调制自动识别准确率的同时,也有效地控制了网络参数量和计算量。本文采用RLM2016.10a数据集,信噪比在-6~12 dB条件下,对11种调制方式进行验证。

仿真结果表明:DP-DRCnet网络模型具有较高的调制自动识别能力,同时网络参数量及计算量均低于目前高识别率的轻量级CNN模型,证明DP-DRCnet网络模型是一种高效率、高准确率的轻量级网络模型,适合应用在极端环境的调制自动识别系统中。

猜你喜欢

特征提取信噪比卷积
两种64排GE CT冠脉成像信噪比与剂量对比分析研究
基于3D-Winograd的快速卷积算法设计及FPGA实现
基于深度学习的无人机数据链信噪比估计算法
从滤波器理解卷积
基于Daubechies(dbN)的飞行器音频特征提取
基于傅里叶域卷积表示的目标跟踪算法
低信噪比下基于Hough变换的前视阵列SAR稀疏三维成像
Bagging RCSP脑电特征提取算法
保持信噪比的相位分解反褶积方法研究
基于MED和循环域解调的多故障特征提取