基于卷积神经网络的5G无线信道参数学习方法
2022-01-14黄骏,唐慧,柴利
黄 骏,唐 慧,柴 利
(武汉科技大学冶金自动化与检测技术教育部工程研究中心,湖北 武汉,430081)
随着互联网和物联网应用的飞速发展,智能手机、车载终端及其他智能设备的数量急剧增加,5G移动通信系统已成为无线通信领域的研究热点。信道模型是评估通信系统性能的重要依据,对5G场景下的信道建模进行充分研究十分必要[1]。传统的信道建模方法包括确定性建模、半确定性建模和随机性建模等。Järveläinen等[2]研究了基于点云模型的确定性建模方法,提出一种阴影衰落检测方法。Gentile等[3]进行了60 GHz的信道测量,采用的是基于Q-D模型的半确定性建模方法。Huang等[4]提出了一种基于GBSM的三维宽带几何随机信道模型,该模型描述了时延扩展和角度扩展等信道参数。然而,随机信道建模方法的精确度相对较低,确定性信道建模又有复杂度高的缺点。同时,5G无线通信的毫米波波长短且频段高,存在路径损耗和大气损耗严重、绕射能力下降等问题,这些特性使得5G信道建模更加困难。
深度学习方法具有强大的特征提取能力,已有研究者将其应用到信道建模领域。Zhao等[5]采用基于径向基神经网络的信道建模方法来预测信道参数,克服了采用基于几何的随机建模方法预测时变信道无法与实际环境相匹配的缺点。Huang等[6]提出了一种将大规模多输入多输出技术与深度学习相结合预测信道参数的新框架,其采用深度神经网络进行信道建模。Navabi等[7]采用神经网络预测传播路径的到达角和离开角等信道参数。Huang等[8]提出一种基于前向神经网络与径向基神经网络的无线通信信道参数预测模型,用于路径损耗、到达角与离开角等信道参数的预测。Bai等[9]提出了一种基于卷积神经网络(convolutional neural networks,CNN)的毫米波室内场景信道特性预测模型,预测了包括路径损耗、时延扩展和俯仰离开角均值等11个信道参数。
与传统神经网络相比,卷积神经网络的参数共享机制可减少网络参数的数量,提高网络训练性能,而CNN在信道建模中的应用还有待拓展。同时,上述研究在网络训练过程中大多采用手动调整超参数的方法,通过手动调参一般难以得到最优模型,且计算代价大[10]。另外,室外场景是5G未来应用发展的重要方向,而现有文献对室外5G无线通信场景信道特性的研究还相对较少。
针对以上问题,本文提出一种基于贝叶斯优化的CNN信道建模方法。首先利用Wireless InSite软件构建5G无线通信室外场景的数据集,然后设计基于CNN的5G无线信道参数学习网络结构,并通过贝叶斯优化方法自动寻找网络模型的最优超参数,最后通过实验来验证所提方法的有效性。
1 5G毫米波无线通信数据集的构建
无线信道参数通常可分为两大类:大尺度衰落特性和小尺度衰落特性。大尺度衰落特性描述了长距离(数百或数千米)范围内信号场强的变化,典型参数有路径损耗和阴影衰落;小尺度衰落特性描述短距离(数个或数十个波长)内信号场强的快速变化情况,典型参数有时延扩展、频域扩展和角度扩展[11]。本文重点关注6个无线信道参数,分别为路径损耗ρ、接收功率p、水平离开角均值θT、俯仰离开角均值φT、水平到达角均值θR和俯仰到达角均值φR,它们组成了学习网络的输出标签数据集。输入特征数据集由发送天线的三维坐标(xT,yT,zT)和接收天线的三维坐标(xR,yR,zR)组成。
Wireless InSite是一款基于射线跟踪法进行复杂电磁环境建模和信道参数预测的仿真软件[12],其中信道参数包括路径损耗、到达时间、到达角、离开角以及接收功率等,软件提供的频率范围为100 MHz~100 GHz。本文利用Wireless InSite软件模拟以公园为原型的三维室外无线通信场景(见图1),其由人工湖、树木、草地、人行道和建筑物等构成,面积为1.6×105m2。通信场景仿真频率为100 GHz,带宽为2.5 GHz,天线类型为半波双极化天线,天线位置随机部署且避开水域。
图1 通信场景平面图Fig.1 Planar graph of communication scenario
2 基于卷积神经网络的参数学习方法
本文方法的基本流程如图2所示。首先通过Wireless InSite软件建立通信场景并获取5G无线信道数据集,采用Min-Max标准化对输入特征数据集进行预处理,然后按照6∶2∶2的比例将5G无线信道数据集随机分成训练集、交叉验证集和测试集。训练集用来训练基于卷积神经网络的5G无线信道模型,卷积神经网络的超参数采用贝叶斯优化框架自动寻优。交叉验证集用来计算卷积神经网络的性能指标,如果达到贝叶斯优化循环次数则进入下一步,否则继续调整超参数训练网络。达到贝叶斯优化循环次数后,使用测试集预测5G无线信道参数。卷积神经网络的优化采用自适应矩估计算法,它是一种被广泛使用的随机梯度下降优化算法,利用梯度的一阶矩估计和二阶矩估计动态调整每个参数的学习率[13]。
图2 5G无线信道参数学习流程Fig.2 Learning process of 5G wireless channel parameters
2.1 数据预处理
在获取的原始数据集中,输入特征的量纲一般不相同,并且输入特征数值之间相差较大。这两点会影响模型的精确度和优化算法的收敛速度,所以需要对原始输入特征数据集进行预处理。本文采用Min-Max标准化将输入特征值缩放到[0,1]区间内。
2.2 卷积神经网络的结构设计
卷积神经网络主要由数据输入层、卷积层、池化层、全连接层和数据输出层组成,并可以加入批归一化层优化网络性能[14]。本文为所关注的6个信道参数分别设计学习网络,以路径损耗ρ为例,所设计的CNN网络结构如图3所示。数据输入层的神经元个数由输入数据的特征数量决定,输入特征包括发送天线的三维坐标(xT,yT,zT)和接收天线的三维坐标(xR,yR,zR),因此数据输入层的神经元个数为6;卷积层由一组卷积核构成,卷积核的权值经过反向传播后更新,卷积层是卷积神经网络的核心层,它可以减少卷积神经网络的参数量,所设计的卷积层有3层;全连接层通常连接在卷积神经网络尾部,全连接层中的每个神经元与其前一层的所有神经元进行连接,全连接层可以整合卷积层或者池化层中的局部信息,这里设计的全连接层有3层;数据输出层的神经元个数主要由标签数量决定,所设计的数据输出层神经元个数为1个,表示路径损耗数据;卷积神经网络其余的超参数均由贝叶斯优化算法自动寻优得到。
图3 用于路径损耗参数学习的卷积神经网络结构Fig.3 CNN structure for learning path loss parameter
卷积神经网络的学习准则为均方误差损失函数,如式(1)所示。
(1)
2.3 基于贝叶斯优化的超参数寻优
贝叶斯优化方法是一种自动搜索超参数的全局优化算法,能够有效利用过去的评估信息来提高搜索效率,该方法可表示为[15]:
θ*=argminθ∈ΘL
(2)
式中:θ为超参数;Θ为超参数搜索空间;θ*为找到的最优超参数;L为模型的损失函数。
贝叶斯优化算法有两个主要的组成部分:概率代理模型和采集函数。因为无法得知超参数与模型性能之间的显式关系,所以需要概率代理模型来代替超参数与模型性能之间的函数关系;采集函数利用概率代理模型的后验信息构造选择策略,从而确定下一组超参数组合,选择策略有基于提升的策略、置信边界策略和基于信息的策略。以下给出本文方法中的贝叶斯优化算法伪代码:
算法:贝叶斯优化输入:模型的损失函数L、超参数搜索空间Θ、采集函数S、概率代理模型M,初始化数据集D←(L,θ)fori=1,2,3,…,T: 1.最大化采集函数S,得到下一个评估点:xi=argmaxθ∈ΘS(θ|D1:i-1) 2.评估损失函数:Li 3.整合数据:Di=Di-1∪{θi,Li},更新代理模型Mendfor
3 实验与结果分析
3.1 实验设置
在模拟场景中分别设置300个发送天线和300个接收天线,所构建的5G无线通信室外场景数据集(包括输入特征数据集和输出标签数据集)一共有90 000组数据。中央处理器和显卡分别采用AMD 2600和Nvidia1660,卷积神经网络运行环境为TensorFlow 2.3,贝叶斯优化框架采用Scikit-Optimize库搭建。本文采用自适应矩估计算法作为5G无线信道模型的优化算法,算法中第一矩估计的指数衰减率设为0.9,第二矩估计的指数衰减率设为0.999。为了防止模型过拟合,优化算法采取提前停止训练的策略,即如果损失函数在100次迭代后没有得到提升,则提前终止模型训练。贝叶斯优化算法的概率代理模型采用高斯过程,循环次数为50;采集函数采用基于提升的策略中的EI(expected improvement)函数。自动寻优的超参数有学习率、激活函数、每个卷积层的卷积核数量、每个全连接层的神经元数量和批处理大小。以路径损耗ρ为例,表1给出了经过贝叶斯优化后路径损耗学习网络的超参数。
表1 ρ学习网络的超参数Table 1 Hyperparameters of ρ learning network
3.2 评价指标
利用均方根误差RMSE和决定系数R2作为学习模型的评价指标。RMSE指标常用来衡量真实值和预测值之间的绝对误差,在深度学习中应用较为广泛。决定系数也是反映模型拟合性能的一个统计指标,取值范围为[0,1],决定系数越接近1则模型的拟合效果越好。
3.3 结果分析
图4给出了每个信道参数的预测值和标签值的对比。由图4可见,除了少数标签值过小或过大的数据点之外,这6个信道参数的绝大部分标签数据和5G无线信道参数学习模型的预测数据均拟合良好。
表2为采用贝叶斯优化自动调参方法在交叉验证集上的实验结果,表3为5G无线信道参数学习模型手动调参和贝叶斯优化自动调参在测试集上的实验结果对比。由表3可见,与手动调参相比,自动调参时路径损耗ρ、接收功率p、水平离开角均值θT、俯仰离开角均值φT、水平到达角均值θR和俯仰到达角均值φR对应的均方根误差分别减少了6.7547、6.1428、7.9213、1.2459、5.1333和0.8659,决定系数分别提高了0.1886、0.1716、0.0472、0.1162、0.0314和0.0542,即贝叶斯优化自动调参的实验结果优于手动调参的实验结果。以上数据表明,通过基于贝叶斯优化自动调参的卷积神经网络,5G无线信道参数学习能达到良好的效果。
(a)路径损耗 (b)接收功率
表2 在交叉验证集上的实验结果Table 2 Experimental results of cross-validation set
表3 采用不同调参方法的实验结果对比Table 3 Comparison of experimental results by different parameter tuning methods
4 结语
针对5G室外无线通信场景的信道建模问题,本文提出了一种基于CNN的信道参数学习方法。为不同的信道参数设计了相应的学习网络,同时采用贝叶斯方法优化超参数以提高学习网络的性能。利用Wireless InSite软件构建室外5G无线通信信道参数数据集,给出了不同信道参数的学习结果,并验证了所提方法的有效性。与手动调参方法相比,对CNN超参数的贝叶斯自动寻优使本文方法在均方根误差和决定系数这两个信道模型评价指标上具有显著优势。