基于人工智能的无线传输技术最新研究进展

张静，金石，温朝凯，高飞飞，江涛



基于人工智能的无线传输技术最新研究进展

张静1，金石1，温朝凯2，高飞飞3，江涛4

（1. 东南大学移动通信国家重点实验室，江苏 南京 210096；2. 台湾中山大学通讯工程研究所，台湾 高雄 000800；3. 清华大学自动化系，北京 100084；4. 华中科技大学武汉光电国家研究中心，湖北 武汉 430074）

智能通信被认为是5G之后无线通信发展的主流方向之一，其基本思想是将人工智能引入无线通信系统的各个层面，实现无线通信与人工智能技术的有机融合。目前，该方面研究正在向物理层快速推进，无线传输技术与人工智能的融合还处于初步探索阶段。面向基于人工智能的无线传输关键技术，从信道估计、信号检测、信道状态信息反馈与重建、信道解码、端到端的无线通信系统方面展开了详细介绍，阐述了近年来国际学术界在该方向的最新研究进展，并在此基础上对利用人工智能的无线传输技术发展趋势进行了进一步展望。

人工智能；无线传输技术；深度学习

1 引言

自2010年以来，5G技术备受学术界和工业界的关注，其主要特点为高维度、高容量、更密的网络、更低的时延。相比于已经商用化的4G系统，5G无线传输速率提升10~100倍，峰值传输速率达到10 Gbit/s，端到端时延减至毫秒级，连接设备密度增加10~100倍，流量密度提高1 000倍，频谱效率提升5~10倍，能够在500 km/h的速度下保证用户体验。与面向人与人通信的2G/3G/4G不同，5G在设计之初，就考虑了人与人、人与物、物与物的互连。国际电信联盟发布的5G八大指标包括：基站峰值速率、用户体验速率、频谱效率、流量空间容量、移动性能、网络能效、连接密度和时延。

迄今为止，5G主要从3个维度实现上述指标，即空口增强、更宽的频谱以及网络密集化。这3个维度最具代表性的使能技术分别对应大规模MIMO（multiple-input multiple-output，MIMO）、毫米波通信以及超密集组网。大规模MIMO因具备提升系统容量、频谱效率、用户体验速率、增强全维覆盖和节约能耗等诸多优点，被认为是5G最具潜力的核心技术。然而，大规模MIMO的发展和应用也面临诸多问题，如对于不具有上下行互易性的频分双工（frequency division duplex，FDD）系统，如何有效地实现基站侧的信道状态信息获取。毫米波是指波长在毫米数量级的电磁波，其频率大约在30~300 GHz。现有的无线通信系统所用到频段大多集中在300 MHz~ 3 GHz，对毫米波段的利用率较低。毫米波技术通过增加频谱带宽，有效提高网络传输速率，但会受传播路径损耗、建筑物穿透损耗和雨衰等因素的影响，在实际应用中面临着巨大挑战[1]。另外，毫米波通信可与大规模MIMO有机融合，通过大规模MIMO波束成形带来的增益弥补毫米波穿透力差的劣势。超密集组网（ultra dense network，UDN）通过更加“密集化”的无线网络部署，将站间距离缩短为几十米甚至十几米，使得站点密度大大增加，从而提高频谱复用率、单位面积的网络容量以及用户体验速率。综合来看，大规模MIMO利用超高天线维度充分挖掘利用空间资源，毫米波通信利用超大带宽提升网络吞吐量，超密集组网利用超密基站提高频谱利用率，由此产生了海量的无线大数据，为未来无线通信系统利用人工智能手段提供了数据来源。

另一方面，近年来人工智能特别是深度学习在计算机视觉、自然语言处理、语音识别等领域获得了巨大成功[2]，无线通信领域的研究者们期望将其应用于系统的各个层面，进而产生智能通信系统，实现真正意义上的万物互联，满足人们对数据传输速率日新月异的需求。因此，智能通信被认为是5G之后无线通信发展的主流方向之一，其基本思想是将人工智能引入无线通信系统的各个层面，实现无线通信与人工智能技术的有机融合，大幅度提升无线通信系统的效能。学术界和工业界正在上述领域开展研究工作，前期的研究成果集中于应用层和网络层，主要思想是将人工智能特别是深度学习的思想引入无线资源管理和分配等领域。目前，该方向的研究正在向MAC层和物理层推进，特别在物理层已经出现无线传输与深度学习等结合的趋势，然而，各项研究目前尚处于初步探索阶段。

尽管无线大数据为人工智能应用于物理层提供可能[3]，智能通信系统的发展仍处于探索阶段，机遇与挑战并存。追溯历史，无线通信系统从1G演进至5G并获得巨大成功，其根源在于基于香农信息论的无线传输理论体系架构的建立与完善。一个典型的无线通信系统由发射机、无线信道和接收机构成，如图1所示。发射机主要包括信源、信源编码、信道编码、调制和射频发送等模块；接收机包括射频接收、信道估计与信号检测、解调、信道解码、信源解码以及信宿等模块。智能通信的无线传输研究旨在打破原有的通信模式，获得无线传输性能的大幅提升。目前这方面的研究面临诸多挑战，国内外研究者进行了初步探索。本文主要介绍深度学习应用于无线传输技术的最新研究进展，主要包括信道估计、信号检测、信道状态信息（channel state information，CSI）的反馈与重建、信道解码以及端到端的通信系统。

图1 典型的无线通信系统

2 深度学习简介

1996年Langley将机器学习定义为人工智能的一个分支，旨在依赖经验知识提高系统性能。经过20世纪以来的长期研究，研究者提出了逻辑回归、决策树、支持向量机和神经网络等各种算法。2006年，Hinton等人[4]在《Science》上发表论文，其主要观点有：多隐层的人工神经网络具有优异的特征学习能力；可通过“逐层预训练”来有效克服深层神经网络在训练上的困难，从此引出深度学习的研究。而后，深度学习在语音识别领域和图像识别领域取得巨大成就。深度学习作为一种新兴的神经网络算法，具有多种结构，包括深度神经网络（deep neural network，DNN）、卷积神经网络（convolutional neural network，CNN）、循环神经网络（recurrent neural network，RNN）和生成对抗神经网络（generative adversarial network，GAN）等。下面详细介绍4类深度学习网络的基本结构。

2.1 深度神经网络

DNN也被称为多层感知机。DNN基本结构如图2所示，由输入层、多个隐藏层和输出层构成。每个隐藏层包含多个神经元，每个神经元连接到相邻的层，同层神经元互不连接。单个神经元将各个输入与相应权重相乘，然后加偏置参数，最后通过非线性激活函数。激活函数类型见表1。反向传播算法是一种有效的DNN优化方法，隐藏层和神经元数量的增加使得训练过程变得困难，会遇到如梯度消失、收敛缓慢以及收敛到局部最小值等问题。为了解决消失梯度问题，引入了新的激活函数来代替经典的Sigmoid函数。为了提高收敛速度和降低计算复杂度，经典梯度下降法（gradient descent，GD）被调整为随机梯度下降法（stochastic gradient descent，SGD），它随机选择一个样本来计算每次的损失和梯度。随机特性在训练过程中会引起强烈的波动，因此，在经典的GD和SGD之间采用小批量随机梯度下降法（small-batch SGD）进行训练。然而，这些算法仍然会出现收敛于局部最优解。为了解决这一问题并进一步提高训练速度，几种自适应学习速率算法应运而生，如Adagrad、RMSProp、Momentum、Adam等[4]。如果训练后的网络在训练数据上表现良好，在测试过程中表现不佳，则出现过度拟合现象。在这种情况下，为了在训练和测试数据上取得良好的结果，提出了正则化（regularization）和丢弃（dropout）等方案。

图2 DNN基本结构

表1 激活函数类型

2.2 卷积神经网络

CNN的基本结构包括输入层、多个卷积层、多个池化层、全连接层及输出层，如图3所示。卷积层和池化层采用交替设置，即一个卷积层连接一个池化层，池化层后再连接一个卷积层，依此类推。由于卷积层中卷积核的每个神经元与其输入进行局部连接，并通过对应的连接权值与局部输入进行加权求和再加入偏置值，得到该神经元输出值，该过程等同于卷积过程，因此被称为卷积神经网络。

图3 CNN基本结构

2.3 循环神经网络

RNN是一种对序列数据建模的神经网络，即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对过去时刻的信息进行记忆并应用于当前输出的计算中，即隐藏层之间的节点不再是无连接的而是有连接的，并且隐藏层的输入不仅包括输入层还包括上一时刻隐藏层的输出。图4是一个RNN模型的示例。循环神经网络旨在为神经网络提供记忆，因为输出不仅依赖于当前输入，而且还依赖于过去时刻可用的信息或将来时刻可用的信息。图4所示的时延步长（time step）为3。常用的RNN包括Elman网络、Jordan网络、双向RNN和长短时记忆（long short term memory，LSTM）。

图4 RNN基本结构

2.4 生成对抗神经网络

GAN是一种新型的分布学习生成方法，目的是学习一种能够在真实分布的数据集上生成伪样本的模型。GAN的结构如图5所示，包含一个生成器G和一个鉴别器D。生成器和鉴别器均由DNN实现。鉴别器用于区分生成器生成的伪样本和实际数据集的真样本，生成器任务是生成样本数据使得鉴别器区分不出真样本和伪样本。在训练过程中，生成器将输入噪声与样本的先验分布p()映射到一个样本。然后采集来自真实数据的样本和来自于生成器G的样本，以训练鉴别器D，以最大化区分这两类的能力。如果鉴别器D成功地对真样本和假样本进行分类，那么它的成功可以反馈给生成器G，从而促使生成器G学会生成与真样本更相似的样本。训练过程在达到平衡时结束，此时鉴别器D只能随机猜测真样本和产生的伪样本。

图5 GAN基本结构

3 深度学习在无线传输技术中的应用

本节面向基于深度学习的无线物理层关键技术，从信道估计、信号检测、CSI反馈与重建、信道解码以及端到端无线通信系统5个方面展开详细介绍，展示了近年来国际学术界在该方面的最新研究进展。

3.1 信道估计

在大规模MIMO波束毫米波场景下，信道估计极具挑战性，尤其是在天线阵列密集、接收机配备的射频链路受限的场景。参考文献[5]提出LDAMP网络来解决这一信道估计问题。该网络将信道矩阵视作二维图像作为输入，并将降噪的卷积神经网络融合到迭代信号重建算法中进行信道估计。LDAMP基于D-AMP算法[6]，由层完全相同的结构串联而成。每层由降噪器、散度估量器和连接的系数组成。降噪器由具有20个卷积层的DnCNN实现，在LDAMP网络起到决定性作用。在未知噪声强度情况下，DnCNN降噪器能够解决高斯降噪问题，比其他降噪技术准确度更高、计算速度更快。它不是直接从含有噪声的信道图像中学习信道图像，而是先学习残余噪声，然后通过相减操作获得信道估计的图像。残差学习不仅降低了训练时间，也增强了信道估计的准确性。仿真结果表明LDAMP网络的性能优越于当前最具潜力的其他信道估计方法。

从MMSE算法的基本结构出发，参考文献[7]提出了一种基于深度学习的信道估计器，其中估计的信道向量为条件高斯随机变量，协方差矩阵具有随机性。如果协方差矩阵具有特普利兹特性和移不变的结构特性，则MMSE信道估计器的复杂度将降低很多。在信道的协方差矩阵不具备上述特性时，信道估计的复杂度将会变得很大。为了降低信道估计的复杂度，参考文献[7]仍假设采用MMSE的结构模型，并利用CNN对误差进行补偿。仿真结果表明，提出的信道估计器在降低复杂度的同时，也保证了信道估计的准确性。

参考文献[5]和参考文献[7]不仅考虑到实际问题中的模型特点，而且以已有算法为基础，使整个深度学习网络的学习参数较少，而且准确性高、复杂性低，更具竞争力。

3.2 信号检测

参考文献[8]利用DNN实现OFDM（orthogonal frequency division multiplexing，OFDM）系统中的信号检测问题。传统的OFDM系统信道估计和信号检测是两个独立的功能模块，即先进行信道估计获得确切的CSI，然后利用估计的CSI对发送信号进行恢复。如图1所示，信号原始恢复过程还涉及解调等模块。与传统无线通信不同，参考文献[8]将信道估计和信号检测视为一个整体，直接用DNN实现由接收信号到原始信号的映射。DNN的输入为256，隐层结构为500-250-120，输出为16。文中的OFDM系统采用64子载波，调制方式为正交相移（quadrature phase shift keying，QPSK）编码，因此输入信号为128 byte，因此需要8个相同结构的DNN进行训练。所提出的DNN在训练大量数据以后，能与传统检测算法最小均方误差（minimum mean square error，MMSE）性能相比拟。在无循环前缀或降低峰均信噪比的OFDM非线性系统中，此DNN获得的性能比传统的MMSE提升很多。然而，这种提升并非表明这种设计的合理性，误比特率也呈现一定的饱和性。饱和性是指随着信噪比的增大，信号检测的误比特率不再下降或下降不明显。在实际系统中，非线性情况还没有得到很好的解决。另外需要提出的是一个子DNN需要训练20 000次，一次训练涉及50 000个数据。8个这样的网络其训练时间和复杂度可想而知。

参考文献[9]研究的是MIMO系统的信号重建问题，提出了信号检测算法DetNet。DetNet在最大似然法基础上加入梯度下降算法，从而生成一个深度学习网络。为了测试DetNet的顽健性，考虑了两种CSI已知的情景，即时不变信道和随机变量已知的时变信道。仿真结果表明，DetNet性能优于传统的信号检测算法AMP（approximate message passing），而且与SDR（semidefinite relaxation）算法性能相当，具有极高的准确性和极少的时间开销（该算法速度是传统算法的30倍）。

参考文献[10]与参考文献[9]研究的问题相同，而且提出的解决方法均依赖已有的信号检测算法。参考文献[10]以OAMP（orthogonal approximate message passing，OAMP）迭代算法为基础，结合深度学习网络提出了OAMP-Net，目的是在原有算法基础之上，加入可调节的训练参数，进一步提升已有算法的信号检测性能。OAMP算法在压缩感知领域被提出来解决稀疏线性求逆问题，后被用于MIMO的信号检测问题，与以往算法相比，OAMP算法复杂度降低很多。但是，信号检测性能有所下降。OAMP算法是一种迭代算法，增加了算法的复杂度。为了进一步降低算法的复杂度，OAMP-Net包含了个串联层，相当于算法的迭代过程。每个串联层不仅实现了OAMP算法的全过程，而且加入了一些可训练的参数使得OAMP算法更具弹性，在参数改变时，不仅能适应更多的信道场景，而且可以实现与其他算法模型的转换。仿真结果表明，OAMP-Net的性能不仅高于OAMP算法，而且优越于更加复杂的LMMSE-TISTA算法，其算法复杂度更低且能适应于时变的信道。

不难看出，参考文献[8]提出的深度学习网络需要采集大量训练数据，前期训练工作量巨大，参考文献[9-10]克服了这一困难，利用更简单的训练网络实现了更好的信号检测性能。

3.3 CSI反馈与重建

在频分复用网络中，MIMO系统中基站需要获得下行链路的CSI反馈来执行预编码以及实现性能增益。然而MIMO系统中的超多天线造成过量的反馈负载，因此传统的CSI反馈负载降低方法不再适用于此场景。参考文献[11]提出基于CNN的CSI感知与恢复机制CsiNet。CsiNet的感知部分也称为编码器，将原始CSI矩阵利用CNN转化为码本；CsiNet的恢复部分也称为译码器，将接收到的码本利用全连接网络和CNN恢复成原始的CSI信号。编码器网络包括32×32输入层、2个3×3卷积核、1×重建层（reshape）和一个线性的1×全连接层。解码器网络包括1×输入层、1×全连接层、32×32重建层和两个Refine网络。Refine网络包括4层3×3卷积层进行特征提取。参考文献[12]在压缩CSI反馈的空间复用MIMO系统中只是利用DNN将原始CSI矩阵压缩为低维度的CSI信号，没有涉及CSI反馈信号的进一步恢复。

参考文献[13]在参考文献[11]基础上提出一种实时的基于LSTM的CSI反馈架构CsiNet-LSTM，该网络利用CNN和RNN分别提取CSI的空间特征和帧内相关性特征，从而进一步提升反馈CSI的正确性。 CsiNet-LSTM的时延步长为，第一步时延步长的信道矩阵采用高压缩率编码器，其他-1个时延步长采用低压缩率编码器。-1个低压缩率编码器的输出码字分别与高压缩率编码器的输出码字串联在一起，然后输入相应的译码器中。最后的CSI重建由个时延步长具有3层2×32×32单元的LSTM执行。需要指出的是，此网络编码器和译码器部分与参考文献[11]的CsiNet结构完全相同。利用时变MIMO信道时间相关性和结构特点，CsiNet-LSTM能实现压缩率、CSI重建质量以及复杂度之间的折中。相比于CsiNet，该网络以时间效率换取了CSI的重建质量。

参考文献[11,13]提出的CSI反馈与重建算法均依赖大量数据进行离线训练，网络复杂度较高且泛化性能需要深入研究。

3.4 信道解码

参考文献[14]提出了一种基于DNN的信道解码方法。该文献得出了深度学习应用于信道解码的两个结论，一是如极化码等结构码比随机码更容易学习；二是针对结构码，深度学习网络能够解码没有训练过的码字。在接收端，位信息比特被编码为长度为的码字，然后进行调制，发射机通过噪声信道将其送至接收端。接收端的信道解码器的任务是将接收的具有噪声干扰的码字恢复成相应的信息比特。信道解码器由输入层、3层隐层、输出层构成。输入层为具有噪声干扰的码字，输出层为信息比特。3层隐层神经元结构为128-64-32。信道解码深度学习用于信道解码无疑会受到维度爆炸的限制，对于码长为100，码率为0.5的编码来说，则存在250种不同的码字。因此，该网络只适应于码字较短的信道编码技术。仿真结果表明，对于结构码来说，训练219次则接近最大后验概率（maximum a posteriori，MAP）解码器的性能。而对于随机码来说，训练219次性能远远不及MAP解码器。另外，参考文献[14]分别对不同的隐层结构128-64-32、256-128-64、512-256-128和1 024-512-128进行了比较，对于此解码网络来说，隐层结构越复杂，训练的次数越多，该解码器的性能越优越。

参考文献[14]将解码部分视作一个黑盒子，直接实现了从接收码字到信息比特的转换，该方式的性能虽然能与传统方法相比拟，但是训练次数呈指数上升，深度学习网络结构也足够复杂，当码长发生改变时，该网络需要被重新调整输入输出，并重新训练，工作量之大可想而知。另外，该方法不适用于随机码，也不适合码长较长的码字，具有很大的局限性。参考文献[15]与参考文献[14]不同，在传统极化码迭代解码算法基础上，提出一种分离子块的深度学习极化码解码网络。该网络主要包含两个步骤：一是将原编解码分割成个子块，然后分别对各个子块进行编码/解码，子块解码过程采用DNN，性能接近MAP解码器的性能，子块的引入克服了码长过长造成的解码复杂度问题；二是利用置信传播（belief propagation，BP）解码算法连接各个子块，BP算法与子块DNN连接实现并行处理。参考文献[15]的解码算法是一个高度并行的解码算法，且不属于迭代算法。该算法[15]与传统算法相比，算法时延大大降低，且性能相当；与参考文献[14]的解码算法相比，该算法在训练次数和网络结构上的复杂度均大大降低。

考文献[16]与参考文献[15]均利用BP算法与深度学习网络结合进行信道解码。参考文献[16]提出一种迭代的信道解码算法BP-CNN，该算法将CNN与标准BP解码器串联，在噪声环境中估计信息比特。在接收端，接收到的信号首先由BP解码器进行处理以获得原始的解码结果，然后用接收信号与估计的传输符号相减获得信道噪声估计。由于存在解码误差，信道噪声估计具有较大误差。最后将信道噪声估计输入CNN以移除BP解码器的估计误差。标准BP接收机用于估计传输信号，CNN用于降低BP检测器的估计误差，并且获得更加确切的信道噪声估计。BP算法与CNN之间的迭代会逐渐提高检测SNR，因此获得更好的译码性能。BP-CNN不仅解码性能优于标准BP算法，而且具有更低的复杂度。这是因为CNN的高效性，CNN大部分操作为线性运算，少部分为非线性运算。仿真结果表明，噪声相关性越强，BP-CNN的性能优越性越高，当噪声非相关时，BP-CNN的性能稍逊于BP算法。

对于高密度奇偶校验码（high density parity check，HDPC）来说，BP算法的性能相对较差。Tanner图为校验码的校验矩阵，Nachmani等人[17]提出了BP-DNN算法，该算法为Tanner图的边缘节点分配权重系数，并利用DNN进行训练获得这些系数，从而提升BP算法应用于HDPC的性能。BP-DNN的迭代次数约为BP算法的1/10，且性能优于传统的BP算法。Nachmani等人[18]又提出BP-RNN算法，将RNN网络与BP算法结合，进一步提升BP算法的性能。另外，参考文献[18]将BP-RNN中的BP算法替换为改进的随机冗余迭代算法（modified random redundant iterative algorithm，mRRD）算法，获得的解码性能优于mRRD算法。

上述基于深度学习的信道解码方法中，参考文献[14]将无线通信系统中解码模块看作黑盒子，其他文献均与BP算法结合进一步寻求性能的提升以及复杂度的降低。

3.5 端到端无线通信系统

O’Shea等人[12]提出一种MIMO系统中基于深度学习自编码器的物理层策略。在特定的信道环境下，此策略利用自编码器对估计、反馈、编码和解码过程进行全局优化，以达到最大化吞吐量和最小化误比特率的目的。参考文献[12]利用自编码器实现了3个无线通信系统，分别是：无CSI反馈的空间分集MIMO系统，完美CSI反馈的空间复用MIMO系统以及压缩CSI反馈的空间复用MIMO系统。在特定信道环境下，此物理层策略获得了较大的性能提升。

参考文献[19]提出了一个点对点无线通信系统模型，诠释了物理层的处理模块由DNN替代的可行性。传统无线通信系统的设计需要考虑硬件实现时各种不确定因素的影响，并进行时延、相位等方面的补偿。其[19]提出的基于DNN的端到端无线通信系统也考虑了这些因素，在系统实现时进行两个阶段的训练。第一阶段为随机信道下的发送、信道与接收DNN的训练。第二个阶段在第一阶段网络训练参数的基础上，在真实信道下再一次进行训练，对训练参数进行微调，使得整个系统的性能进一步提升。信道模块中，时延和相位补偿均被考虑到DNN的训练中。接收模块中，接收信号特征提取和相位补偿由DNN替代，两个DNN训练结果串联起来输入接收DNN中。这种基于DNN的无线通信系统充分考虑了真实信道下的时变性，系统性能与传统无线通信系统性能具有可比性。

参考文献[20]利用DNN实现端到端无线通信系统，其中信号相关的功能模块均利用DNN实现，如编码、解码、调制以及均衡。无线通信系统中瞬时CSI很难准确获取，而且随着时间和位置的改变不断变化。整个端到端的无线通信系统在反向传播计算梯度时由于信道未知无法进行。参考文献[20]提出一种信道未知情况下的端到端系统，它不依赖任何信道的先验知识。系统采用GAN代表无线信道影响，发送端的编码信号作为条件信息。为了克服信道的时变性，导频数据的接收信号也作为条件信息的一部分。此无线通信系统发送机和接收机各由一个DNN代替，GAN作为发送端与接收端的桥梁，使得反向传播顺利进行。发送DNN、接收DNN、信道生成GAN相互迭代进行训练，最终得到全局最优解。仿真结果表明，利用GAN进行信道估计的方法与传统信道估计性能相当，端到端无线通信系统的性能接近传统的基于通信知识的信道模型系统。此方法打破了传统模型化的无线通信模式，为无线通信系统设计开辟新道路。

基于端到端的无线通信系统也被称为自编码器，用编码、信道、解码过程代替原先的无线通信系统结构，编码、信道、解码部分均用深度学习网络实现，是一种全新的无线通信系统实现思路。然而，多个DNN需要依赖大量的数据，数据的采集过程任务量巨大，如果环境或硬件系统发生改变，信息的采集过程需要重新进行，目前这种方式实现无线通信系统的可操作性较低。

4 总结与展望

5G技术呈现高维度、高容量、高密集的特点，在无线传输中产生海量数据，物理层中的大数据成为一个兴趣点，期望利用人工智能提升物理层的传输性能。近年来，研究者已经对此做了初步探索，主要呈现出两种类型的深度学习网络，一种基于数据驱动，另一种基于数据模型双驱动。基于数据驱动的深度学习网络[8,11,14,19-20]将无线通信系统的多个功能块看作一个未知的黑盒子，利用深度学习网络取而代之，然后依赖大量训练数据完成输入到输出的训练。例如，参考文献[8]将OFDM系统中整个接收模块作为一个黑盒子，射频接收机接收到信号之后，然后进行移除循环前缀操作，最后利用DNN直接完成从射频接收机到信宿的过程。基于端到端的无线通信系统将整个通信系统由深度学习网络全面替代，期望全局优化无线通信系统，获得更好的性能[12,20]。基于数据模型双驱动的深度学习网络[5,7,9-10,15,18]在无线通信系统原有技术的基础上，不改变无线通信系统的模型结构，利用深度学习网络代替某个模块或者训练相关参数以提升某个模块的性能。例如，参考文献[6]在无线通信系统MIMO信号检测模块OAMP接收机基础上，利用深度学习网络引入可训练的参数，进一步提升信号检测模块的性能。基于数据驱动的深度学习网络主要依赖海量数据，而基于数据模型双驱动的深度学习网络主要依赖通信模型或者算法模型。

基于数据驱动的深度学习网络通过大量实例学习，吸收了被人类分析员分别标记的大量数据，以生成期望的输出。然而，训练深度学习网络需要大量的标记数据，积累和标记大量信息的过程不但费时而且成本高昂。除了积累标记数据的挑战之外，大多数基于数据驱动的深度学习模型泛化性和自适应性较弱，即使网络部分结构发生微小变化，也会导致训练模型准确性大大降低。例如，如果参考文献[8]发送端的调制方式更换为16QAM（quadrature amplitude modulation）或64QAM，网络需要重新训练。因此，调整或修改模型所耗费的代价相当于重新创建模型。为了减少训练和调整深度学习模型的成本和时间，基于模型的深度学习网络具有更好的泛化性和自适应性。蜂窝移动通信从1G演进到5G，无线通信系统性能的提升离不开功能模块的建模，基于数据驱动的深度学习网络摒弃这些已有的无线通信知识，需要海量数据进行训练与学习，而获得的性能达不到已有无线通信系统模型的性能。而基于数据模型双驱动的深度学习网络以物理层已有模型为基础，可以显著减少训练或升级所需的信息量。由于已有的模型具有环境自适应性和泛化性，因此数据模型双驱动深度学习网络也具有这些特性，并且能在原模型基础上进一步提升系统的性能。数据驱动与数据模型双驱动的深度学习网络比较见表2。由本文第3节的分析可知，数据模型双驱动深度学习网络在信道估计、信号检测、信道解码的应用上取得的良好性能，具有广阔的发展前景。

表2 数据驱动与数据模型双驱动的深度学习网络比较

5 结束语

本文首先介绍了当前应用较广的深度学习网络的几种类型，包括DNN、CNN、RNN和GAN。然后详细阐述了深度学习应用于无线传输技术的最新研究成果，包括信道估计、信号检测、CSI反馈与重建、信道解码以及端到端无线通信系统。智能无线通信作为后5G发展的主流技术之一，物理层寻求技术上的突破关键在于利用大数据降低系统实现复杂度、提升系统性能。从最新研究进展中可以看出，数据模型双驱动的深度学习网络不仅能满足这些需求，而且对数据的依赖性大大减小，成为最具潜力的发展方向之一。

[1] 倪善金, 赵军辉. 5G无线通信网络物理层关键技术[J]. 电信科学, 2015, 31(12): 40-45.

NI S J, ZHAO J H. Key technologies in physical layer of 5G wireless communications network[J]. Telecommunications Science, 2015, 31(12): 40-45.

[2] MAO Q, HU F, HAO Q. Deep learning for intelligent wireless networks: a comprehensive survey[J]. IEEE Communications Surveys & Tutorials, 2018(99):1.

[3] O’SHEA T J, HOYDIS J. An introduction to deep learning for the physical layer[J]. arXiv: 1702.008320, 2017.

[4] WANG T Q, WEN C K, WANG H, et al. Deep learning for wireless physical layer: opportunities and challenges[J]. China Communications, 2017, 14(11): 92-111.

[5] HE H, WEN C K, JIN S, et al. Deep learning-based channel estimation for beamspace mmWave massive MIMO systems[J]. IEEE Wireless Communications Letters, 2018(99): 1.

[6] METZLER C A, MOUSAVI A, BARANIUK R G. Learned D-AMP: principled neural network based compressive image recovery[J]. arXiv: 1704.06625, 2017.

[7] NEUMANN D, WIESE T, UTSCHICK W. Learning the MMSE channel estimator[J]. IEEE Transactions on Signal Processing, 2018, 66(11): 2905-2917.

[8] YE H, LI G Y, JUANG B H F. Power of deep learning for channel estimation and signal detection in OFDM systems[J]. IEEE Wireless Communications Letters, 2018, 7(1): 114-117.

[9] SAMUEL N, DISKIN T, WIESEL A. Deep MIMO detection[C]//IEEE International Workshop on Signal Processing Advances in Wireless Communications, Jul 3-6, 2017, Sapporo, Japan. Piscataway: IEEE Press, 2017.

[10] HE H, WEN C K, JIN S, et al. A model-driven deep learning network for MIMO detection[C]//Submitted to the 6th IEEE Global Conference on Signal and Information Processing, Nov 26-29, 2018, Anaheim, USA. Piscataway: IEEE Press, 2018.

[11] WEN C K, SHIH W T, JIN S. Deep learning for massive MIMO CSI feedback[J]. IEEE Wireless Communications Letters, 2018(99).

[12] O'SHEA T J, ERPEK T, CLANCY T C. Deep learning based MIMO communications[J]. arXiv:1707.07980, 2017.

[13] WANG T Q, WEN C K, JIN S, et al. Deep learning-based CSI feedback approach for time-varying massive MIMO channels[J]. arXiv:1807.11673, 2018.

[14] CAMMERER S, HOYDIS J, BRINK S T. On deep learning-based channel decoding[C]//51st Annual Conference on Information Sciences and Systems, March 22-24, 2017, Baltimore, MD, USA. [S.l.:s.n.], 2017.

[15] CAMMERER S, HOYDIS J, BRINK S T. Scaling deep learning-based decoding of polar codes via partitioning[J]. arXiv: 1702.06901, 2017.

[16] LIANG F, SHEN C, WU F. An iterative BP-CNN architecture for channel decoding[J]. IEEE Journal of Selected Topics in Signal Processing, 2018, 12(1): 144-159.

[17] NACHMANI E, BEERY Y, BURSHTEIN D. Learning to decode linear codes using deep learning[C]//54th Annual Allerton Conference on Communication, Control, and Computing, Sept 27-31, 2016, Monticello, Illinois, USA. [S.l.:s.n.], 2016.

[18] NACHMANI E, MARCIANO E, LUGOSCH L, et al. Deep learning methods for improved decoding of linear codes[J]. IEEE Journal of Selected Topics in Signal Processing, 2018, 12(1): 119-131.

[19] DÖRNER S, CAMMERER S, HOYDIS J, et al. Deep learning based communication over the air[J]. IEEE Journal of Selected Topics in Signal Processing, 2018, 12(1): 132-143.

[20] YE H, LI G Y, JUANG B H F, et al. Channel agnostic end-to-end learning based communication systems with conditional GAN[J]. arXiv: 1807.00447, 2018.

An overview of wireless transmission technology utilizing artificial intelligence

ZHANG Jing1, JIN Shi1, WEN Chaokai2, GAO Feifei3, JIANG Tao4

1. National Mobile Communications Research Laboratory, Southeast University, Nanjing 210096, China 2. Institute of Communications Engineering, Sun Yat-Sen University, Kaohsiung 000800, China 3. Department of Automation, Tsinghua University, Beijing 100084, China 4. Wuhan National Laboratory for Optoelectronics, Huazhong University of Science and Technology, Wuhan 430074, China

Intelligent communication is considered to be one of the mainstream directions in the development of wireless communications after 5G. Its basic idea is to introduce artificial intelligence into all aspects of wireless communication systems, realizing the significant integration of wireless communication and artificial intelligence technology. At present, the research in this field is advancing to the physical layer. The combination of wireless transmission and deep learning is also in the preliminary exploration stage. Key technologies of wireless physical layer based on deep learning were introduced in detail from the aspects of channel estimation, signal detection, feedback and reconstruction of channel state information, channel decoding, end-to-end wireless communication systems, the latest research progress of international academic circles in recent years was presented. On this basis, the development trend in the future was preliminarily forecasted.

artificial intelligence, wireless transmission, deep learning

TN929.5

A

10.11959/j.issn.1000−0801.2018234

张静（1993−），女，东南大学移动通信国家重点实验室博士生，主要研究方向为5G移动通信物理层关键技术、机器学习等。

金石（1974−），男，东南大学移动通信国家重点实验室教授、博士生导师，主要研究方向为移动通信理论与关键技术、物联网理论与关键技术以及人工智能在无线通信中的应用等。

温朝凯（1976−），男，台湾中山大学通讯工程研究所教授，主要研究方向为无线通信、最优化理论和机器学习等。

高飞飞（1980−），男，清华大学自动化系信息处理研究所副教授，主要研究方向为通信信号处理、大规模多天线技术以及智能通信。

江涛（1970−），男，华中科技大学武汉光电国家研究中心教授、博士生导师，主要研究方向为5G移动通信理论与关键技术、天地一体化信息网络、深海目标探测等。

2018−07−01；

2018−08−09

国家自然科学基金杰出青年科学基金资助项目（No.61625106）；国家自然科学基金资助项目（No.61531011）

NSFC for Distinguished Young Scholars of China (No.61625106), The National Natural Science Foundation of China (No.61531011)