一种用于大规模MIMO的改进信号检测算法

杨 奕

（重庆金美通信有限责任公司，重庆400030）

一种用于大规模MIMO的改进信号检测算法

杨 奕

（重庆金美通信有限责任公司，重庆400030）

针对大规模MIMO系统信号检测在高阶调制模式性能较差的问题，论文提出了一种基于等效信道维度自适应变化的改进分层RTS算法。该算法在分层RTS算法基础上，根据等效信道矩阵维度变化自适应的改变最大搜索步数。在等效信道矩阵维度较小时，用较小的最大搜索步数避免迂回搜索；在等效信道矩阵维度较大时，用较大的最大搜索步数让搜索的范围更广，增强搜索能力，提高检测性能。仿真结果表明，算法在低复杂度的情况下提高了信号检测能力，提升了系统的可靠性。

多输出多输入系统；信号检测；主动禁忌搜索；误码率性能；等效信道；高阶调制

1 引言

大规模MIMO[1]在基站侧使用天线阵列对多个移动终端提供数据传输服务，能够极大的提高系统容量、频谱效率和能量效率[2]，因此成为5G的核心技术之一[3]。另一方面，无线通信中存在各种干扰，为增强大规模MIMO系统通信可靠性，需要低复杂度、高性能的信号检测算法对接收信号进行处理。目前大规模MIMO检测算法主要有似然上升搜索（Ascending search）算法、禁忌搜索（taboo search）算法和马尔科夫链-蒙特卡罗（Markov chain Monte-Carlo,MCMC）算法。其中LAS方案[4-5]复杂度较低但易陷入局部极小，文献[6-8]解决了这一问题，提高了LAS算法在4-QAM调制方式下的性能。但由于改善有限，在高阶调制下性能很差。MCMC方案在高信噪比时检测性能不稳定。而禁忌搜索[9]通过对搜索过程加入禁忌元素，突破了局部极小的限制，同时在高信噪比时检测性能稳定。其中主动禁忌算法[10-11]根据解重复周期主动的改变禁忌表中元素的周期，在4QAM的时候性能接近最佳，然而在高阶调制的时候性能较差。分层禁忌算法[12]和重新检测R3TS算法[13]都提高了高阶调制的算法性能，但是由于都没有考虑信道矩阵维度的变化，使信号检测性能的提升非常有限。为进一步提高高阶调制模式信号检测能力，本文提出一种基于等效信道矩阵维度的分层RTS算法。

图1 大规模MIMO系统结构图

2 大规模MIMO系统模型

考虑的大规模MIMO系统包含有Nt用户和一个基站。每个用户有一根发送天线，基站有Nr根接收天线[14]，其中Nr≥Nt。发送端发送的复信号向量为Xc∈CNt×1，接收复信号向量为 Yc∈CNr×1，信道增益矩阵为Hc∈CNr×Nt)，hp,q代表第q用户到基站第p根天线的复数信道增益，Hc中的元素服从均值为0，方差为1的复高斯分布，nc为接收信号的噪声向量，且其中元素服从均值为0，方差为σ2=Nt×Es/γ的高斯分布，Es为发送端发送符号的平均能量，γ为接收端的每根天线的平均接收符号信噪比。图1所描述的整个传输过程可用式（1）表示：

为方便讨论，将复MIMO系统转化成与之对应的实MIMO系统。对每个信号进行I、Q分解，Yc，xc，Hc，nc的实部分别为 yI，xI，HI，nI，虚部分别为 yQ，xQ,HQ，nQ，因此有如下关系：

式（2）可化简为实数结构式（3）：

其中 H∈R2Nr×2Nt，y∈R2Nr×1，x∈R2Nt×1，n∈R2Nr×1。

若发端的调制阶数为M，则检测同一个时刻的信号需要遍历MNt次，最大似然检测的复杂度随Nt呈指数型增长，实际应用中难以实现。

3 大规模MIMO信号检测算法

3.1 RTS算法

禁忌搜索[9]是一种亚启发式搜索算法，在处理大规模复杂组合优化问题时呈现出很好的性能，因此被引入到大规模MIMO信号检测中。RTS基本思想是：给定一个初始解为当前最优解，给定一个状态“历史最优”为全局最优解。给定初始解的一个邻域，并在此初始解的邻域中确定若干解作为算法的候选解；利用适配值函数评价这些候选解，选出最佳候选解；若最佳候选解所对应的目标值优于“历史最优”状态，则忽视它的禁忌特性，并且利用这个最佳候选解替代当前解和“历史最优”状态，将相应解加入到禁忌表中，同时修改禁忌表中各个解的周期；若候选解达不到以上条件，则在候选解里面选择非禁忌的最佳状态作为新的当前解，且不管它与当前解的优劣，将相应的解加入到禁忌表中，同时修改禁忌表中各对象的周期；最后，重复上述搜素过程，直到满足停止准则。文献[15]对禁忌搜素当中涉及的适值函数、邻域、禁忌矩阵、停止准则给出了详细的介绍。RTS算法的复杂度会受到初始解、最大迭代次数、禁忌次数及停止准则参数的影响，每个符号检测的平均复杂度为O(NrNt)，与非线性信号检测OSIC的复杂度O(N2rN2t)相比复杂度大大降低。

图2 基于等效信道维度的分层RTS方案流程图

3.2 基于等效信道维度的分层RTS方案

在高阶调制中，随着映射点的增加，对应解向量的个数增大。而在高阶调制高信噪比之下局部极小值增多，如果解向量空间中存在着大量的局部极小值点，并且这些局部极值点周期性的出现，它们会在搜索过程中相互的跳转，会导致周期性的进行搜索从而降低搜索效率。为了改善信号检测在高阶调制模式下的性能，本文提出了基于等效信道维度的分层RTS算法，算法流程图如图2所示，具体步骤如下：

（1）将信道进行QR分解，H=LU，其中L为酉矩阵LLH=E，U为上三角矩阵。由U于为上三角矩阵，因此从2Nt层开始进行检测k=2Nt，此时没有其他层的干扰；

（2）为提高信号检测准确性，进行第k层检测时消除k+1到2Nt层的干扰，得到第k层检测的结果为其中的第k个元素为已检测得到的向量为的第l个元素；

（3）找到符号集A中与rk欧氏距离最短的星座点记为aq；

（5）判断rk与aq相减的绝对值是否大于等于σdmin，如果是，则进入步骤（6），否则，进入步骤（7）；其中为最短的欧式距离，4QAM、16QAM、64QAM的dmin都为2，σ为设置的一个门限，若门限σ设置的越大，则执行步骤（6）的概率越小，算法的性能就越差，反之，则算法的性能越好，但算法的复杂度越高。因此σ需要取一个合适的值，在几种QAM调制模式当中都取σ为0.25。

表1 RTS仿真参数

（7）判断检测层数k是否等于1，即判断是否检测达到最后一层。如果是，则进入步骤（9），否则，进入步骤（8）；

（8）更新检测层k=k-1，执行下一层检测；

4 仿真分析

用MATLAB软件对本文提出的基于等效信道维度的分层RTS方案进行仿真。仿真中采用基于V-BLAST结构的MIMO系统、独立同分布平坦衰落信道、16QAM及64QAM调制方式。收端信道估计为无误差估计方式。

图3、图4分别为16QAM、64QAM调制方式下天线数目32时，不同信号检测算法的误码性能对比。从图中结果看出LTS算法利用QR分解将信道的特性分离出来，减小数据流各层间的干扰，对某些层执行RTS算法，从而在RTS算法的基础之上改善了算法的性能。而R3TS算法从多个随机初值出发执行RTS算法，避免周期性重复搜索，也提高了RTS算法的性能。而本文提出的基于等效信道维度的改进分层RTS算法，在分层RTS的基础之上，根据等效信道维度的变化设置一个自适应变化的最大搜索次数，进一步提高了信号检测能力。

图4 不同信号检测算法误码率性能(64QAM)

图5 不同信号检测算法复杂度(16QAM)

图6 不同信号检测算法复杂度(64QAM)

由于算法执行过程是一个随机搜素的过程，不能定量的计算系统的复杂度。所以采用Matlab中的Lightspeed Matlab工具箱对检测过程中执行的实数浮点运算次数进行统计来表征信号检测的复杂度。图5、图6分别为16QAM、64QAM调制下天线数目等于32时，不同算法所需要的每符号平均实数浮点运算次数。R3TS算法每次重新搜索都是重新从一个新的随机初值出发，没有利用之前搜索的结果，因此在任何信噪比之下，所需要的复杂度都最高。而LTS和本文提出的改进算法复杂度较低，因为它们都采用QR分解将对信道进行分层减少其他层的干扰同时有选择性的对某些层执行RTS算法，从而减少了复杂度。同时信噪比越大，每层进行检测时受到噪声的干扰就越小，检测的正确性就越高，所需执行RTS算法的次数就对应较少了。因此随着信噪比的增大，LTS算法和本文提出的算法所需复杂度越小。在16QAM和64QAM两种高阶调制模式下，本文提出的算法所需复杂度都较小，易于实现。

5 结束语

针对大规模MIMO信号检测算法在高阶调制检测性能较差的问题，本文提出一种基于等效信道维度自适应变化的改进分层RTS算法。该算法在分层RTS算法基础上，利用QR分解分离信道矩阵特性消除其他层的干扰，同时根据等效信道矩阵维度变化自适应的改变最大搜索步数，用较小的最大搜索步数避免迂回搜索，用较大的最大搜索步数让搜索的有效范围更广，提高检测性能。本文算法在低复杂度的情况下提高了信号检测能力，增强了系统的可靠性。下一步研究如何提高存在信道估计误差算法的性能。

[1] Marzetta T L.Noncooperative Cellular Wireless with Unlimited Numbers of Base Station Antennas[J].IEEE Transactions on Wireless Communications,2010，9(11)：3590-3600.

[2] Zhong shan Zhang，Xing Wang，Cheng Yong Wang.Massive MIMO Key technology and Application[J].Chinese Science：information science，2015，45(9)：1095-1110.

[3] Marzetta T L.Massive MIMO：An introduction[J].Bell Labs Technical Journal，2015，20：11-22.

[4] Vardhan K，Mohammed S K，Chockalingam A，et al.A low-complexity detector for large MIMO systems and multicarrier CDMA systems[J].IEEE Journal on Selected Areas in Communications，2008，26(3)：473-485.

[5] Mohammed S K，Chockalingam A，Sundar Rajan B.A Low-complexity near-ML performance achieving algorithm for large MIMO detection [C].Proceedings of IEEE International Symposium on Information Theory.Toronto，ON:IEEE，2008：2012-2016.

[6] Li P，Murch R D.Multiple output selection-LAS algorithm in large MIMO systems[J].Communications Letters，IEEE，2010，14(5):399-401.

[7] Pereira A A A J，Sampaio-Neto R.A Random-List Based LAS Algorithm for Near-Optimal Detection in Large-Scale Uplink Multiuser MIMO Systems [J].Eprint Arxiv，2015：1-5.

[8] Aravindan I，Antony K R，Kumar K A，et al.A performance study of MIMO detectors in the presence of channel estimation errors[C].Proceedings of International Conference on Communication，Information&Computing Technology(ICCICT).Mumbai：IEEE，2015:1-5.

[9] Glover F，Marti R.Tabu Search [J].General Information，1998，106(2):221-225.

[10] Srinidhi N,Mohammed S K,Chockalingam A,et al.Neal-ML Signal Detection in Large-Dimension Linear Vector Channels Using Reactive Tabu Search [J].IEEE Globalcom,2009,19(2):148-156.

[11] Srinidhi N，Mohammed S K，Chockalingam A，et al.Low-Complexity Near-ML Decoding of Large Non-Orthogonal STBCs using Reactive Tabu Search[C].Proceedings of IEEE International Symposium on Information Theory.Seoul:IEEE，2009：1993-1997.

[12] Srinidhi N，Datta T，Chockalingam A，et al.Layered tabu search algorithm for large-MIMO detection and a lower bound on ML performance[J].IEEE Transactions on Communications，2011，59(11)：2955-2963.

[13] Datta T，Srinidhi N，Chockalingam A，et al.Random-Restart Reactive Tabu Search Algorithm for Detection in Large-MIMO Systems[J].IEEE Communications Letters，2010，14(12)：1107-1109.

[14] Dong Ming Wang，Yu Zhang，Hao Wei.Theory and technology of large scale antenna transmission for 5G[J].Chinese Science：information science，2016，46(1)：3-21.

[15] Shu Yin Yang，Hua Zhang.Pattern recognition and Intelligent Computing MATLAB Technology(Third Edition)[M].Beijing：Electronic Industry Press，2015：299-307.

Improved Detection Scheme in Massive MIMO Systems

Yang Yi
（Chongqing Jinmei Communication Co.，Ltd.，Chongqing 400030,China）

This paper presents an improved layered reactive taboo search(RTS)algorithm with adaptability based on the equivalent channel degrees，to tackle the poor performance of conventional detection methods in massive MIMO with high order modulation schemes.Building upon the layered RTS，this algorithm changes the maximum search steps adaptively according to the degree of equivalent channel matrix.With lower degrees of equivalent channel matrix，smaller maximum search steps are chosen to avoid redundant search；while larger maximum search steps are selected in the case of higher degrees of equivalent channel matrix to improve the detection performance.Simulation results show that the proposed algorithm can improve the detection performance and system reliability.

Multiple-input Multiple-output;Signal detection；Reactive taboo search；Bit error rate performance； Equivalent channel； High order modulation

10.3969/j.issn.1002-2279.2017.03.010

TN911.72

A

1002-2279-（2017）03-0042-04

杨奕（1982-），男，重庆人，工程师，硕士研究生，主研方向：无线电通信。

2017-02-22