大规模MIMO下具有反馈的低复杂度检测算法

李小文，黄 菲，易 润

(重庆邮电大学 移动通信重庆市重点实验室，重庆 400065)

大规模MIMO下具有反馈的低复杂度检测算法

李小文，黄 菲，易 润

(重庆邮电大学 移动通信重庆市重点实验室，重庆 400065)

针对大规模MIMO系统，信号检测算法的复杂度往往呈指数级增长的问题，通过对传统的QRD-M检测算法和树搜索的深度研究，对其进行改进，得出一种具有反馈的低复杂度检测算法，该算法主要运用分支的权重和分支间的反馈对树进行修剪，然后运用树搜索的原理进行搜索输出。仿真结果表明，该改进算法以降低较少系统性能的代价，能够极大地降低计算复杂度，是一种折衷的高效检测算法，完全能运用于大规模MIMO系统中。

大规模MIMO；信号检测；反馈；低复杂度

信号检测算法的性能好坏及其复杂度高低直接影响着整个通信系统的质量和发展前景。具有优异检测性能的信号检测算法往往伴随着较高的复杂度，复杂度过高的算法其实常常受限于当前硬件的处理能力，尤其是在大规模 MIMO系统中，算法的复杂度往往呈现指数级的增长，而复杂度低的信号检测算法却往往伴随着信号检测性能的低效。因此研究既拥有最优的信号检测性能且复杂度适中的信号检测算法是系统实现的关键。

目前已提出的检测算法主要有3类：最优检测算法、线性检测算法、非线性检测算法。在已有的算法中，ML(最大似然)算法是检测性能最优的算法[1-2]，其本质是遍历了所有可能发送信号符号的星座点，以距离接收信号最近的星座点作为发送信号。正因如此，其计算复杂度随调制阶数和发送天线数的增加而呈指数增长，这使得其无法应用在大规模MIMO中，于是各种降低复杂度并保证性能不过分损失的信号检测算法被提出。ZF检测算法[3]，算法简单，但由于ZF算法没有考虑噪声的影响使得该算法的性能不是很理想，与最优检测算法的性能差距很大，且其在求滤波矩阵的过程中都会涉及到矩阵求逆，具有很高的计算复杂度，在对实时性要求较高的系统中需要较高的硬件支持才能满足系统要求。QR分解算法[4]可以消除对矩阵的求逆过程，可以降低计算复杂度，但是QR分解算法与ZF检测算法一样，没有考虑噪声对接收信号的影响，使得该算法的性能不是很理想。于是性能较好的传统的QRD-M算法[4-5]和球形译码(Spere Decoding， SD)算法[6-8]被提出，但由于此两种算法对树的分支搜索次数比较多(具体见本文第4节的仿真性能分析)，所以如果在大规模MIMO系统下，这两种算法的复杂度比较高，不易实现。

针对以上问题，本文对传统的QRD-M算法和树搜索算法[9-10]进行研究并改进，得出一种具有反馈的低复杂度检测算法，该算法首先用考虑噪声影响的QR检测算法和经典的M算法算出每一层的分支，然后通过反馈修剪的方式，对每一层的分支进行修剪，最后用树搜索的原理检测出软信息。仿真结果表明，该算法在不过分降低系统性能的前提下，能够极大地降低复杂度，是一种折中的高效检测算法，完全能运用于大规模MIMO系统中。

1 系统模型

图1展示一个MIMO系统模型，发送端有NT根天线，接收端有NR根天线(NR≥NT)。编码后的比特流映射到NT维的传输符号矢量s∈ONT，O表示发送信号星座点向量空间。经过平坦瑞利衰落的高斯白噪声信道后，MIMO系统接收端信号可表示为

y=Hs+n

(1)

式中：采用复数信号模型，y=[y1,y2,…,yNR]T是接收天线端的信号向量；s=[s1,s2,…,sNT]T是发射天线端的发射信号；H为信道传输矩阵且满足高斯分布；n的各项独立同分布且满足均值为零，方差为σ2的高斯分布。

图1 MIMO系统模型

2 Max-Log 软输出计算

软输出MIMO检测需要计算每个编码比特的LLR。为了降低相关的计算复杂度，本文采用Max-Log近似为[9-10]

(2)

(3)

式(2)中另外一个最小值，可表示为

(4)

结合(3)和(4)可知，Max-Log LLR可以写为

(5)

3 反馈的低复杂度检测算法

信号检测算法的性能好坏及其复杂度高低直接影响着整个通信系统的质量和发展前景。介绍了一种具有反馈的低复杂度检测算法，此算法是在QRD-M和树搜索上改进的检测算法。

3.1 传统的QRD-M检测算法

由于此算法是在QRD-M与树搜索上改进的，所以先介绍传统的QRD-M算法，QRD-M算法首先运用QR分解检测出符号向量，然后从NT层开始，用检测出的符号向量与星座点上的符号集求欧式距离，选择累计分支度量最小的M个分支，并保留其节点和度量值。对于NT-1层而言，在NT层基础下，选择累计分支度量最小的[NT-(NT-1)+1]M个分支，并保留其节点和度量值，对于其余1≤i

图2 传统QRD-M检测过程的树形结构图

3.2 改进的具有反馈的低复杂度检测算法

显然传统的QRD-M检测算法的复杂度较高，所以不适合用做天线很多的检测算法。因此本文提出一种基于反馈的低复杂度检测算法，此算法可以显著降低传统QRD-M检测算法的复杂度，且性能也无过分下降。此算法分为以下4步。

1)为了获得更好的性能，首先对信道矩阵H进行3种考虑噪声的QR检测算法；将接收信号向量Y经过简单QR分解算法[4]过程得到

(6)

式(6)可以看作空间复用的信号模型，对式(6)进行MMSE信道估计，可以得到滤波矩阵为

(7)

(8)

然后对式(8)做与简单QR分解算法相同的反向迭代上三角方程组求解等过程。

改进型QR分解算法虽然没有消除误码传播特性，但是考虑了噪声影响，相比简单的QR分解并没有增加多少计算复杂度，具有更好的抗噪声性能。

2)从传输符号矢量s中最后一个元素sNT开始，运用式(9)，从所有的星座点值中选取M个最小的值作为NT层的分支

(9)

3)由式(10)计算i=NT-1:-2:2层的每个扩展分支的权值，并对每个扩展分支都选取M个最小的值作为该层的分支，显然该层的分支有M2个

(10)

对于i-1层而言，和i层的扩展分支计算方法一样，显然i-1层的分支会有M3个，然后将M3个分支的权值di,k按照从小到大的次序重排，只保留M个分支，并反馈到第i层，对第i层的分支重新修剪。

以QPSK调制方式为例，当M=2时，反馈的低复杂度检测算法过程如图3所示。其中，在每级检测过程中，需要计算的分支采用实线表示，被保留的分支采用粗实线表示，被舍弃的分支采用虚线表示。

图3 具有反馈的低复杂度检测算法过程的树形结构图

4 仿真性能分析

具有反馈的低复杂度检测算法是在QRD-M和树搜索上改进的检测算法。为了更好地说明此算法能够极大地降低复杂度，是一种折中的高效检测算法，仿真参数如表1所示。在仿真图中，本文提出的改进算法用Prop-M表示，传统的算法用Trad表示。

表1 仿真参数

从图4中可以看出ZF算法和传统的QR算法性能基本一致，改进的QR算法性能较前两种有一定的提升，而另外3种算法的性能明显优于此3种算法的性能，所以另外3种算法的性能完全能满足实际中的应用。此外，由图4还可得出，本文提出的改进的Prop-M算法的性能非常接近传统的QRD-M算法，另外随着信噪比的增加，其性能越来越优于MMSE算法，所以本文提出的算法能满足实际应用中性能的要求。

图4 8发8收天线、QPSK调制方式下各种检测算法的BER性能

图5主要比较了本文提出的具有反馈的低复杂度检测算法和传统的检测算法的性能，为了更明显地对比不同M对检测算法的影响，在仿真中，选取了较小的M为4、一般的M为8和较大的M为14三种典型的情况。从图中很明显得出，随着M的增加，性能也不断增加，但同时算法复杂度也会增加，所以M的选取非常灵活也非常重要。图5中，M为4时，本文提出的算法与传统算法的性能都相对较低，另外Prop-M(8)，Trad-QRD-M(8)，Prop-M(14)，Trad-QRD-M(14)的性能在信噪比越高时，误比特率趋于稳定，且Prop-M(8)与Prop-M(14)的性能越来越接近，再由表2中算法复杂度而言，在4发4收、16QAM调制请况下，选取Prop-M(8)最合适。

本文运用搜索分支数来衡量本文提出的具有反馈的低复杂度检测算法和传统的QRD-M检测算法的复杂度，为了表明本文提出的检测算法比传统的检测算法复杂度显著降低，表2给出了M分别为4，8，14三种情况下的对比。

图5 4发4收天线、16QAM调制方式下检测算法的BER性能

表2 4发4收、16QAM调制方式下不同M的算法复杂度

从表2中可以看出，本文提议的算法相比传统算法的复杂度有显著下降，并且随着M的不断增加，算法复杂度下降的幅度越快。因此，本文提出的具有反馈的低复杂检测算法能满足实际应用。

5 结束语

大规模 MIMO系统下，信号检测算法的复杂度往往呈现指数级增长，而复杂度低的信号检测算法却往往伴随着信号检测性能的低效，因此研究既拥有最优的信号检测性能且复杂度适中的信号检测算法是系统实现的关键。本文通过对传统的QRD-M检测算法和树搜索的深度研究，对其进行改进，得出一种具有反馈的低复杂度的检测算法。仿真结果表明，该算法能够灵活地实现复杂度与性能的折中，完全能运用于大规模MIMO系统中。

[1]KIM M，KIM J. Applications of SDR exact-ML criterion to tree-searching detection for MIMO systems[C]. 2014 8thInternational Conference on Signal Processing and Communication Systems (ICSPCS).[S.l.]：IEEE，2014：1-7.

[2]LI L X，YANG B，WU D P. Low-complexity yet high-performance adapti- ve detection algorithm for MIMO systems[J].Computer engineering and applications，2015，51(3)：98-102.

[3]YUAN D D. A low complexity algorithm of sphere decoding in LTE system[J]. Communications technology，2015，48(2)：487.

[4]CHIN W H. QRD based tree search data detection for MIMO communication systems[C]//Proc. IEEE Vehicular Technology Conference. [S.l.]：IEEE， 2005(3)：1624-

1627.

[5]KIM K J，YUE J，ILTIS R A，et al. A QRD-M/Kalman filter-based detection and channel estimation algorithm for MIMO-OFDM systems[J]. IEEE transations wireless communication，2005，4(2)：710-721.

[6]LI S P，WANG L，CHEN F C. Ordered sphere decoding detection algorithm for MIMO systems[C]// The Proceedings of 2012 CCDC.[S.l.]：IEEE，2012：3322-3325.

[7]MRINALEE S，GARG H P，MATHUR G，et al. Improved radius selection in sphere decoder for MIMO system[C]//2014 International Conference on Computing for Sustainable Global Development.[S.l.]：IEEE，2014：161-165.

[8]FU W H，ZHAO C B. Improved sphere decoding algorithm in TD-LTE system[C]// 2011 IEEE 3rdInternational Conference on Communication Software and Networks(ICCSN). [S.l.]：IEEE，2011：514-517.

[9]STUDER C，WENK M，BURG A. Soft-output sphere decoding performance and implementation aspects[C]//Fortieth Asilomar Conference on Signals，Systems and Computers. Pacific Grove，CA：IEEE Signal Processing Society，2006：2071-2076.

[10]WANG R，GIANNAKIS G.Approaching MIMO channel capacity with reduced-complexity soft sphere decoding[C]//Proc. IEEE Wireless Communication and Networking Conf.(WCNC). [S.l.]：IEEE，2004(3)：1620-1625.

李小文(1955— )，硕士生导师，教授，研究员，主要研究方向为移动通信、TD-LTE-A系统开发；

黄 菲(1991— )，硕士生，主研TD-LTE-A物理层算法和DSP软件开发；

易 润(1993— )，硕士生，主研TD-LTE-A物理层算法和FPGA实现。

责任编辑：许 盈

Low complexity detection algorithm with feedback in massive MIMO

LI Xiaowen, HUANG Fei, YI Run

(ChongqingKeyLabofMobileCommunicationsProtocol,ChongqingUniversityofPostsandTelecommunications,Chongqing400065,China)

For massive MIMO, there is an exponential growth problem on the complexity of the signal detection algorithms. Based on the depth research on the conventional QRD-M detection algorithm and tree search, a low complexity detection algorithm with feedback is proposed in this paper, which mainly uses the branch weights and feedbacks in branchs to trim tree, and then uses the principles of tree search to output the result. Through complexity analysis and numerical simulations, it is proved that the proposed algorithm can greatly reduce the computational complexity and does not excessively degrade system performance. Therefore, the proposed algorithm is a eclectic efficient detection algorithm and can be also entirely used to the massive MIMO.

massive MIMO; signal detection; feedback; low complexity

李小文，黄菲，易润. 大规模MIMO下具有反馈的低复杂度检测算法[J].电视技术，2016，40(11)：54-58. LI X W, HUANG F, YI R. Low complexity detection algorithm with feedback in massive MIMO[J].Video engineering，2016，40(11)：54-58.

TN915

A

10.16280/j.videoe.2016.11.012

重庆市教委科学技术研究项目(KJ1500428)

2016-04-13