双向中继系统用户联合预编码与检测算法研究

王 林 芮国胜 张海波

1 引言

中继协同通信技术由于其潜在的高速率、大容量、抗衰落、覆盖范围广等优势受到广泛关注，目前已成为重要的研究热点[13]-。为了弥补单向中继在半双工通信模式下，提高边缘用户性能的同时，浪费时隙资源造成频谱效率的损失，Rankov等人[4]提出了放大转发（Amplify-and-Forward, AF）和解码转发（Decode-and-Forward, DF）协议下的双向中继机制，双向中继的两个用户节点可以同时向中继节点发射信号，两个时隙资源之内即可完成一次信息交互，有效地提高了系统的频谱效率[5]，并且用户总速率也比单向中继系统更高。

当双向中继协同通信系统中的节点安装了多根天线时，中继协同技术就可以和MIMO系统常用的预编码及检测技术结合起来[6]。中继协同系统中的空间自由度就可以用来提高链路可靠性，并且在已知信道状态信息（CSI）的情况下，能够通过预编码操作提升系统的整体性能。文献[7]针对单向中继系统总结了放大转发模式下系统的优化算法和预编码设计方法。文献[8]针对存在直连链路的单向中继系统，给出了基于最小均方误差的预编码矩阵的闭式解，并对中断性能进行了研究。而对于多天线双向中继系统来说，信号处理比较复杂，现有针对双向中继协同通信的预编码设计大都基于线性预编码方式，如文献[9]针对双向系统在延时和有限反馈的信道信息情况下的中继预编码矩阵进行分析，文献[10]利用迭代方式将用户预编码与中继预编码相结合，得到联合预编码矩阵。然而在无线通信系统中，上述方案采用的线性预编码方法原理简单、复杂度低，但也存在着容量较低，很难实现系统大容量高速率。而非线性预编码在容量及误码率方面则具有较大优势，特别是其中被广泛应用的模代数预编码（Tomlinson-Harashima Precoding, THP）相比原始的脏纸编码复杂度大大降低，易于工程实现[11]。但是THP算法在处理实际的信道矩阵时，由于信道正交性不好，性能会受到较大的影响。针对此问题，根据双向多天线中继协同通信系统特点，本文提出了一种基于部分信道信息的用户联合预编码与检测算法，利用在 MIMO信号检测上常用的格规约技术[12]（Lattice Reduction, LR）对实际信道矩阵进行正交处理，将预编码算法应用于用户节点发射信号的多址阶段，并利用 LR预处理后的矩阵，将检测算法应用于用户节点接收信号的广播阶段，在系统复杂度增加不大、中继节点复杂度较低的情况下，使系统误比特率得到大幅降低。

2 系统模型

2.1 双向中继协同通信系统

考虑如图1所示的多天线双向中继协同通信系统传输模型，3个节点单元均配置多天线且工作在半双工模式。两个用户节点A与B通过中继节点R互相交换信息，并假设两用户节点间没有直达链路，中继节点转发为AF模式。两个用户节点A与B装备天线数为N，中继节点R的天线数为M，并且为保证用户间可以传输 N 条数据流信息[10]，则可得（M ≥N≥2）。根据信道的互易性，从节点A到中继节点 R的信道增益矩阵为H，而从中继节点 R到节点A的信道增益矩阵为 HT；从节点B到中继节点R的信道增益矩阵为G，而从中继节点R到节点 B的信道增益矩阵为 GT；所有信道均为独立同分布的慢衰落的Rayleigh信道。所有节点仅已知其相邻信道的增益矩阵，即节点 A已知H，节点 B已知G，中继节点R已知其前后信道的信道增益H与G。

整个传输过程分两个时隙完成，在第1个时隙内（多址阶段），两用户节点A与B同时将各自信息xA与 xB发往中继节点R，此时中继节点R接收到的信号为

图1 多天线双向中继系统传输模型

其中，H, G ∈ ℂM×N为信道矩阵， Fm代表用户节点m的预编码矩阵，=[,… ,]T为用户节点m的发射信号，上述表达式中 m ∈{A, B}。zR表示零均值方差为的加性复高斯白噪声。用户m的最大发射功率限定为Pm，将每个数据流信息进行归一化，即矩阵协方差满足：

因此，两用户节点的功率限制可写为

中继节点接收到信号Ry后，通过求模运算和放大后，可以得到新的信号：

式中，α为放大因子，由于中继节点R的最大发送功率限制为PR，所以α的值有如下限制：

在第2个时隙内（广播阶段），中继节点将xR广播到两个用户节点，两用户节点接收到的信号分别为

式（6）的信号传输可以看做点到点的 MIMO 信道，所以可以用现有的检测算法对其进行检测。在用户节点A和B处，可分别应用复杂度较低的迫零（Zero Forcing, ZF）检测算法，则可得均衡滤波器矩阵为ℂn×m，进一步可以得到

由于用户节点A和B已知各自的发送的信息，可以根据自干扰消除的原理，得到对方发送的有用信息为

2.2 复数域格归约

格规约算法的实质就是通过变换得到新的信道增益矩阵，相对于原始信道增益矩阵H和G，新矩阵的正交性更好，向量长度更短[13]。在n维复空间Cn中定义秩为m的复数值的格[12]。

目前，LLL 规约算法与其他的格规约算法相比，在相同性能下，以加法和乘法次数为参考标准的算法复杂度最低，因此在MIMO系统中得到了广泛的应用[14]。复数域的LLL算法简称CLLL算法，相比于实数域的LLL算法，其算法的计算复杂度可以降低50%以上[15]。所以，本文采用文献[12]给出的基于QR分解的CLLL算法对双向的信道增益矩阵进行预处理。

3 预编码和检测设计

3.1 LR-THP预编码

本节对两用户节点A与B的相邻信道增益矩阵设计预编码矩阵AF和BF。如前文所述，THP预编码在MIMO系统中得到了广泛应用，传统的THP预编码结构如图2所示。

图2中，F为发送端的前向反馈预编码矩阵，由于F是酉矩阵，因此不会改变a~的功率。B-I是一个对角元素为1的下三角矩阵，用来消除因果干扰。在发射端，调制信号a经过B-I以及求模运算，产生编码后的符号a~，然后经过加权矩阵U和预编码矩阵 F，以消除信道影响。接收端只需再经过一次的求模运算就可以恢复出原始的信号。

对于THP预编码矩阵的求解有多种方法，以常用的QR分解为例，结合ZF准则对信道增益矩阵H进行处理。

式（10）中S为下三角矩阵，图2中的加权矩阵U可表示为

这里 skk是S对角线中的元素， k =1,2,… ,K，并且 K =min（Nt, Nr）。基于QR分解和ZF准则下的THP预编码算法可总结为

图2 传统THP算法结构图

式中Q为Nt×K阶矩阵，并且有QQH=I,R为具有对角线元素为{rii}的K×K阶上三角矩阵。

根据格规约理论，LR算法对信道增益矩阵进行预处理，使其正交性更好，向量长度更短。对双向中继协同通信系统的信道增益矩阵进行转置，并应用CLLL算法，可以得到处理后的新矩阵：

式中Tm,m ∈ { A, B}为复数单模矩阵，且 Tm的行列式的值为1或±j。对式（13）左右两边同时转置则可进一步写为

式中，Qm是一个N×M阶的列正交矩阵，Rm为M×M阶的上三角矩阵，其对角线上元素为复数{}。根据THP预编码算法的结构，可以得到双向中继系统的预编码矩阵。

式中mB 为后置滤波器反馈矩阵，相当于图 2中的B-I,mF 为预编码矩阵，相当于图2中的F。mU 为对角阵，其值为mR 对角线元素的倒数，即

在中继节点R处，接收到两个用户的混合信号，只需要一步求模运算，便可以得到接收信号。

3.2 LR-ZF检测

由式（4）可知，中继节点 R接收到信号Ry 后，通过求模和放大后，可以得到新的信号Rx。中继节点R广播Rx到两用户节点，这相当于一个多用户的MIMO信道。用户节点的检测算法较多，基于最大似然准则（Maximum Likelihood, ML）的检测算法是误比特率意义上的最优算法，但是其复杂度很高，并随着调制阶数和发射天线的增加，呈指数形式增长，在实际通信中很难实现[16]。ZF检测器的算法复杂度较低，但是引入了其他层噪声干扰，无法获得全分集增益最终影响了检测性能。所以实用的检测算法需要在算法复杂度和检测性能间找到合理的平衡。所以双向中继系统的用户节点需采用LR-ZF检测算法。该检测算法由于经过 LR算法对矩阵进行预处理，增强了矩阵列向量的正交性，减小了其它层的干扰，检测性能大大提高。并且由于在预编码中已经对矩阵进行了 LR处理，所以其复杂度相比传统ZF算法增加很小。

由式（13）可知，信道增益矩阵的转置 HT和GT经过CLLL算法预处理后的矩阵分别为和，式（7）中的指零矩阵WA和WB可以表示为

然后通过式（19）可以得到信号矩阵RAS 和RBS ，这里的信号矩阵是中继发送的信号通过处理后的信道增益矩阵得到的。

此时信号矩阵 SRA和 SRB相对于式（7）中的 xˆRA和发生了变换，所以需要通过式（20）的变换关系，得到原始的信号。

从式（20）得出RAxˆ 和RBxˆ 后，用户节点 A 和 B 可以根据已知信息，通过式（8）中的自干扰消除得到对方发送的信息。

3.3 算法总结

综上所述，双向中继协同通信系统的用户联合预编码与检测算法的原理，可以表示为图3所示结构框图。

在图3中，Rz为加性噪声，Mod模块代表求模运算，用来降低峰值或者平均功率，这是一个非线性的过程。结合框图及以上两节对预编码与检测算法的描述，现将算法步骤归纳如下：

步骤 1 首先通过CLLL算法对信道增益矩阵进行预处理，如式（13）所示，得到处理后的信道增益矩阵和。

步骤3 两节点用户的发送信息 xA与 xB，通过图3所示流程图发往中继节点R，中继节点接收到信号 yR后，如式（4）所示通过求模运算和放大后，可以得到新的信号 xR。

步骤4 通过式（18）计算得到 LR-ZF检测算法的指零矩阵 WA和WB。

步骤5 根据式（19），式（20），两用户节点可进一步得到 xˆRA和 xˆRB，通过式（8）中自干扰消除的方法，就可得到对方发送的信息。

4 复杂度分析

第 3节中提出的算法是在复数域下进行讨论的，因此计算复杂度以所需的复数加法和复数乘法次数之和为依据。

3.3 节中步骤1中式（13）的计算复杂度取决于用CLLL算法所需复数运算次数。CLLL算法运算次数并不是一个定值，文献[15]给出了CLLL算法的复杂度只是所需复数加乘运算次数的一个“上界”。则式（13）的计算复杂度可表示为

需要指出式（21）给出的理论值远大于实际所需的复数计算次数。只有当信道矩阵的条件数很大时，理论计算值才与算法实际复数计算次数相近。

步骤2中QR分解所需要的复杂度[17]为

步骤3中的求模和放大运算需要的计算复杂度很小，并且传统的THP预编码算法都存在，本文不对其进行讨论。

步骤4中计算式（18）中的指零矩阵AW 和BW 需要的复数加法次数为

图3 双向中继协同通信系统的LR-THP结构图

需要的复数乘法次数为

所以，步骤4所需要的复数加乘和为

步骤5中对式（19）的计算，需要2MN次复数乘法运算以及 2 M （ N - 1 ）次复数加法运算。式（20）需要2N2次复数乘法运算以及 2 N （ N - 1 ）次复数加法运算。式（8）需要2MN复数加法运算。所以步骤 5需要复杂度为

综合以上部分的复杂度相加，就是本文所提联合预编码和检测算法的计算复杂度。可得算法复杂度

从式（27）中可以看出，本文的算法复杂度为3N数量级，对比传统的THP预编码算法，以及ZF检测算法可知，本文算法复杂度并没有数量级上的增加，主要是中继节点两侧信道各一次的CLLL算法部分的增加了复杂度，对于当前的硬件计算能力，是可以接受的。

5 仿真结果与性能分析

为了说明本文算法的优越性，采用Matlab数值仿真的方式，对其的误比特率（Bit Error Rate, BER）性能进行验证。首先给出了本文LR-THP预编码算法与以下3种情况的误比特率性能曲线对比：传统的MMSE准则下的THP预编码算法，以THP表示；格规约辅助的ZF预编码算法，即LR-ZF预编码算法；未进行预编码操作的 AF双向中继协同通信，以AF表示。然后给出了本文检测算法与传统的ZF准则和MMSE准则下检测算法误比特率性能的对比。

设置仿真实验场景为典型的多天线双向中继系统传输模型，假设所有节点都有 4根天线，即M = N = 4 ，并且3个节点的发射功率相同。所有信道是独立同分布平坦衰落的复高斯随机信道，并且在各节点可以获得相邻信道的完整信道状态信息。调制方式采用正交幅度调制，分别以4QAM和16QAM为例。

为了便于公平比较所有的预编码算法，在两用户节点都采用了本文提出的检测算法在接收端计算误码率。在4QAM调制方式的双向中继系统下，各预编码算法的性能曲线如图4所示，从图4中可以看出，LR-THP算法的误码率性能明显优于其他 3种算法，当误码率为 1 0-3时，相比于传统的THP算法，LR-THP算法所需的信噪比降低了9 dB；当误码率为 1 0-4时，相比于LR-ZF算法，LR-THP算法所需的信噪比降低了2 dB。并且从图4中还可以看出，传统的THP预编码算法的误码率性能比LR-ZF算法还要差，这说明了格规约算法使信道增益矩阵列向量更短，正交性更好，能够大幅度提高系统的误码率性能。

图5给出了16QAM调制方式下各预编码算法的性能曲线，从图 5中依然可以得出，本文的ZF-THP算法在图中所有4种方案中误码率性能最好。对于16QAM调制方式的双向中继系统，当误码率为 1 0-3时，相比于传统的THP算法，LR-THP算法所需的信噪比降低了8 dB；当误码率为 1 0-4时，相比于LR-ZF预编码算法，LR-THP算法所需的信噪比降低了1.5 dB。除此以外，从图4和图5中还可以看出，AF方案与其他预编码方案相比，误比特率性能最差，这是由于没有使用预编码方案使得在中继节点R处接收信噪比较低，并且在中继节点处对噪声进行了放大。LR-THP算法的性能最好是由于结合了THP算法与格规约算法的优点。

为检验本文中 LR-ZF检测算法的误比特率性能，给出了4QAM和16QAM调制方式下的双向中继协同通信系统下传统线性ZF、线性MMSE检测算法性能。并且为方便比较，3种检测算法均以AF方式转发，并采用了LR-THP预编码算法。仿真结果如图6所示，LR-ZF检测算法的误比特率性能在图中3种检测算法中性能最优。在Eb/N0为15 dB时，4QAM和16QAM调制方式下，相比于ZF检测算法和 MMSE检测算法，LR-ZF检测算法的误码率降低了两个数量级。并且在双向中继系统中本文的LR-ZF检测算法仿真时间低于MMSE检测算法，与 ZF检测算法的仿真时间相当，这是由于在THP预编码算法中，已经完成了对矩阵的预处理，降低了LR-ZF检测算法的复杂度。

6 结论

本文针对多天线的双向中继协同通信系统，提出了一种用户联合预编码与检测算法。算法利用格规约理论改善信道增益矩阵的正交性，在两用户节点上利用 LR-THP算法对发送信号进行预编码处理，中继节点仅需要对接收到的信号进行求模运算和放大转发，两用户节点接收到中继转发的信号后，利用LR-ZF算法对接收信号进行检测。相比于传统的预编码和检测算法，能够大幅提高误比特率性能。并且计算复杂度仅增加了对信道增益矩阵一次复数域格规约计算的过程，复杂度增加较小，具有一定的工程实用价值。

图4 4QAM下预编码的误比特率性能比较

图5 16QAM下预编码的误比特率性能比较

图6 检测算法的误比特率性能比较

[1] Jianhua M, Meixia T, and Yuan L. Secure beamforming for MIMO two-way communications with an untrusted relay[J].IEEE Transactions on Signal Processing, 2014, 62（9）:2185-2199.

[2] 吉晓东, 郑宝玉, 崔景伍. 不对称双向中继信道中的再生双向中继选择及功率分配[J]. 电子与信息学报, 2013, 35（7）:1707-1712.Ji Xiao-dong, Zheng Bao-yu, and Cui Jing-wu. Opportunistic relaying and power allocation for bidirectional regenerative relaying in asymmetric two-way relay channels[J]. Journal of Electronics & Information Technology, 2013, 35（7）:1707-1712.

[3] 芮国胜, 王林, 张洋, 等. 分布式双向中继选择算法及用户功率分配[J]. 通信学报, 2014, 35（5）: 1-7.Rui G S, Wang L, Zhang Y, et al.. Distributed two-way relay selection scheme and users power allocation[J]. Journal on Communications, 2014, 35（5）: 1-7.

[4] Rankov B and Wittneben A. Spectral efficient protocols for halfduplex fading relay channels[J]. IEEE Journal on Selected Areas in Communications, 2007, 25（2）: 379-389.

[5] Wooseok N, Chung Sae-young, and Lee Y H. Capacity bounds for two-way relay channels[C]. IEEE International Zurich Seminar on Digital Object Identifier. Zurich,Switzerland, 2008: 144-147.

[6] 赵睿, 傅友华, 李春国, 等. 多天线双向中继系统中的中继处理与资源分配策略[J]. 电子与信息学报, 2010, 32（4）: 763-769.Zhao Rui, Fu You-hua, Li Chun-guo, et al.. Relay processing and resource allocation strategies for multi-antenna two-way relay system[J]. Journal of Electronics & Information Technology, 2010, 32（4）: 763-769.

[7] Sanguinetti L, D'Amico A A, and Rong Y. A tutorial on the optimization of amplify-and-forward MIMO relay systems[J].IEEE Journal on Selected Areas in Communications, 2012,30（8）: 1331-1346.

[8] Song C, Lee K-J, and Lee I. MMSE-based MIMO cooperative relaying systems: closed-form designs and outage behavior[J]. IEEE Journal on Selected Areas in Communications, 2012, 30（8）: 1390-1401.

[9] Wang J, Wang Y, Gui X, et al.. Robust relay precoding design for two way relay systems with delayed and limited feedback[J]. IEEE Communications Letters, 2013, 17（3）:689-692.

[10] Wang R and Tao M. Joint source and relay precoding designs for MIMO two-way relaying based on MSE criterion[J]. IEEE Transactions on Signal Processing, 2012, 6（3）: 1352-1365.

[11] Kossel M, Toifl T, and Francese P A. A 10 Gb/s 8-Tap 6b 2-PAM/4-PAM Tomlinson-Harashima precoding transmitter for future memory-link applications in 22-nm SOI CMOS[J].IEEE Journal of Solid-State Circuits, 2013, 48（12）:3268-3284.

[12] Wübben D, Seethaler D, and Jaldén J. Lattice reduction[J].IEEE Signal Processing Magazine, 2011, 50（5）: 70-91.

[13] Agrell E, Eriksson T, Vardy A, et al.. Closest point search in lattices[J]. IEEE Transactions on Information Theory, 2002,48（8）: 2201-2214.

[14] Senning C, Bruderer L, and Hunziker J. A lattice reductionaided MIMO channel equalizer in 90 nm CMOS achieving 720 Mb/s[J]. IEEE Transactions on Circuits and Systems I:Regular Papers, 2014, 61（6）: 1860-1871.

[15] Hung Ganying, Ling Cong, and Ho Mowwai. Complex lattice reduction algorithm for low-complexity full-diversity MIMO detection[J]. IEEE Transactions on Signal Processing, 2009,57（7）: 2701-2710.

[16] Yang Shao-hua and Qin Da-hua. Improved maximum likelihood sync mark detection for magnetic recording channels[J]. IEEE Transactions on Magnetics, 2013, 49（7）:3691-3694.

[17] Liu F, Jiang L, and He C. Advanced joint transceiver design for block diagonal geometric mean decomposition based multiuser MIMO systems[J]. IEEE Transactions on Vehicular Technology, 2010, 59（2）: 692-703.