[发明专利]基于深度神经网络的近似消息传递大规模MIMO信号检测算法

说明书

本发明涉及一种基于深度神经网络的近似消息传递大规模MIMO信号检测算法，属于无线通信技术领域，包括步骤一：简化用于大规模MIMO系统置信传播算法并标量化，得到最初适用于大规模MIMO系统的近似消息传递算法；步骤二：设置训练参数，得到改进的近似消息传递算法；步骤三：将带有训练参数的近似消息传递算法展开成一个用于大规模MIMO系统检测的深度神经网络；步骤四：对所构建的深度神经网络进行离线训练，得到适用于MIMO系统检测的最优近似消息传递深度神经网络，用训练好的神经网络进行在线检测。本发明实现了以较低复杂度，达到了更低的误码率，并且对各种信道、天线配置以及不同的调制方式都具有稳健性。

技术领域

本发明属于无线通信技术领域，涉及一种基于深度神经网络的近似消息传递大规模MIMO信号检测算法。

背景技术

大规模多输入多输出(multiple input multiple output,MIMO)系统在现代通信中具有重要意义。然而，随着用户和基站(Base Station,BS)天线数量的增加和接收信号复杂度的提高，在BS处对信号的有效检测变得越来越困难。因此，如何实现低误码率和低计算复杂度的信号检测成为人们关注的焦点。针对大规模MIMO系统来说，通过判断是否使用深度学习技术，分为传统的检测算法与基于深度学习的检测算法。

在传统的方法中，最大似然算法是最优检测器(Maximum Likelihood,ML)是最优检测器，但是其计算复杂度随着天线数呈指数增长。此外，调制阶数涉及穷举搜索，因此在实际的大规模MIMO系统中部署是不可行的。为了降低复杂度，提出了一种基于格搜索的球面译码算法。虽然它的性能与ML检测器非常接近，但是由于搜索空间不能设置得太小，所以复杂度仍然很高。随后出现了著名的线性最小均方误差(linear minimum mean squareerror，LMMSE)算法，该算法可以实现次优的检测性能。由于高维矩阵的反演和克矩阵的计算，难以应用到实际工程中。为了避免逆矩阵，LMMSE检测器使用了一些经典的迭代方法，如Jacobi算法、Richardson算法、Gauss-Seidel算法和Neumann级数，以降低其复杂度。但是，由于牺牲了检测性能，很多情况下难以满足可靠性要求。

与上述的线性检测器不同，基于消息传递算法的信念传播(Belief Propagation,BP)和迭代检测器具有较好的性能和较低的复杂度。但是，当因子图有一个循环时，它们可能会发散。为了克服这个问题，利用中心极限定理和泰勒级数展开，提出了近似消息传递算法(Approximate Message Passing,AMP)来逼近BP检测器。一方面，它只能在有信号先验信息的情况下达到最优性能，这在实践中是有局限性的。另一方面，当MIMO信道在空间上相关时，可能不收敛。为了方便更一般的信道矩阵的收敛，研究了阻尼和正交AMP算法。然而，在每次迭代中，最优因子的计算都带来了巨大的计算负担，这与低复杂度是相悖的。

近年来，深度学习(Deep Learning,DL)已经成功地应用于许多领域，如计算机视觉，自然语言处理，情感分析。同时，基于DL的通信系统方法开始吸引人们的注意，如将深度学习技术应用于物理层，调制识别，信道估计和信号检测等。在MIMO检测方面，引用深度学习技术，将检测任务看成一个黑盒，通过使用大量数据来训练大量的参数来实现检测过程。但是整个训练的时间和复杂度极高。

发明内容

有鉴于此，本发明的目的在于针对在大规模MIMO系统中信号检测过程复杂度与检测性能难以折中的问题，提供一种将深度学习与传统通信技术结合起来的检测算法，将深度学习技术应用于大规模MIMO系统中，实现了以较低复杂度得到较高检测性能的信号检测结果。

为达到上述目的，本发明提供如下技术方案：

一种基于深度神经网络的近似消息传递大规模MIMO信号检测算法，包括以下步骤：

步骤一：简化用于大规模MIMO系统置信传播算法并标量化，得到最初适用于大规模MIMO系统的近似消息传递算法；