[发明专利]毫米波大规模MIMO系统中基于DenseNet的混合预编码方法

说明书

本发明涉及一种毫米波大规模MIMO系统中基于DenseNet的混合预编码方法，属于无线通信技术领域。该方法包括线下训练阶段和线上阶段，其中线下训练阶段：首先，对信道矩阵H进行奇异值分解，得到与H对应的最优无约束混合预编码F_opt；其次，构建DenseNet神经网络，以最小化最优无约束混合预编码F_opt与模拟预编码F_RF和数字预编码F_BB之积F_RFF_BB之差的F范数为目标，利用SGD对DenseNet神经网络的参数进行优化，以得到训练好的DenseNet神经网络；线上阶段：利用训练好的DenseNet神经网络，根据不同的信道条件，对应地输出最优的模拟预编码矩阵F_RF和数字预编码矩阵F_BB。本发明不但能得到较优的频谱效率，而且能显著降低计算复杂度。

技术领域

本发明属于无线通信技术领域，具体涉及毫米波大规模MIMO系统中基于DenseNet的 混合预编码方法。

背景技术

随着移动互联网和物联网的发展，无线数据流量激增；同时在海量大连接场景(Massive Machine Type of Communication，mMTC)中，大规模物联网(Internet ofThings，IOT)业务将会 导致接入到无线网络上的设备数量呈现爆炸式增长，频谱资源短缺的问题日益突出。为了满 足用户日益增长的数据流量业务，从而促进了第五代移动通信系统的发展。而毫米波信号超 高的频率，可以提供大量未充分利用的频谱资源，使得毫米波通信作为5G物理层关键技术之 一。与目前大多数无线系统相比，载波频率增加了10倍，这使得毫米波信号在自由空间路径 损耗带来了数量级的增长，因此在室外进行毫米波通信带来巨大阻碍。而毫米波波长的降低 使得大量的天线元件集中在很小的孔径上，从而为基站端配置成百上千根天线实现大规模多 输入多输出(MIMO)技术成为可能。此外，大型阵列可以提供克服路径损耗所需的波束形成增 益，以抵消毫米波信号严重的路径损耗，同时可以对多个数据流进行预编码，以提高频谱效 率。所以毫米波和大规模MIMO技术的结合成为必然。

毫米波大规模MIMO技术联合预编码可以对大量数据流进行多路复用，实现更精确的波 束形成，进一步提高毫米波系统的频谱效率。传统的多输入多输出(MIMO)处理通常是在基带 进行数字处理，从而能够同时控制信号的相位和幅度。但是数字处理需要为每个天线元件配 备专门的基带和射频硬件，导致硬件的高成本和高功耗，目前还无法实现这种收发结构；混 合预编码架构将预编码处理分成数字基带预编码和由模拟移相器(AnalogPhase Shifters，APSs) 构成的模拟预编码两部分。该方案只需少量RF链，从而解决了传统全数字基带预编码方案的 高成本和高功耗问题。

相比于数字预编码，模拟预编码通常使用移相器来实现，这些移相器对射频预编码器的 元件施加恒定模量约束，使得模拟预编码的设计更具挑战性。在毫米波大规模MIMO系统的 背景下，虽然已有大量的研究致力于提高混合预编码性能，但仍然存在许多问题，其中两个 主要挑战是计算复杂度极高和系统性能较差，而且现有的毫米波大规模MIMO系统没有充分 利用信道中存在的结构，以降低系统混合预编码的代价实现了传统的低复杂度方案。因此， 以往的研究未能从根本上解决这些问题。深度学习技术是一种处理爆炸性数据和处理复杂非 线性问题的非凡技术。证明，深度学习是处理复杂非凸问题和高计算量问题的一种优秀工具， 它具有超强的识别和表示能力，能够通过训练捕获混合预编码方案的结构信息，有助于降低 计算复杂度，提高系统的频谱效率，综上所述，为了降低系统复杂度及提高系统性能，亟需 一种毫米波大规模MIMO系统中的混合预编码设计方案。

发明内容

有鉴于此，本发明的目的在于提供一种毫米波大规模MIMO系统中基于DenseNet的混 合预编码方法，用于解决现有的混合预编码方案计算复杂度高和系统性能较差的问题。

为达到上述目的，本发明提供如下技术方案：