[发明专利]基于毫米波MIMO系统深度学习的混合预编码设计方法

说明书

本发明涉及一种基于毫米波MIMO系统深度学习的混合预编码设计方法，属于通信技术领域。首先设计训练样本，在一次信道实现过程中，暂时解耦联合收发机的优化问题，重点研究混合预编码的设计，从码本中选择使得系统频谱效率最大的模拟预编码与数字预编码对作为最优的混合预编码矩阵。本发明将次信道实现作为神经网络的训练样本，每次信道实现得到的模拟预编码与模拟组合器的索引值作为标签，设计神经网络框架并训练，线下对于任何信道实现的输入，输出得到最优的模拟预编码与模拟组合器。本发明利用深度学习方法，突破了传统预编码复杂的联合优化与非凸限制，既能得到较优的频谱效率，又能显著降低其复杂度。

技术领域

本发明属于通信技术领域，涉及基于毫米波MIMO系统深度学习的混合预编码设计方法。

背景技术

随着无线设备的快速发展，人工智能、虚拟现实、大数据分析、增强现实等诸多新兴应用进入我们的生活，同时，无线网络中相应的数据流量也呈指数级增长。为了满足未来的流量需求，学术界和工业界致力于开发下一代无线局域网(WLAN)和移动蜂窝通信。而毫米波(mmWave)其频谱从30GHz到300GHz，可以解决当前移动系统带宽不足的问题。但是由于大气吸收、降雨衰减和低穿透率，使得mmWave频段的传输损耗远高于常规频段，有趣的是，由于mmWave的波长较短，所以在相同的物理尺寸中封装大量的天线。大型天线阵列可以提供波束形成增益，克服传输损耗，合成高定向波束。它还可以同时传输多个数据流，从而显著提高频谱效率。然而传统的全数字预编码要求每个天线连接一个射频链，使得系统的成本和能耗显著增大，针对这一问题，混合预编码技术在减少系统能耗，提高系统性能方面得到了广泛的关注。

与传统的全数字预编码设计相比，在混合预编码问题中，除了四个波束形成变量的联合优化困难外，移相器对模拟波束形成器的恒模约束也使得该问题具有非凸性，难以求解。现有的大多数工作都是先将原问题解耦为混合预编码和组合子问题，然后重点解决子问题的常模约束，从而克服了这一困难。目前一种有效且广泛使用的方法是将混合预编码设计视为矩阵分解问题，并最小化混合预编码与全数字预编码之间的欧氏距离。为了解决这一矩阵分解问题，OmarElAyach等人利用了毫米波传播信道的空间结构，提出了基于正交匹配追踪(OMP)的空间稀疏预编码和组合算法。Yu等人提出了一种基于流形优化(MO)的混合预编码算法，以及一些低复杂度的算法。除了矩阵分解方法外，混合预编码设计的另一个思路是直接处理原始问题，首先根据原始目标推导出数字波束形成器的封闭形式解，然后对具有定模约束的模拟波束形成器进行迭代求解。

另一方面，近年来在智能通信领域的研究表明，基于数据的深度学习(DL)方法在解决传统的挑战性问题方面具有巨大的潜力。它是一种处理爆炸性数据和处理复杂非线性问题的非凡技术。实践证明，深度学习是解决复杂非凸问题和高计算量问题的一种优秀工具。一些学者研究了以往将深度学习引入通信的工作，包括波束选择、异构网络、非正交多址访问(NOMA)、大规模MIMO和异构网络等。此外，基于深度学习的通信方案取得了很大的进展。综上所述，为了降低系统复杂度及提高系统性能，本发明提出了毫米波大规模MIMO系统中基于深度学习的混合预编码设计方案。

发明内容

有鉴于此，本发明的目的在于提供一种基于毫米波MIMO系统深度学习的混合预编码设计方法。

为达到上述目的，本发明提供如下技术方案：

基于毫米波MIMO系统深度学习的混合预编码设计方法，该方法包括以下步骤：

步骤一：首先将发射端与接收端分离设计，对于从码本中任意选择的模拟预编码F_RF，为模拟预编码的码本集，通过最大化毫米波信道上的高斯信号实现的互信息，得到其对应的数字预编码F_BB，选择使得互信息最大的模拟预编码与数字预编码作为最优混合预编码，其中*表示最优，RF表示模拟，BB表示基带数字，分别表示模拟预编码与数字预编码的最优值；