[发明专利]毫米波大规模MIMO系统中基于DenseNet的混合预编码方法

权利要求书

1.一种毫米波大规模MIMO系统中基于DenseNet的混合预编码方法，其特征在于，该方法包括线下训练阶段和线上阶段，具体包括：

(1)线下训练阶段：

S1：对信道矩阵H进行奇异值分解，得到与H对应的最优无约束混合预编码F_opt；

S2：构建DenseNet神经网络，以最小化最优无约束混合预编码F_opt与模拟预编码F_RF和数字预编码F_BB之积F_RFF_BB之差的F范数为目标，利用随机梯度下降算法对DenseNet神经网络的参数进行优化，以得到训练好的DenseNet神经网络；

(2)线上阶段：

S3：利用训练好的DenseNet神经网络，根据不同的信道条件，对应地输出最优的模拟预编码矩阵F_RF和数字预编码矩阵F_BB。

2.根据权利要求1所述的毫米波大规模MIMO系统中基于DenseNet的混合预编码方法，其特征在于，所述步骤S1具体包括：对信道矩阵进行奇异值分解：

其中，表示复数集，rank(H)表示求信道矩阵H的秩；N_s表示数据流数，N_r与N_t分别为接收天线数和发射天线数；与H对应的最优无约束预编码器F_opt＝V₁。

3.根据权利要求2所述的毫米波大规模MIMO系统中基于DenseNet的混合预编码方法，其特征在于，所述步骤S2具体包括：

S21：构建DenseNet神经网络，用激活函数优化网络的多层结构；初始化时，建立映射关系：

其中，分别表示模拟预编码矩阵和数字预编码矩阵的初始值，Ω为输入数据集；设置损失函数来训练DenseNet神经网络，损失函数F_loss为：

其中，||·||_F表示F范数运算，F_RF，F_BB分别为模拟预编码和数字预编码；

S22：设置误差阈值τ和迭代次数j，初始化权重w，并通过随机梯度下降算法迭代更新权重矩阵w，以训练得到最优DenseNet神经网络。

4.根据权利要求3所述的毫米波大规模MIMO系统中基于DenseNet的混合预编码方法，其特征在于，所述的DenseNet神经网络由4个顺序连接的神经网络模块构成，每一神经网络模块由输入层，卷积层，批归一化层，激活函数层，平坦层，全连接层和一个输出层组成；激活函数采用ReLU(a)＝max(0,a)，其中max(0,a)表示取0和a两者之间的最大值；卷积层使用32个尺寸为3×3的卷积核；全连接层包含1024个神经单元；DenseNet的输入为N次信道矩阵H实现，并使用适当大小的零填充层进行填充。

5.根据权利要求4所述的毫米波大规模MIMO系统中基于DenseNet的混合预编码方法，其特征在于，DenseNet神经网络的4个神经网络模块之间的连接方式，具体为：

网络输入为X₀，经过包含L层的神经网络，若用g_i(·)表示第i层非线性变换，g_i(·)由多个函数累加而成；第1层输出X₁＝g₁(X₀)；对于第2层，其输入为网络的输入X₀和第1层输出X₁的级联，则第二层的输出为X₂＝g₂([X₁,X₀])，依次类推，第4层的输出为X₄＝g₄([X₃,X₂,X₁,X₀])，X₃为第三层的输出。

6.根据权利要求3所述的毫米波大规模MIMO系统中基于DenseNet的混合预编码方法，其特征在于，所述步骤S22具体包括：在数据生成中，根据不同的信道条件，生成N次信道矩阵H的实现；将信道矩阵H分为实数部分Re{[H]_i,j}和虚数部分Im{[H]_i,j}，Re{·}和Im{·}分别表示对信道矩阵H取实部和虚部；设定初始化误差阈值τ，迭代次数j，权重w，通过随机梯度下降算法迭代更新权重矩阵w，在神经网络的输出端，输出维度为的数字预编码和维度为的模拟预编码，对其进行实数转复数化操作，最后得到数字和模拟预编码矩阵，其中表示RF链数量。