[发明专利]一种多天线多用户大规模天线的混合预编码方法

权利要求书

1.一种多天线多用户大规模天线的混合预编码方法，其特征在于，包括：

建立基于多天线多用户大规模天线系统的接收信号与基站发射信号间的最小化均方误差优化模型，其中，发射信号经过发射端基带与射频混合预编码发射出去；

根据建立的最小化均方误差优化模型，确定接收端预编码合成矩阵闭式解和发射端基带预编码矩阵闭式解；

根据得到的接收端预编码合成矩阵闭式解和发射端基带预编码矩阵闭式解，利用粒子群算法计算发射端的射频预编码矩阵，并迭代优化接收端的预编码合成矩阵、发射端的基带预编码矩阵及发射端的射频预编码矩阵，直到均方误差收敛，得到优化的基带与射频混合预编码；

其中，建立的最小化均方误差优化模型表示为：

其中，

其中，MSE_i表示第i个用户收发信号间的均方误差，i∈{1,2,…,K}，K表示接收端的用户数，tr(·)表示矩阵的迹运算，F_B表示发射端基带预编码矩阵，F_B,i表示F_B的第i个列向量，F_RF表示发射端射频预编码矩阵，w_i表示第i个用户接收端的预编码合成矩阵，H_i表示基站与第i个用户终端间的频域信道，(·)^H表示矩阵的共轭转置，I表示单位矩阵，σ²表示接收端噪声的方差。

2.根据权利要求1所述的多天线多用户大规模天线的混合预编码方法，其特征在于，所述根据建立的最小化均方误差优化模型，确定接收端预编码合成矩阵闭式解和发射端基带预编码矩阵闭式解包括：

对均方误差求偏导，确定所述最小化均方误差优化模型中第i个用户接收端的预编码合成矩阵闭式解；

根据所述最小化均方误差优化模型构造拉格朗日函数求发射端基带预编码的偏导，确定发射端基带预编码矩阵闭式解。

3.根据权利要求2所述的多天线多用户大规模天线的混合预编码方法，其特征在于，所述对均方误差求偏导，确定所述最小化均方误差优化模型中第i个用户接收端的预编码合成矩阵闭式解包括：

对求w_i的偏导，令导数为零，得到所述最小化均方误差优化模型中第i个用户接收端的预编码合成矩阵闭式解，表示为：

4.根据权利要求3所述的多天线多用户大规模天线的混合预编码方法，其特征在于，所述根据所述最小化均方误差优化模型构造拉格朗日函数求发射端基带预编码的偏导，确定发射端基带预编码矩阵闭式解包括：

根据所述最小化均方误差优化模型及所述最小化均方误差优化模型的第一约束条件，构造拉格朗日函数，所述拉格朗日函数表示为：

对L(F_B,λ)求F_B的偏导，并令导数为零，得到F_B的闭式解：

其中，λ表示拉格朗日乘子，H_eq表示等效信道，

其中，所述最小化均方误差优化模型的第一约束条件表示为：

其中，表示基站端总发射功率，P_T表示预设的发射功率阈值。

5.根据权利要求4所述的多天线多用户大规模天线的混合预编码方法，其特征在于，所述根据得到的接收端预编码合成矩阵闭式解和发射端基带预编码矩阵闭式解，利用粒子群算法计算发射端的射频预编码矩阵，并迭代优化接收端的预编码合成矩阵、发射端的基带预编码矩阵及发射端的射频预编码矩阵，直到均方误差收敛，得到优化的基带与射频混合预编码包括：

A1，初始化粒子位置矩阵、速度矩阵、个体最优位置、全局最优位置和F_B，其中，F_B满足第一约束条件：并令为适应值函数；

A2，根据接收端的预编码合成矩阵闭式解计算w_i；

A3，根据发射端的基带预编码矩阵闭式解计算F_B；

A4，确定每个粒子的位置矢量；

A5，根据确定的w_i、F_B、每个粒子的位置矢量，计算所有粒子的适应值并进行比较，将最小适应值对应的粒子的个体最优位置作为本次迭代的全局最优位置，并将全局最优位置对应到F_RF中的相位值，其中，F_RF满足第二约束条件：|F_RF(a,b)|表示F_RF矩阵中第a行第b列元素的幅值；

A6，更新粒子位置和速度；

A7，返回继续执行步骤A2，迭代优化w_i、F_B、F_RF，直至均方误差收敛并达到预设精度，得到优化的混合预编码矩阵F_B和F_RF。