[发明专利]光纤通信系统的复信道均衡器设计方法

权利要求书

1.一种光纤通信系统的复信道均衡器设计方法，其特征在于，包括：采用复值神经网络构建复信道均衡器，所述复信道均衡器用于光纤通信系统，由多个时刻的数字信号组成的向量作为复信道均衡器的输入，从而对信号传输过程中产生的畸变信号进行校正，并使用判别器对其进行判断，降低光纤通信系统的误码率；

所述光纤通信系统以激光为载波信号，通过多进制正交幅度调制技术进行电光调制，并利用光纤构成的传输链路进行传输，在接收端通过使用接收器对信号进行接收并将光信号转化为电信号；此后，电信号通过数字信号处理模块将模拟信号转化为数字信号；

具体如下：将需要传输的电信号通过电光调制器加载到载波激光上获得已调信号；已调信号通过光纤构成的传输链路被接收端接收，并通过数字信号处理模块获得多个时刻的数字信号组成的向量y(n)，将输入电信号的时延信号s(n-τ)作为期望输出T(n)，构建损失函数

其中，O为样本矩阵，T为期望矩阵，P为训练样本数；根据目标函数f(z,z^*)对所设计的复值神经网络进行训练，调整权值和偏置参数，最终得到合适的复值神经网络模型；最后将该复值神经网络嵌入到所述光纤通信系统中作为复信道均衡器，使用判决器对其输出结果进行判决，实现信号均衡的效果；

所述复值神经网络的前向计算过程为

其中，Y^p表示输入第p个输入样本，W₁表示输入层与隐层神经元之间的权值矩阵，b₁表示隐层神经元的偏置，表示隐层神经元的输入向量，表示隐层的输出向量，W₂表示隐层与输出层神经元之间的权值矩阵，b₂表示输出层神经元的偏置，表示输出层神经元的输入，O^p表示该复值神经网络对于第p样个本的最终输出；

为了调整权值和偏置，采用Wirtinger微分计算损失函数对各变量的梯度，具体为：

其中，⊙表示矩阵按位相乘，σ_z′表示函数σ的导数，σ_z*′表示函数σ的共轭导数；

训练所述复值神经网络的具体过程如下：

(1)根据目标函数f(z,z^*)，分别计算和其中为W₂，b₂，W₁，b₁及共轭组成的列向量；

(2)计算复值L-BFGS方向，根据公式

计算矩阵H_t，得到初始的下降方向这里，上标_H表示共轭转置，

(3)在初始方向的基础上，设计复步长进行调整，得到实际的搜索方向；

(4)更新搜索方向根据线性搜索条件

计算复步长的大小调节参数μ_t；在此基础上，得到复步长η_t＝μ_tv_t，从而得到参数更新公式不断迭代，直到训练过程收敛为止，保存权值和偏置，最终得到复值神经网络模型；

所述复步长为η＝|η|e^iθ＝μν，由幅度和相位组成；通过复步长η的引入，实际搜索方向为ηd_t＝|η|e^iθd_t＝μνd_t；

所述复步长的计算过程为：

首先需要使得

最小，其中，为测试向量；使用复步长对方向进行调节，计算使得e最小的复步长的调节参数v_t；采用调节参数v_t来改变初始方向，得到实际的搜索方向；

调节参数v_t的计算过程为

2.如权利要求1所述的光纤通信系统的复信道均衡器设计方法，其特征在于，常数k₁在(0,0.5)之间取值，常数k₂在(k₁,1)之间取值。