[发明专利]一种基于注意力机制的可见光信号均衡系统及方法

权利要求书

1.一种基于注意力机制的可见光信号均衡系统，包括：数据接收模块、数据处理模块、信号均衡器、信号输出模块，其特征在于，

数据接收模块用于接收脉冲幅度调制系统PAM输出的调制信号，解调，得到解调后的有损光信号；

数据处理模块用于对解调后的有损光信号进行预处理，得到有损光信号的样本序列，并将划分处理后的有损光信号样本子序列数据输入信号均衡器；

所述信号均衡器用于将有损光信号均衡为无损光信号；

所述信号输出模块用于输出均衡信号；

所述信号均衡器中包括基于注意力机制的卷积神经网络CNN模块和长短时记忆神经网络LSTM单元；

基于注意力机制的CNN模块包括两个支路和一个融合模块：

第一个支路是CNN支路，CNN支路包含卷积层和池化层；

第二个支路是注意力支路，注意力支路中主要是包括特征聚合和尺度恢复，其中，特征聚合是通过卷积层在跨尺度的序列中进行提取更全面的特征，在最后一层使用1*1的卷积核将特征尺度恢复到与CNN支路输出同等大小的M*N的特征序列，使用sigmoid函数将数值大小在0到1的区间范围，最终得到大小为M*N的包含有注意力机制的特征序列；

融合模块：将CNN支路输出的特征值与注意力支路输出的包含有注意力机制的特征序列进行融合，得到融合结果

LSTM单元包括输入门、遗忘门和输出门；

LSTM单元的输入是基于注意力机制的CNN模块的融合结果，通过LSTM单元对融合结果再次进行特征提取学习，最后通过判断单元，得到损伤光信号的分类结果，即得到均衡后的无损伤光信号，完成信号的均衡；

所述得到均衡后的无损伤光信号，包括：

数据通过输入门来计算输入门的激活值i_t，同时输入门中还需要计算在t时刻记忆单元的候选状态值其表达式如下所示：

i_t＝σ(w_i·[h_t-1,x_t]+b_i)

其中，i_t表示输入门的激活值，表示在t时刻记忆单元的候选状态值，x_t表示在t时刻的输入，h_t-1表示在t-1时刻的输入值，σ表示sigmoid激活函数，b_i表示为输入门激活函数的偏置项，w_i为输入门激活函数的权值，w_c输入门状态函数候选权值，b_c为输入门候选状态函数的偏置，tanh表示双正切激活函数；

数据进入输入门后会进入遗忘门进行选择舍弃信息，遗忘门根据输入门的激活值i_t以及t时刻记忆单元的状态候选值计算新的状态值C_t，其计算表达式如下所示：

f_t＝σ(w_f·[h_t-1,x_t]+b_f)

其中，X_t表示在t时刻的输入，h_t-1表示在t-1时刻的输入值，σ表示sigmoid激活函数，b_f表示为遗忘门激活函数的偏置项，w_f为遗忘门激活函数的权值，C_t表示新的状态值，C_t-1表示t-1时刻的状态值，f_t表示遗忘门的激活值;

根据新的状态值C_t计算t时刻输出门的激活值o_t以及输出值h_t，具体的表达式如下：

o_t＝σ(w_o·[h_t-1，x_t]+b_o)

h_t＝o_t*tanh(C_t)

其中，w_o表示输出门的权值，b_o表示输出门的偏置，h_t表示输出门的输出值；

将输出门的输出值h_t输入判决单元，判决单元接收CNN+LSTM网络提取的特征后进行特征分类，将损伤光信号分为正确的类别，即将损伤光信号均衡回正确的无损伤光信号;

判决单元使用softmax函数作为激活函数，softmax函数表达式如下所示：

其中，p_k表示第k个神经元的输出，即均衡后的信号电平概率；n表示最后的输出的神经元个数，也就是最后进行判决的分类个数，在PAM4调制中n＝4；分子表示输入信号h_k的指数函数，分母是所有输入信号的指数函数的和；

根据得到的均衡信号与原始标签信号计算损失函数，通过损失函数结果值迭代更新权重参数，使网络的损失函数达到最小或者达到最大经验迭代次数时，得到训练好的基于注意力机制的CLSTM神经网络模型；

损失函数的表达式为：

其中，L表示损失值，p＝[p₀,…,p_c-1]是通过上述softmax函数得到的概率值，p_i表示样本属于第i类的概率，y＝[y₀,…,y_c-1]是标签样本子集的onehot表示，当样本属于第i类时y_i＝1，否则y_i＝0，C表示标签样本。