[发明专利]一种基于注意力机制的网络流量分类方法

权利要求书

1.一种基于注意力机制的网络流量分类方法，其特征在于，包括以下步骤：

S1、对原始流量进行数据预处理，从存储原始流量文件中提取双向流，并提取流量属性，形成流量属性向量；

S2、对提取的流量属性进行归一化处理；

S3、采用CNN+LSTM的结构，提取流量属性不同粒度的时间和空间特征；

S4、将提取到的不同粒度的时间和空间特征进行多尺度融合处理；

S5、采用注意力机制，提取融合后特征的显著特征；

S6、使用全连接层+softmax函数的方式，利用融合后特征的显著特征对网络流量进行分类。

2.根据权利要求1所述的基于注意力机制的网络流量分类方法，其特征在于，步骤S3具体包括：

S31、使用不同卷积核大小的卷积层提取流量属性的空间特征，CNN层的计算公式如下：

CNN(x)＝f(w·x_i+h-1+b)

其中，x为归一化后的流量属性向量，x_i+h-1为流量属性向量中第i+h-1个流量属性，w为权重矩阵，b为偏置参数，f为激活函数，h为卷积核长度；

S32、将CNN层提取的流量特征分别放入LSTM层，提取流量的时间特征，LSTM层的计算公式如下：

f_t＝σ(W_xfx_t+W_hfh_t-1)

i_t＝σ(W_xix_t+W_hih_t-1)

o_t＝σ(W_xox_t+W_hoh_t-1)

c_in_t＝tanh(W_xcx_t+W_hch_t-1)

c_t＝f_tc_t-1+i_tc_in_t

h_t＝o_ttanh(c_t)

其中，x_t是神经元的输入，为CNN层提取的空间特征，W_xf、W_hf、W_xi、W_hi、W_xo、W_ho、W_xc和W_hc分别为对应的权重矩阵，h_t-1为前一时刻隐层状态，h_t为当前时刻隐层状态，f_t为遗忘门，i_t为输入门，o_t为输出门，c_t为当前细胞状态，c_t-1为前一时刻细胞状态,c_in_t为t时刻的更新状态，σ为元素级的sigmoid函数，tanh为用作激活函数的双曲正切函数。

3.根据权利要求1所述的基于注意力机制的网络流量分类方法，其特征在于，步骤S5具体包括：

利用注意机制提取融合后特征的显著特征c_i，计算公式为：

其中，s_i-1表示前一时刻的融合特征，h_j表示当前时刻的融合特征，a_ij表示h_j的权重，c_i表示输入序列的上下文向量，V_a、W_a和U_a分别表示对应变量的权重矩阵，tanh表示用作激活函数的双曲正切函数，m表示输入序列的长度。