[发明专利]基于深度学习的区域网络流量预测方法

权利要求书

1.一种基于深度学习的区域网络流量预测方法，其特征在于该预测方法包括如下步骤：

步骤1：获取区域网络流量序列，统计其在每个时刻使用的流量值：

步骤2：根据区域流量序列的空间相关性以及时间相关性，抽取对应特性的流量矩阵序列作为深度学习预测模型的输入；其中时间相关性包括紧密性、周期性、趋势性：

(2.1)空间相关流量矩阵序列的获得：任一坐标为(x,y)区域的流量值不仅与该区域过去时刻的流量值相关，还与附近r个区域的流量值也存在相关，即区域流量之间存在空间相关性，其中r的取值与模型复杂度和预测精度有关，可根据预测需求确定；为预测t+1时刻区域(x,y)的流量值将t＝1,2,3…时刻目标区域(x,y)的流量值与其周围共(2r+1)×(2r+1)个区域的流量一起，得到空间相关性流量矩阵序列其中任一时刻t的流量矩阵如下

(2.2)不同时间相关特性流量矩阵序列的获得：为了预测t+1时刻区域(x,y)的流量值可利用时间序列的相关性，包括紧密性、周期性、趋势性，抽取对应特性的流量矩阵作为输入，得到三个输入流量矩阵序列，即紧密性流量矩阵序列、周期性流量矩阵序列、趋势性流量矩阵序列；

步骤3：对于步骤2得到的三个输入流量矩阵序列，分别用3D卷积神经网络和卷积长短期记忆人工神经网络ConvLSTM进行时间和空间相关性的提取；

由于3D卷积的卷积核在2D卷积的基础上增加了时间维度，因此能在卷积的过程中同时提取空间和时间相关性；而ConvLSTM在能提取时间相关性的长短期记忆人工神经网络LSTM模块的基础上将全连接层改为了卷积运算，即加入了空间相关性的提取；

步骤4：融合三个流量矩阵序列各自由3D卷积和ConvLSTM提取的特征，基于注意力机制进行最终的流量预测；

(4.1)三个流量矩阵序列各自由3D卷积和ConvLSTM提取的特征在时间维度进行合并，通过一层1×1卷积融合各个通道的信息，输出融合后的时空特征，记为U，其中H和W表示空间维度大小，C表示时间维度大小；

(4.2)对该特征U通过SE模块，以时间维度的注意力机制对特征的重要性进行自适应选择，具体过程如下：

首先在时间维度进行全局平均池化，即对于输入特征时间维度的每一个切片U_c，其输出为

即通过全局平均池化得到全局的空间信息，其中Z_c是输出特征Z在时间维度的切片，即Z＝{Z₁,Z₂,…Z_C}，U_c是输出特征U在时间维度的切片，即U＝{U₁,U₂,…U_C}；

所述输出特征Z，通过全连接层来提取时间维度的重要性系数，如下：

S＝δ₂(W₂δ₁(W₁Z)) (10)

其中，δ₁表示Relu激活函数，δ₂表示sigmoid激活函数，为全连接神经网络的权重，d表示缩放系数，用于降维减少参数量，与模型复杂度相关，根据需求确定；最终输出特征的每个时间切片为：

即对于输入特征U_c通过乘以重要性系数S_c来进行时间层面的自适应特征选择；其中S_c是S在每个时间切片的重要性系数，即S＝{S₁,S₂,…S_C}，是在时间维度的切片，即

(4.3)以上特征前两维表示空间信息，第三维表示时间信息，将X展开成一维的特征向量，通过多层感知机MLP神经网络模型得到区域流量序列的最终预测结果

其中δ表示激活函数，用Relu激活函数；

所述获取区域网络流量序列具体为：

(1.1)将网络覆盖面积划分成N×M个1km×1km的网格区域，N、M为自然数，记左上角区域坐标为(0,0)，右下角区域坐标为(N-1,M-1)；对每个区域内的所有用户网络流量值以时间间隔T分钟进行采样，并求和得到每个区域对应的区域流量序列

其中(x,y)表示对应区域的坐标；为区域流量；

(1.2)对区域流量序列进行尺度压缩和归一化，即对进行如下处理：

其中μ表示区域(x,y)历史流量的平均值，σ表示区域(x,y)历史流量的标准差，ε为常数；

所述

紧密性流量矩阵序列：紧密性表示t+1时刻的流量值受最近l_c个时刻流量值的影响，因此抽取的紧密性流量矩阵序列为

其中l_c表示抽取的紧密性流量矩阵序列长度，其取值可以根据模型复杂度以及精度，由仿真择优确定；

周期性流量矩阵序列：周期性表示流量序列存在以天为周期的重复变化特性，因此抽取的流量矩阵序列可以表示为

其中l_p表示抽取的流量序列的长度，其取值可以根据模型复杂度以及精度，由仿真择优确定，p表示相邻流量矩阵的时间间隔，此处用一天的间隔来表示周期性，因此，p＝1440/T，1440表示一天共1440分钟；

趋势性流量矩阵序列：趋势性表示流量序列存在随着季节变化的特性，因此抽取的流量矩阵序列可以表示为

其中l_q表示抽取的流量序列的长度，其取值可以根据模型复杂度以及精度，由仿真择优确定，q表示相邻流量矩阵的时间间隔，此处用一星期的间隔来表示趋势性，因此q＝1440×7/T；

所述空间相关性的提取具体为：

(3.1)时空特征提取特征提取：对于表示紧密性、周期性、趋势性三部分的输入序列

采用同样的网络结构进行特征提取，因此，紧密性序列为：

对于输入流量矩阵序列采用3D卷积神经网络进行时空特征提取，其过程为：

其中*表示矩阵相乘，W_ml和b_m分别表示卷积神经网络的权重和偏置，需要通过训练进行优化，activation表示激活函数，此处采用Relu激活函数，如下所示：

对于输入流量矩阵序列采用ConvLSTM进行时空特征提取，其过程为：

C_t＝f_t⊙C_t-1+i_t⊙tanh(W_xc*X_t+W_hc*H_t-1+b_c) (7)

H_t＝o_t⊙tanh(C_t) (9)

其中*表示矩阵相乘，⊙表示矩阵元素相乘，C_t表示细胞状态，H_t表示隐藏层状态，i_t表示输入门，f_t表示遗忘门，o_t表示输出门，δ表示激活函数，一般可用sigmoid激活函数，W和b分别表示ConvLSTM的权重和偏差，需要通过训练序列进行优化得到；

(3.2)时空特征融合：为了同时利用3D卷积神经网络和ConvLSTM提取的时间和空间相关性，需要通过融合层对两者提取的特征进行特征融合；融合过程为两者在时间维度进行合并，再经由一层1×1卷积进行特征降维，即以一种类似集成学习的方式集成了3D卷积和ConvLSTM提取的特征，有利于提高模型的可靠性。