[发明专利]一种基于双层注意力机制的云平台资源预测方法

权利要求书

1.一种基于双层注意力机制的云平台资源预测方法，其特征在于：具体包括以下步骤；

步骤1：对云平台时间序列数据进行预处理操作；

步骤2：搭建基于双层注意力机制的编码器解码器预测网络；搭建的步骤为；

步骤21：搭建编解码器学习结构，对于时间序列预测，给定输入序列X＝(x₁,x₂,…,x_T)∈R^T，其中x_i表示在时刻i的负载数据，在此输入序列的情况下，编码器用于从x_T到h_t的映射学习公式如下：

h_t＝f₁(h_t-1,x_t)

其中h_t-1∈R_m是编码器在时间t的隐藏状态，m是隐藏状态的大小，f₁是非线性激活函数，x_t表示在时刻t的输入序列；

步骤22：在编码器输入部分加入特征注意机制自适应地捕获目标序列与每个局部特征之间的动态相关性，其公式表示如下：

其中表示局部特征的注意权重，h_t-1表示编码器在时刻t的隐藏状态，s_t-1表示编码器的历史状态，x^i,k表示输入序列i时刻的第k个特征，V_l^T、W_l、U_l表示要学习的参数，表示归一化后的特征注意力权重，为使用softmax函数进行归一化计算公式；

通过参考目标序列和输入特征，自适应的选择相关特征，该值在语义上代表了每个影响特征的重要性；

获得注意力权重后，在该时刻的特征注意力输出向量的公式表示如下：

其中表示在时刻t输入序列的第i个特征，表示在时刻t输入序列的第i个特征所占权重，x_t为特征注意机制处理后的输入序列；

步骤23：在解码器中加入时间注意机制来跨所有时间步长自适应地选择相关的编码器隐藏状态；具体地，在时间t，基于先前的解码器隐藏状态d_t-1∈R将LSTM单元s_t-1∈R_p的单元状态覆盖，计算出每个编码器隐藏状态的关注权重；然后采用softmax函数来确保所有注意力权重之和为1，计算公式如下：

其中[d_t-1；s_t-1]∈R^2p是LSTM单元的先前隐藏状态和记忆单元状态的串联，W_d、U_d是要学习的参数，h_i表示第i个编码器的隐藏状态，表示第i个编码器隐藏状态对于目标序列的权重，表示归一化后的时间注意力权重，为使用softmax函数进行归一化计算公式，该值在语义上代表了不同时间段时间序列的重要性；

注意机制会计算上下文向量所有编码器隐藏状态{h₁,h₂,…,h_T}的加权和作为解码器的输入，计算公式如下所示：

其中h_i表示第i个编码器的隐藏状态，表示归一化后的时间注意力权重，c_t为时间注意机制处理后的序列；

步骤24：在输出部分加入AR模型，AR分量的预测表示为：代表T时刻AR模型得到的预测值；

步骤3：将步骤1中预处理后的数据集分为训练集和测试集，分批导入步骤2中搭建的基于双层注意力机制编码器解码器预测网络中；通过训练集进入预测网络进行有监督迭代训练；通过测试集进入预测网络进行检验预测评价指标性能。

2.根据权利要求1所述的一种基于双层注意力机制的云平台资源预测方法，其特征在于：步骤1中所述的数据预处理包括去噪、缺失数据填充、合并化以及归一化处理。