[发明专利]基于双向LSTM-Attention的IPTV用户体验预测方法

权利要求书

1.基于双向LSTM-Attention的IPTV用户体验预测方法，其特征在于，包括以下步骤：

步骤1：建立双向LSTM-Attention模型

构建双向LSTM-Attention模型,其包含输入层—双向LSTM层—Attention机制层—输出层结构；其中，双向LSTM层，从前向和后向两个方向对输入层送来的数据进行训练，建模当前用户QoE与之前时刻及之后下一时刻的依赖关系；Attention机制层是先计算每个时序的权重，然后将所有时序输出的向量进行加权和作为输出向量，送给输出层；

步骤2：训练双向LSTM-Attention模型：

双向LSTM-Attention模型的训练数据集为：

D＝{(x₁,y₁),(x₂,y₂),…,(x_n,y_n)},y_k＝(1,2,3,4,5)，其中，输入数据x_k含i个客观特征和j个主观特征，即x_k＝(x_k1；x_k2；…；x_ki；x_k(i+1)；…；x_k(i+j))，输出数据y_k含1,2,3,4,5共5种MOS值，在经过设置的迭代次数的迭代之后，得到训练好的双向LSTM-Attention模型；

步骤3：预测

双向LSTM-Attention模型训练完成后，将要预测的特征:

x′_k1；x′_k2；…；x′_ki；x′_k(i+1)；…；x′_k(i+j)输入模型，即可得到预测的QoE值其中f为训练好的双向LSTM-Attention模型。

2.根据权利要求1所述的基于双向LSTM-Attention的IPTV用户体验预测方法，其特征在于，所述步骤1中双向LSTM-Attention建立构建过程如下：

步骤1-1：建立输入层

建立双向LSTM-Attention模型的训练数据集：

D＝{(x₁,y₁),(x₂,y₂),…,(x_n,y_n)},y_k＝(1,2,3,4,5)，其中，输入数据x_k含i个客观特征和j个主观特征，即x_k＝(x_k1；x_k2；…；x_ki；x_k(i+1)；…；x_k(i+j))，输出数据y_k含1,2,3,4,5共5种MOS值；输入层共有i+j个单元，分别对应i个客观特征和j个主观特征；

步骤1-2：建立双向LSTM层

双向LSTM层包含正向LSTM和反向LSTM；正向LSTM将输入层输入的特征x_k1；x_k2；…；x_ki；x_k(i+1)；…；x_k(i+j)计算得到对应的时序前向隐层状态反向LSTM将输入层输入的特征x_k1；x_k2；…；x_ki；x_k(i+1)；…；x_k(i+j)反向读入，即从x_k(i+j)；…；x_k(i+1)；x_ki；…；x_k2；x_k1计算，得到对应的时序反向隐层状态将第i时刻正向隐状态和反向隐状态相加，得到双向LSTM第i时刻的隐层状态h_i，则双向LSTM层每个时序对应的输出向量为h₁,h₂,…,h_t；

步骤1-3：建立Attention层

将双向LSTM层的输出向量的集合表示H，H＝[h₁,h₂,…,h_t]，令M＝tanh(H)，计算注意力分值α，α＝softmax(w_a^TM)，其中w_a是一个由可训练参数构成的权重向量；计算Attention层的输出v，v＝tanh(Hɑ^T)；

步骤1-4：建立输出层

将Attention层的输出v作为输入，通过一个softmax分类器预测QoE值

W_c，b_c为可训练的参数；

经过步骤1-1～步骤1-4之后，完成双向LSTM-Attention模型的建立。

3.根据权利要求1所述的基于双向LSTM-Attention的IPTV用户体验预测方法，其特征在于，所述步骤2中双向LSTM-Attention模型训练过程如下：

步骤2-1：构造输出矩阵Y，采用one-hot编码将MOS值{y₁,…,y_n}转换为二进制的矩阵形式，即

1→[1,0,0,0,0]

2→[0,1,0,0,0]

3→[0,0,1,0,0]

4→[0,0,0,1,0]

5→[0,0,0,0,1]；

步骤2-2：确定Dropout＝0.2，学习率η＝0.01，即学习步长，用来控制LSTM模型的学习进度；

步骤2-3：随机初始化LSTM网络中的连接权重与阈值,为预测值；目标：最小化交叉熵损失函数；

步骤2-4：设置迭代次数epochs，基于构造的LSTM神经网络，开始迭代训练；

步骤2-5：计算训练数据集，在当前迭代次数i下，训练得到的LSTM神经网络的损失函数E_loss；

步骤2-6：权重更新；采用下式对模型中的权重进行更新：

W←W+ΔW，其中

步骤2-7：判断迭代是否结束，若i＜epochs,重复步骤2-5至2-8；否则输出训练模型,用f表示。