[发明专利]一种基于方面依赖的记忆网络的情感极性检测方法

权利要求书

1.一种基于方面依赖的记忆网络的情感极性检测方法，其特征在于，包括以下步骤：

步骤1：收集数据集文档，将数据集按主题分为宾馆评论与笔记本电脑评论两类；将标签定义为三类，按照数据集中数据的分布将数据分为训练集与测试集，将训练组与测试组中的标签集转化为one-hot向量；

步骤2：对训练组与测试组进行文本预处理：使用Glove模型将训练组与测试组中的方面内容训练成方面向量，并使用Glove模型将每个句子中的每个单词训练成词向量，将一个句子中的多个词向量分别与多个方面向量进行连接后放入GRU网络，后将输出通过注意力层得到一个句子的多个方面感知句子表示向量，同时生成目标方面表示向量；

步骤3：将得到的多个方面感知句子表示向量放入第二个GRU网络，将输出与目标方面表示向量相乘后放入注意力层，将多个方面的感知句子表示向量放入第三个GRU神经网络，将该神经网络的输出与注意力层的输出相乘后再与目标方面表示向量相加，相加之后进行分类，最后对该整体的神经网络模型进行训练，不断修改参数直至分类效果达到最优；

其中，步骤1中对评论内容加标签的过程为：将标签分为三类，分别为：1分、0分、2分，分别对应情绪中的正面、负面和中性，并使用one-hot工具将标签转化为one-hot向量；

步骤2，具体包括以下子步骤：

步骤2.1：使用Glove模型训练训练组和测试组，得到每个方面的向量表示a_i，得到每个句子中每个单词的向量表示同时生成目标方面表示向量；

步骤2.2：将一个句子中的多个词向量分别与多个方面向量进行连接后放入GRU网络，GRU网络描述如下：

z＝σ(x_tU^z+s_t-1W^z)    I

r＝σ(x_tU^r+s_t-1W^r)    II

h_t＝tanh(x_tU^h+(s_t-1*r)W^h)    III

s_t＝(1-z)*h_t+z*s_t-1    IV

其中，h_t和s_t分别是时间t下的隐藏输出和单元状态，x_t为输入，而U^z、W^z、U^r、W^r、U^h、W^h是需要学习的参数矩阵；

步骤2.3：将GRU网络的输出送入注意力层来获得方面感知句子表示向量该过程描述如下：

α＝softmax(z)    VI

其中，W_s是要学习的参数矩阵，b_s为偏移量，而d^T为d的转置向量；

步骤2.4：通过一个全连接层生成目标方面表示向量q，具体过程如式VIII所示：

其中，为第t个方面感知句子表示向量，W_T是要学习的参数矩阵，b_T为偏移量；

步骤3包括将步骤2中的得到的方面感知句子表示向量放入第二个GRU神经网络，将该神经网络的输出与注意力层的输出相乘后再与目标方面表示向量相加，最后进行整合并分类，具体包括以下步骤：

步骤3.1：将得到的多个方面感知句子表示向量放入第二个GRU网络，将该神经网络的输出Q与目标方面表示向量q相乘后放入注意力层；具体过程如下所示：

z＝qQ^T    IX

β＝softmx(z)    X

其中，β是目标方面与各个方面之间的注意力得分；

步骤3.2：将输出Q放入第三个GRU网络中，将输出Q′与目标方面与各个方面之间的注意力得分β相乘；具体过程如下所示：

Q′＝GRU(Q)    XI

o＝β^TQ′    XII

步骤3.3：将目标方面表示向量q与第三个GRU网络的输出o相加以生成精确的目标方面表示向量，使用softmax函数对其进行分类；

步骤3.4：在步骤3.3之后，将softmax函数映射的结果与one-hot标签向量进行比对，若不相同，则通过反向传播算法对模型的参数进行调整；若相同，则参数不变，经过迭代后训练出最优参数。