[发明专利]一种基于LSTM和语法距离的方面级情感分析方法

说明书

本发明公开了一种基于LSTM和语法距离的方面级情感分析方法，包括S1:特征输入：使用GloVe预训练模型对词向量进行映射，再分别让方面词和上下文词经过Bi‑LSTM，得到方面词和上下文的隐藏表示；S2:语义特征提取：采用图卷积网络和mLSTM分别提取方面词和上下文的语义特征；S3:方面词和上下文词语义交互阶段:将S2提取到的方面词和上下文的特征进行一个点积注意力操作；S4:情感预测阶段:对S3中得到的特征进行一个最大池化操作后，再通过softmax操作得到最终预测的情感极性。提升了方面词与重要上下文正确匹配的概率，并通过引入语法距离权重代替相对距离，进一步在语法层面上提取与方面词语法关联程度大的上下文，最终提升了方面级情感分析的准确率。

技术领域

本发明涉及一种基于LSTM和语法距离的方面级情感分析方法，主要涉及自然语言领域。

背景技术

与传统情感分析不同的是，方面级情感分析(Aspect-Based SentimentAnalysis,ABSA)由于能分析出句子中特定方面的情感而受到广泛研究。近年来，深度学习方法被广泛用于方面级情感分析，并且大多依赖于长短时记忆网络(Long-Short TermMemory,LSTM)和注意力机制。LSTM由于可以避免梯度消失或爆炸的问题被广泛用于特征提取。Tang等使用LSTM的隐藏表示预测情感。Ruder等使用双向长短时记忆网络(Bidirectional LSTM,Bi-LSTM)获得了更好的分类效果。Li等提出了特定目标的转换网络(Target-Specific Transformation Networks,Tnet)，将上下文特征和转换后的特征卷积以获取最终表示。但以上模型采用传统的LSTM，同等地看待上下文词，无法准确的匹配与方面词更相关的上下文词。因此，Wang等引入注意力机制，并将方面嵌入直接拼接到上下文嵌入中，取得了不错的效果，证明了注意力机制在ABSA中的作用。Xu等结合局部上下文焦点和依赖集群构建注意力用于方面级情感分析。Basiri基于注意力机制，构建了一种融合CNN与RNN的情感分析模型。Tang等提出深度记忆网络(Deep Memory Network,MemNet),采用多层注意力分配上下文权重获得了更好的分类效果。但是以上模型采用的注意力机制忽略了方面词与上下文的交互，限制了分类性能。为了实现方面词与上下文的交互，获取更好的特征表示，Ma等和Huang等分别提出了交互注意力网络(Interactive Attention networks,IAN)和双重注意力网络(Attention-over-Attention,AOA)。让方面词与上下文词分别参与对方的建模，进一步提高了分类性能。然而，这些交互注意力机制由于没有逐词地计算方面词与上下文的一致性，可能错误地关联与方面词不相关的上下文词，限制了分类性能，此外，也缺少对语法特征的分析。图卷积网络(Graph Convolutional Networks,GCN)由于能够捕获单词间的语法特征而被应用于ABSA。Zhou提出一种基于语法和知识的图卷积网络。Zhu提出一种利用局部和全局信息引导图卷积网络构建的模型。Zhang等提出了特定方面的图卷积网络(Aspect-specific GCN,ASGCN)，用GCN提取到方面词特征后再反馈给上下文表示，获得交互注意力权重作为情感分类的依据，取得了不错的效果。但是，上述及现有方法在进行ABSA任务是会存在以下缺陷：

(1)使用相对位置权重，缺乏语法距离的考虑，很可能错误地将方面词与语法上关联度不高的上下文错误匹配，导致情感分类错误。

(2)大部分方法缺乏方面词和上下文词的交互，很容易使得方面词匹配到与其情感极性判断无关的上下文词，影响情感极性的判断。

(3)在获取最终表示时，仅考虑方面词和上下文词的特征表示，忽略了其他特征。

因此，亟需一种能够同时解决上述缺陷的方面级情感分析方法。

发明内容