[发明专利]基于GRU的属性级别情感分析方法

说明书

本发明公开了一种属性级情感分析方法。情感分析是自然语言处理中一个基本的任务，而属性级的情感分析是情感分析的一个重要课题。在一句话中不同的词语对句子中属性(aspect)的情感极性有不同的影响，如何对属性和其句子中的词的关系以及整个句子含义建模是解决该问题的关键。在本文我们将通过两个循环网络在对句子信息建模的同时还引入注意力机制以融合属性的信息从而期望达到较好的效果。本文通过在公开数据集的实验显示在不需要做繁杂特征工程的情况下，本文提出的算法取得了更好的结果。

技术领域

本发明涉及互联网领域，更具体地说，涉及基于GRU的属性级别情感分析方法。

背景技术

随着互联网的快速发展，文本信息越来越多，如何从海量文本信息中获取有用信息变得越来越重要，这些海量文本信息也客观促进自然语言处理的发展，而深度学习为自然语言处理带来了新的方向。情感分析(即意见挖掘)是自然语言处理中一个基础却很重要的任务。企业可以利用客户对产品的评论信息来及时的获取反馈从而为决策提供参考。因此近年来如何在海量的文本数据中提取情感信息显得成为自然语言处理的一个重要研究课题。

目前主要的文本情感分析研究主要是基于情感词典和基于机器学习。基于情感词典的方法依赖于情感词典，情感词典对于情感分析具有大的影响，杨鼎等基于情感词典对文本进行处理和表示从而构建出基于朴素贝叶斯理论的分类器。另一种方法是基于机器学习的方法。机器学习的方法通过对人工标定的数据进行训练而得到一个情感分析分类器，通过实验证明了支持向量机的优良分类性能。这两种方法都需要人工标记数据从而完成情感词典构建和特征工程，这些任务繁琐且复杂而深度学习算法能够很好地解决这一问题。近年来深度学习在自然语言处理方面取得巨大的成功，比如机器翻译，问答系统。在情感分析领域也有应用， Socher等提出了基于半监督递归自动编码机RAE)的深度学习方法来实现文本情感分类；Jurgovsky等利用卷积神经网络(CNN)实现了文本情感分类。文本情感分析可以分为篇章级、句子级以及单词级。本文主要研究的是基于属性(aspect) 的情感分析。这是由于在同一句子中对不同的aspect其情感极性有可能是不相同的，比如在“Thevoice quality of this phone is not good,but the battery life is long.”这个句子中对于quality来说这句话的评价是负面的，然而对battery life这个来说是正面的。Wang等提出AE-LSTM,AT-LSTM,和AEAT-LSTM循环网络算法用于aspect粒度的情感分析，其将aspect信息融合到长短期记忆网络LSTM中以提高分类精度。SVM-dep算法将特征分为和属性aspect相关的特征和aspect 无关的特征，分别提取出来完成了基于属性级别的情感分析，其精度由于不包含属性特征的支持向量机分类器。

注意力机制是在信息处理时选择性地集中于某些重要的信息的一种机制，而忽略和关注目标意义相关性较弱的一种信息处理机制，它强调在信息处理时更关注信息的本质方面的信息，它将有限的资源集中于重要的信息的处理，从而取得了巨大的成功。注意力(Attention)机制在图像识别、自动翻译等领域已经取得了巨大的成功。结合本文的主题，在处理基于属性情感分析的时候，可以更加关注和属性有关的信息从而提高情感分类的准确度。

循环网络(RNN)因为其网络记忆性能够处理上下文信息而被广泛应用于自然语言处理中，典型的循环网络有长短期记忆网络(LSTM)、门控循环单元(GRU) 和MUT网络等。本文将提出基于GRU网络在属性粒度情感分析的算法，然后通过注意力机制将属性信息融合到模型中，使得算法模型更能够关注到属性对情感分类的影响，从而提高情感分类的精度。

发明内容

有鉴于此，本发明的目的在于提供了一种基于GRU网络的属性级情感分析模型和方法，本发明基于Att-CGRU的属性级别情感分类算法，以实现情感分类精度的提高。

为了实现上述目的，本发明设计的基于GRU网络的属性级情感分析模型包括如下：