[发明专利]聚焦属性相关文本的属性级情感分类方法

说明书

本发明提供了一种聚焦属性相关文本的属性级情感分类方法，包括：步骤1，对数据进行预处理使得数据中的每个样本包含属性Xsubgt;a/subgt;和上下文Xsubgt;c/subgt;，通过Bert预训练模型来获得属性和上下文的文本表征序列和其中，M和N分别代表输入样本中属性的个数和上下文的长度。本发明所提供的聚焦属性相关文本的属性级情感分类方法，使用了本发明设计的掩盖方法来缓解注意力分散问题。本发明充分利用了属性相关上下文信息，缓解了传统Attention‑LSTM网络在处理多属性多情感的文本时，由于注意力会分散到整个句子中，引入了噪声而导致模型的分类性能下降的问题。

技术领域

本发明涉及数据处理技术领域，特别涉及一种聚焦属性相关文本的属性级情感分类方法。

背景技术

随着移动互联网时代的到来，数以亿计的网民越来越倾向于在微博、知乎等互联网社交平台和淘宝、京东等购物网站上公开发表自己的观点和评论。研究如何从这些观点和评论中抽取出有价值的信息对于整个社会来说是十分重要的。为了解决这个问题，情感分析方法被认为是一种有效的解决方案，并且已经成功应用到了舆情监督、民意调查、口碑分析和市场情绪分析等领域。情感分析方法按粒度来划分一般可以分为文档及情感分析方法、句子级情感分析方法和属性级情感分析方法。但是，文档级情感分析方法和句子级情感分析方法仅针对文本的整体情感倾向进行分析，无法得到文本中特定实体(属性词)的情感倾向。

为了克服传统情感分析无法得到文本中属性词情感倾向的问题，研究人员尝试使用属性级情感分析方法来解决这个问题。目前，有许多网络结构被应用于属性级情感分析，其中效果较好、使用较广泛的是Attention-LSTM网络。具体的，LSTM结构能够学习到蕴含在文本中的语义信息，Attention结构则能学习到文本中每个词对于属性词的影响权重的大小。此外，该网络结构还可以通过学习属性词和上下文之间的交互信息来提升属性情感倾向分类的准确率。

多属性多情感的属性级情感分析方法可以看成是属性级情感分析方法的一部分。目前，基于Attrntion-LSTM结构的属性级情感分析方法在处理含有多个属性多个情感的复杂文本时，由于产生注意力分散问题，因此会在模型中引入噪声导致模型分类性能下降。

发明内容

本发明提供了一种聚焦属性相关文本的属性级情感分类方法，其目的是为了解决传统Attention-LSTM网络在处理多属性多情感文本时，由于注意力分散导致模型中引入了噪声而产生的模型分类性能下降的问题。

为了达到上述目的，本发明的实施例提供了一种聚焦属性相关文本的属性级情感分类方法，包括：

步骤1，对数据进行预处理使得数据中的每个样本包含属性X_a和上下文X_c，通过Bert预训练模型来获得属性和上下文的文本表征序列和其中，M和N分别代表输入样本中属性的个数和上下文的长度；

步骤2，将上下文的文本表征序列E_c复制一份，将第一份上下文的文本表征序列E_c与属性的文本表征序列E_a进行拼接，得到全局上下文的文本表征序列E_ac，再对全局上下文的文本表征序列E_ac使用双向长短时记忆网络和多头自注意力机制进行特征提取，得到全局上下文隐藏状态序列对第二份上下文的文本表征序列E_c直接使用双向长短时记忆网络和多头自注意力机制进行特征提取，得到上下文隐藏状态序列

步骤3，使用掩盖方法对上下文隐藏状态序列进行操作，得到属性相关文本的隐藏序列H_f，将隐藏序列H_f与属性的文本表征序列E_a进行拼接，得到属性上下文序列E_af，对属性上下文序列E_af使用长短时记忆网络与多头自注意力机制进行特征提取，得到隐藏状态序列