[发明专利]基于局部上下文焦点机制和交谈注意力的方面级情感分析

说明书

本发明提供一种基于局部上下文焦点机制和交谈注意力的方面级情感分析，包括：步骤S1、构建分析模型；步骤S2、BERT预训练层分别对局部上下文形式序列和全局上下文形式序列中的词进行建模，得到初步局部上下文特征和初步全局上下文特征；步骤S3、在特征提取层，利用局部上下文焦点机制，通过上下文特征动态掩码技术结合交谈注意力机制来进一步提取局部上下文特征，并使用交谈注意力机制提取全局上下文特征；步骤S4、在特征学习层，将局部上下文特征和全局上下文特征进行融合得到融合向量，并采用交谈注意力机制提取融合向量的特征；步骤S5、在输出层，根据融合向量的特征获取方面级情感分析的结果。本发明能够更好地捕获不同方面中蕴含的情感。

技术领域

本发明涉及涉及观点挖掘领域，特别是指基于局部上下文焦点机制和交谈注意力的方面级情感分析。

背景技术

随着互联网飞速发展，各种在线平台相继出现，从新闻、博客到论坛，互联网中用户的参与度越来越高，用户通过在网上浏览热点信息的方式，对发生的一些事件表达各自的观点和态度。与此同时，各类产品和娱乐方式也通过互联网的形式展现给用户，用户在购买和体验后，会对产品和服务发表大量表达自己观点的评论。这些带有用户观点的文本数据是非常重要的数据资源，通过分析这些带有用户观点的文本数据有着非常重要的意义。例如，商家可以通过分析这些数据获得用户针对某种产品的喜好和存在的不足，从而找到更好的改进方向，提高产品的销量；突发事件发生后，通过分析人们对该事件所发表的评论数据，从而更好的把控舆论的走向；政府出台新政策时，通过分析网民的观点判断提出的政策是否具有实效，从而进行调整。

随着社交媒体的不断进步，情感分析在自然语言处理领域具有很高的理论意义和应用价值。情感分析主要是对文本中带有的不同情感表达进行情感分类。以往的大多数情感分析研究都是一种粗粒度分析，无法满足更加准确精细的分析需求。例如，对某一个产品来说，从不同的方面去分析该产品存在哪些优点和哪些缺点等。方面级情感分析不同于以往的粗粒度研究，能够对句子中不同方面的情感极性进行分析，因此成为了情感分析领域中一个重要的研究方向。例如：“The price of this house is good,but the locationis terrible”，这句针对房子的评论当中存在着两个方面词，分别是“price”和“location”，两者对应的观点词分别是“good”和“terrible”，其中“good”代表的是积极的情感，“terrible”代表的是消极的情感。在这种情况下，方面级情感分析能够更充分的捕获文中表达的不同方面的情感。由此可见，对于方面级情感分析的研究有着非常重要的研究意义和价值。

随着预训练模型的提出，以BERT为首的预训练模型受到了广泛的关注，越来越多的研究人员将该模型用到方面级情感分析领域，证明BERT预训练模型对方面级情感分析任务是可行的。但现有技术中的方面级情感分析研究都是对句子中不同方面的情感极性进行预测，缺乏考虑情感极性和局部语境之间的关系。此外，大多数研究都是结合单个注意力或多头注意力机制展开研究，但是多头注意力机制中的每个头的运算都是相互独立的，因此现有技术的方面级情感分析方法在语言处理模型上还有提升空间。

发明内容

本发明的目的是提出基于局部上下文焦点机制和交谈注意力的方面级情感分析，将情感极性和局部语境建立关系，并且将多头注意力机制中相互独立的头联系起来，得到了更强的注意力设计，在语言处理模型上取得了更优的效果，能够更好地捕获不同方面中蕴含的情感。

本发明通过以下技术方案实现：

基于局部上下文焦点机制和交谈注意力的方面级情感分析，包括如下步骤：

步骤S1、构建包括BERT预训练层、特征提取层、特征学习层和输出层的分析模型；