[发明专利]一种短文档情感原因对提取方法、系统、存储介质

说明书

本发明属于自然语言处理的情感分析技术领域，公开了一种短文档情感原因对提取方法、系统、存储介质，所述短文档情感原因对提取系统包括：情感/原因提取模块、第一词级别编码器模块、词级别注意力模块、子句级别编码器模块、情感/原因预测模块、情感原因对提取模块、第二词级别编码器模块、位置编码器模块和情感原因对预测模块。本发明针对目前情感/原因提取中，忽略情感预测时，子句在整个文档中的表达与原因的关系，提出新的利用情感预测原因的结构；在情感原因对提取时，对于位置信息的利用并不充分，提出新的利用位置信息的结构，帮助机器更加精准的提取短文本的情感原因对。本发明可以帮助机器更加精准的提取短文本的情感原因对。

技术领域

本发明属于自然语言处理的情感分析技术领域，尤其涉及一种短文档情感原因对提取方法、系统、存储介质。

背景技术

目前，在传统短文档情感原因提取的研究中，通常是给定情感标签预测导致其情感的潜在的原因，给定情感标签限制了其在现实世界的应用，最近的研究提出直接预测出短文档的情感原因对，即不给定情感标签的前提下，预测文档潜在的情感以及导致其情感的潜在的原因。

由于最近的情感原因对提取的表现并不是很好，其F1只有0.6128，主要原因在于在情感/原因提取阶段，原因预测的准确率偏低，以及情感原因对提取阶段并未充分利用情感原因对的位置关系，以及使用的是200d的预训练词向量，导致其结果F1较低。通过就上面的三点进行优化，使其F1可以达到0.6816。

通过上述分析，现有技术存在的问题及缺陷为：现有的情感原因对提取过程中，在情感/原因提取阶段，原因预测的准确率偏低，以及情感原因对提取阶段并未充分利用情感原因对的位置关系，以及使用的是200d的预训练词向量，导致其结果F1较低。

发明内容

针对现有技术存在的问题，本发明提供了一种短文档情感原因对提取方法、系统、存储介质。

本发明是这样实现的，一种短文档情感原因对提取方法，所述短文档情感原因对提取方法，包括：

步骤一，第一词级别编码器模块将短文本中的每一子句送入词级别编码器，词级别注意力模块，通过注意力机制，引入了当前预测词对应输入词的上下文信息以及位置信息，计算句中的词的权重，并将每一句中词的权重和累加，得到新的文本向量；

步骤二，子句级别编码器模块将短文本的子句表达式送入子句级别编码器，情感/原因预测模块通过子句级别编码器获取不同子句之间的结构性信息更新子句表示后，分别通过softmax函数得到情感或原因的分类概率；

步骤三，情感/原因笛卡尔乘积配对模块将上一阶段预测的情感/原因子句按笛卡尔乘积一一配对，得到一个只有情感与原因交替出现的文本，同时计算情感/原因所在句子的相对位置，得到位置向量；

步骤四，第二词级别编码器模块将通过笛卡尔积配对后文本的每一子句送入词级别编码器，用于得到每个子句中词的上下文信息；位置编码器模块将位置向量送入位置编码器，用于得到在每一个短文本中情感子句与原因子句的位置信息；

步骤五，情感原因对预测模块，通过词级别编码器与位置编码器分别获取每个子句中词的上下文信息与每一个短文本中情感子句与原因子句的位置信息后，将其分别通过softmax函数得到情感或原因的分类概率。

进一步，所述步骤一中，第一词级别编码器模块采用BiLSTM作为最基础的词级别编码器，在每一个时间步，LSTM模型是由t时刻的输入词X_t，细胞状态c_t，临时细胞状态隐层状态h_t，遗忘门f_t，记忆门i_t，输出门o_t组成；