[发明专利]一种基于情感相似度注意力机制的文本情感识别方法

说明书

本发明公开一种基于情感相似度注意力机制的文本情感识别方法，在情感语料库训练数据不充足的情况下，提取有效的情感特征改进文本情感识别任务的效果。该方法以情感相似度为导向的注意力机制来计算每个句子在不同情感维度的权重分布，通过情感注意力机制可以提取出更有效更具有情感特征的文本向量，因此在离散的情感识别和连续的情绪回归任务上都取得了更好的效果。此外本发明验证了离散的情感分类和维度的VAD回归多任务训练可以有效提升系统的鲁棒性。

技术领域

本发明属于情感计算邻域，具体是基于情感相似度注意力机制和多任务学习的文本情感识别方法。

背景技术

情感计算在众多邻域中都要重要应用，如医疗，社会科学，心理学，人机交互系统等。基于文本模态的情感识别问题是近年来情感计算中一个重要的子任务，有多种研究方法，比较常用的是使用情感词典，因为每个情感值往往代表对应单词的情感极性和情感强度，比如有的研究将文本分词后所有的单词和情感词典中的每个词进行语义相似度计算，并取最大值作为该文本在此单词维度下的情感极性。情感词典的使用可以一定程度上增强训练过程中的情感特征，但是其作用往往受限于情感词典的大小，此外在表达一个句子的情感极性时，将句子中的每个单词的情感极性相加或是取最大值的做法是不太恰当的，比如当两个正反极性的单词组合在一起，其情感极性不一定是两者相加或取最大值。

注意力机制模型，即给情感特征更大的权重，这种方法在文本情感识别中也有较多应用。但是这些方法主要是基于语义和句法信息对上下文进行建模从而给不同的特征分配权重，并没有包含特定的情感信息。引入知识图谱或迁移学习的方法也可以提高情感识别的准确率，但是这类引入外部特征的方法缺少一定的鲁棒性，往往取决于目标数据库和外部知识的相关程度，并不能够根据不同数据库不同情景去自适应的增强情感信息。

发明内容

本发明的目的是为了克服现有技术中的不足，针对如何提取有效的情感特征来提高情感识别精度问题，提供一种以情感相似度为导向的注意力机制模型以及多任务训练的方法。该方法通过以情感相似度为情感导向的方法来给不同的情感特征分配相应权重，有效的提升了情感识别的准确度。为提高整个模型的鲁棒性，采用多任务学习(离散的情感分类任务和维度的VAD回归任务)的方法。

本发明的目的是通过以下技术方案实现的：

一种基于情感相似度注意力机制的文本情感识别方法，包括以下步骤：

步骤一、准备输入数据：对多模态数据库IEMOCAP中的文本数据归纳整理；

步骤二、处理文本句子：通过基于Transformer结构的Universal SentenceEncoder模型提取文本的语义和句意信息，并使用Universal Sentence Encoder模型将基础情感类别转换为情感向量以及将步骤一归纳整理后的文本中的每个句子s_i转换为句向量基础情感类别包括开心、生气、中性和伤心；

步骤三、通过情感注意力机制计算每个句子在每种情感方向上的情感趋向度，然后得到情感特征增强的句向量，用D表示得到的特征矩阵；

步骤四、深度特征提取：将步骤三得到的特征矩阵D输入到卷积神经网络中提取更深层次和更复杂的特征，得到特征矩阵H^*；

步骤五、多任务学习输出。

进一步的，包括离散的情感分类和维度的VAD回归两个任务；其中情感分类任务用softmax分类器分为开心、生气、中性、伤心四类；回归任务用linear线性回归函数在效价、唤醒度和优势度三个维度上进行拟合。

进一步的，步骤三情感注意力机制的具体计算方法如下：

(301)分别计算每个句向量和每种情感向量的相似度，先计算句向量和情感向量的余弦相似度，然后通过arccos转换为角距离；