[发明专利]一种基于深度学习的情绪原因识别方法及系统

权利要求书

1.一种基于深度学习的情绪原因识别方法，其特征在于：首先，将一段文本D中的情绪d_e与这段文本中的任意语句组合构成新的文本数据D_cp；然后用新的文本数据D_cp训练情绪原因识别模型PECR-BERT，所述的情绪原因识别模型PECR-BERT包括基于Transformer的双向编码表示器BERT模型和两个全连接神经网络层；最后用训练后的情绪原因识别模型PECR-BERT识别文本中情绪d_e对应的原因语句d_c。

2.根据权利要求1所述基于深度学习的情绪原因识别方法，其特征在于：将一段文本D中的情绪语句de与这段文本中的任意语句组合构成新的文本D_cp，包括对每个文本数据进行以下处理，

一段文本数据D＝{d₁，d₂，…，d_i，…，d_n}，d_i表示文本中的第i个语句，i＝1，2，…，n，文本中预先标记有情绪语句d_e，在情绪语句d_e的一定距离内选择任意语句d_j，作为d_e对应的待判断的原因语句，其中|j-e|≤r，0≤r≤n-1，e、j表示文本中语句的位置序号，r表示情绪语句d_e与语句d_j之间的最大相对距离，通过在d_e前后一定距离内选择d_j的方式构建得到文本D_cp＝{d_e，d_j，d₁，d₂，…，d_i，…，d_n}，其中，r-e≤j≤r+e，1≤j≤n。

3.根据权利要求1所述基于深度学习的情绪原因识别方法，其特征在于：用文本D_cp训练情绪原因识别模型PECR-BERT，实现方式如下，

1)对文本D_cp处理得到输入文本I＝[[CLS]，d_e，[SEP]，[CLS]，d_j，[SEP]，d₁，d₂，…，d_i，…，d_n]，其中，[CLS]为结果判断标志符，第一个[CLS]用来判断语句d_j是否为情绪语句d_e对应的原因语句，第二个[CLS]用来判断语句d_j是否为原因语句，[SEP]为段落分隔标志符，分别用来分隔情绪语句d_e、待判断语句d_j和整个文本段落；

使用BERT模型提供的词表对输入文本I进行分词，分词后的序列长度为(M+2)，然后使用词嵌入技术得到对应的词向量序列表示输入文本I中的两个[CLS]标志符对应的词向量，x_m表示第m个词的词向量，m＝1，2，…M；

将序列X输入到BERT模型中，通过计算得到每个词的特征表示分别表示两个[CLS]标志符对应的输出，h_i表示x_i对应的输出；

2)通过第二个[CLS]标志符对应的输出预测d_j是否为原因语句，实现过程如下，

其中W^c是一个矩阵，代表是全连接神经网络层的可训练参数，sigmoid表示激活函数，将一个数值映射到(0，1)，使用带sigmoid激活函数的全连接网络层计算，得到语句d_j是原因语句的分数y_c，若y_c≥0.5，语句d_j是原因语句；

3)获得情绪语句d_e与语句d_j之间的相对距离s_e，j，使用词嵌入处理将常数相对距离s_e，j映射到特征向量p_e，j，将第一个[CLS]标志符对应的输出与相对距离特征向量p_e，j拼接，然后计算语句d_j是情绪语句d_e对应的原因语句的分数，具体实现过程如下，

y_cp＝sigmoid(W^cp[h_cls1，p_e，j])

其中W^cp是一个矩阵，代表是全连接神经网络层的可训练参数，sigmoid表示激活函数，通过全连接层和sigmoid激活函数计算，得到语句d_j是情绪语句d_e对应的原因语句的分数y_cp，若y_cp≥0.5，语句d_j为情绪语句d_e对应的原因语句。