[发明专利]一种短文档情感原因对提取方法、系统、存储介质

权利要求书

1.一种短文档情感原因对提取方法，其特征在于，所述短文档情感原因对提取方法包括：

第一词级别编码器模块将短文本中的每一子句送入词级别编码器，词级别注意力模块，通过注意力机制，引入了当前预测词对应输入词的上下文信息以及位置信息，计算句中的词的权重，并将每一句中词的权重和累加，得到新的文本向量；

子句级别编码器模块将短文本的子句表达式送入子句级别编码器，情感/原因预测模块通过子句级别编码器获取不同子句之间的结构性信息更新子句表示后，分别通过softmax函数得到情感或原因的分类概率；

情感/原因笛卡尔乘积配对模块将上一阶段预测的情感/原因子句按笛卡尔乘积一一配对，得到一个只有情感与原因交替出现的文本，同时计算情感/原因所在句子的相对位置，得到位置向量；

第二词级别编码器模块将通过笛卡尔积配对后文本的每一子句送入词级别编码器，用于得到每个子句中词的上下文信息；位置编码器模块将位置向量送入位置编码器，用于得到在每一个短文本中情感子句与原因子句的位置信息；

情感原因对预测模块，通过词级别编码器与位置编码器分别获取每个子句中词的上下文信息与每一个短文本中情感子句与原因子句的位置信息后，将其分别通过softmax函数得到情感或原因的分类概率。

2.如权利要求1所述短文档情感原因对提取方法，其特征在于，第一词级别编码器模块采用BiLSTM作为最基础的词级别编码器，在每一个时间步，LSTM模型是由t时刻的输入词X_t，细胞状态c_t，临时细胞状态隐层状态h_t，遗忘门f_t，记忆门i_t，输出门o_t组成；

LSTM的计算过程可以概括为，通过对细胞状态中信息遗忘和记忆新的信息使得对后续时刻计算有用的信息得以传递，而无用的信息被丢弃，并在每个时间步都会输出隐层状态h_t，其中遗忘，记忆与输出由通过上个时刻的隐层状态h_t-1和当前输入计算出来的遗忘门f_t，记忆门i_t，输出门o_t控制；在每一个时间步，隐状态h_t通过以下公式更新：

f_t＝σ(W_f·[h_t-1，x_t]+b_f)；

i_t＝σ(W_i·[h_t-1，x_t]+b_i)；

o_t＝σ(W₀·[h_t-1，x_t]+b₀)；

h_t＝o_t*tanh(C_t)；

最终，可以得到与句子长度相同的隐层状态序列{h₀，h₁，h₂，...，h_t-1|；前向的LSTM与后向的LSTM结合成BiLSTM。

3.如权利要求1所述短文档情感原因对提取方法，其特征在于，词级别注意力模块通过注意力机制，该机制的本质其实就是引入了当前预测词对应输入词的上下文信息以及位置信息，即隐层状态序列{h₀，h₁，h₂，...，h_n-1}(n为句子中词的数量)，计算第i句中第j个词的权重a_ij，然后将每一句中词的权重和累加，得到新的文本向量s_i，即子句的表达，称为语境向量；计算公式如下：

e_ij＝W_e2(tanh(W_e1·h_ij++b_e))；