[发明专利]聚焦属性相关文本的属性级情感分类方法

权利要求书

1.一种聚焦属性相关文本的属性级情感分类方法，其特征在于，包括：

步骤1，对数据进行预处理使得数据中的每个样本包含属性X_a和上下文X_c，通过Bert预训练模型来获得属性和上下文的文本表征序列和其中，M和N分别代表输入样本中属性的个数和上下文的长度；

步骤2，将上下文的文本表征序列E_c复制一份，将第一份上下文的文本表征序列E_c与属性的文本表征序列E_a进行拼接，得到全局上下文的文本表征序列E_ac，再对全局上下文的文本表征序列E_ac使用双向长短时记忆网络和多头自注意力机制进行特征提取，得到全局上下文隐藏状态序列对第二份上下文的文本表征序列E_c直接使用双向长短时记忆网络和多头自注意力机制进行特征提取，得到上下文隐藏状态序列

步骤3，使用掩盖方法对上下文隐藏状态序列进行操作，得到属性相关文本的隐藏序列H_f，将隐藏序列H_f与属性的文本表征序列E_a进行拼接，得到属性上下文序列E_af，对属性上下文序列E_af使用长短时记忆网络与多头自注意力机制进行特征提取，得到隐藏状态序列

步骤4，将得到的隐藏状态序列与进行拼接，得到序列向量对序列向量执行最大池化操作，再使用多头自注意力机制进行特征提取，得到隐藏状态序列

步骤5，将得到的隐藏状态序列输入到采取Sigmoid激活函数的全连接层中，得到模型预测结果

步骤6，定义模型的损失进行模型评估与优化。

2.根据权利要求1所述的聚焦属性相关文本的属性级情感分类方法，其特征在于，所述步骤1具体包括：

通过Bert预训练模型得到的文本表征序列，动态的表征文本中每个词的词向量，获取文本表征向量的公式如下所示：

E_a＝Bert_a(X_a)          (1)

E_c＝Bert_c(X_c)         (2)

其中，E_a和E_c分别是属性和上下文的文本表征序列，Bert_a和Bert_c分别是属性和上下本的相应Bert预训练模型。

3.根据权利要求2所述的聚焦属性相关文本的属性级情感分类方法，其特征在于，所述步骤2具体包括：

E_a和E_c拼接过程可以用如下公式表示：

其中，E_ac是全局上下文的文本表征序列；

Bi-LSTM的特征抽取过程可以使用如下公式表示：

其中，为上下文隐藏状态序列，为全局上下文隐藏状态序列。

4.根据权利要求3所述的聚焦属性相关文本的属性级情感分类方法，其特征在于，所述步骤2还包括：

利用Bi-LSTM对E_c进行特征提取的过程如下：

其中，表示的是向前的LSTM输出的隐藏状态表示，表示的是向后的LSTM输出的隐藏状态表示，将和进行拼接得到了该文本序列的隐藏状态表示