[发明专利]一种基于双通道模型的细粒度的用户评论情感分析方法

权利要求书

1.一种基于双通道模型的细粒度的用户评论情感分析方法，其特征在于，包括以下步骤：

步骤(1)对文本进行预清理和分词；

步骤(2)对文本进行进一步预处理获取文本中每个单词的词性和依存关系；

步骤(3)将方面信息引入到计算模型BERT中，根据不同的方面获得与之对应的不同方面嵌入向量；

步骤(4)进行方面检测和词方面极性分类；

步骤(5)构建双通道模型，在双通道之间设置通路，对将方面检测子任务中能够得到的信息，用于协助极性判断子任务的完成；

步骤(6)根据步骤(2)得到的文本，搭建一个双层GCN模型，引入依存信息；

步骤(7)构建用于训练所述双通道模型的目标损失函数；

步骤(8)整体训练，根据步骤(7)中的目标损失函数对上述的双通道模型进行训练；

所述步骤(4)进行方面检测和词极性分类，具体包括：

用AD代表方面检测，即判断某一方面是否在文档中存在这一子任务，用PC代表极性分类，即在文档中判断提及的某方面的情感极性；对于判断一个方面是否存在这个子任务引入名词；首先对名词信息进行如下处理：

noun＝noun*NegINF+1

其中NegINF代表一个负无穷的数，将非名词的单词在noun上的值设置为接近负无穷，将名词单词在noun上设置为1，然后将处理后的信息通过软最大化Softmax函数，这样处理使得非名词词性的单词，在注意力权重上的值近似为0；从而帮助模型更注重于预测目标相关的信息；具体公式如下：

r^AD＝Softmax(encode*a^AD*W^T)

其中软最大化Softmax计算公式如下：

其中下标i表示的是一段文档中第i个位置上对应的词，m^AD表示的是步骤(3)中对于方面检测这一子任务的编码结果，是被训练的参数，表示的是只保留名词信息的编码结果，是方面检测这一子任务的注意力权值，encode是通过BERT的编码结果，W^T表示参数，r^AD是方面检测子任务最终的编码结果；

对于方面检测这一子任务来说，通过自注意力机制的方法，并额外设置注意力权重对于非名词的词趋向于0，对于极性分类这一子任务来说，对词性的处理流程与方面检测的流程一致；具体公式如下：

sent＝sent*NegINF+1

r^PC＝Softmax(encode*a^PC*W^T)

其中sent表示情感词，对于可能表示情感的单词对应的值为1，对于不能表示情感的词对应的值为0；NegINF表示负无穷；下标i表示的是一段文档中第i个位置上对应的词，m^PC表示的是步骤(3)中对于极性判断这一子任务的编码结果，是被训练的参数，表示的是只保留名词信息的编码结果，是极性判断这一子任务的注意力权值，encode是通过BERT的编码结果，W^T表示参数，r^PC是极性判断任务最终的编码结果；

所述步骤(5)在双通道之间设置通路，将方面检测子任务中能够得到的信息，用于协助极性判断子任务的完成具体包括：

在双通道之间设置通路，充分利用方面检测这一子任务中能够得到的信息，用于协助第二个子任务极性判断的完成；使得在整体上的性能得到提高；在第一个子任务判断过程中，模型找到方面的位置，将第一个子任务得到的编码结果传递给第二个子任务，帮助第二个子任务定位方面的位置；

m^AD＝(encode*W^T+b)*aspect_embed

m^PC＝(encode*W^T+b)*aspect_embed+m^AD

其中encode是通过BERT的编码结果，aspect_embed是方面词通过嵌入层得到结果，W和b是被训练的参数，m^AD表示的是对于方面检测这一子任务的编码结果，m^PC表示的是对于极性判断这一子任务的编码结果。