[发明专利]句子情感分析方法、装置以及设备

权利要求书

1.一种句子情感分析方法，其特征在于，包括步骤：

获取待测文本以及与所述待测文本相对应的常识文本，其中，所述待测文本包括若干个句子，所述句子中包括若干个方面词；

将所述待测文本输入至词嵌入模型，获取待测文本的方面词的词向量以及位置嵌入向量，将所述待测文本的词向量以及位置嵌入向量进行拼接，获取所述待测文本的句子向量；

根据所述常识文本、待测文本的词向量以及所述词嵌入模型，获取所述常识文本的句子向量；

将所述待测文本的句子向量输入至第一双向LSTM网络中，获取所述待测文本的隐藏层向量；

将所述常识文本的句子向量输入至第二双向LSTM网络中，获取所述常识文本的隐藏层向量；

根据所述待测文本的隐藏层向量以及多头自注意力机制模型中的位置联合注意力算法，获取位置信息特征，其中，所述位置联合注意力算法包括，具体如下：

式中，为所述待测文本的隐藏层向量序列，为所述的子序列的均值；为所述待测文本的隐藏层向量；为所述待测文本的位置嵌入向量；为第i个方面词在所述多头自注意力机制模型的第t个注意力头提取得到的第一嵌入向量；为第i个方面词在所述多头自注意力机制模型的第t个注意力头提取得到的第二嵌入向量；为关于所述位置信息特征的第一层感知机的权重参数，为关于所述位置信息特征的第一层感知机的偏置参数；为关于所述位置信息特征的第二层感知机的权重参数，为关于所述位置信息特征的第二层感知机的偏置参数；为第i个方面词在所述多头自注意力机制模型的第t个注意力头得到的权重参数；为所述待测文本的位置信息向量；为非线性激活函数；为所述位置信息特征；为所述多头自注意力机制模型关于位置信息特征的并行模块数量；为所述多头自注意力机制模型关于位置信息特征的不同注意力头的单层感知机的权重参数；

根据所述常识文本的隐藏层向量以及常识联合注意力算法，获取常识信息特征，其中，所述常识联合注意力算法包括，具体如下：

式中，为关于所述常识信息特征的第一层感知机的权重参数，为关于所述常识信息特征的第一层感知机的偏置参数；为关于所述常识信息特征的第二层感知机的权重参数，为关于所述常识信息特征的偏置参数；为第i个方面词在所述多头自注意力机制模型的第t个注意力头得到的常识信息特征的权重参数；为所述常识文本的隐藏层向量；为所述常识文本的常识信息向量；μ为所述常识文本的近似分布的均值；为所述常识文本的近似分布的方差；为关于所述均值μ的权重参数，为关于所述均值μ的偏置参数；z为所述常识文本的变分瓶颈参数；为在近似分布中进行采样的随机向量；为点乘符号；为非线性激活函数；为关于所述方差的权重参数，为关于所述方差的偏置参数；为所述常识信息特征；为所述常识文本的权重参数；为所述常识文本的偏置参数；

获取依存句法树，根据所述待测文本以及依存句法树，获取与所述待测文本相对应的依存句法图；

根据所述依存句法图、待测文本的隐藏层向量以及所述多头自注意力机制模型中的句法联合注意力算法，获取句法信息特征，其中，所述句法联合注意力算法包括，具体如下：

式中，为所述依存句法图中第i个句法关系在所述多头自注意力机制模型的第t个注意力头提取到的注意力值；为所述依存句法图中第i个句法关系，为关于所述句法信息特征的第一层感知机的权重参数，为关于所述句法信息特征的第一层感知机的偏置参数；为关于所述句法信息特征的第二层感知机的权重参数，为关于所述句法信息特征的第二层感知机的偏置参数；为第i个句法关系在所述多头自注意力机制模型的第t个注意力头提取到的注意力权重；为所述待测文本的句法信息向量；为所述多头自注意力机制模型的并行模块数量，为所述多头自注意力机制模型关于句法信息特征的不同注意力头的单层感知机的权重参数；为所述常识信息特征；

将所述位置信息特征、句法信息特征、常识信息特征输入至所述多头自注意力机制模型，对所述位置信息特征、句法信息特征以及常识信息特征进行拼接融合，获取融合信息特征，将所述融合信息特征输入至Softmax分类网络中，获取所述待测文本的情感分析结果。