[发明专利]一种面向产品属性的观点倾向性分析方法及系统

权利要求书

1.一种面向产品属性的观点倾向性分析方法，其特征在于，包括以下步骤：

1)通过预训练词嵌入模型将输入句子及其对应的评价对象中的词语映射到高维向量空间，得到词向量；

2)利用所述词向量，使用神经网络模型对评价对象及其所在的输入句子的上下文内容进行建模，并将输入句子中每个词语相对于评价对象的距离信息进行词语位置信息编码；

3)利用所述神经网络模型的输出结果和所述词语位置编码，通过注意力机制获得带有注意力权重的句子向量表示和评价对象向量表示；

4)根据所述带有注意力权重的句子向量表示和评价对象向量表示，计算评价对象的观点倾向性分析结果的概率分布，从而获得观点倾向性分析结果。

2.根据权利要求1所述的方法，其特征在于，步骤1)采用Google的BERT-Base预训练词嵌入模型，并通过微调方式进行词嵌入模型修正；步骤2)所述神经网络模型为Bi-LSTM神经网络模型或者Bi-GRU神经网络模型。

3.根据权利要求1或2所述的方法，其特征在于，根据步骤1)～4)训练观点倾向性分析模型，在训练完成后，将待分析的句子输入所述观点倾向性分析模型，并输出观点倾向性分析结果。

4.根据权利要求3所述的方法，其特征在于，所述观点倾向性分析模型在训练时，采用带有L2规范化约束的交叉熵作为损失函数，记作：

其中，C表示分类标签数量，g_i表示样本i的真实分类标签，p_i表示样本i属于某类分类标签的概率，λ_r表示L2规范化的系数；然后使用BP反向传播算法计算梯度，并通过以下计算方式更新所有参数：

其中λ_l表示学习率。

5.根据权利要求1所述的方法，其特征在于，步骤2)所述将输入句子中每个词语相对于评价对象的距离信息d进行词语位置信息编码，其计算过程如下：

其中l表示输入句子中当前词语与评价对象的距离，N表示输入句子中的词语数量，M表示评价对象中的词语数量。

6.根据权利要求1所述的方法，其特征在于，步骤3)包括：

3.1)计算评价对象Q_i，avg对输入句子中每个词语的注意力权重β_c：

其中，c表示输入句子s中的某个词语，c＝1，2，…，N，H′_c表示输入句子s中的第c个词语的语义信息，σ表示用来计算输入句子中词语H′_c要性的函数定义如下：

σ(H′_c，Q_i，avg)＝tanh(H′_c·W_a·Q_i，avg^T+b_a)

其中W_a和b_a分别表示权重矩阵和偏置，tanh是非线性激活函数，Q_i，avg^T是Q_i，avg的转置矩阵；

3.2)计算输入句子H_avg对评价对象中每个词语的注意力权重γ_c：

其中，表示评价对象α_i中第c个词的语义信息，σ表示用来计算评价对象中词语重要性的函数，定义如下：

其中W_b和b_b分别表示权重矩阵和偏置，H_avg^T是H_avg的转置矩阵。

3.3)获得带有注意力权重的句子向量表示s_r和评价对象向量表示α_ir，计算过程如下：

3.4)将句子向量表示s_r和评价对象向量表示α_ir拼接起来作为输出层的输入m，计算过程如下：

m＝[s_r，α_ir]。