[发明专利]中文句子相似性判别方法、装置、计算机设备和存储介质

说明书

本申请涉及一种中文句子相似性判别方法、装置、计算机设备和存储介质。所述方法包括：获取中文句子对，并且对中文句子对进行拼接，得到拼接文本；通过预训练的结合多头注意力机制的BERT向量编码器对拼接文本进行编码，得到句对向量；将句对向量输入预训练的全连接神经网络，输出中文句子对的相似标签和不相似标签；提取表征句子对之间相关性的多个相关性特征，将文本特征、相似标签和不相似标签进行拼接，得到融合特征；将融合特征输入预先训练的分类器，输出中文句子对相似性判别结果。采用本方法能够提高相似性判别的准确性。

技术领域

本申请涉及计算机技术领域，特别是涉及一种中文句子相似性判别方法、装置、计算机设备和存储介质。

背景技术

句子对的相似性判别属于句间关系的研究范围。它的输入是一对文本，输出类型则与建模方式相关。若采用基于字面相似度或空间向量相似度的方式来建模，一般输出句子对的相似度值，再结合人工设置的阈值给出相似性判别结果。若采用分类思想来建模，一般会直接输出句子对的分类标签。随着深度学习技术的发展，采用预训练模型对文本进行向量表征，然后结合深度学习算法来判别句子对的相似性已成为了学术界和工业界的主流方法。

然而，传统的句子对相似性判别，均是从句子本身的语义出发，通过语义的相似度来判别句子对的相似度，从而导致相似度判别的泛化能力弱，并且精度低。

发明内容

基于此，有必要针对上述技术问题，提供一种能够解决目前句子对判别精度低问题的中文句子相似性判别方法、装置、计算机设备和存储介质。

一种中文句子相似性判别方法，所述方法包括：

获取中文句子对，并且对所述中文句子对进行拼接，得到拼接文本；

通过预训练的结合多头注意力机制的BERT向量编码器对所述拼接文本进行编码，得到句对向量；

将所述句对向量输入预训练的全连接神经网络，输出所述中文句子对的相似标签和不相似标签；所述相似标签和所述不相似标签均对应概率值；

提取表征句子对之间相关性的多个相关性特征，将所述文本特征、所述相似标签和所述不相似标签进行拼接，得到融合特征；

将所述融合特征输入预先训练的分类器，输出中文句子对相似性判别结果。

在其中一个实施例中，还包括：获取中文句子对，将句子对中句子S1和S2的每一个字用空格来切割，并且按照[CLS]S1[SEP]S2[SEP]的顺序依次完成句子对的拼接；其中，CLS表示句首标签，SEP表示句尾标签。

在其中一个实施例中，所述BERT向量编码器为双向编码器；还包括：通过预训练的双向编码器，结合多头注意力机制对所述拼接文本进行编码，得到句对向量。

在其中一个实施例中，所述全连接神经网络包括：输入层、全连接层和softmax输出层，还包括：将所述句对向量输入预训练的全连接神经网络的输入层，由所述全连接层对所述句对向量进行映射处理，得到1×2维向量；通过softmax输出层对所述1×2维向量进行归一化，得到相似标签和不相似标签。

在其中一个实施例中，所述相关性特征包括：情感倾向一致性、句对文本长度差比率、句对文本相同字符覆盖率以及句对文本同义词覆盖率；还包括：从中文句子对中提取表征句子对之间相关性的情感倾向一致性、句对文本长度差比率、句对文本相同字符覆盖率以及句对文本同义词覆盖率；将情感倾向一致性、句对文本长度差比率、句对文本相同字符覆盖率、句对文本同义词覆盖率、所述相似标签和所述不相似标签进行拼接，得到融合特征。

在其中一个实施例中，还包括：从中文句子对中提取表征句子对之间相关性的情感倾向一致性为：

其中，SA表示情感倾向一致性；