[发明专利]文本相似度模型训练方法、文本相似度检测方法及装置

权利要求书

1.一种文本相似度模型训练方法，其特征在于，所述方法包括：

分别对用于文本相似度训练的第一文本样本和第二文本样本进行编码处理，得到对应的第一特征编码和第二特征编码；

通过所述第一特征编码和所述第二特征编码对孪生神经网络进行训练；

获取所述孪生神经网络训练后的损失，基于所述损失确定所述第一特征编码的第一扰动特征以及所述第二特征编码的第二扰动特征；

根据所述第一特征编码和对应的第一扰动特征以及所述第二特征编码和对应的第二扰动特征对所述孪生神经网络进行迭代训练；

重复执行上述获取所述孪生神经网络训练后的损失的步骤，直到所述损失最小时，得到用于文本相似度检测的文本相似度检测模型。

2.根据权利要求1所述的方法，其特征在于，所述基于所述损失确定所述第一特征编码的第一扰动特征以及所述第二特征编码的第二扰动特征，包括：

获取所述损失关于所述第一特征编码的第一导数，将所述第一导数确定为所述第一特征编码的第一扰动特征；

获取所述损失关于所述第二特征编码的第二导数，将所述第二导数确定为所述第二特征编码的第二扰动特征。

3.根据权利要求1所述的方法，其特征在于，所述获取所述孪生神经网络训练后的损失，包括：

获取所述孪生神经网络基于所述第一特征编码和所述第二特征编码，预测的所述第一文本样本和所述第二文本样本之间的相似度结果；

根据所述第一文本样本和所述第二文本样本之间的相似度结果，确定所述孪生神经网络训练后的损失。

4.根据权利要求3所述的方法，其特征在于，所述获取所述孪生神经网络基于所述第一特征编码和所述第二特征编码，预测的所述第一文本样本和所述第二文本样本之间的相似度结果，包括：

将所述第一特征编码输入所述孪生神经网络的第一分支网络，得到所述第一分支网络输出的第一识别结果；

将所述第二特征编码输入所述孪生神经网络的第二分支网络，得到所述第二分支网络输出的第二识别结果；

获取所述第一识别结果与所述第二识别结果之间的距离，将所述距离确定为所述第一文本样本和所述第二文本样本之间的相似度结果。

5.根据权利要求4所述的方法，其特征在于，所述获取所述第一识别结果与所述第二识别结果之间的距离，包括：

其中，X_h为第一识别结果，X_b为第二识别结果，ξ为常数，D_w则为指数距离。

6.根据权利要求5所述的方法，其特征在于，所述损失为对比损失；所述根据所述第一文本样本和所述第二文本样本之间的相似度结果，确定所述孪生神经网络训练后的损失，包括：

L(w，(Y，X_h，X_b)ⁱ)＝(1-Y)×L_D(D_wⁱ)+Y×L_S(D_wⁱ)；

L_D(D_wⁱ)＝max(0，margin-D_wⁱ)²；

L_S(D_wⁱ)＝(D_wⁱ)²；其中，m为样本数，w为模型参数，Y是数据标签，(Y，X_h，X_b)ⁱ是第i个样本示例，L_S(D_wⁱ)是相似的输入样本对的部分损失函数，L_D(D_wⁱ)是不同的输入样本对的部分损失函数。