[发明专利]语义匹配模型训练方法及系统、检索系统、装置、介质

权利要求书

1.语义匹配模型训练方法，其特征在于，所述方法包括：

基于争议焦点分类裁判文书，选择包含预设争议焦点的若干个裁判文书作为基础样本；

定义单组训练样本为三元组样本Q、D⁺和D^-，包括查询Q、与查询Q相关的D⁺和与查询Q不相关的D^-；针对基础样本中的每个裁判文书，采用该裁判文书中的案情事实部分作为Q，并从该基础样本中获得符合条件的D⁺和D^-，基于该裁判文书对应的Q、D⁺和D^-获得得到单组训练样本；基于基础样本中的所有裁判文书得到的多个单组训练样本得到训练样本；

针对训练样本，对每个单组训练样本利用语义匹配模型分别计算Q与D⁺和D^-的相关性得分，利用相关性得分和损失函数训练语义匹配模型；

语义匹配模型的训练步骤包括：

分词处理每个单组训练样本中的Q、D⁺和D^-，对分词后的句子做Embedding处理得到词向量矩阵；

分别计算Q、D⁺和Q、D^-两个得分，Q、D⁺和Q、D^-得分均按照如下方法计算；

将词向量矩阵输入TextCNN模型提取句子中的语义特征以及语序特征，得到4个特征矩阵：矩阵a、矩阵b、矩阵c、和矩阵d；其中，矩阵a和矩阵b与Q相关，矩阵c和矩阵d与D相关；

将矩阵a分别与矩阵c和矩阵d相乘，将矩阵b分别与矩阵c和矩阵d相乘，得到4个新的特征矩阵；

对新的特征矩阵进行核函数池化操作，每个新的特征矩阵获得一个矩阵向量，拼接4个矩阵向量得到向量将向量输入全连接层得到最终的得分；

每个单组训练样本得到两个得分f⁺和f^-，利用f⁺和f^-和损失函数训练语义匹配模型；

将词向量矩阵输入基于unigrams和bigrames的TextCNN模型提取句子中的语义特征以及语序特征：

h∈(1,2),T∈(Q,D),m＝d_model

其中，为每个窗口经过TextCNN提取出的特征矩阵的特征向量，i对应TextCNN中不同的窗口位置，h中1，2分别对应unigrams和bigrames，W^h为TextCNN中对应的卷积核矩阵参数，T_i:i+h为对应窗口位置的词向量矩阵，为TextCNN中对应的偏置系数，G^h为Q、D中每个窗口经过TextCNN提取出的特征矩阵，d_model为未经过TextCNN的词向量矩阵的句子长度；

将矩阵a分别与矩阵c和矩阵d相乘，将矩阵b分别与矩阵c和矩阵d相乘，得到4个新的特征矩阵，具体为：

其中，为相乘得到的新的特征矩阵中的对应第i行，第j列的元素，h_q为h对应gram的Q的矩阵分别为a，b，h_d为h对应gram的D的矩阵分别为c，d，为h_q对应的G^h的第i个向量，为h_d对应的j个向量；

对新的特征矩阵进行核函数池化操作，利用RBF核函数的特性，设μ_k＝0,0.1,0.2,0.3…1(k∈1,2,3…11)；

不同的μ_k代表不同的相关性，最相关为1，最不相关为0；通过核函数计算出所述4个新的特征矩阵即相关性矩阵对于不同μ_k的距离，每个新的特征矩阵得到一个矩阵向量，拼接4个矩阵向量得到向量并输入全连接层，得到最终的得分；

其中，w^T为全连接层中的权重矩阵，b为全连接层中的偏置系数。

2.根据权利要求1所述的语义匹配模型训练方法，其特征在于，在正负样本的选择上，基于TF-IDF模型对争议焦点建模，对裁判文书所对应的争议焦点赋予IDF权重，对于任意的两个裁判文书，计算两个裁判文书的相关性，相关性高于预设阈值则认定该两篇裁判文书相关，否则认定不相关。