[发明专利]查询文档排序方法、装置及电子设备

权利要求书

1.一种查询文档排序方法，所述方法包括：

基于训练样本集对作为老师模型的第一排序模型进行有监督的训练；其中，所述训练样本集中的训练样本包括查询问句和与所述查询问句对应的查询文档，所述训练样本被标注了指示所述训练样本中的查询文档与所述训练样本中的查询问句是否匹配的标签；所述第一排序模型包括对至少一个评分子模型进行模型融合得到的排序模型；所述第一排序模型中的评分子模型用于输出查询文档对应于查询问句的匹配度评分；所述第一排序模型用于按照所述第一排序模型中的评分子模型输出的匹配度评分对与同一查询问句对应的多个查询文档进行排序；

获取所述第一排序模型输出的与所述训练样本集对应的排序结果；

将所述训练样本集以及所述排序结果作为蒸馏样本，对与所述第一排序模型对应的作为学生模型的第二排序模型进行模型蒸馏训练，以基于训练后的所述第二排序模型针对用户输入的查询问句和与所述查询问句对应的多个查询文档进行排序；其中，所述第二排序模型包括BERT子模型和评分子模型；所述第二排序模型中的BERT子模型用于输出基于查询问句和与所述查询问句对应的查询文档进行语义表示计算得到的语义向量；所述第二排序模型中的评分子模型用于输出与所述第二排序模型中的BERT子模型输出的语义向量对应的匹配度评分；所述第二排序模型用于按照所述第二排序模型中的评分子模型输出的匹配度评分对与同一查询问句对应的多个查询文档进行排序；所述模型蒸馏训练包括基于所述排序结果对所述第二排序模型进行预训练，并基于所述训练样本集对预训练后的所述第二排序模型进行模型微调。

2.根据权利要求1所述的方法，所述第一排序模型为基于XGBoost算法或者LambdaMart排序算法对至少一个评分子模型进行模型融合得到的排序模型。

3.根据权利要求1所述的方法，所述方法还包括：

获取用户输入的查询问句和与所述查询问句对应的多个查询文档，并基于用户输入的查询问句和与所述查询问句对应的各个查询文档分别构建输入向量；其中，所述输入向量包括代表所述查询问句和所述查询文档的整体语义的标识；

将所述输入向量输入至所述第二排序模型中的BERT子模型进行语义表示计算，并获取所述BERT子模型输出的与所述标识对应的语义向量；

将与所述标识对应的语义向量输入至所述第二排序模型中的评分子模型，计算与所述语义向量对应的匹配度评分，并输出按照与所述语义向量对应的匹配度评分进行排序的排序结果。

4.根据权利要求3所述的方法，所述输出按照与所述语义向量对应的匹配度评分进行排序的排序结果，包括：

按照与所述语义向量对应的匹配度评分从大到小的顺序对所述多个查询文档进行排序，并输出排序后的所述多个查询文档。

5.根据权利要求1所述的方法，所述基于所述训练样本集对预训练后的所述第二排序模型进行模型微调，包括：

基于所述训练样本集对预训练后的所述第二排序模型进行模型微调，以使与所述第二排序模型中的评分子模型对应的损失函数收敛；

其中，所述损失函数包括：

；

为所述损失函数的数值，为所述训练样本集中与同一查询问句的匹配度最高的查询文档对应于所述查询问句的匹配度评分，为所述训练样本集中与所述查询问句的匹配度排在第位的查询文档对应于所述查询问句的匹配度评分，为与对应的归一化折损累计增益和与对应的归一化折损累计增益的差值，为预设常量的数值。

6.根据权利要求1所述的方法，所述方法还包括：

从用户输入的查询问句中提取出至少一个关键词；

获取包含任一所述关键词的多个查询文档，作为与所述查询问句对应的多个查询文档。