[发明专利]一种模型训练方法及装置

权利要求书

1.一种模型训练方法，其特征在于，包括：

将批量样本数据输入至待训练排序模型中，获取所述批量样本数据中每个训练样本的第一嵌入向量，得到第一嵌入向量集；

基于所述第一嵌入向量集确定出相似的嵌入向量以得到相似向量对；

基于所述相似向量对确定排序损失函数；

利用所述排序损失函数对所述待训练排序模型进行训练，直至排序损失函数收敛得到排序模型。

2.根据权利要求1所述的模型训练方法，其特征在于，所述基于所述第一嵌入向量集确定出相似的嵌入向量以得到相似向量对，包括：

将所述第一嵌入向量集确定为目标向量集；

或，从记忆库中获取第二嵌入向量集，将所述第二嵌入向量集以及所述第一嵌入向量集组成向量集以得到所述目标向量集；其中，所述记忆库中的第二嵌入向量为历史批量样本数据中训练样本的嵌入向量；

确定所述目标向量集中相似的嵌入向量以得到相似向量对。

3.根据权利要求2所述的模型训练方法，其特征在于，所述确定所述目标向量集中相似的嵌入向量以得到相似向量对，包括：

计算所述目标向量集中不同嵌入向量的相似度；

基于所述相似度确定出相似的嵌入向量以得到所述相似向量对。

4.根据权利要求2所述的模型训练方法，其特征在于，所述确定所述目标向量集中相似的嵌入向量以得到相似向量对，包括：

对所述目标向量集进行聚类，然后从每个簇中选取向量对以得到所述相似向量对。

5.根据权利要求3所述的模型训练方法，其特征在于，所述基于所述相似度确定出相似的嵌入向量以得到所述相似向量对，包括：

从所述目标向量集中的全部向量对中确定出所述相似度大于相似度阈值的向量对以得到所述相似向量对；

或，确定出目标数量个第一目标向量对以得到所述相似向量对，所述第一目标向量对的相似度大于所述目标向量集中的其他向量对；

或，确定出目标比例的第二目标向量对以得到所述相似向量对，所述第二目标向量对的相似度大于所述目标向量集中的其他向量对。

6.根据权利要求3所述的模型训练方法，其特征在于，所述基于所述相似度确定出相似的嵌入向量以得到所述相似向量对，包括：

将所述目标向量集中的任一嵌入向量作为第一目标嵌入向量，基于所述相似度确定出与所述第一目标嵌入向量相似的第二目标嵌入向量以得到第一相似向量对；

确定出与所述第一目标嵌入向量不相似的第三目标嵌入向量；

确定出与所述第三目标嵌入向量相似的第四目标向量以得到第二相似向量对；

相应的，所述基于所述相似向量对确定排序损失函数；利用所述排序损失函数对所述待训练排序模型进行训练，直至排序损失函数收敛得到排序模型，包括：

计算所述第一相似向量对的第一排序损失以及所述第二相似向量对的第二排序损失；

利用所述第一目标嵌入向量对应的模型输出值以及所述第二目标嵌入向量对应的模型输出值，确定出所述第一目标嵌入向量对应的第一输出值；

利用所述第三目标嵌入向量对应的模型输出值以及所述第四目标嵌入向量对应的模型输出值，确定出所述第三目标嵌入向量对应的第二输出值；

计算所述第一输出值和所述第二输出值的第一训练损失；

利用所述第一排序损失、第二排序损失和所述第一训练损失反向传播更新所述待训练排序模型，直至排序损失函数收敛得到排序模型。