[发明专利]训练用于在线预测点击率的模型的方法、设备及推荐系统

权利要求书

1.一种训练用于在线预测点击率的模型的方法，其特征在于，包括：

获取多个教师模型中每个教师模型对样本集中每条样本的点击率的预测值，所述多个教师模型是基于所述样本集训练得到的，所述样本集中包含多条样本；

将所述多个教师模型对所述样本集中同一样本的点击率的预测值融合，以得到点击率的融合预测值，所述样本集中的每条样本对应一个点击率的融合预测值；

基于所述样本集中每条样本对应的点击率的融合预测值确定损失函数；

基于所述损失函数和所述样本集合对学生模型进行训练，直到所述学生模型满足第一收敛条件，满足所述第一收敛条件的学生模型用于在线预测点击率。

2.根据权利要求1所述的方法，其特征在于，所述将所述多个教师模型对所述样本集中同一样本的点击率的预测值融合，以得到点击率的融合预测值包括：

根据所述多个教师模型对目标样本的点击率的预测值，计算所述多个教师模型中每个教师模型的权重，所述权重与所述目标样本对应，所述目标样本为所述样本集中的任意一个样本；

根据所述多个教师模型中每个教师模型的权重，对所述多个教师模型对目标样本的点击率的预测值进行加权平均处理，以得到点击率的融合预测值。

3.根据权利要求1或2所述的方法，其特征在于，所述损失函数中包含蒸馏损失项，所述蒸馏损失项是根据所述样本集中每条样本对应的点击率的融合预测值确定的；

所述第一收敛条件为所述蒸馏损失项的值在连续多次迭代计算中不再减小。

4.根据权利要求3所述的方法，其特征在于，所述损失函数还包括非蒸馏损失项，所述非蒸馏损失项是根据所述样本集中的每条样本的样本标签确定的，所述样本标签表征用户点击过或用户未点击过。

5.根据权利要求1至4中任意一项所述的方法，其特征在于，在所述获取多个教师模型中每个教师模型对样本集中每条样本的点击率的预测值之前，所述方法还包括：

基于所述样本集对所述多个教师模型进行训练，直到所述多个教师模型均满足第二收敛条件。

6.根据权利要求5所述的方法，其特征在于，所述基于所述样本集对所述多个教师模型进行训练，直到所述多个教师模型均满足第二收敛条件包括：

基于训练样本集对目标教师模型进行训练，所述训练样本集中包含所述样本集中的至少一条样本，所述目标教师模型为所述多个教师模型中的任意一个；

基于验证样本集对所述目标教师模型进行测试，以得到测试结果，且当所述测试结果指示所述目标教师模型满足第二收敛条件时训练停止，所述验证样本集中包含所述样本集中的至少一条样本。

7.根据权利要求6所述的方法，其特征在于，所述训练样本集中的任一条样本的采集时间早于所述验证样本集中的任一条样本的采集时间。

8.根据权利要求1至7中任意一项所述的方法，其特征在于，所述样本集中的每条样本中包含用户的特征信息、待推荐对象的特征信息、环境的特征信息以及指示信息，所述指示信息指示用户点击过所述待推荐对象或用户未点击过所述待推荐对象。

9.根据权利要求8中所述的方法，其特征在于，所述待推荐对象为应用程序、音乐、视频、文章和商品中的至少一种。