[发明专利]训练用于在线预测点击率的模型的方法、设备及推荐系统

说明书

本申请实施例公开了人工智能技术领域中的一种训练用于在线预测点击率的模型的方法、设备及推荐系统，用于降低在线预测的延迟。本申请实施例方法包括：获取多个教师模型中每个教师模型对样本集中每条样本的点击率的预测值，并将多个教师模型对同一样本的点击率的预测值融合为融合预测值，然后基于样本集中每条样本对应的点击率的融合预测值确定损失函数，最后基于损失函数和样本集合对学生模型进行训练，直到学生模型满足第一收敛条件，该学生模型可以用于在线预测点击率。

技术领域

本申请实施例涉及人工智能技术领域，尤其涉及一种训练用于在线预测点击率的模型的方法、设备及推荐系统。

背景技术

人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人，自然语言处理，计算机视觉，决策与推理，人机交互，推荐与搜索，AI基础理论等。

如何在海量的信息中根据用户的操作行为和用户特点向用户进行推荐，也是人工智能的一个重要研究方向之一。随着信息的不断丰富和增长，如何能更有针对性地，更高效更准确的向用户推荐信息是推荐技术的研究重点。

为了提高向用户推荐信息的准确性，目前的主要方法是根据用户的历史点击行为数据训练两个不同的模型，然后利用这两个不同模型在线预测用户对各种信息的点击率，然后将点击率高的信息推荐给用户。

然而，这种方法会提高在线预测的复杂度，导致较高的预测延迟。

发明内容

本申请实施例提供了一种训练用于在线预测点击率的模型的方法、设备及推荐系统，用于降低在线预测的延迟。

本申请实施例第一方面提供了一种训练用于在线预测点击率的模型的方法，包括：

获取多个教师模型中每个教师模型对样本集中每条样本的点击率的预测值，多个教师模型是基于样本集训练得到的，样本集中包含多条样本；多个教师模型中可以存在种类相同的模型，也可以存在种类不同的模型；例如，多个教师模型可以包括决策树模型和深度神经网络模型中的至少一个；将多个教师模型对样本集中同一样本的点击率的预测值融合，以得到点击率的融合预测值，样本集中的每条样本对应一个点击率的融合预测值；基于样本集中每条样本对应的点击率的融合预测值确定损失函数，该损失函数的表达形式可以多种；基于损失函数和样本集合对学生模型进行训练，直到学生模型满足第一收敛条件，第一收敛条件可以有多种，满足第一收敛条件的学生模型用于在线预测点击率。

将多个教师模型对样本集中同一样本的点击率的预测值融合成点击率的融合预测值，根据样本集中每条样本对应的点击率的融合预测值确定损失函数，基于损失函数和样本集合对学生模型进行训练，从而实现了将多个教师模型的知识迁移至单个学生模型；训练后的学生模型能够达到与教师模型相近的预测准确率，甚至超过教师模型的预测准确率；同时，学生模型单个学生模型即可完成对点击率的预测，而不需多个模型同时在线预测，因此能够降低预测延迟。

在一种实现方式下，将多个教师模型对样本集中同一样本的点击率的预测值融合，以得到点击率的融合预测值包括：根据多个教师模型对目标样本的点击率的预测值，计算多个教师模型中每个教师模型的权重，权重与目标样本对应，目标样本为样本集中的任意一个样本；根据多个教师模型中每个教师模型的权重，对多个教师模型对目标样本的点击率的预测值进行加权平均处理，以得到点击率的融合预测值。