[发明专利]用户消费行为预测模型训练方法、装置、设备及存储介质

说明书

本申请公开了用户消费行为预测模型训练方法、装置、设备及存储介质，涉及机器学习模型训练技术领域。通过从数据库获取训练集和测试集；获取预测模型初始化权重向量、逆连接函数和学习速率参数；对任一训练数据，对权重向量归一化并构建第一随机变量，对第一随机变量多次采样获取第一内积估计值，由逆连接函数、第一内积估计值、训练数据的标注信息及学习速率参数更新权重向量；对每一权重向量采用测试数据测试，由预测模型风险最小的权重向量得到训练后用户消费行为的预测模型。对广义线性模型训练过程中通过对随机变量多次采样对内积估计进行近似，提高模型训练效率，保证模型精确度，使得广义线性模型能够有效的预测用户消费行为。

技术领域

本申请涉及计算机技术领域，尤其涉及机器学习模型训练技术领域。

背景技术

广义线性模型(Generalized linear model，GLM)是一种应用灵活的线性回归模型，它是机器学习中非常基础且应用广泛的一种方法。广义线性模型通过连接函数(linkfunction)来将实验者所量测的随机变量的数学期望值与线性组合的预测变量之间建立关系。其模型假设输出y与各个输入向量x在作用联结函数后是线性关系，即y＝g(w·x)，其中g为逆连接函数(inverse link function，即连接函数的逆)，w·x是权重向量w与输入向量x的内积。广义线性模型学习的技术问题核心就是在已知逆连接函数g的情况下，设计一个高效的方案通过训练集中的数据去学习权重向量w，使得误差尽可能的小。

广义线性模型在数据分析和金融建模方面都有着广泛的应用，例如可应用于预测用户消费行为的场景中，可在获取用户属性特征和/或目标物品属性特征后，输入到训练后的广义线性模型，从而得到用户消费行为的预测结果。而对于上述的广义线性模型的训练，通常采用稀疏子法(Sparsitron)或GLMtron方法，其中稀疏子法是基于乘法加权算法(multiplicative weights algorithm)的一个机器学习算法，而GLMtron方法是一个利用了加法更新规则(additive update rules)的高效学习方法。

现有的稀疏子法运行速度较慢，严重影响广义线性模型的训练效率，尤其是采用广义线性模型预测用户消费行为时由于输入数据维度较高，训练速度较慢，训练过程耗时较长；而GLMtron方法采样复杂度(sample complexity)不是最优的，达到同样精确度，比稀疏子法需要更多的采样数量，即更大的训练集。

发明内容

本申请提供一种用户消费行为预测模型训练方法、装置、设备及存储介质，以提高广义线性模型的训练效率，且保证模型精确度，从而使得广义线性模型能够应用于预测用户消费行为的场景中有效的进行用户消费行为预测。

本申请第一个方面提供一种用户消费行为的预测模型的训练方法，所述预测模型为广义线性模型，所述方法包括：

从数据库获取训练数据和测试数据，构成训练集和测试集，其中任一所述训练数据和所述测试数据包括多维度输入特征以及对应的用户消费行为的标注信息，所述多维度输入特征包括用户属性特征和/或目标物品属性特征；

获取预测模型的初始化的权重向量、预设的逆连接函数和学习速率参数；

对于任一训练数据，对所述权重向量归一化，根据归一化后的权重向量以及所述训练数据构建第一随机变量，对所述第一随机变量多次采样获取第一内积估计值，并根据所述逆连接函数、所述第一内积估计值、所述训练数据的标注信息以及所述学习速率参数更新所述权重向量；

对于每一训练数据得到的权重向量，采用所述测试数据进行测试，获取每一训练数据得到的权重向量对应的预测模型风险值，并根据所有预测模型风险值中的最小值对应的权重向量得到训练后用户消费行为的预测模型。

在一种可能的设计中，所述根据归一化后的权重向量以及所述训练数据构建第一随机变量，包括：

获取归一化后的权重向量对应的第一概率分布；