[发明专利]基于DNN的回归分布模型及其训练方法、电子设备

说明书

本发明提供一种基于DNN的回归分布模型训练方法，其用于训练获得回归分布模型W(x，a)＝b，x为特征值，其包括n个子特征，n≥1，a和b其中一者为分位点，另一者为对应分位点的回归值；所述方法将分位点或回归值以变量作为DNN的输入参数进行了模型训练，可训练获得预测任意分位点的回归值之第一模型F(x，q)＝y和/或预测任意回归值的分位点之第二模型Q(x，y)＝q。本发明所提供的基于DNN的回归分布模型训练方法训练所获得的模型及电子设备均具有预测便利，节约了计算资源，预测效率高等优点。

【技术领域】

本发明涉及深度学习领域，尤其涉及一种基于DNN的回归分布模型及其训练方法、电子设备。

【背景技术】

回归分布预测中通常会使用到回归分布模型，回归分布模型是深度学习领域非常常见的一种模型，其广泛地被商场、银行等场所应用，如，商场通过回归分布模型预测客流量，银行通过回归分布模型预测客户的产品购买概率。然而，现有的回归分布模型需要单独建立多个模型，分别预测多个固定分位点，或者一个模型，输出多个固定分位点，其预测效率低，远不能满足当下回归分布预测的需求。

【发明内容】

为克服现有技术中的问题，本发明提供一种基于DNN的回归分布模型及其训练方法、电子设备。

本发明提供了一种解决上述技术问题的技术方案：一种基于DNN的回归分布模型训练方法，其用于训练获得回归分布模型W(x，a)＝b，x为特征值，其包括n个子特征，n≥1，a和b其中一者为分位点，另一者为对应分位点的回归值；基于DNN的回归分布模型训练方法包括：步骤S1：提供k个用于训练回归分布模型W(x，a)＝b的训练样本，k≥1；每一训练样本具有已知的特征值和回归值；步骤S2：构建DNN；DNN包括输入层、隐藏层及输出层；输入层包括对应特征值之输入的神经元，输入层及隐藏层的至少一层中包括对应a的随机采样值之输入的神经元，输出层为单个神经元，其对应b的取值；及步骤S3：将所述样本输入至DNN中，利用前向传播算法及反向传播算法训练获得回归分布模型W(x，a)＝b。

优选地，所述a为分位点，所述b为回归值，令分位点为q，a＝q，回归值为y，b＝y，在步骤S3中训练获得的模型为预测任意分位点的回归值之模型F(x，q)＝y，在步骤S3中，反向传播算法中，损失函数为：

x_i为训练样本中的某一特征值，q为(0,1)区间内的随机采样值；y_i为训练样本中的所述某一特征值对应的回归值。

优选地，所述b为分位点，所述a为回归值，令分位点为q，b＝q，回归值为y，a＝y，在步骤S3中训练获得的模型为预测任意回归值的分位点之模型Q(x，y)＝q，在步骤S3中，在反向传播算法中，损失函数为：

x_i为训练样本中的某一特征值，y为经验回归值区间内的随机采样值；y_i为训练样本中的所述某一特征值对应的分位点。

优选地，所述a为分位点，所述b为回归值，令a＝q，b＝y，在步骤S3包括：步骤S31：训练获得的第一模型，第一模型为预测任意分位点的回归值之模型F(x，q)＝y；步骤S32：训练获得的第二模型，第二模型为预测任意回归值的分位点之模型Q(x，y)＝q；及步骤S33：第一模型与第二模型之间组成对偶学习以优化第一模型和/或第二模型。

优选地，所述对偶学习包括步骤：步骤S331：设置对偶损失函数；及步骤S332：至少通过所述对偶损失函数进行反向传播以训练所述第一模型和/或第二模型。

优选地，所述对偶损失函数包括第一对偶损失函数：

L_DF＝|Q(x_i,F(x_i,q))-q|^p，其中，x_i为训练样本中的某一特征值；p为指数。