[发明专利]基于改进在线深度学习的用户需求预测方法

权利要求书

1.一种基于改进在线深度学习的用户需求预测方法，其特征在于，包括以下步骤：

1)对神经元输入数据进行正负判断；

2)若数据为正值，则原样输出；若数据为负值，则通过sigmoid函数计算得到其激活概率；

3)通过数据特性驱动的激活函数DReLu对数据激活输出；

4)通过HBP在线深度学习模型实现对用户需求的精确动态预测；

其中，激活函数DReLu的表达公式为：该激活函数的计算过程可以描述为：对于数据流实例特征x_t，经过具有n个神经元节点的神经网络隐含层的线性运算，得到一个n维的向量当该向量的第i个节点的取值为正的时候，采取ReLu函数的激活方式，当该向量的第i个节点的取值为负数的时候，首先利用sigmoid函数计算该值的激活概率并且是由该数据本身特性决定的激活可能性。

2.如权利要求1所述的基于改进在线深度学习的用户需求预测方法，其特征在于，HBP在线深度学习模型表达公式：其中，h⁽⁰⁾＝x，在上述公式中，θ^(l)和α是新引入的两组参数，θ^(l)表示每个隐含层与对应分类器的权重，每个分类器f由其进行参数化，而α表示模型输出中每个分类器所占的比重。L+1个分类器的加权组合构成模型总的输出，所以模型总的损失函数表示如以下公式所示：在在线学习的过程中，我们需要不断学习参数α^(l),θ^(l),W^(l)，在模型的第一次反向更新参数时，预设所有权重α是均匀分布的，即

3.如权利要求2所述的基于改进在线深度学习的用户需求预测方法，其特征在于，权重α的更新方式如以下公式所示：其中β∈(0,1)，是权重更新的折扣率参数，为了保证所有α之和为1，所以在每个数据流实例训练结束时对α进行标准化处理。为了解决浅层HBP模型初始性能较差问题，设置平滑参数s∈(0,1)，用于为每个分类器设置最小权重,在每次迭代中对分类器进行权重更新之后，权重设置为：保持了每个深度的分类器的最小权重。

4.如权利要求2所述的基于改进在线深度学习的用户需求预测方法，其特征在于，所有分类器的参数θ^(l)更新和传统DNN输出层权重更新类似，表达公式如下：

5.如权利要求2所述的基于改进在线深度学习的用户需求预测方法，其特征在于，对于参数W^(l),由于误差是从模型的输出层反向传播的，其更新表达公式如下：其中是通过来自误差导数f^(j)来计算的。