[发明专利]一种神经网络模型训练方法、信息推荐方法及存储介质

权利要求书

1.一种神经网络模型训练方法，其特征在于，所述神经网络模型包括特征提取模块、DNN模块和存储模块，所述神经网络模型训练方法包括：

利用所述特征提取模块提取训练样本的特征嵌入向量；

利用所述DNN模块对所有所述特征嵌入向量进行拼接得到拼接向量，并提取行为嵌入向量；其中，所述行为嵌入向量为用于记录用户历史行为的高维度信息反馈的嵌入向量；

根据所述拼接向量和所述行为嵌入向量构建所述DNN模块的输入向量，并将所述输入向量输入所述DNN模块进行训练以便调节所述DNN模块的参数和所述行为嵌入向量的参数；

将调节参数后的行为嵌入向量更新至所述存储模块，以便得到符合预设条件的神经网络模型。

2.根据权利要求1所述神经网络模型训练方法，其特征在于，将所述输入向量输入所述DNN模块进行训练以便调节所述DNN模块的参数和所述行为嵌入向量的参数，包括：

将所述输入向量输入所述DNN模块，并利用所述DNN模块以目标损失函数为学习目标调节所述DNN模块的参数和所述行为嵌入向量的参数。

3.根据权利要求2所述神经网络模型训练方法，其特征在于，在利用所述DNN模块以目标损失函数为学习目标调节所述DNN模块的参数和所述行为嵌入向量的参数之前，还包括：

根据所述神经网络模型的模型最小化平均Logistic损失确定第一损失函数；

根据所述行为嵌入向量与所述DNN模块倒数第二个隐层输出向量的均方误差确定第二损失函数；

对所述第一损失函数和所述第二损失函数进行加权计算得到所述目标损失函数。

4.根据权利要求1所述神经网络模型训练方法，其特征在于，所述提取行为嵌入向量，包括：

从用户行为记忆模块中提取正向行为嵌入向量和负向行为嵌入向量；其中，所述正向行为嵌入向量用于记录用户正向行为的高维度信息反馈，所述负向行为嵌入向量用于记录用户负向行为的高维度信息反馈。

5.根据权利要求4所述神经网络模型训练方法，其特征在于，将所述输入向量输入所述DNN模块进行训练以便调节所述DNN模块的参数和所述行为嵌入向量的参数，包括：

将所述输入向量输入所述DNN模块进行训练以便调节所述DNN模块的参数并确定反向传播的隐层输出向量；

若所述训练样本为正样本，则根据所述隐层输出向量更新所述正向行为嵌入向量；

若所述训练样本为负样本，则根据所述隐层输出向量更新所述负向行为嵌入向量。

6.根据权利要求1至5任一项所述神经网络模型训练方法，其特征在于，在将调节参数后的行为嵌入向量更新至所述存储模块之后，还包括：

判断所述神经网络模型是否训练完毕；

若是，则将所述存储模块中所述调节参数后的行为嵌入向量上传至云服务器进行存储；

若否，则确定新的训练样本，并进入利用所述特征提取模块提取所述新的训练样本的特征嵌入向量的步骤。

7.一种信息推荐方法，其特征在于，应用于基于神经网络模型的信息推荐装置，所述神经网络模型包括特征提取模块、DNN模块和存储模块，所述信息推荐方法包括：

利用所述特征提取模块提取目标数据的特征嵌入向量；

利用所述DNN模块对所有所述特征嵌入向量进行拼接得到拼接向量，并从所述存储模块中提取行为嵌入向量；其中，所述行为嵌入向量中记录有用户历史行为的高维度信息反馈；

根据所述拼接向量和所述行为嵌入向量构建所述DNN模块的输入向量，并将所述输入向量输入所述DNN模块得到所述目标数据的推荐概率；

根据所述推荐概率判断是否推荐所述目标数据。