[发明专利]基于NAG动量优化的隐语义模型优化方法

摘要

本发明公开了一种基于NAG动量优化的隐语义模型优化方法，改进了隐语义模型推荐算法中最小化损失函数寻找最速下降方向较难的问题，引入了Nesterov动量对传统的隐语义模型算法进行优化。首先，发明在原有的方法中在算法中加入中间动量∆P、∆Q，代替梯度下降方向的求取，其次，在∆P、∆Q的迭代过程通过加入冲量γ和中间动量的校正因子ξ进行求解，实现加速收敛，从而改变加快变量的变化速度，从而以较小的学习速率得到最优的结果。改进后本发明准确率明显提升，根据用户对物品的偏好关系或兴趣度进行推荐更加准确。

主权项

1.一种基于NAG动量优化的隐语义模型优化方法，包括以下步骤：(1)给定包含所有用户物品的数据集，生成用户‑物品矩阵R，利用奇异值分解将矩阵R分解为用户‑隐类矩阵P，隐类‑物品矩阵Q，R中元素为r_ui，表示第u个用户对第i个物品的评分，P中元素为p_uf，其中f为隐因子个数，p_uf表示第u个用户对第f个隐因子的评分值，Q中元素表示为q_fi，表示第i个物品在第f个隐因子中的权重；(2)将矩阵P和矩阵Q中每个元素初始化为随机元素值，每一项元素限值在区间(0，1)中；(3)定义损失函数Loss；式中，规定每个用户对他曾经有过行为的物品为正样本，r_ui＝1，反之则为0，λ是正则项系数，λ||p_uf||²+λ||q_fi||²为用来防止过拟合的正则化项；其特征在于：还包括以下步骤：(4)通过对损失函数求p_uf和q_fi的偏导数，得到最佳下降方向，即中间动量ΔP、ΔQ；ΔP_t＝γΔP_t‑1‑α((r_ui‑r^_ui)q_fi^(t)‑λ(p_uf^(t)‑ξp))ΔQ_t＝γΔQ_t‑1‑α((r_ui‑r^_ui)p_uf^(t)‑λ(q_fi^(t)‑ξq))式中，t为迭代次数，ξp＝βΔP_t‑1，ξq＝βΔQ_t‑1，二者均为校正因子，冲量γ表示本次迭代接受上次迭代梯度值的程度，β表示对中间动量的引用程度，为了保持下降速度的一致性，预设0≤β＝γ≤1；(5)将ΔP、ΔQ带入下式，通过迭代获得最佳的p_uf、q_fi值；p_uf^(t+1)＝p_uf^(t)‑ΔP_tq_fi^(t+1)＝q_fi^(t)‑ΔQ_t(6)定义用户u对物品i的兴趣度Preference(u,i)，将步骤(5)得到的最佳的p_uf、q_fi值带入下式，并以此为基础进行推荐：