[发明专利]一种基于回溯求解凸优化SVD++的推荐算法

说明书

本发明属于推荐算法和凸优化技术领域，具体涉及一种应用于SVD++推荐算法的求解无约束凸优化方法。本发明深入发掘SVD++推荐算法梯度下降的局限性，提出了一种基于回溯求解凸优化SVD++的推荐算法。该方法同时利用了凸优化求解问题的高效性，结合SVD++推荐算法模型，利用回溯搜索对推荐算法中梯度下降问题进行求解。回溯SVD++推荐算法模型与传统推荐算法模型相比，可以更有效地利用算法中梯度下降自动更新学习率更快地求解全局最优解。实验结果表明，本发明提出的一种基于回溯求解凸优化SVD++的推荐算法具有很好的收敛性，与现有方法相比，可以有效提升推荐系统的准确性与效率。

【技术领域】本发明公开了一种基于回溯求解凸优化SVD++的推荐算法，属于推荐算法和凸优化技术领域，具体涉及应用于SVD++推荐算法的求解无约束凸优化方法。

【背景技术】奇异值分解(Singular Value Decomposition，SVD)与传统的协同过滤推荐算法计算方法不同，通过将用户矩阵与项目矩阵进行分解与重构进行目标值的预测，它通过矩阵分解代数特征提取方法，并突破传统协同过滤算法相似性计算的局限。由于推荐系统的规模越来越大，用户之间的交集可能很小，使得用户之间的关联性很小，使得绝大部分基于关联分析的算法准确性较差。而SVD++算法作为SVD的改进算法，引入隐式反馈使用用户的历史浏览数据、用户历史评分数据、电影的历史浏览数据、电影的历史评分数据等作为新的参数，提高推荐系统各参数的关联性与系统准确性。个性化推荐系统通过分析、挖掘用户过去的操作记录，如网购的历史记录、查看的网页、关注的新闻等，获取用户兴趣偏好，从而向用户推荐其可能感兴趣的物品或信息。正因为其具有主动推荐功能，遂渐成为学术界和工业界关注及研究的热点。

近年来，在各大电子商务网站(如淘宝、天猫、京东等)、音乐电台、电影视频推荐、新闻推荐等多个场景的日常生活中得到广泛应用，这在一定程度上缓解了信息过载问题，并达到了信息或物品生产方和信息或物品需求方的双赢互利的效果。矩阵分解在推荐算法中有更好的实用性，通过矩阵分解与重构，能够更大程度的提高推荐系统预测的准确性。然而在SVD 算法中随机梯度下降使得算法在收敛阶段不够快速与准确，局部最优解问题成为了凸优化中难以解决的问题。

本发明引入回溯直线搜索(Backtracking Line Search，BLS)模型，深入发掘SVD++推荐算法梯度下降过程中随机梯度下降算法的局部最优解问题，提出了一种基于一种基于回溯求解凸优化SVD++的推荐算法。回溯求解凸优化与传统随机梯度下降模型相比，可以更有效地利用梯度下降时学习率控制梯度下降速度与准确度。该方法同时利用了奇异值分解与梯度下降算法，利用回溯直线搜索对SVD++推荐算法中梯度下降进行高效求解。实验结果表明，本发明提出的基于一种基于回溯求解凸优化SVD++的推荐算法具有很好的准确性，与现有方法相比，可以有效提升推荐算法的效率、召回率与准确度。

【发明内容】本发明的目的在于将回溯求解凸优化与SVD++推荐算法相结合，提出一种基于一种基于回溯求解凸优化SVD++的推荐算法。

与传统的基于随机梯度下降的SVD++推荐算法不同，本发明同时利用回溯求解凸优化，取代SVD++推荐算法中随机梯度下降，将随机梯度下降中固定步长通过回溯判定，每一次迭代都自动更新最优步长，实现凸优化问题求最优解。本发明的目的是求解如下模型：

其中U为用户与项目矩阵向量，e_ui为预测值与实际值差值，μ为全局平均值正则化参数， b_u是用户偏置矩阵向量，b_i是项目偏置矩阵向量，q_i为项目特征向量，p_u为用户评分特征向量，N(u)是用户行为物品集，y[j]为用户隐式反馈特征向量，r_ui为实际评分矩阵。

本发明的目的是通过下述技术方案来实现的：

(1)输入：训练集矩阵向量U∈□^M×N；