[发明专利]基于SVD算法实现优化梯度下降过程的建模方法在审
申请号: | 202111074435.7 | 申请日: | 2021-09-14 |
公开(公告)号: | CN113987742A | 公开(公告)日: | 2022-01-28 |
发明(设计)人: | 王宏健;任述明;李靖予;卢婷;刘国华;黄秋波 | 申请(专利权)人: | 东华大学 |
主分类号: | G06F30/20 | 分类号: | G06F30/20;G06F17/16;G06F113/12;G06F119/02 |
代理公司: | 南京纵横知识产权代理有限公司 32224 | 代理人: | 薛伯奇 |
地址: | 201620 上*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 svd 算法 实现 优化 梯度 下降 过程 建模 方法 | ||
1.一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:包括以下步骤;
步骤一,将待解决的问题通过FunkSVD算法降维分解为两个低秩的矩阵,公式一如下其中R为m×n的矩阵,P为k×m矩阵,Q为k×n矩阵,m、n分别是k维空间下矩阵对应的长和宽;
步骤二,将用户和物品均映射至k维空间中;在k维空间下,对应k个隐藏因子;将物品和用户对应在k维空间上,利用梯度下降的过程优化分布结果,其中;
步骤三,采用梯度下降算法进行求解;
并在梯度下降算法中的FunkSVD算法中加入偏置项,形成BiasSVD算法;利用梯度下降法进行迭代处理,计算公式内的参数值,通过参数值的大小比对寻找最优解,得出模型。
2.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:步骤二中,在建立的模型中,用户和物品的距离越近,认为用户越有可能喜欢该物品,表现为各项隐藏因子正负性更加一致,能通过分值对喜爱程度进行量化;隐藏因子是用户在K维空间下的向量投影。
3.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:在步骤三中,FunkSVD算法的目标函数为公式二,其中K为现有评分记录的集合,mij是用户i对物品j的评分,λ是正则化系数;pi为用户向量,qj为物品向量,T为迭代次数。
4.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:
步骤四中,FunkSVD算法的基础上加入偏置项,形成BiasSVD算法;BiasSVD算法的公式三是,
得到的BiasSVD的梯度下降公式如下;
公式四,计算预测误差值
公式五,
公式六,
公式七,
公式八,
其中,公式五~公式八分别代表p矩阵和q矩阵更新,以及bi,bj参数更新的过程,公式四为计算预测误差值;μ为已有评分的平均值,bi和bj分别表示用户和物品偏置项,为算法的预测分值,λ为正则化系数,pi为用户向量,qj为物品向量,α为学习率;pik和qjk分别为每一个用户向量和物品向量;mij为用户i对物品j的评分值。
5.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:建模过程中引入优化函数以改进学习率的变化,用于建模过程中的BiasSVD算法的迭代过程中,优化算法运行效率,快速构建模型。
6.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:学习率函数公式为公式九式中t为迭代次数,a0为学习率初值,β为斜率控制常数;a1为迭代过程控制常数;根据梯度下降公式,对算法模型进行构建以优化算法的运行效率。
7.一种基于SVD算法实现优化梯度下降过程的方法,其特征在于:采用由权利要求1~6中的任一权利要求所述的一种基于SVD算法实现优化梯度下降过程的建模方法建立的模型,优化梯度下降过程的方法包括以下步骤;
步骤S1,初始化用户物品评分矩阵;
步骤S2,初始化特征矩阵,所述特征矩阵包括用户特征矩阵和物品特征矩阵;
步骤S3,初始化偏置向量,偏置向量包括用户偏置项和物品偏置项;
步骤S4,计算预测分值;
步骤S5,计算误差值,误差计算为本次迭代误差和上次迭代误差的差值,更新参数;
步骤S6,根据参数计算误差变化值,误差变化值为本次迭代误差和前一次迭代误差的差值;更新参数至公式五至公式八中的参数;
步骤7,根据误差变化值的平方均差误差值的大小,判断是否停止算法或循环执行。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东华大学,未经东华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111074435.7/1.html,转载请声明来源钻瓜专利网。