[发明专利]基于SVD算法实现优化梯度下降过程的建模方法在审

专利信息
申请号: 202111074435.7 申请日: 2021-09-14
公开(公告)号: CN113987742A 公开(公告)日: 2022-01-28
发明(设计)人: 王宏健;任述明;李靖予;卢婷;刘国华;黄秋波 申请(专利权)人: 东华大学
主分类号: G06F30/20 分类号: G06F30/20;G06F17/16;G06F113/12;G06F119/02
代理公司: 南京纵横知识产权代理有限公司 32224 代理人: 薛伯奇
地址: 201620 上*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 svd 算法 实现 优化 梯度 下降 过程 建模 方法
【权利要求书】:

1.一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:包括以下步骤;

步骤一,将待解决的问题通过FunkSVD算法降维分解为两个低秩的矩阵,公式一如下其中R为m×n的矩阵,P为k×m矩阵,Q为k×n矩阵,m、n分别是k维空间下矩阵对应的长和宽;

步骤二,将用户和物品均映射至k维空间中;在k维空间下,对应k个隐藏因子;将物品和用户对应在k维空间上,利用梯度下降的过程优化分布结果,其中;

步骤三,采用梯度下降算法进行求解;

并在梯度下降算法中的FunkSVD算法中加入偏置项,形成BiasSVD算法;利用梯度下降法进行迭代处理,计算公式内的参数值,通过参数值的大小比对寻找最优解,得出模型。

2.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:步骤二中,在建立的模型中,用户和物品的距离越近,认为用户越有可能喜欢该物品,表现为各项隐藏因子正负性更加一致,能通过分值对喜爱程度进行量化;隐藏因子是用户在K维空间下的向量投影。

3.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:在步骤三中,FunkSVD算法的目标函数为公式二,其中K为现有评分记录的集合,mij是用户i对物品j的评分,λ是正则化系数;pi为用户向量,qj为物品向量,T为迭代次数。

4.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:

步骤四中,FunkSVD算法的基础上加入偏置项,形成BiasSVD算法;BiasSVD算法的公式三是,

得到的BiasSVD的梯度下降公式如下;

公式四,计算预测误差值

公式五,

公式六,

公式七,

公式八,

其中,公式五~公式八分别代表p矩阵和q矩阵更新,以及bi,bj参数更新的过程,公式四为计算预测误差值;μ为已有评分的平均值,bi和bj分别表示用户和物品偏置项,为算法的预测分值,λ为正则化系数,pi为用户向量,qj为物品向量,α为学习率;pik和qjk分别为每一个用户向量和物品向量;mij为用户i对物品j的评分值。

5.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:建模过程中引入优化函数以改进学习率的变化,用于建模过程中的BiasSVD算法的迭代过程中,优化算法运行效率,快速构建模型。

6.根据权利要求1所述的一种基于SVD算法实现优化梯度下降过程的建模方法,其特征在于:学习率函数公式为公式九式中t为迭代次数,a0为学习率初值,β为斜率控制常数;a1为迭代过程控制常数;根据梯度下降公式,对算法模型进行构建以优化算法的运行效率。

7.一种基于SVD算法实现优化梯度下降过程的方法,其特征在于:采用由权利要求1~6中的任一权利要求所述的一种基于SVD算法实现优化梯度下降过程的建模方法建立的模型,优化梯度下降过程的方法包括以下步骤;

步骤S1,初始化用户物品评分矩阵;

步骤S2,初始化特征矩阵,所述特征矩阵包括用户特征矩阵和物品特征矩阵;

步骤S3,初始化偏置向量,偏置向量包括用户偏置项和物品偏置项;

步骤S4,计算预测分值;

步骤S5,计算误差值,误差计算为本次迭代误差和上次迭代误差的差值,更新参数;

步骤S6,根据参数计算误差变化值,误差变化值为本次迭代误差和前一次迭代误差的差值;更新参数至公式五至公式八中的参数;

步骤7,根据误差变化值的平方均差误差值的大小,判断是否停止算法或循环执行。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东华大学,未经东华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111074435.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top