[发明专利]一种含有缺失数据的数据保距性降维方法在审

专利信息
申请号: 201911059239.5 申请日: 2019-11-01
公开(公告)号: CN110852366A 公开(公告)日: 2020-02-28
发明(设计)人: 从银川;谢鲲;欧阳与点;文吉刚 申请(专利权)人: 湖南大学
主分类号: G06K9/62 分类号: G06K9/62;G06N3/04;G06N3/08
代理公司: 长沙正奇专利事务所有限责任公司 43113 代理人: 马强;曾利平
地址: 410082 湖*** 国省代码: 湖南;43
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 含有 缺失 数据 保距性降维 方法
【权利要求书】:

1.一种含有缺失数据的数据保距性降维方法,其特征在于,包括以下步骤:

步骤1:获取样本数据集,将样本数据集分为训练样本集和测试样本集,将样本数据集中的所有样本向量化形成样本矩阵;根据所述样本矩阵生成与样本矩阵一一对应的缺失数据矩阵,所述缺失数据矩阵中每个元素的值为1或0,1表示样本矩阵中该位置数据正常,0表示样本矩阵中该位置数据缺失;

步骤2:构建自动编码器,选择自动编码器的激活函数与初始化方法;

步骤3:根据步骤1中的缺失数据矩阵设计步骤2中自动编码器的损失函数;

步骤4:从步骤1的训练样本集中选择样本向量作为自动编码器的输入,计算步骤3中损失函数的值;

步骤5:更新所述自动编码器中编码器的权重矩阵,使编码器权重矩阵的更新具有随机投影特性;且判断是否达到预设训练次数,如果训练次数小于或等于预设训练次数,则转入步骤4,否则转入步骤6;

步骤6:采用训练后的自动编码器对测试样本集中的样本矩阵进行降维处理。

2.如权利要求1所述的数据保距性降维方法,其特征在于,所述步骤2中,自动编码器的网络结构为输入层-第一隐藏层-第二隐藏层-第三隐藏层-输出层,自动编码器的编码器的网络结构为输入层-第一隐藏层-第二隐藏层,自动编码器的解码器的网络结构为第二隐藏层-第三隐藏层-输出层。

3.如权利要求1所述的数据保距性降维方法,其特征在于,所述步骤3中,自动编码器的损失函数L(We,Wd,bd)为:

其中,||★||表示向量的二范数,⊙表示两个向量中的元素逐个相乘,xt为自动编码器第t个输入向量,为xt作为自动编码器输入时的输出向量,rt为与输入向量xt对应的缺失数据向量,xt∈X,rt∈R,X为样本矩阵,R为与样本矩阵X对应的缺失数据矩阵,表示k个样本向量且每个样本向量的长度为m,s为一个批量的大小,D(★;Wd,bd)表示解码器,E(★;We)表示编码器,We为编码器的权重矩阵,Wd为解码器的权重矩阵,bd表示解码器的偏置项。

4.如权利要求1所述的数据保距性降维方法,其特征在于,所述步骤5中,采用权重标准化处理更新损失函数中编码器的权重矩阵,使更新后编码器权重矩阵的均值为0、方差为1,具体的权重标准化处理公式为:

其中,wei为BP算法更新后权重标准化处理前编码器第i个权重矩阵,w′ei为权重矩阵wei权重标准化处理后的矩阵,μei为wei的均值,σei为wei的方差,Eei为元素全为1的矩阵。

5.如权利要求1所述的数据保距性降维方法,其特征在于,在所述步骤3中损失函数的基础上增加正则化项,根据增加正则化项后损失函数的值更新编码器的权重矩阵。

6.如权利要求5所述的数据保距性降维方法,其特征在于,所述正则化项Lr的表达式为:

增加正则化项后的损失函数的表达式为:

LC=L+αLr

其中,wei为编码器第i个权重矩阵,σei为权重矩阵wei的方差,μei为权重矩阵wei的均值,c为编码器权重矩阵的数量,L为未增加正则化项的损失函数,LC为增加正则化项后的损失函数,α为超参数。

7.如权利要求5所述的数据保距性降维方法,其特征在于,所述正则化项Lr的表达式为:

增加正则化项后的损失函数的表达式为:

LC=L+αLr

其中,||★||F为矩阵的F范数,wei为编码器第i个权重矩阵,为权重矩阵wei的转置,I为单位矩阵,c为编码器权重矩阵的数量,L为未增加正则化项的损失函数,LC为增加正则化项后的损失函数,α为超参数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湖南大学,未经湖南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911059239.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top