[发明专利]一种含有缺失数据的数据保距性降维方法在审
申请号: | 201911059239.5 | 申请日: | 2019-11-01 |
公开(公告)号: | CN110852366A | 公开(公告)日: | 2020-02-28 |
发明(设计)人: | 从银川;谢鲲;欧阳与点;文吉刚 | 申请(专利权)人: | 湖南大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 长沙正奇专利事务所有限责任公司 43113 | 代理人: | 马强;曾利平 |
地址: | 410082 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 含有 缺失 数据 保距性降维 方法 | ||
1.一种含有缺失数据的数据保距性降维方法,其特征在于,包括以下步骤:
步骤1:获取样本数据集,将样本数据集分为训练样本集和测试样本集,将样本数据集中的所有样本向量化形成样本矩阵;根据所述样本矩阵生成与样本矩阵一一对应的缺失数据矩阵,所述缺失数据矩阵中每个元素的值为1或0,1表示样本矩阵中该位置数据正常,0表示样本矩阵中该位置数据缺失;
步骤2:构建自动编码器,选择自动编码器的激活函数与初始化方法;
步骤3:根据步骤1中的缺失数据矩阵设计步骤2中自动编码器的损失函数;
步骤4:从步骤1的训练样本集中选择样本向量作为自动编码器的输入,计算步骤3中损失函数的值;
步骤5:更新所述自动编码器中编码器的权重矩阵,使编码器权重矩阵的更新具有随机投影特性;且判断是否达到预设训练次数,如果训练次数小于或等于预设训练次数,则转入步骤4,否则转入步骤6;
步骤6:采用训练后的自动编码器对测试样本集中的样本矩阵进行降维处理。
2.如权利要求1所述的数据保距性降维方法,其特征在于,所述步骤2中,自动编码器的网络结构为输入层-第一隐藏层-第二隐藏层-第三隐藏层-输出层,自动编码器的编码器的网络结构为输入层-第一隐藏层-第二隐藏层,自动编码器的解码器的网络结构为第二隐藏层-第三隐藏层-输出层。
3.如权利要求1所述的数据保距性降维方法,其特征在于,所述步骤3中,自动编码器的损失函数L(We,Wd,bd)为:
其中,||★||表示向量的二范数,⊙表示两个向量中的元素逐个相乘,xt为自动编码器第t个输入向量,为xt作为自动编码器输入时的输出向量,rt为与输入向量xt对应的缺失数据向量,xt∈X,rt∈R,X为样本矩阵,R为与样本矩阵X对应的缺失数据矩阵,表示k个样本向量且每个样本向量的长度为m,s为一个批量的大小,D(★;Wd,bd)表示解码器,E(★;We)表示编码器,We为编码器的权重矩阵,Wd为解码器的权重矩阵,bd表示解码器的偏置项。
4.如权利要求1所述的数据保距性降维方法,其特征在于,所述步骤5中,采用权重标准化处理更新损失函数中编码器的权重矩阵,使更新后编码器权重矩阵的均值为0、方差为1,具体的权重标准化处理公式为:
其中,wei为BP算法更新后权重标准化处理前编码器第i个权重矩阵,w′ei为权重矩阵wei权重标准化处理后的矩阵,μei为wei的均值,σei为wei的方差,Eei为元素全为1的矩阵。
5.如权利要求1所述的数据保距性降维方法,其特征在于,在所述步骤3中损失函数的基础上增加正则化项,根据增加正则化项后损失函数的值更新编码器的权重矩阵。
6.如权利要求5所述的数据保距性降维方法,其特征在于,所述正则化项Lr的表达式为:
增加正则化项后的损失函数的表达式为:
LC=L+αLr
其中,wei为编码器第i个权重矩阵,σei为权重矩阵wei的方差,μei为权重矩阵wei的均值,c为编码器权重矩阵的数量,L为未增加正则化项的损失函数,LC为增加正则化项后的损失函数,α为超参数。
7.如权利要求5所述的数据保距性降维方法,其特征在于,所述正则化项Lr的表达式为:
增加正则化项后的损失函数的表达式为:
LC=L+αLr
其中,||★||F为矩阵的F范数,wei为编码器第i个权重矩阵,为权重矩阵wei的转置,I为单位矩阵,c为编码器权重矩阵的数量,L为未增加正则化项的损失函数,LC为增加正则化项后的损失函数,α为超参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湖南大学,未经湖南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911059239.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:小型移动安全检测设备
- 下一篇:一种腰带式防抖动胰岛素注射器
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置