[发明专利]一种基于伪逆学习快速训练自编码器的近似方法在审
申请号: | 201810700269.9 | 申请日: | 2018-06-29 |
公开(公告)号: | CN109034387A | 公开(公告)日: | 2018-12-18 |
发明(设计)人: | 郭平;尹乾;马荣 | 申请(专利权)人: | 北京师范大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100875 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 权重 编码器 近似 快速训练 神经网络 归一化处理 计算编码器 奇异值分解 输出矩阵 自编码 伪逆 隐层 捆绑 设置控制参数 神经网络训练 计算解码器 基本模块 激活函数 矩形单位 权重矩阵 输入矩阵 学习算法 硬件实现 易用性 构建 阶跃 截断 重构 算法 学习 | ||
1.一种快速训练自编码神经网络的方法,其特征在于:首先采用伪逆学习算法训练自编码器的解码器权重,再利用权重捆绑计算编码器权重矩阵。
2.根据权利要求1所述的一种快速训练自编码器神经网络的近似方法,其特征在于,隐层输出矩阵通过有偏阶跃激活函数后近似为矩形单位阵,然后通过计算伪逆解近似求出解码器权重矩阵。
3.根据权利要求1所述的一种快速训练自编码器神经网络的近似方法,其特征在于,根据权利要求2计算得到的解码器权重,通过权重捆绑得到编码器权重的初始值。再利用输入矩阵的特征值对其进行归一化变换,得到编码器权重的最终值。
4.根据权利要求2和3所述的计算编码器和解码器权重过程中,无需计算输入矩阵的奇异值分解。在计算自编码器的解码器权重时,引入了正则化项防止病态问题解的不稳定性。
5.根据权利要求1或4所述的一种快速训练自编码器神经网络的近似方法,其特征在于,可通过调节正则化参数控制重构误差的大小。
6.根据权利要求1或2所述的一种快速训练自编码器神经网络的近似方法,其特征在于,可通过调节阶跃函数的有偏度δm控制近似误差的大小。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京师范大学,未经北京师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810700269.9/1.html,转载请声明来源钻瓜专利网。