[发明专利]一种基于伪逆学习快速训练自编码器的近似方法在审
申请号: | 201810700269.9 | 申请日: | 2018-06-29 |
公开(公告)号: | CN109034387A | 公开(公告)日: | 2018-12-18 |
发明(设计)人: | 郭平;尹乾;马荣 | 申请(专利权)人: | 北京师范大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100875 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种构建深度神经网络的基本模块自编码器训练方法,目的是为了克服现有深度神经网络训练算法的不足,提供一种快速训练自编码神经网络的近似方法。所述快速训练自编码器的近似方法不采用奇异值分解的方法计算编码器权重,而是采用有偏阶跃激活函数,将隐层输出矩阵近似为矩形单位阵,再采用伪逆学习算法计算解码器权重矩阵。经过权重捆绑策略得到编码器权重的估计值,再计算输入矩阵的特征值,用特征值将编码器权重归一化处理。通过归一化处理,使得隐层输出矩阵近似保持不变,提高权重捆绑的稳定性。所述快速训练自编码神经网络的近似方法不需要通过截断奇异值分解来计算编码器权重,不需要设置控制参数,计算速度快。重构误差容易控制,易用性强,有利于硬件实现。 | ||
搜索关键词: | 权重 编码器 近似 快速训练 神经网络 归一化处理 计算编码器 奇异值分解 输出矩阵 自编码 伪逆 隐层 捆绑 设置控制参数 神经网络训练 计算解码器 基本模块 激活函数 矩形单位 权重矩阵 输入矩阵 学习算法 硬件实现 易用性 构建 阶跃 截断 重构 算法 学习 | ||
【主权项】:
1.一种快速训练自编码神经网络的方法,其特征在于:首先采用伪逆学习算法训练自编码器的解码器权重,再利用权重捆绑计算编码器权重矩阵。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京师范大学,未经北京师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810700269.9/,转载请声明来源钻瓜专利网。