[发明专利]深度学习神经网络训练方法、层数调整装置和机器人系统在审
申请号: | 201711330260.5 | 申请日: | 2017-12-13 |
公开(公告)号: | CN108171329A | 公开(公告)日: | 2018-06-15 |
发明(设计)人: | 朱定局 | 申请(专利权)人: | 华南师范大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 吴平 |
地址: | 510000 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种深度学习神经网络训练方法、层数调整装置和机器人系统。该方法包括:获取训练输入数据;将训练输入数据输入当前深度学习神经网络进行训练得到训练结果信息,当前深度学习神经网络包括输入层、隐层、分类器和输出层;若训练结果信息不符合预设条件,则调整当前深度学习神经网络中隐层的层数以更新当前深度学习神经网络,并返回将训练输入数据输入当前深度学习神经网络进行训练,得到训练结果信息的步骤;否则将当前深度学习神经网络作为训练后的深度学习神经网络。如此,通过在训练过程中根据训练结果信息进行隐层层数的调整,直至训练结果信息符合预设条件,可确保深度学习神经网络的训练成功,训练成功率高。 1 | ||
搜索关键词: | 学习神经网络 训练结果 机器人系统 调整装置 预设条件 隐层 信息符合 训练过程 分类器 输出层 输入层 成功率 返回 更新 成功 | ||
获取训练输入数据;
将所述训练输入数据输入当前深度学习神经网络进行训练,得到训练结果信息,所述当前深度学习神经网络包括输入层、隐层、分类器和输出层;
若所述训练结果信息不符合预设条件,则调整所述当前深度学习神经网络中隐层的层数以更新当前深度学习神经网络,并返回所述将所述训练输入数据输入当前深度学习神经网络进行训练,得到训练结果信息的步骤;
若所述训练结果信息符合所述预设条件,则将所述当前深度学习神经网络作为训练后的深度学习神经网络。
2.根据权利要求1所述的深度学习神经网络训练方法,其特征在于,所述训练输入数据包括无标签输入数据、带标签输入数据和各带标签输入数据对应的预期标签,所述将所述训练输入数据输入当前深度学习神经网络进行训练,得到训练结果信息,包括:将所述无标签输入数据作为当前深度学习神经网络的输入数据,对所述当前深度学习神经网络进行无监督学习,得到参数初始神经网络;
将所述带标签输入数据及所述带标签输入数据对应的预期标签分别作为所述参数初始神经网络的输入数据与预期输出,对所述参数初始神经网络进行有监督学习,得到输出的对应带标签输入数据的实际标签;
统计有监督学习的次数得到训练总次数,统计所述带标签输入数据的数量得到样本总数,将所述训练总次数、所述样本总数和各带标签输入数据对应的实际标签作为所述训练结果信息。
3.根据权利要求2所述的深度学习神经网络训练方法,其特征在于,所述预设条件包括:所述训练总次数小于或等于所述样本总数的预设倍数,且所有带标签输入数据的预期标签与实际标签的残差的平均值小于或等于预设残差阈值。4.根据权利要求1‑3任一项所述的深度学习神经网络训练方法,其特征在于,所述将所述训练输入数据输入当前深度学习神经网络进行训练,得到训练结果信息之前,还包括:创建具有一个输出层、一个分类器、一个隐层、一个输入层且依次自顶向下排列的深度学习神经网络得到所述当前深度学习神经网络。
5.根据权利要求4所述的深度学习神经网络训练方法,其特征在于,所述调整所述当前深度学习神经网络中隐层的层数以更新当前深度学习神经网络,包括:创建新插入的隐层,将所述深度学习神经网络中最后一个隐层的输出与新插入的隐层的输入通过编解码网络相连,将新插入的隐层的输出作为所述分类器的输入,以更新当前深度学习神经网络。
6.根据权利要求5所述的深度学习神经网络训练方法,其特征在于,新插入的隐层的节点数小于或等于新插入的隐层所连接的隐层的节点数。7.一种层数调整装置,其特征在于,包括:数据获取模块,用于获取训练输入数据;
网络训练模块,用于将所述训练输入数据输入当前深度学习神经网络进行训练,得到训练结果信息,所述当前深度学习神经网络包括输入层、隐层、分类器和输出层;
层数调整模块,用于在所述训练结果信息不符合预设条件时,调整所述当前深度学习神经网络中隐层的层数以更新当前深度学习神经网络,并返回所述网络训练模块重新将所述训练输入数据输入当前深度学习神经网络进行训练,得到训练结果信息;
训练结束模块,用于在所述训练结果信息符合所述预设条件时,将所述当前深度学习神经网络作为训练后的深度学习神经网络。
8.根据权利要求7所述的层数调整装置,其特征在于,还包括网络创建模块,用于创建具有一个输出层、一个分类器、一个隐层、一个输入层且依次自顶向下排列的深度学习神经网络得到所述当前深度学习神经网络。9.一种介质,存储有计算机程序,其特征在于,存储的计算机程序被处理器执行时实现如权利要求1‑6中任一项所述方法的步骤。10.一种机器人系统,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1‑6任一项所述方法的步骤。该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南师范大学,未经华南师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201711330260.5/,转载请声明来源钻瓜专利网。