[发明专利]层数增减深度学习神经网络训练方法、系统、介质和设备有效
申请号: | 201810823422.7 | 申请日: | 2018-07-25 |
公开(公告)号: | CN108985456B | 公开(公告)日: | 2021-06-22 |
发明(设计)人: | 朱定局 | 申请(专利权)人: | 大国创新智能科技(东莞)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 广州市华学知识产权代理有限公司 44245 | 代理人: | 李君 |
地址: | 523000 广东省东莞市松山湖高新技术产*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 层数 增减 深度 学习 神经网络 训练 方法 系统 介质 设备 | ||
本发明公开了一种层数增减深度学习神经网络训练方法、系统、介质和设备,所述方法包括:将训练输入数据输入当前深度学习神经网络,通过当前深度学习神经网络计算得到第一输出数据;判断第一输出数据与预期输出数据是否相同;若不符合第一预设条件,则在当前深度学习神经网络中分类器之前增加一个隐层;否则,将测试输入数据输入当前深度学习神经网络,通过深度学习神经网络计算得到第二输出数据;判断第二输出数据与真实结果数据是否相同;若不符合第二预设条件,则将当前深度学习神经网络中分类器的前一个隐层删除;否则,输出当前深度学习神经网络。本发明能达到充分拟合时顶层概念就是刚好足以与输出数据进行充分拟合的概念。
技术领域
本发明涉及一种深度学习神经网络训练方法,尤其是一种层数增减深度学习神经网络训练方法、系统、介质和设备,属于神经网络训练领域。
背景技术
现有深度学习技术能通过输入数据得到输出标签(例如通过头像得到该人身份证号,又如通过语音得到该人身份证号),在自顶向下的监督训练阶段必须要通过带标签数据的监督训练(例如带有身份证号标签的头像,又如带有身份证号标签的语音)。
但是,现有深度学习技术自顶向下监督训练,要么只是调节输出层与隐层之间的网络权值,要么调节所有层的网络权值。当顶层概念的类别比标签类别要多时,如果只调节输出层与隐层之间的分类器网络权值,如果分类器的网络结构比较简单,反复调节分类器的网络参数的结果往往是符合了这个输出标签又无法符合那个输出标签,也就是说无法实现充分的拟合。如果把分类器的网络结构设计得非常复杂,例如以层次复杂的BP神经网络作为分类器,那么又会出现过拟合的情况,使得某些关键特征在拟合中被舍弃,从而使得对样本而言分类结果完全正确,但到应用时就会发现不对。
可见,仅仅对输出层与隐层之间层次进行监督训练要么会无法充分拟合,要么会过拟合,都会导致深度学习在应用时失败。如果调节所有层的网络权值,那么又会破坏隐层中的认知权重和生成权重,使得调节之后得到的概念和景象不再完全是源于输入数据的特征和景象,而是为了输出标签的需要而被扭曲的特征和景象,同样会出现过拟合的现象,从而使得对样本而言分类结果完全正确,但到应用时就会发现不对。
发明内容
本发明的第一个目的是为了解决上述现有技术的缺陷,提供了一种层数增减深度学习神经网络训练方法,该方法使得顶层概念刚好具备足够区分不同样本数据的特征信息,从而与预期输出数据、真实结果数据能够完全对应,能达到充分拟合时顶层概念就是刚好足以与输出数据进行充分拟合的概念。
本发明的第二个目的在于提供一种层数增减深度学习神经网络训练系统。
本发明的第三个目的在于提供一种存储介质。
本发明的第四个目的在于提供一种计算设备。
本发明的第一个目的可以通过采取如下技术方案达到:
层数增减深度学习神经网络训练方法,所述方法包括:
通过样本训练当前深度学习神经网络;其中,所述当前深度学习神经网络包括输入层、隐层、分类器和输出层;
将训练输入数据输入当前深度学习神经网络,通过当前深度学习神经网络计算得到第一输出数据;
判断第一输出数据与训练输入数据对应的预期输出数据是否相同;
当第一输出数据与训练输入数据对应的预期输出数据不相同的数量不符合第一预设条件时,在当前深度学习神经网络中分类器之前增加一个隐层;
当第一输出数据与训练输入数据对应的预期输出数据不相同的数量符合第一预设条件时,将测试输入数据输入当前深度学习神经网络,通过深度学习神经网络计算得到第二输出数据;
判断第二输出数据与测试输入数据对应的真实结果数据是否相同;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于大国创新智能科技(东莞)有限公司,未经大国创新智能科技(东莞)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810823422.7/2.html,转载请声明来源钻瓜专利网。