[发明专利]深度神经网络的构建方法及系统有效
申请号: | 201310755400.9 | 申请日: | 2013-12-31 |
公开(公告)号: | CN104751227A | 公开(公告)日: | 2015-07-01 |
发明(设计)人: | 潘嘉;何婷婷;刘聪;王智国;胡国平;张仕良;胡郁 | 申请(专利权)人: | 安徽科大讯飞信息科技股份有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G10L15/16;G10L15/06 |
代理公司: | 北京维澳专利代理有限公司 11252 | 代理人: | 王立民;吉海莲 |
地址: | 230088 安徽省*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 深度 神经网络 构建 方法 系统 | ||
1.一种深度神经网络的构建方法,其特征在于,包括:
确定深度神经网络输入层的节点个数和输出层的节点个数;
获取训练数据;
确定深度神经网络隐含层的层数和第一层隐含层的节点个数:
根据所述训练数据的数据量、隐含层的层数和第一层隐含层的节点个数,确定后续隐含层的节点个数,并使不同隐含层的节点个数呈递减变化;
利用所述训练数据确定所述深度神经网络的模型参数得到深度神经网络。
2.根据权利要求1所述的深度神经网络的构建方法,其特征在于,所述确定后续隐含层的节点个数,并使不同隐含层的节点个数呈递减变化包括:
根据所述训练数据的数据量确定递减方式及递减比例;
按照确定的递减方式及递减比例确定后续隐含层的节点个数。
3.根据权利要求2所述的深度神经网络的构建方法,其特征在于,所述根据所述训练数据的数据量确定递减方式及递减比例包括:
使后续各隐含层的节点个数在所述第一层隐含层的节点个数的基础上按照所述递减比例逐层递减。
4.根据权利要求2所述的深度神经网络的构建方法,其特征在于,所述根据所述训练数据的数据量确定递减方式及递减比例包括:
对于层数小于等于层数阈值的各隐含层,使其中各隐含层的节点个数在所述第一层隐含层的节点个数的基础上按照所述递减比例逐层递减;
对于层数大于所述层数阈值的各隐含层,使其中各奇数层隐含层的节点个数在其前一个奇数层隐含层的节点个数的基础上按照所述递减比例递减,使其中各偶数层隐含层的节点个数等于其前一个隐含层的节点个数。
5.根据权利要求2或3或4所述的深度神经网络的构建方法,其特征在于,第k个隐含层的递减比例为:1/pk-1,其中,1≤p≤2。
6.一种深度神经网络的构建系统,其特征在于,包括:
输入输出层确定单元,用于确定深度神经网络输入层的节点个数和输出层的节点个数;
数据获取单元,用于获取训练数据;
隐含层第一确定单元,用于确定深度神经网络隐含层的层数和第一层隐含层的节点个数:
隐含层第二确定单元,用于根据所述训练数据的数据量、隐含层的层数和第一层隐含层的节点个数,确定后续隐含层的节点个数,并使不同隐含层的节点个数呈递减变化;
模型参数确定单元,用于利用所述训练数据确定所述深度神经网络的模型参数得到深度神经网络。
7.根据权利要求6所述的深度神经网络的构建系统,其特征在于,所述隐含层第二确定单元包括:
递减模式确定单元,用于根据所述训练数据的数据量确定递减方式及递减比例;
节点数确定单元,用于按照确定的递减方式及递减比例确定后续隐含层的节点个数。
8.根据权利要求7所述的深度神经网络的构建系统,其特征在于,
所述递减模式确定单元,具体用于根据所述训练数据的数据量确定后续各隐含层的节点个数在所述第一层隐含层的节点个数的基础上按照所述递减比例逐层递减。
9.根据权利要求7所述的深度神经网络的构建系统,其特征在于,所述递减模式确定单元,具体用于对于层数小于等于层数阈值的各隐含层,确定其中各隐含层的节点个数在所述第一层隐含层的节点个数的基础上按照所述递减比例逐层递减;对于层数大于所述层数阈值的各隐含层,确定其中各奇数层隐含层的节点个数在其前一个奇数层隐含层的节点个数的基础上按照所述递减比例递减,使其中各偶数层隐含层的节点个数等于其前一个隐含层的节点个数。
10.根据权利要求7或8或9所述的深度神经网络的构建系统,其特征在于,第k个隐含层的递减比例为:1/pk-1,其中,1≤p≤2。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽科大讯飞信息科技股份有限公司;,未经安徽科大讯飞信息科技股份有限公司;许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310755400.9/1.html,转载请声明来源钻瓜专利网。