[发明专利]神经网络训练的方法、装置、计算机系统和可移动设备在审
申请号: | 201780004677.4 | 申请日: | 2017-05-31 |
公开(公告)号: | CN108496188A | 公开(公告)日: | 2018-09-04 |
发明(设计)人: | 潘为;崔健;林晓帆;赵丛 | 申请(专利权)人: | 深圳市大疆创新科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京龙双利达知识产权代理有限公司 11329 | 代理人: | 孙涛;王君 |
地址: | 518057 广东省深圳市南山区高*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种神经网络训练的方法、装置、计算机系统和可移动设备。该方法包括:获取神经网络的处理单元的第一权重值集合(410);对该第一权重值集合中的每个权重值进行三值化处理,得到第二权重值集合(420);根据该第二权重值集合和该处理单元的输入值集合,生成该处理单元的输出值,其中,该神经网络的后一层的处理单元的输入值集合取自前一层的处理单元的输出值(430);根据误差代价函数,训练该神经网络的每个该处理单元的该第一权重值集合中的权重值,其中,该误差代价函数包括误差项和结构性稀疏项,该结构性稀疏项使得该神经网络的部分该处理单元的该第一权重值集合中的所有权重值为零(440)。上述方法能够降低神经网络的资源需求。 | ||
搜索关键词: | 权重 处理单元 神经网络 集合 神经网络训练 误差代价函数 可移动设备 输入值集合 结构性 计算机系统 稀疏 三值化处理 资源需求 输出 误差项 所有权 | ||
【主权项】:
1.一种神经网络训练的方法,其特征在于,包括:获取神经网络的处理单元的第一权重值集合,其中,所述处理单元为所述神经网络的卷积核或神经元;对所述第一权重值集合中的每个权重值进行三值化处理,得到第二权重值集合;根据所述第二权重值集合和所述处理单元的输入值集合,生成所述处理单元的输出值,其中,所述神经网络的后一层的处理单元的输入值集合取自前一层的处理单元的输出值;根据误差代价函数,训练所述神经网络的每个所述处理单元的所述第一权重值集合中的权重值,其中,所述误差代价函数包括误差项和结构性稀疏项,所述误差项关联所述神经网络最后一层的输出与期望输出之间的误差,所述结构性稀疏项使得所述神经网络的部分所述处理单元的所述第一权重值集合中的所有权重值为零。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市大疆创新科技有限公司,未经深圳市大疆创新科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201780004677.4/,转载请声明来源钻瓜专利网。