[发明专利]神经网络训练的方法、神经网络的压缩方法以及相关设备在审
| 申请号： | 202011057004.5 | 申请日： | 2020-09-29 |
| 公开（公告）号： | CN112183747A | 公开（公告）日： | 2021-01-05 |
| 发明（设计）人： | 孟笑君;王雅圣;张正彦;岂凡超;刘知远 | 申请（专利权）人： | 华为技术有限公司;清华大学 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/04 |
| 代理公司： | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人： | 李杭 |
| 地址： | 518129 广东*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请涉及人工智能领域中的神经网络的压缩技术，公开了一种神经网络训练的方法。包括：将第一训练数据输入第一特征提取网络，得到与第一训练数据对应的N个第一特征信息，计算指示N个第一特征信息的数据分布规律的第一分布信息，通过第一神经网络对第一特征提取网络进行剪枝，将第一训练数据输入剪枝后的第一特征提取网络，得到与第一训练数据对应的N个第二特征信息，计算指示N个第二特征信息的数据分布规律的第二分布信息，根据指示第一分布信息和第二分布信息的相似度的第一损失函数，对第一神经网络进行训练。提供了执行剪枝操作的神经网络的训练方法，剪枝前后得到的特征信息的数据分布规律类似，保证剪枝后的特征提取网络的性能。 | ||
| 搜索关键词： | 神经网络 训练 方法 压缩 以及 相关 设备 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于华为技术有限公司;清华大学，未经华为技术有限公司;清华大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011057004.5/，转载请声明来源钻瓜专利网。
- 上一篇：一种一体化运动控制器
- 下一篇：八路完全对称的分布式片上变压器
