[发明专利]神经网络压缩方法、图像处理方法及装置在审
申请号: | 201910891998.1 | 申请日: | 2019-09-20 |
公开(公告)号: | CN110717578A | 公开(公告)日: | 2020-01-21 |
发明(设计)人: | 董弋锋;李亮亮 | 申请(专利权)人: | 北京迈格威科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 11722 北京钲霖知识产权代理有限公司 | 代理人: | 田飞飞;熊玉兰 |
地址: | 100190 北京市海淀区科*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开提供了一种神经网络压缩方法、图像处理方法及装置。其中神经网络压缩方法包括:特征提取步骤,输入训练样本,基于神经网络的每个特征提取层的输出以及特征提取层对应的偏好参数得到调整输出,并正向传播得到网络输出结果,其中,偏好参数与神经网络的多个特征提取层一一对应;损失获取步骤,根据训练样本对应的标识以及网络输出结果,通过损失函数得到损失值;参数调整步骤,基于损失值,调整神经网络的权重以及偏好参数;压缩步骤,删除小于或等于第一阈值的偏好参数及其对应的特征提取层,得到压缩后的神经网络。通过设置偏好参数,偏好参数较小,说明对应的特征提取层对神经网络精度的提升较小,将该特征提取层删除以精简神经网络。 | ||
搜索关键词: | 神经网络 偏好参数 特征提取 压缩 网络输出 训练样本 删除 参数调整步骤 特征提取步骤 损失函数 图像处理 正向传播 输出 权重 | ||
【主权项】:
1.一种神经网络压缩方法,其中,所述方法包括:/n特征提取步骤,输入训练样本,基于所述神经网络的每个特征提取层的输出以及所述特征提取层对应的偏好参数,得到调整输出,并正向传播得到网络输出结果,其中,所述偏好参数与所述神经网络的多个所述特征提取层一一对应;/n损失获取步骤,根据所述训练样本对应的标识以及所述网络输出结果,通过损失函数得到损失值;/n参数调整步骤,基于所述损失值,调整所述神经网络的权重以及所述偏好参数;/n压缩步骤,删除小于或等于第一阈值的所述偏好参数及其对应的所述特征提取层,得到压缩后的神经网络。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京迈格威科技有限公司,未经北京迈格威科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910891998.1/,转载请声明来源钻瓜专利网。