[发明专利]一种平衡二值化神经网络量化方法及系统在审
申请号: | 201910599176.6 | 申请日: | 2019-07-04 |
公开(公告)号: | CN110472725A | 公开(公告)日: | 2019-11-19 |
发明(设计)人: | 刘祥龙;沈明珠;秦浩桐 | 申请(专利权)人: | 北京航空航天大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 11381 北京汲智翼成知识产权代理事务所(普通合伙) | 代理人: | 陈曦;陈丽<国际申请>=<国际公布>=< |
地址: | 100190*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种平衡二值化神经网络量化方法及系统。该方法包括如下步骤:S1,对于神经网络中的权重进行平衡标准二值化操作,得到二值化权重;S2,对于神经网络中的激活值进行平衡二值化操作,得到二值化激活值;S3,在神经网络的迭代训练过程中对网络中的卷积层执行步骤S1和S2,生成平衡二值化神经网络。本发明使用平衡标准化的二值化网络权重和平衡二值化的网络激活值,使神经网络可以通过训练过程中最小化损失函数,达到激活值信息熵最大化和权重、激活量化损失最小化,从而减少量化损失,提高二值化神经网络的分类性能。 | ||
搜索关键词: | 神经网络 二值化 激活 平衡 权重 二值化操作 最小化 量化 迭代训练 分类性能 平衡标准 损失函数 网络激活 训练过程 网络权 信息熵 最大化 卷积 标准化 网络 | ||
【主权项】:
1.一种平衡二值化神经网络量化方法,其特征在于包括如下步骤:/nS1,对于神经网络中的权重进行平衡标准二值化操作,得到二值化权重;/nS2,对于神经网络中的激活值进行平衡二值化操作,得到二值化激活值;/nS3,在神经网络的迭代训练过程中对网络中的卷积层执行步骤S1和S2,生成平衡二值化神经网络。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学,未经北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910599176.6/,转载请声明来源钻瓜专利网。
- 上一篇:深度压缩网络
- 下一篇:基于输出变化微分的灵敏长短期记忆方法