[发明专利]一种基于查找表计算的双层同或二值神经网络压缩方法有效
申请号: | 201910178528.0 | 申请日: | 2019-03-11 |
公开(公告)号: | CN109993279B | 公开(公告)日: | 2023-08-04 |
发明(设计)人: | 张萌;李建军;李国庆;沈旭照;曹晗翔;刘雪梅;陈子洋 | 申请(专利权)人: | 东南大学 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/063 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 柏尚春 |
地址: | 214028 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 查找 计算 双层 神经网络 压缩 方法 | ||
1.一种基于查找表计算的双层同或二值神经网络压缩方法,其特征在于:
所述压缩方法由双层卷积结构完成,其算法包括以下步骤:
首先,将输入特征图经过非线性激活、批归一化和二值激活后,分组进行不同卷积核尺寸的第一层卷积操作得到第一层输出结果;
然后,对第一层输出结果采用1×1大小的第二层卷积操作得到输出特征图;
所述双层卷积结构,其硬件实现步骤包括:
(1)在硬件实现非线性激活、批归一化和二值激活过程后,对第一层卷积模块进行同或处理过程中同时进行第二层的卷积同或处理,实现双层卷积同时计算;
(2)对步骤(1)中双层卷积同时计算得到的输出值采用6:3压缩树方式的加法运算;
双层卷积同时计算采用三输入同或处理,其中,输入的三值分别是输入特征图值、第一层卷积权重值、第二层卷积权重值;
所述双层卷积采用查找表方式进行同时计算,依据查找表中多输入单输出的基本特性,双层卷积同时计算构成的三输入同或处理基本单元在一个查找表中实现。
2.根据权利要求1所述的一种基于查找表计算的双层同或二值神经网络压缩方法,其特征在于:所述的双层卷积由不同卷积核大小组成的分组卷积和1×1大小的第二层卷积连接而成。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东南大学,未经东南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910178528.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:机器学习环境中的有效卷积
- 下一篇:一种基于深度学习的水下声源定位方法