[发明专利]一种用于量化卷积神经网络的可配置近似乘法器及其实现方法有效
申请号: | 201910987899.3 | 申请日: | 2019-10-17 |
公开(公告)号: | CN110780845B | 公开(公告)日: | 2021-11-30 |
发明(设计)人: | 卓成;郭楚亮;张力 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06F7/53 | 分类号: | G06F7/53;G06N3/063 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 刘静 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 量化 卷积 神经网络 配置 近似 乘法器 及其 实现 方法 | ||
1.一种用于量化卷积神经网络的可配置近似乘法器,其特征在于,该可配置近似乘法器包括符号扩展模块、子乘法器模块和近似加法器;
所述符号扩展模块将长位宽有符号定点数乘法拆分为两个短位宽有符号定点数乘法,拆分原则为:将表示范围在-2n-2到2n-2-1的n比特有符号定点数表示为两个n/2位的有符号定点数;所述符号扩展模块包括:
当n比特有符号定点数是非负数,截断从最低位往上的n/2-1位,并在其最高位前添加0,整体作为低位子乘法器的输入,另外的n/2位作为高位子乘法器的输入;
当n比特有符号定点数为负数时,如果十进制表示的数值小于-(2n-3+1),采用与非负数相同的处理方式,否则,在截断的n/2-1位的最高位前添加1,并将另外的n/2位全部置为0;
所述子乘法器模块包括若干子乘法器,每个子乘法器仅接收一个来自符号扩展模块输出的有符号定点数,结合另一个m比特的输入,完成一次有符号定点数乘法;
所述近似加法器将子乘法器模块输出的结果进行合并,得到长位宽有符号定点数乘法的最终结果。
2.根据权利要求1所述的一种用于量化卷积神经网络的可配置近似乘法器,其特征在于,该可配置近似乘法器精度可配置,可配置为一个长位宽有符号定点数乘法的计算模式,或者多个短位宽有符号定点数乘法的计算模式;当配置为多个短位宽有符号定点数乘法的计算模式时,仅利用子乘法器模块实现多个并行的独立有符号定点数乘法。
3.根据权利要求1所述的一种用于量化卷积神经网络的可配置近似乘法器,其特征在于,所述子乘法器模块为采用改进Booth编码的Wallace树型乘法器,用于精确计算m比特乘n/2比特有符号定点数乘法。
4.根据权利要求1所述的一种用于量化卷积神经网络的可配置近似乘法器,其特征在于,所述近似加法器采用不等长的子加法器,高位子加法器的位宽长于低位子加法器,用于合并子乘法器模块的输出。
5.根据权利要求1所述的一种用于量化卷积神经网络的可配置近似乘法器,其特征在于,所述近似加法器在有符号定点数加法中,通过符号修正避免符号位错误,具体为:两个加数的对应比特位异或为1时,存在符号位错误传播的必要条件;通过对加法结果的比特位进行逻辑与运算产生标志信号,通过标志信号和子加法器的进位输出判断是否产生了符号位错误,若产生了符号位错误,通过翻转求和结果的比特位避免该错误的出现。
6.根据权利要求1所述的一种用于量化卷积神经网络的可配置近似乘法器,其特征在于,所述近似加法器利用概率论的基本原理,得到高斯分布输入下相邻比特位的相关性与基础分布之间的关系,从而优化现有的基于块的近似加法器。
7.一种权利要求1-6任一项所述的用于量化卷积神经网络的可配置近似乘法器的实现方法,其特征在于,包括:
(1)符号扩展模块拆分有符号定点数;
(2)将拆分后的有符号定点数分别输入至子乘法器模块,并分别计算有符号定点数乘法;
(3)将高位乘法器的乘积结果进行移位,并与低位乘法器的乘积结果在近似加法器中相加,合并得到最终的乘积结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910987899.3/1.html,转载请声明来源钻瓜专利网。