[发明专利]一种针对量化后的LSTM的激活函数计算单元有效
申请号: | 201911076853.2 | 申请日: | 2019-11-06 |
公开(公告)号: | CN111047007B | 公开(公告)日: | 2021-07-30 |
发明(设计)人: | 郑勇;陈柱佳;舒毅 | 申请(专利权)人: | 北京中科胜芯科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 南京行高知识产权代理有限公司 32404 | 代理人: | 李晓 |
地址: | 100044 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 针对 量化 lstm 激活 函数 计算 单元 | ||
1.一种针对量化后的LSTM的激活函数计算装置,其特征在于,包括:sigmoid函数计算单元和tanh函数计算单元;所述tanh函数计算单元包括第一求补码单元、第二求补码单元、幅度比较器、算术运算单元、第一选择器和第二选择器;
所述第一求补码单元用于计算负的输入数据x的绝对值;输入数据x是8位定点数;
所述第一选择器根据输入数据x的符号位选择输入数据x的绝对值,若符号位为0,则说明输入数据x为正数,输入数据x的绝对值即为x的值;若符号位为1,则说明输入数据为负数,输入数据x的绝对值为所述第一求补码单元的输出;
所述幅度比较器用于判断输入数据x的绝对值属于哪一个区间,然后分别产生对应的标志位信号{ };
当输入数据x的绝对值位于区间[0,0.375) 标志位信号{}为{0,0,1};
当输入数据x的绝对值位于区间[0.75,1),标志位信号{}为{1,0,0};
当输入数据x的绝对值位于区间[0.375,0.75),标志位信号{}满足;
所述算术运算单元根据以下公式计算线性函数tanh(x):
当0≤x0.375,tanh(x)=x;
当0.375≤x0.75,tanh(x)=0.75x+0.078125;
当0.75≤x1,tanh(x)=0.5x+0.265625;
当x0,tanh(x)=-tanh(x);
所述第二求补码单元用于将所述算术运算单元的结果取相反数;
所述第二选择器用于选择输出算术运算单元的结果或它的相反数;如果输入数据x为正数,则输出所述算术运算单元的结果,否则则输出它的相反数;
所述sigmoid函数计算单元根据以下公式计算线性函数sigmoid(x):
当,sigmoid(x)=0.25x+0.5。
2.根据权利要求1所述的针对量化后的LSTM的激活函数计算装置,其特征在于:所述第一求补码单元和第二求补码单元均为以补码方式进行数值转换。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京中科胜芯科技有限公司,未经北京中科胜芯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911076853.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种性能优化的方法以及相关装置
- 下一篇:橡胶垫专用制作工具及其使用方法