[发明专利]一种针对量化后的LSTM的激活函数计算单元有效

专利信息
申请号: 201911076853.2 申请日: 2019-11-06
公开(公告)号: CN111047007B 公开(公告)日: 2021-07-30
发明(设计)人: 郑勇;陈柱佳;舒毅 申请(专利权)人: 北京中科胜芯科技有限公司
主分类号: G06N3/04 分类号: G06N3/04
代理公司: 南京行高知识产权代理有限公司 32404 代理人: 李晓
地址: 100044 北京市海淀区*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 针对 量化 lstm 激活 函数 计算 单元
【权利要求书】:

1.一种针对量化后的LSTM的激活函数计算装置,其特征在于,包括:sigmoid函数计算单元和tanh函数计算单元;所述tanh函数计算单元包括第一求补码单元、第二求补码单元、幅度比较器、算术运算单元、第一选择器和第二选择器;

所述第一求补码单元用于计算负的输入数据x的绝对值;输入数据x是8位定点数;

所述第一选择器根据输入数据x的符号位选择输入数据x的绝对值,若符号位为0,则说明输入数据x为正数,输入数据x的绝对值即为x的值;若符号位为1,则说明输入数据为负数,输入数据x的绝对值为所述第一求补码单元的输出;

所述幅度比较器用于判断输入数据x的绝对值属于哪一个区间,然后分别产生对应的标志位信号{ };

当输入数据x的绝对值位于区间[0,0.375) 标志位信号{}为{0,0,1};

当输入数据x的绝对值位于区间[0.75,1),标志位信号{}为{1,0,0};

当输入数据x的绝对值位于区间[0.375,0.75),标志位信号{}满足;

所述算术运算单元根据以下公式计算线性函数tanh(x):

当0≤x0.375,tanh(x)=x;

当0.375≤x0.75,tanh(x)=0.75x+0.078125;

当0.75≤x1,tanh(x)=0.5x+0.265625;

当x0,tanh(x)=-tanh(x);

所述第二求补码单元用于将所述算术运算单元的结果取相反数;

所述第二选择器用于选择输出算术运算单元的结果或它的相反数;如果输入数据x为正数,则输出所述算术运算单元的结果,否则则输出它的相反数;

所述sigmoid函数计算单元根据以下公式计算线性函数sigmoid(x):

当,sigmoid(x)=0.25x+0.5。

2.根据权利要求1所述的针对量化后的LSTM的激活函数计算装置,其特征在于:所述第一求补码单元和第二求补码单元均为以补码方式进行数值转换。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京中科胜芯科技有限公司,未经北京中科胜芯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911076853.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top