[发明专利]一种可配置的卷积神经网络处理器电路有效

专利信息
申请号: 202010545278.2 申请日: 2020-06-16
公开(公告)号: CN111507465B 公开(公告)日: 2020-10-23
发明(设计)人: 周军;周勇;刘嘉豪;刘青松 申请(专利权)人: 电子科技大学
主分类号: G06N3/063 分类号: G06N3/063;G06N3/04;G06N3/08
代理公司: 电子科技大学专利中心 51203 代理人: 吴姗霖
地址: 611731 四川省成*** 国省代码: 四川;51
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 配置 卷积 神经网络 处理器 电路
【权利要求书】:

1.一种可配置的卷积神经网络处理器电路,包括FIR滤波模块、分窗处理模块和神经网络运算模块,其特征在于,所述神经网络运算模块包括卷积层、池化层、可配置激活函数层和全连接层,所述可配置激活函数层配置sigmoid函数或tanh函数,还配置误差;

所述可配置激活函数层配置的sigmoid函数或tanh函数为δ(x),在x∈[0,+∞)内的拟合公式为:

其中,y为激活函数;

对于首段输入区间[0,x1),对δ(x)在0处进行一阶泰勒展开,得到拟合公式y=a0x+b0,x1为当y-δ(x)=ε时的横坐标,其中,ε为误差,sigmoid函数的拟合公式中a0为b0为tanh函数的拟合公式中a0为1,b0为0;

对于末段输入区间[xK+1,+∞),xK+1为当δ(x)=1-ε时的横坐标;

对于中段输入区间[x1,xK+1),将中段输入区间[x1,xK+1)划分为K段分段区间[xi,xi+1),i=1,...,K,又将分段区间[xi,xi+1)划分为长度相等的段内小区间其中Li为分段区间[xi,xi+1)内的段内小区间个数;所述段内小区间采用直接映射的方式,落在段内小区间内的所有输入均被映射为同一个输出值

根据sigmoid函数、tanh函数的点对称性质:

得到sigmoid函数或tanh函数在x∈(-∞,0)的拟合公式,最终得到sigmoid函数或tanh函数在整个自变量区间的拟合公式。

2.根据权利要求1所述可配置的卷积神经网络处理器电路,其特征在于,所述可配置激活函数层包括取绝对值模块、区间判断模块、第一多路选择器、配置模块、地址生成模块、RAM、区间拓展模块和第二多路选择器;所述可配置激活函数层的配置过程为:

首先,在所述RAM中依次存入中段输入区间[x1,xK+1)中所有段内小区间序号所对应的映射值所述序号为RAM地址;根据所要配置的激活函数y为sigmoid函数或tanh函数,在所述配置模块中导入分段区间的分段点xi、每个分段区间对应的截位数偏置数b(i)、“1”的量化后定点数、1比特函数切换位;其中,所述分段点xi的i=1,...,K+1,所述截位数n(i)和偏置数b(i)的i=1,...,K,所述截位数n(i)中的M为量化系数,所述偏置数b(i)为分段区间的首个段内小区间在中段输入区间[x1,xK+1)中所有段内小区间集合中的序号,所述1比特函数切换位中1表示tanh函数,0表示sigmoid函数;

其次,输入x经过取绝对值模块,得到输入x的绝对值|x|和符号位,绝对值|x|输入区间判断模块,结合由配置模块输出至区间判断模块的分段点xi,在区间判断模块中判断得出绝对值|x|所在的分段区间,根据区间判断结果控制第一多路选择器输出y1,具体为:

若区间判断结果为|x|x1,则第一多路选择器输出y1=a0|x|+b0,其中a0、b0由1比特函数切换位控制的sigmoid函数或tanh函数在0处进行一阶泰勒展开得到;

若区间判断结果为|x|≥xK+1,则第一多路选择器输出y1=1,其中1为由配置模块输出的“1”的量化后定点数;

若区间判断结果为x1≤|x|xK+1,则地址生成模块启动,根据由配置模块输出至地址生成模块的截位数n(i)、偏置数b(i)计算绝对值|x|对应映射值所在的RAM地址;RAM接收地址生成模块输出的RAM地址后输出映射值ram_out,经过第一多路选择器输出

然后,将第一多路选择器输出的y1输入至第二多路选择器,取绝对值模块输出的符号位控制第二多路选择器是否对y1进行区间拓展,若输入x的符号位为正,则输出y=y1,若输入x的符号位为负,则输出y为y1经过区间拓展模块的输出,得到sigmoid函数或tanh函数在x∈[0,+∞)的拟合值y;

最后,配置模块输出的1比特函数切换位控制区间拓展模块的操作,区间拓展模块根据sigmoid函数、tanh函数的点对称性质输出结果,若1比特函数切换位为1,则区间拓展模块输出-y1,经过第二多路选择器输出y=-y1,若1比特函数切换位为0,则区间拓展模块输出1-y1,经过第二多路选择器输出y=1-y1,得到sigmoid函数或tanh函数在x∈(-∞,0)的拟合值y;其中1为由配置模块输出的“1”的量化后定点数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010545278.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top