[发明专利]一种可配置的卷积神经网络处理器电路有效
申请号: | 202010545278.2 | 申请日: | 2020-06-16 |
公开(公告)号: | CN111507465B | 公开(公告)日: | 2020-10-23 |
发明(设计)人: | 周军;周勇;刘嘉豪;刘青松 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06N3/08 |
代理公司: | 电子科技大学专利中心 51203 | 代理人: | 吴姗霖 |
地址: | 611731 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 配置 卷积 神经网络 处理器 电路 | ||
1.一种可配置的卷积神经网络处理器电路,包括FIR滤波模块、分窗处理模块和神经网络运算模块,其特征在于,所述神经网络运算模块包括卷积层、池化层、可配置激活函数层和全连接层,所述可配置激活函数层配置sigmoid函数或tanh函数,还配置误差;
所述可配置激活函数层配置的sigmoid函数或tanh函数为δ(x),在x∈[0,+∞)内的拟合公式为:
其中,y为激活函数;
对于首段输入区间[0,x1),对δ(x)在0处进行一阶泰勒展开,得到拟合公式y=a0x+b0,x1为当y-δ(x)=ε时的横坐标,其中,ε为误差,sigmoid函数的拟合公式中a0为b0为tanh函数的拟合公式中a0为1,b0为0;
对于末段输入区间[xK+1,+∞),xK+1为当δ(x)=1-ε时的横坐标;
对于中段输入区间[x1,xK+1),将中段输入区间[x1,xK+1)划分为K段分段区间[xi,xi+1),i=1,...,K,又将分段区间[xi,xi+1)划分为长度相等的段内小区间其中Li为分段区间[xi,xi+1)内的段内小区间个数;所述段内小区间采用直接映射的方式,落在段内小区间内的所有输入均被映射为同一个输出值
根据sigmoid函数、tanh函数的点对称性质:
得到sigmoid函数或tanh函数在x∈(-∞,0)的拟合公式,最终得到sigmoid函数或tanh函数在整个自变量区间的拟合公式。
2.根据权利要求1所述可配置的卷积神经网络处理器电路,其特征在于,所述可配置激活函数层包括取绝对值模块、区间判断模块、第一多路选择器、配置模块、地址生成模块、RAM、区间拓展模块和第二多路选择器;所述可配置激活函数层的配置过程为:
首先,在所述RAM中依次存入中段输入区间[x1,xK+1)中所有段内小区间序号所对应的映射值所述序号为RAM地址;根据所要配置的激活函数y为sigmoid函数或tanh函数,在所述配置模块中导入分段区间的分段点xi、每个分段区间对应的截位数偏置数b(i)、“1”的量化后定点数、1比特函数切换位;其中,所述分段点xi的i=1,...,K+1,所述截位数n(i)和偏置数b(i)的i=1,...,K,所述截位数n(i)中的M为量化系数,所述偏置数b(i)为分段区间的首个段内小区间在中段输入区间[x1,xK+1)中所有段内小区间集合中的序号,所述1比特函数切换位中1表示tanh函数,0表示sigmoid函数;
其次,输入x经过取绝对值模块,得到输入x的绝对值|x|和符号位,绝对值|x|输入区间判断模块,结合由配置模块输出至区间判断模块的分段点xi,在区间判断模块中判断得出绝对值|x|所在的分段区间,根据区间判断结果控制第一多路选择器输出y1,具体为:
若区间判断结果为|x|x1,则第一多路选择器输出y1=a0|x|+b0,其中a0、b0由1比特函数切换位控制的sigmoid函数或tanh函数在0处进行一阶泰勒展开得到;
若区间判断结果为|x|≥xK+1,则第一多路选择器输出y1=1,其中1为由配置模块输出的“1”的量化后定点数;
若区间判断结果为x1≤|x|xK+1,则地址生成模块启动,根据由配置模块输出至地址生成模块的截位数n(i)、偏置数b(i)计算绝对值|x|对应映射值所在的RAM地址;RAM接收地址生成模块输出的RAM地址后输出映射值ram_out,经过第一多路选择器输出
然后,将第一多路选择器输出的y1输入至第二多路选择器,取绝对值模块输出的符号位控制第二多路选择器是否对y1进行区间拓展,若输入x的符号位为正,则输出y=y1,若输入x的符号位为负,则输出y为y1经过区间拓展模块的输出,得到sigmoid函数或tanh函数在x∈[0,+∞)的拟合值y;
最后,配置模块输出的1比特函数切换位控制区间拓展模块的操作,区间拓展模块根据sigmoid函数、tanh函数的点对称性质输出结果,若1比特函数切换位为1,则区间拓展模块输出-y1,经过第二多路选择器输出y=-y1,若1比特函数切换位为0,则区间拓展模块输出1-y1,经过第二多路选择器输出y=1-y1,得到sigmoid函数或tanh函数在x∈(-∞,0)的拟合值y;其中1为由配置模块输出的“1”的量化后定点数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010545278.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:粉剂给药装置
- 下一篇:转子运动式手表指示机构及手表