[发明专利]一种整合多种激活函数的神经元电路在审
申请号: | 201711235384.5 | 申请日: | 2017-11-30 |
公开(公告)号: | CN107832846A | 公开(公告)日: | 2018-03-23 |
发明(设计)人: | 胡绍刚;罗鑫;张成明;乔冠超;刘洋;于奇 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 成都天汇致远知识产权代理事务所(普通合伙)51264 | 代理人: | 韩晓银 |
地址: | 611731 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 整合 多种 激活 函数 神经元 电路 | ||
1.一种整合多种激活函数的神经元电路,其特征在于,包括输入与权值模块、求和与函数模块、函数调整模块;
所述输入与权值模块,具有多个电压型输入,并具有电流输出,能够用于接受输入,并对输入进行权值调整;
所述求和与函数模块,耦接到所述输入与权值模块的输出端,能够实现电压输出,并用于对输入实现求和,以及进行激活函数处理;
所述函数调整模块,耦接到所述求和与函数模块的输出端,用于对电压波形进行调整,以实现多种激活函数。
2.根据权利要求1所述的整合多种激活函数的神经元电路,其特征在于,所述输入与权值模块还包括输入电路和权值控制电路;
所述输入电路,用于将输入电压转化为电流;
所述权值控制电路,用于实现对输入的权值大小以及输入正负的调整。
3.根据权利要求2所述的整合多种激活函数的神经元电路,其特征在于,所述输入电路具有多个电压型输入,每一个电压型输入同时接到一个NMOS管和一个PMOS管的栅极。
4.根据权利要求3所述的整合多种激活函数的神经元电路,其特征在于,所述权值控制电路包括:
存储器,用于存储每个输入对应的权值;
数模转换器,用于将存储器中存储的权值转化为相应的模拟电压;
权值MOS管,用于根据数模转换器输出在权值MOS管栅极上的模拟电压来改变工作状态,实现输入的权值幅度调整;
正向开关,与所述权值MOS管耦接,用于输入选择正向输入通路;
符号处理电路,具有第一输入端与第一输出端,其中,所述第一输入端与所述正向开关耦接,所述第一输出端的输出量为电流,所述第一输出端用于将输入电流反向后输出,以实现输入电流的符号处理;
负向开关,与所述权值MOS管耦接,用于输入选择负向输入通路。
5.根据权利要求1所述的整合多种激活函数的神经元电路,其特征在于,所述求和与函数模块,包括以二极管方式连接的两个晶体管。
6.根据权利要求5所述的整合多种激活函数的神经元电路,其特征在于,所述求和与函数模块,还包括第二输入端与第二输出端,所述第二输入端的输入量为电流,所述第二输出端的输出量为电压。
7.根据权利要求6所述的整合多种激活函数的神经元电路,其特征在于,所述求和与函数模块在不需要电压转换直接实现所需激活函数时,所述第二输出端的输出电压量为最终输出。
8.根据权利要求1所述的整合多种激活函数的神经元电路,其特征在于,所述函数调整模块,包括电压波形调整模块,用于对所述求和与函数模块输出的电压波形进行调整,以实现多种形式的激活函数。
9.根据权利要求8所述的整合多种激活函数的神经元电路,其特征在于,所述电压波形调整模块还包括ReLU函数模块,所述ReLU函数模块由二极管或MOS管实现,其将所述求和与函数模块输出的电压波形进行调整,实现类ReLU函数输出。
10.根据权利要求9所述的整合多种激活函数的神经元电路,其特征在于,所述电压波形调整模块还包括Sign函数模块,所述Sign函数模块用开关电路实现,其将所述求和与函数模块输出的电压波形进行调整,实现类Sign函数输出。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711235384.5/1.html,转载请声明来源钻瓜专利网。