[发明专利]脉冲神经网络转换方法及相关转换芯片有效
申请号: | 201910079637.7 | 申请日: | 2019-01-26 |
公开(公告)号: | CN110059800B | 公开(公告)日: | 2021-09-14 |
发明(设计)人: | 张磊;杜子东;陈云霁 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 周天宇 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 脉冲 神经网络 转换 方法 相关 芯片 | ||
1.一种脉冲神经网络转换方法,其特征在于,所述方法包括:
根据人工神经网络的待转换层和转换激活函数,得到待转换人工神经网络,所述转换激活函数的结果与所述人工神经网络的输入数据正相关;
训练所述待转换人工神经网络,得到训练后待转换人工神经网络;
根据所述训练后待转换人工神经网络和时钟神经元,得到脉冲神经网络;
其中,监控与所述时钟神经元对应的输入神经元的输入脉冲发送时间;
根据监控到的输入脉冲发送时间中的最晚时间,确定第一时间;
所述时钟神经元在第一时间后,以第二时间为间隔发送时钟脉冲。
2.根据权利要求1所述的方法,其特征在于,所述待转换层包括以下网络层中的至少一种:卷积层、全连接层、池化层。
3.根据权利要求1所述的方法,其特征在于,所述待转换层为所述人工神经网络中的N个网络层,N为正整数。
4.根据权利要求1所述的方法,其特征在于,所述转换激活函数为分段函数,其中:
当所述转换激活函数的输入数据小于指定数值时,所述转换激活函数的结果为指定常数;
当所述转换激活函数的输入数据大于等于所述指定数值时,所述转换激活函数的结果与所述输入数据正相关。
5.根据权利要求1-4任一项所述的方法,其特征在于,当所述待转换层为待转换卷积层时,所述根据所述训练后待转换人工神经网络和时钟神经元,得到脉冲神经网络,包括:
根据所述训练后待转换人工神经网络中的待转换卷积层、修正线性单元激活函数和所述转换激活函数得到转换卷积层;
根据所述转换卷积层和所述时钟神经元,得到脉冲神经网络。
6.根据权利要求1-4任一项所述的方法,其特征在于,当所述待转换层为待转换全连接层时,所述根据所述训练后待转换人工神经网络和时钟神经元,得到脉冲神经网络,包括:
根据所述训练后待转换人工神经网络中的待转换全连接层、修正线性单元激活函数和所述转换激活函数得到转换全连接层;
根据所述转换全连接层和所述时钟神经元,得到脉冲神经网络。
7.根据权利要求1-4任一项所述的方法,其特征在于,当所述待转换层为待转换池化层时,所述根据所述训练后待转换人工神经网络和时钟神经元,得到脉冲神经网络,包括:
在所述待转换池化层为平均值池化层或者线性池化层时,根据所述训练后待转换人工神经网络中的待转换池化层和所述时钟神经元,得到脉冲神经网络。
8.根据权利要求1所述的方法,其特征在于,所述时钟神经元和与所述时钟神经元对应的输出神经元之间的连接权值根据所述第一时间确定。
9.根据权利要求1所述的方法,其特征在于,所述脉冲神经网络的脉冲编码方式为:所述脉冲神经网络输入数据的数值越大,脉冲编码后的脉冲发送时间越晚。
10.根据权利要求1所述的方法,其特征在于,所述方法还包括:除最后一层外所述脉冲神经网络的权值取反。
11.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述脉冲神经网络中与所述时钟神经元对应的输出神经元根据所述时钟脉冲发送输出脉冲。
12.根据权利要求1所述的方法,其特征在于,所述第一时间晚于与所述时钟神经元对应的输入神经元的输入脉冲发送时间。
13.根据权利要求11所述的方法,其特征在于,所述脉冲神经网络中与所述时钟神经元对应的输出神经元根据所述时钟脉冲发送输出脉冲,包括:
获取与所述时钟神经元对应的输出神经元,根据该与所述输出神经元对应的输入神经元的输入脉冲、所述输出神经元与输入神经元之间的连接权值、所述时钟脉冲和所述输出神经元与所述时钟神经元之间的连接权值,确定输出脉冲。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910079637.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:包含中间层背景的神经网络的生成
- 下一篇:基于神经网络的空调器能效控制方法