[发明专利]基于膜电势预处理的ANN-SNN转换的分类方法在审
申请号: | 202010995633.6 | 申请日: | 2020-09-21 |
公开(公告)号: | CN112116010A | 公开(公告)日: | 2020-12-22 |
发明(设计)人: | 李杨;赵东城;曾毅 | 申请(专利权)人: | 中国科学院自动化研究所 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/06;G06N3/08 |
代理公司: | 北京市恒有知识产权代理事务所(普通合伙) 11576 | 代理人: | 郭文浩;尹文会 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 电势 预处理 ann snn 转换 分类 方法 | ||
1.一种基于膜电势预处理的ANN-SNN转换的分类方法,其特征在于,该方法包括以下步骤:
步骤S10,获取待分类数据并进行实值编码,将实值编码后的数据作为输入数据;
步骤S20,将所述输入数据输入通过ANN-SNN转换后的脉冲神经网络中,结合IF神经元的软重置,通过设定时间步长的膜电势预处理,得到预初始化的膜电势信息;
步骤S30,将所述输入数据重新输入所述脉冲神经网络中,结合所述预初始化的膜电势信息,通过前向传播得到所述待分类数据的分类结果;
所述ANN-SNN转换其方法为:
步骤A10,构建与待转换的脉冲神经网络具有相同拓扑结构的人工神经网络,作为第一网络;并基于获取的训练样本数据,通过反向传播算法对所述第一网络进行训练;
步骤A20,对所述第一网络的BN层,将其以及其前一卷积层在训练过程中学习更新的参数进行融合,融合后去掉其,得到第二网络;
步骤A30,将所述训练样本数据输入所述第二网络,获取第二网络卷积层、全连接层的神经元的激活值,并进行升序排序;通过预设的选取方法在排序后的激活值中选取一个激活值,作为第一激活值;
步骤A40,对所述第二网络中的卷积层、全连接层,结合其对应的第一激活值,通过p-norm函数对其的权重与偏置进行归一化处理;
步骤A50,将归一化后的权重、偏置映射到所述待转换的脉冲神经网络,得到转换后的脉冲神经网络。
2.根据权利要求1所述的基于膜电势预处理的ANN-SNN转换的分类方法,其特征在于,步骤A20中“对所述第一网络的BN层,将其以及其前一卷积层在训练过程中学习更新的参数进行融合”,其方法为:
其中,γ、β表示BN层学习的尺度参数、偏移参数,ω、b表示卷积层学习的权重参数、偏置参数,ω′、b′表示融合后的权重参数、偏置参数,表示BN层学习的训练样本数据的均值、标准差,∈表示无穷小量,防止为0时出现运算错误,一般取10-5。
3.根据权利要求1所述的基于膜电势预处理的ANN-SNN转换的分类方法,其特征在于,步骤A30中“通过预设的选取方法在排序后的激活值中选取一个激活值,作为第一激活值”,其方法为:
对所述第二网络的卷积层、全连接层,获取其神经元的总数,将该总数与第一区间中随机选取的值相乘,将相乘后的值在排序后的队列中对应序号的激活值作为其对应的第一激活值;所述第一区间为[0.99,0.9999]。
4.根据权利要求2所述的基于膜电势预处理的ANN-SNN转换的分类方法,其特征在于,步骤A40中“通过p-norm函数对其的权重与偏置进行归一化处理”,其方法为:
其中,ωl、bl表示人工神经网络第l层的权重参数、偏置参数,λl-1,λl表示人工神经网络第l-1、l层的第一激活值。
5.根据权利要求4中所述的基于膜电势预处理的ANN-SNN转换的分类方法,其特征在于,所述IF神经元的软重置,其方法为:
其中,Vthre表示预设的膜电势阈值,表示t、t-1时刻第l层神经元i的膜电势,表示连接第l-1层神经元j与第l层神经元i的权重,表示t-1时刻第l-1层神经元j的脉冲发放情况,有脉冲为1,无脉冲为0,表示偏置项,N表示神经元的个数。
6.根据权利要求1所述的基于膜电势预处理的ANN-SNN转换的分类方法,其特征在于,步骤S20中“通过设定时间步长的膜电势预处理,得到预初始化的膜电势信息”,其方法为:
将输入数据输入通过ANN-SNN转换后的脉冲神经网络中,当预处理所述脉冲神经网络第k层的膜电势信息时,结合膜电势预处理的设定时间步长,将输入数据通过前向传播从第一层传播至第k层,传播完成后,丢弃掉所有层的脉冲信息,仅保留膜电势信息,作为第k层得到的预初始化的膜电势信息;其中,k为自然数;
循环对所述脉冲神经网络的所有层进行设定时间步长的膜电势预处理,直至得到所有层预初始化的膜电势信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所,未经中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010995633.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种无人机抓取机构
- 下一篇:一种用于电气设备隔离的安全管控方法