[发明专利]一种面向多脉冲神经网络监督学习的精确突触调整方法

说明书

本发明公开了一种面向多脉冲神经网络监督学习的精确突触调整方法。本发明结合LIF和SRM两种神经元模型提出一种阈值动态自适应的精确突触调整规则，主要步骤为：利用LIF神经元对膜电压与突触电流进行仿真计算；利用W‑H规则进行突触权值调整的计算；融合突触后神经元的记忆性和SRM神经元，实现膜电压动态阈值的计算；实现输入‑输出多脉冲映射。本发明结合两种神经元模型实现突触权值的精确调整，有效改善W‑H规则推导出的权值难以保证为最优解及学习收敛速度难以控制的问题，有效提高了SNN学习的效率。

技术领域

本发明涉及脉冲神经网络技术领域，具体涉及一种多脉冲神经网络监督学习的精确突触调整方法。

背景技术

脉冲神经网络(Spiking Neural Networks,SNN)被誉为“第三代神经网络”，比传统人工神经网络更能模仿生物神经元之间的连接与通信，是进行复杂时空信息处理的有效工具。但由于SNN内在脉冲发放的不连续和非线性机制，构建高效的SNN监督学习算法非常困难，传统人工神经网络的监督学习算法如误差反向传播(BackPropagation，BP)算法已不能直接使用。因此SNN监督学习算法重点是如何构建合适的突触权值学习规则。

SNN是以脉冲神经元(Spiking Neuron)和突触(Synaptic)作为基本计算单元,常用的脉冲神经元包括IF(Integrate-and-Fire)，LIF(Leaky Integrate-and-Fire)，SRM(Spike ResponseModel)模型等。目前多脉冲神经网络监督学习算法中，精确脉冲驱动(Precise-Spike-Driven，PSD)算法利用目标脉冲序列与实际输出序列的时间差来调整神经网络的突触权值，有较强的鲁棒性。PSD算法是以经典的W-H规则为基础，其优势在于计算效率较高并且符合生物学原理，但是经典的W-H规则推导出的突触权值难以保证为最优解，因而导致收敛速度很难控制。

本发明结合LIF和SRM两种神经元，提出一种新的精确突触调整方法。该方法基于目标脉冲序列与实际输出序列的时间差构建误差函数，利用LIF神经元和W-H规则调整突触权值，利用SRM神经元动态调整膜电压阈值，实现输入-输出多脉冲映射，具有较高的学习容量和收敛速度，能有效解决SNN学习效率低的缺陷。

发明内容

本发明针对现有SNN监督学习算法中简单地设定膜电压阈值为常量或者是固定的线性模型，以及利用W-H规则产生的突触权值难以保证为最优解及收敛速度难控制的问题，在多脉冲神经网络学习算法中提出一种结合LIF和SRM两种神经元的精确突触调整方法，解决学习效率低和收敛速度难以控制的问题。

本发明具体内容如下：

1、利用LIF神经元对膜电压与突触电流进行仿真计算

LIF神经元实现了电子在细胞膜离子通道中的转移过程，使突触后电位(Post-Synaptic Potential，PSP)反复在阈值及平衡重置电位间转换。

在实际电路中，当电流I不断增大时，电容C两极的电压会冲破阈值V_th，此时会激发一个脉冲信号传递给下一层神经元。电路总电流的公式为：

将时间设为常数T，并且令T＝RC，则上述式子可以变形为：

由(1)式可知此电路是一个并联电路，且电容C两边的电压V(t)正好是膜电压。当电压在t＝t^f时达到阈值V_th，会产生一个脉冲激励；在此之后，膜电压会被迅速重置为初始值，并开始新一轮的累计。重设电压的表达式为：

此时，神经元膜电压的动态方程如下所示：