[发明专利]一种高能效脉冲序列级脉冲神经网络及其训练方法

权利要求书

1.一种高能效脉冲序列级脉冲神经网络，其特征在于：包括输出输入依次连接的卷积块、M个端到端脉冲残差块、全局平均池化层、至少一个全连接层；M为正整数；

所述脉冲残差块包括输出输入依次连接的第一空时转换块、第一批处理规范化层、第二空时转换块和第二批处理规范化层，以及第三空时转换块；所述卷积块的输出端分别连接第一空时转换块的输入端、第三空时转换块的输入端，第三空时转换块的输出端与第二批处理规范化层的输出端合并后作为该脉冲残差块的输出；所述第一空时转换块、第二空时转换块、第三空时转换块均用于将输入信息转换成具有时间信息的脉冲序列，并对其进行卷积操作，提取输入信息中的特征并进行信息传递。

2.根据权利要求1所述一种高能效脉冲序列级脉冲神经网络，其特征在于：所述第一空时转换块、第二空时转换块、第三空时转换块均包括输出输入依次连接的脉冲序列编码模块、卷积层和电流累计块，所述脉冲序列编码模块用于利用IF神经元模型将输入信息转换为脉冲序列，所述电流累计块用于累计各个时间步长内的电流，并将最后一个步长的累计结果作为输出。

3.根据权利要求2所述一种高能效脉冲序列级脉冲神经网络，其特征在于，所述脉冲序列编码模块的工作过程如下：

IF神经元模型的神经元i在第t个步长时的膜电压u_i[t]为：

其中：I[t]为输入数据，作为IF神经元模型第0个步长时的初始膜电压；u_reset[t]为重置函数，等于-s_i[t]V_th[t]；s_i[t]和V_th[t]分别为神经元i在第t个步长输出脉冲和阈值电压；s_i[t]和V_th[t]的计算公式如下：

其中，V_init为初始膜电压，τ_vth为阈值电压的时间常数，V_th[t-1]为神经元i在第t-1个步长的阈值电压。

4.根据权利要求2所述一种高能效脉冲序列级脉冲神经网络，其特征在于，所述电流累计块的工作过程如下：

将第t个时间步长输入的数据乘以神经元i在第t个步长的阈值电压V_th[t]，并进行累计计算得到第t个步长的累计电流I_acc[t]，公式如下：

其中，T_max为最大时间步长，等于脉冲序列的长度；i_acc[t]为第t个步长时输入电流，其更新公式如下：

其中，I_syn[t]为第t个步长的突触电流，i_acc[t-1]为第t-1个步长时输入电流。

5.根据权利要求2所述一种高能效脉冲序列级脉冲神经网络，其特征在于：所述第一空时转换块、第二空时转换块的卷积核均为3*3，第三空时转换块的卷积核为1*1。

6.根据权利要求1至5任一所述一种高能效脉冲序列级脉冲神经网络，其特征在于：所述卷积块包括输出输入依次连接的卷积层、批处理规范化层。