[发明专利]基于突触-阈值协同的脉冲神经网络学习方法

说明书

本发明公开了一种基于突触‑阈值协同的脉冲神经网络学习方法，包括：搭建脉冲神经网络；初始化脉冲神经网络参数；输入数据编码；数据前向传播；数据反向传播；测试网络精度。本发明的方法将神经元阈值参数化，实现了突触权重和神经元阈值的协同学习，通过增加神经元阈值异质性、平衡阈值和突触权重的关系改善了脉冲神经网络的性能；同时本发明通过调节神经元阈值的分布，在深度网络上进一步降低了脉冲神经网络的整体放电率，使网络能够在硬件系统上以低功耗的方式正常运行，节省了电能。

技术领域

本发明属于类脑智能技术领域，具体涉及一种脉冲神经网络学习方法。

背景技术

脉冲神经网络(Spiking Neural Network，SNN)被称作第三代神经网络，并受到越来越多的关注。不同于目前广为流行的人工神经网络，脉冲神经网络受真实脑机制启发，以更具有生物可靠性的脉冲神经元作为信息处理的基本结构，并通过时间方向上离散的脉冲事件进行信息编码和信息传递。这种基于精确时间的信息处理和信息编码方式，使脉冲神经网络成为处理复杂时空信息的有效工具，且相对于人工神经网络，在鲁棒性、能耗以及准确率等方面显示出了优越性。

受限于脉冲事件的离散特性和神经元动态的复杂性，发展脉冲神经网络高效学习方法成为了一个亟待解决的重要课题。现有SNN学习方法可以分为无监督学习、间接学习、直接监督学习、融合学习，并取得了一定的效果。然而，这些学习方法都是以神经元突触可塑性为基础，但在真实大脑中，学习过程还会同时受到非突触性神经元内源机制的重要影响。通过深度融合突触和内源非突触机制，发展面向SNN的新型高效学习方法，有望提升其在复杂场景智能任务下的表现。

发明内容

针对现有技术存在的上述问题，本发明提出了一种基于突触-阈值协同的脉冲神经网络学习方法。

本发明的具体技术方案为：一种基于突触-阈值协同的脉冲神经网络学习方法，包括如下步骤：

S1.搭建脉冲神经网络；

S2.初始化脉冲神经网络参数：包括突触权重、神经元阈值、神经元膜电位、神经元膜时间常数、时间窗长度以及网络优化器具体参数；

S3.输入数据编码：图片的每个像素点或音频信号的每个通道将对应一个脉冲神经元进行编码，编码后的脉冲被传入隐藏层进行信息处理；

S4.数据前向传播：将编码后的脉冲传入脉冲神经网络，根据突触权重和神经元阈值更新神经元膜电位并生成神经元脉冲，通过解码层得到网络输出，最后通过损失函数和数据标签获取网络监督误差；

S5.数据反向传播：根据突触-阈值协同学习方法更新突触权重和神经元阈值；

S6.测试网络精度：若网络精度稳定，则停止网络训练。

本发明的有益效果：本发明的方法将神经元阈值参数化，实现了突触权重和神经元阈值的协同学习，通过增加神经元阈值异质性、平衡阈值和突触权重的关系改善了脉冲神经网络的性能，包括提升网络精度、提高网络鲁棒性等；同时，本发明通过调节神经元阈值的分布，在深度网络上进一步降低了脉冲神经网络的整体放电率，使网络能够在硬件系统上以低功耗的方式正常运行，节省了电能。

附图说明

图1是为本发明实施例的前馈型脉冲神经网络结构示意图。

图2是为本发明实施例的突触-阈值协同学习示意图。

图3是为本发明实施例的基于突触-阈值协同的脉冲神经网络学习方法流程示意图。

图4是为本发明实施例的基于突触-阈值协同的脉冲神经网络学习方法的结果展图示。

具体实施方式

下面结合附图和实施例详细说明本发明的实施方式，以便本领域的技术人员能够更好地理解本发明。