[发明专利]用于高效地更新尖峰神经元网络的装置和方法

说明书

相关申请的交叉引用

本申请与下面的美国专利申请有关：

2012年6月4日提交的、标题为“STOCHASTIC SPIKING NETWORK LEARNING APPARATUS AND METHODS”的共同拥有和共同未决的美国专利申请No.13/487,533[代理人案卷号021672-0407107，客户查询号BC201203A]；

2012年6月5日提交的、标题为“APPARATUS AND METHODS FOR REINFORCEMENT LEARNING IN ARTIFICIAL NEURAL NETWORKS”的共同拥有的美国专利申请No.13/489,280[客户查询号BC201204A]；

与本申请同时提交的、标题为“APPARATUS AND METHODS FOR GENERALIZED STATE-DEPENDENT LEARNING IN SPIKING NEURON NETWORKS”的共同拥有的美国专利申请No.13/560,902[代理人案卷号021672-0410044，客户查询号BC201212A]；

故以引用方式将上述申请中的每一个的全部内容并入本文。

版权声明

本专利文档的一部分公开内容包含受版权保护的材料。版权所有者不反对任何人按其出现在(美国)专利商标局中的专利文件或记录中的那样复制本专利文献或本专利公开内容，但在其它方面无论如何保留所有版权。

技术领域

本公开内容涉及实现尖峰神经元网络中的学习。

背景技术

尖峰神经网络

可以频繁地使用人工尖峰神经网络以获得对生物神经网络的理解，和/或用于解决人工智能问题。通常，这些网络可以采用脉冲编码机制，该机制可以使用脉冲的时序来编码信息。这些脉冲(还称为“尖峰”或‘冲激’)可以是短暂持续的(通常具有1-2ms的量级)离散时间事件。在2011年6月2日提交的、标题为“APPARATUS AND METHODS FOR PULSE-CODE INVARIANT OBJECT RECOGNITION”的共同拥有和共同未决的美国专利申请No.13/152,084[客户查询号BRAIN.001A]，以及2011年6月2日提交的、标题为“SENSORY INPUT PROCESSING APPARATUS AND METHODS”的美国专利申请No.13/152,119[客户查询号BRAIN.003A]中，描述了这种编码的若干示例性实施例，故以引用方式将这些申请中的每一份的全部内容并入本文。

典型的人工尖峰网络(例如，图1中所举例示出的网络100)可以包括多个单元(或节点)102，这些单元可以对应于生物神经网络中的神经元。任何给定的单元102可以通过连接104(其还称为通信信道或突触连接)来接收输入。此外，任何给定的单元还可以通过连接112(其还称为通信信道或突触连接)连接到其它单元。通过例如连接104向任何给定的单元提供输入的单元(例如，图1中的单元106)通常称为突触前单元，而接收这些输入的单元(例如，图1中的单元102)称为突触后单元。此外，一个单元层的突触后单元(例如，图1中的单元102)可以充当为后续上层单元(没有示出)的突触前单元。

可以分配这些连接中的单个连接(图1中的104、112)，除此以外，连接功效(其通常可以指代突触前尖峰对于发放(firing)突触后神经元的影响的幅度和/或概率，例如，其可以包括参数突触权重，根据该权重来改变突触后单元的一个或多个状态变量)。在脉冲编码网络(例如，网络100)的操作期间，通常可以使用称为依赖尖峰时序的可塑性(STDP)的方式来调整突触权重，以便实现网络学习等等。

参照图2-3示出了一个这种自适应机制。图2中的轨迹200、210分别描述了突触前输入脉冲系列(例如，通过图1中的连接104_1来传送)和突触后输出脉冲系列(例如，通过图1中的神经元102_1来生成)。