[发明专利]用于在神经形态计算环境中维护神经元的脉冲历史的神经形态计算设备、存储器设备、系统和方法

说明书

提供了用于维护脉冲神经网络中的神经元的脉冲历史的神经形态计算设备、存储器设备、系统和方法。在具有存储器单元行和列的阵列的存储器设备中生成神经网络脉冲历史。存在行中的针对多个神经元中的每个神经元的一行，以及针对多个时隙中的每个时隙的列。在存储器单元的针对激发神经元的行中在当前列中指示脉冲被激发。在存储器单元的没有激发的空闲神经元的行中在当前列中指示脉冲没有被激发。阵列中的信息用于确定连接的神经元与激发神经元之间的定时差并且调整连接突触的权重。

技术领域

本文描述的实施例总体上涉及以下计算机产品、方法和系统：其用于在神经形态计算环境中维护神经元的脉冲历史的神经形态计算设备、存储器设备、系统和方法。

背景技术

脉冲神经网络(SNN)硬件已经被证明是对用于处理现实世界智能应用(例如，用于模拟智能和人类识别以及认知活动)的传统Von-Neumann架构的有前景的替代。在SNN中，神经元的数字表示通过连接神经元的突触与相邻神经元交互。当突触后神经元通过突触接收到来自激发突触前神经元的加权脉冲时，突触后神经元的膜电位增加。当神经元的膜电位达到阈值时，则该神经元跨其是突触前神经元的所有突触激发脉冲。突触具有根据一个或多个适应规则来调整其增益/权重的可塑性。用于调整突触权重的不同规则中的一些基于突触的突触后神经元和突触前神经元何时激发脉冲的定时差。权重调整规则中的一些包括脉冲时序相关可塑性(STDP)和脉冲时序相关延迟可塑性(STDDP)。利用这些技术，如果突触前脉冲在突触后脉冲激发之前到达，则用于调整通过突触传输的脉冲的突触权重将增加，并且如果突触前脉冲在突触后脉冲激发之后到达，则该突触权重将降低。权重的变化由两个脉冲的到达时间之间的持续时间确定。

计算SNN维护三组电子存储装置：(1)对于神经元，存储每个神经元的电位；(2)对于突触，包括权重、延迟和连接；以及(3)对于脉冲，跟踪在神经元处何时激发脉冲时的定时信息。

所描述的实施例提供了用于维护关于神经元处的脉冲的定时的脉冲历史信息以供在计算神经网络中在调整突触权重时使用的改进的技术。

附图说明

通过示例的方式参考附图对实施例进行描述，附图未按比例绘制，其中相同的附图标记指代类似的元素。

图1示出了神经网络计算环境的实施例。

图2和图3示出了脉冲历史阵列和现在指针(now pointer)的实施例。

图4示出了突触信息的实施例。

图5示出了神经元膜电位信息的实施例。

图6a、图6b和图6c示出了用于更新关于神经网络中的神经元和突触的信息的操作的实施例。

图7示出了用于存储脉冲历史阵列信息的存储器设备阵列的实施例。

图8示出了其中可以实现实施例的计算机架构的实施例。

具体实施方式

所描述的实施例提供了用于减少维护关于神经元何时激发或发出脉冲的定时信息所要求的操作次数的技术。在所描述的实施例中，脉冲历史阵列提供存储器单元的阵列，其中行提供神经元在表示前几个时隙的列中的定时信息，其中针对神经元中的一个神经元指示上次发生的脉冲的定时。针对当前时隙的列中的单元被清零，并且仅在当前时隙中激发的激发神经元的行中被更新。激发神经元行中的除针对当前时隙的条目之外的其他列被清零，以指示不存在激发。以这种方式，仅当由行表示的神经元激发脉冲时才更新神经元行。这通过仅必须更新激发神经元的一个列和行来优化用于跟踪神经元激发的操作，并且提供用于记录定时信息和基于神经元激发时的定时差来调整突触权重的改进的技术。