[发明专利]基于忆阻器的自供能设备及其脉冲神经网络优化方法

说明书

本发明涉及人工智能技术领域，公开了一种基于忆阻器的自供能设备及其脉冲神经网络优化方法。本发明在对忆阻器交叉阵列和脉冲神经网络进行网络分块映射的基础上，根据脉冲神经网络的运行特点，对脉冲神经网络的运行规模进行能量等级划分，将脉冲神经网络的运行模式调整为“闲置‑部分激活‑全激活”模式，可以利用环境能量等级预测的方法预测供能周期的能量等级变化，合理调整脉冲神经网络的运行规模，挽救供能周期边界处的未完成任务的进度，实现能量等级平滑过渡。应用本发明可以使得脉冲神经网络的运行适应环境能量的变化，脉冲神经网络在微弱的供能条件下依然能够持续正常运行，提高了自供能设备上的脉冲神经网络的吞吐率和能效。

技术领域

本发明涉及计算机与电子信息技术领域，尤其涉及基于忆阻器的自供能设备及其脉冲 神经网络优化方法。

背景技术

人工神经网络(Artificial Neural Network，简称ANN)，是由大量的处理单元(神经元) 互相连接而形成的复杂网络结构，是对人脑组织结构和运行机制的某种抽象、简化和模拟。 人工神经网络以数学模型模拟神经元活动，是基于模仿大脑神经网络结构和功能而建立的 一种信息处理系统。目前的人工神经网络是第二代神经网络，它们通常是全连接的，接收 连续的输入值，输出连续的输出值。尽管当前人工神经网络已经让人类在很多领域中实现 了突破，但它们在生物学上是不精确的，目前并不能模仿生物大脑神经元的运作机制。

脉冲神经网络(Spiking Neural Network，SNN)是第三代神经网络，旨在弥合神经科 学和机器学习之间的差距，使用最拟合生物神经元机制的模型来进行计算。脉冲神经网络 与目前流行的人工神经网络和机器学习方法有着根本上的不同。脉冲神经网络(SNN)使用脉冲——这是一种发生在时间点上的离散事件——而非常见的连续值。每个峰值由代表生物过程的微分方程表示出来，其中最重要的是神经元的膜电位。脉冲神经网络的运行一般只有两种工作状态：完整激活状态和闲置状态，即系统存在一个启动阈值，当提供的功率高于启动阈值时，脉冲神经网络开始工作；当功率低于启动阈值时，脉冲神经网络处于闲置状态。

忆阻器交叉阵列是一个由两层垂直交叉的金属导线和忆阻器矩阵组成的电阻网络。忆 阻器交叉阵列具有低功耗和高性能的特点，可以用于加速脉冲神经网络中的矩阵乘加运 算。在利用忆阻器交叉阵列加速脉冲神经网络时，数据以脉冲的形式存在使得模数转换的 功耗得到降低。在人工神经网络(ANN)中的计算是实值计算，实值计算中的数据由多位 二进制组成，而脉冲神经网络中数据是以脉冲序列的形式存在的，脉冲实质上是一位二进 制数，使得用于脉冲神经网络的忆阻器交叉阵列在进行模数转换时需要转换的数值的范围 很小，降低了忆阻器交叉阵列的外围电路的功耗，从而降低了系统功耗。

忆阻器交叉阵列模拟突触连接的过程为：忆阻器与一个水平的位线和一个垂直的字线 组合形成忆阻器交叉阵列结构。交叉阵列中的每个交点都是一个存储单元，网络权值按忆 阻器电导配置。忆阻器交叉阵列具有天然的非易失性和并行处理的特点，既可以存储大量 的数据，又可以进行大规模并行计算，实现了高效的存内计算，极大地减少了内存数据访 问的次数，有效地缓解了存储墙问题，并且可以用于加速脉冲神经网络中的矩阵乘加运算。 如图1所示，显示了忆阻器交叉阵列中的点积操作。当进行乘加运算时，电信号V在水平 位线处输入，通过每个交叉节点的输出电流大小计算为I＝V*G，其中G表示运算节点电导， 输出电流在垂直字线末端累加。

脉冲神经网络作为第三代神经网络与人工神经网络存在很大的不同。在脉冲神经网络 中，神经元之间通过脉冲组成的序列进行信息传递，而且脉冲序列利用脉冲之间的间隔编 码信息，使得脉冲神经网络能够处理复杂的时空信息。在脉冲神经网络中，脉冲神经元的 运行模式是事件驱动的，如果脉冲神经元在某个时刻或时间段内没有脉冲进入，就会保持 待机闲置状态，这个状态下脉冲神经元的功耗几乎为0，而在人工神经网络运行时其所有 的神经元均处于激活状态，使得同等规模的人工神经网络的功耗比脉冲神经网络高。