[发明专利]基于脉动阵列的长短期记忆神经网络前向加速系统及方法

权利要求书

1.一种基于脉动阵列的长短期记忆神经网络前向加速系统，其特征在于包括：

算法控制模块，控制计算流程，输出控制信号，控制门向量计算模块和细胞状态计算模块的交替运行；

门向量计算模块，接收源数据，根据所述控制信号将所述源数据传入脉动阵列，依次计算遗忘门向量f_t，输入门向量i_t，候选门向量z_t以及输出门向量o_t，当同一个时间序列t中的o_t计算完成后产生一个细胞状态计算模块的启动信号；所述源数据包括输入层输入数据、神经元权重项以及神经元偏置项；

细胞状态计算模块，接收所述启动信号后读入门向量数据，计算神经元状态值C_t和隐藏层输出值H_t；

存储模块，接收和输出存储门向量计算模块与细胞状态计算模块的计算结果。

2.根据权利要求1所述的基于脉动阵列的长短期记忆神经网络前向加速系统，其特征在于所述长短期记忆神经网络的输入层-隐藏层通过在系统配置阶段实施多条指令配置，将前一隐藏层的输出作为下一隐藏层的输入，实现隐藏层的多次调用，完成任意隐藏层层数的LSTM前向计算。

3.根据权利要求1所述的基于脉动阵列的长短期记忆神经网络前向加速系统，其特征在于所述门向量计算模块和细胞状态计算模块采用类脉动阵列，所述类脉动阵列中每个计算单元包含乘法器、加法器以及按位与和比较器。

4.根据权利要求3所述的基于脉动阵列的长短期记忆神经网络前向加速系统，其特征在于所述类脉动阵列为32×32的类脉动阵列，最高支持32批次数据的并行处理。

5.根据权利要求1所述的基于脉动阵列的长短期记忆神经网络前向加速系统，其特征在于所述存储模块包括数据存储器和系数存储器，数据存储器和系数存储器统一编址；门向量计算模块的源数据存储方式为：输入层的输入数据和隐藏层计算结果H_t存入同一块bank区域，每个bank存放一个批次的输入数据和隐藏层计算结果；神经元权重存入同一块bank区域，其中一个隐藏层神经元的所有权重存放在同一个bank中；偏置项按地址递增的方式存入同一块bank区域。

6.根据权利要求5所述的基于脉动阵列的长短期记忆神经网络前向加速系统，其特征在于所述门向量计算模块的计算结果存放方式为：四个门向量的计算结果分别存放在不同的bank区域，其中同一批次的计算结果以地址递增的方式存入各自对应的bank，一个bank存放四个批次的数据。

7.根据权利要求1所述的基于脉动阵列的长短期记忆神经网络前向加速系统，其特征在于细胞状态计算模块的计算流程为：将四个门向量计算结果从存储模块中读出并进行重组，以乘累加的形式传入类脉动阵列进行计算，与门向量计算模块共用计算资源。

8.根据权利要求1所述的基于脉动阵列的长短期记忆神经网络前向加速系统，其特征在于还包括存储地址生成模块，存储地址生成模块生成存储地址信号和控制信号，所述存储地址信号产生存储地址与物理存储模块地址的映射；所述控制信号控制存储模块进行源数据的读写。