[发明专利]一种面向多变异体LSTM神经网络加速器及数据处理方法

说明书

本发明涉及一种面向多变异体LSTM的神经网络加速器，包括存储单元，用于存储LSTM或其变异体网络的神经元数据和权值数据并输出；矩阵乘法单元，用于从所述存储单元接收数据并针对所述接收的数据执行向量乘累加运算并输出运算结果；多功能运算单元，用于从所述向量乘法运算单元接收数据，并针对所述接收的数据执行与LSTM或其变异体网络对应的特定运算并输出运算结果；激活单元，用于从所述多功能运算单元和所述存储单元接收数据，并针对所述接收的数据执行激活操作并输出激活结果；向量平行乘法与加法单元，用于从所述激活单元和所述存储单元接收数据，并针对所述接收的数据执行乘法和累加操作。

技术领域

本发明涉及计算领域，特别涉及一种面向多变异体LSTM的神经网络加速器及数据处理方法。

背景技术

神经网络是人工智能领域具有高发展水平的感知模型之一，一经出现就成为了学术界和工业界的研究热点，随着研究的不断深入，不同类型的神经网络被相继提出，例如，长短期记忆网络(LSTM,Long Short-Term Memory)。

LSTM网络是一种时间递归的循环神经网络，能够学习长期的依赖信息，常被用于学习语言翻译、机器人控制、图像分析等，其计算过程的主要占用部分为各门值向量乘累加运算与各层迭代运算过程；为了适应不同的应用需求，LSTM具有多种变异体，例如门限重复单元(GRU)变异体等，而现有技术中的神经网络加速器，通常只是针对一种LSTM或LSTM变异体设计，这就严重降低了计算资源利用率。

因此，需要一种能够满足神经网络对LSTM及其多种变异体的兼容性的神经网络加速器及数据处理方法。

发明内容

本发明提供一种面向多变异体LSTM的神经网络加速器，包括存储单元，用于存储LSTM或其变异体网络的神经元数据和权值数据并输出；矩阵乘法运算单元，用于从所述存储单元接收数据并针对所述接收的数据执行向量的矩阵乘法运算并输出运算结果；多功能运算单元，用于从所述向量矩阵乘法运算单元接收数据，并针对所述接收的数据执行与LSTM或其变异体网络对应的特定运算并输出运算结果；激活单元，用于从所述多功能运算单元和/或所述存储单元接收数据，并针对所述接收的数据执行激活操作并输出激活结果；向量平行乘法与加法单元，用于从所述激活单元和/或所述存储单元接收数据，并针对所述接收的数据执行乘法和加法操作。

优选的，所述矩阵乘法运算单元包括用于针对权值矩阵与拼接向量执行矩阵乘法运算的矩阵行计算阵列。

优选的，所述矩阵乘法运算单元还包括用于针对指定门值间存在依赖关系时进行权值矩阵与指定门值向量执行矩阵乘法运算的矩阵列计算阵列。

优选的，所述矩阵行计算阵列以所述权值矩阵行为单位执行对所述权值矩阵与所述拼接向量的乘运算。

优选的，所述矩阵列计算阵列以所述权值矩阵列为单位执行对所述权值矩阵与所述指定门值向量的乘运算。

优选的，所述指定门值是输出门值和记忆门值，所述指定门值向量是记忆门值向量。

优选的，所述指定门值间存在的依赖关系公式是：

O_t＝δ(W_xo·X_t+W_ho·Y_(t-1)+W_oc·C_t+b_o)

其中，“·”表示矩阵乘法操作，“δ”表示sigmoid激活操作，X_t为输入向量，Y_t-1为上一级输出向量，C_t为记忆门向量，O_t为输出门向量，b_o为输出门对应的偏移量，W_xo、W_ho和W_oc分别为输入门、输出门和记忆门对应的权值。