[发明专利]一种矩阵数据的处理方法、装置、电子设备及存储介质

说明书

本发明公布了提供一种矩阵数据的处理方法，包括：获取所述递归神经网络的待处理矩阵数据以及权重矩阵数据，所述待处理矩阵数据以及权重矩阵数据均由矩阵元素构成，所述矩阵数据包括由所述矩阵元素构建的列式矢量；提取所述权重矩阵数据中的权重列式矢量；提取所述待处理矩阵数据与所述权重列式矢量对应的待处理矩阵元素；将所述权重列式矢量与所述待处理矩阵元素进行乘法计算，得到第一处理结果；将所述第一处理结果进行累加，得到第二处理结果，并输出所述第二处理结果作为所述待处理矩阵数据的处理结果。提高了对硬件资源的利用率。

技术领域

本发明涉及机器学习领域，更具体的说，是涉及一种矩阵数据的处理方法、装置、电子设备及存储介质。

背景技术

随着机器学习的快速发展，递归神经网络(RNN，Recurrent Neural Networks)已被证明具有许多重要应用程序的有用特性。由于它们可以记录先前的信息以提高预测精度，因此RNN被应用于诸如语音识别，自然语言处理和视频分类，并被开发研究出多种变体。其中，在许多RNN变体中，两个最受欢迎的是长短期记忆网络(LSTM)和门控循环单元(GRU)。但是，RNN计算中的数据依赖性使系统停滞，直到所需的隐藏向量从完整管道返回以开始下一个时间步长计算为止，如图1a所示，在图1a中，必需等隐藏向量h_t返回才开始下一个时间步长计算。而且，通常使用较深的流水线来达到较高的工作频率，由于需要清空系统流水线，因此使停滞损失的情况更糟，在停滞的过程中使硬件资源闲置。因此，现有的RNN对硬件资源的利用率不高。

申请内容

本发明的目的是针对上述现有技术存在的缺陷，提供一种矩阵数据的处理方法，提高RNN对硬件资源的利用率。

本发明的目的是通过以下技术方案来实现的：

第一方面，提供一种矩阵数据的处理方法，用于递归神经网络，所述方法包括：

获取所述递归神经网络的待处理矩阵数据以及权重矩阵数据，所述待处理矩阵数据以及权重矩阵数据均由矩阵元素构成，所述矩阵数据包括由所述矩阵元素构建的列式矢量；

提取所述权重矩阵数据中的权重列式矢量；

提取所述待处理矩阵数据与所述权重列式矢量对应的待处理矩阵元素；

将所述权重列式矢量与所述待处理矩阵元素进行乘法计算，得到第一处理结果；

将所述第一处理结果进行累加，得到第二处理结果，并输出所述第二处理结果作为所述待处理矩阵数据的处理结果。

可选的，所述方法还包括：

获取元素并行参数以及矢量并行参数；

根据所述元素并行参数以及矢量并行参数对所述权重矩阵数据进行分块，得到权重矢量块；

将所述权重矢量块与所述待处理矩阵元素进行乘法计算，得到第一处理结果。

可选的，所述递归神经网络包括处理单元，所述获取元素并行参数以及矢量并行参数，包括：

获取处理单元数量；

获取所述权重矩阵数据中的权重矩阵的矢量行数；

根据所述处理单元数量与元素并行参数的比值、及所述权重矩阵的矢量行数对矢量并行参数进行约束，并通过贪婪算法搜索得到所述元素并行参数以及矢量并行参数。

可选的，在所述将所述第一处理结果进行累加，得到第二处理结果之前，所述方法还包括：

对所述第一处理结果进行平衡性计算，以平衡所述权重矢量块的并行性。

第二方面，提供一种矩阵数据的处理装置，用于递归神经网络，其特征在于，所述装置包括：