[发明专利]一种数据处理方法及装置

说明书

本发明实施例提出一种数据处理方法及装置。所述方法包括：利用全局数据进行神经网络的前向计算，获得用于神经网络的反向计算的中间数据；将所述中间数据存入缓存单元；从所述缓存单元中读取所述中间数据；利用所述中间数据进行神经网络的反向计算，获得反向计算结果。本发明实施例在执行神经网络的反向计算时，读全局内存的次数减少，从而计算时间消耗减少，提高了数据处理速度。

技术领域

本发明涉及数据处理技术领域，尤其涉及一种数据处理方法及装置。

背景技术

人工神经网络(Artificial Neural Network，ANN)，是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数(Activation Function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。

最近十多年来，人工神经网络的研究工作不断深入，已经取得了很大的进展。例如，在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性。由于神经网络中涉及到大量的数据处理，例如前向传播计算(前向计算)、反向传播计算(反向计算)，减少数据处理时间，提高数据处理速度，对于提高神经网络的性能而言，具有极高的重要性。

发明内容

本发明实施例提供一种数据处理方法及装置，以解决现有技术中的一个或多个技术问题。

第一方面，本发明实施例提供了一种数据处理方法，包括：

利用全局数据进行神经网络的前向计算，获得用于神经网络的反向计算的中间数据；

将所述中间数据存入缓存单元；

从所述缓存单元中读取所述中间数据；

利用所述中间数据进行神经网络的反向计算，获得反向计算结果。

在一种实施方式中，所述还包括：

将所述反向计算结果存入全局内存单元。

在一种实施方式中，所述神经网络为递归神经网络RNN(Recurrent NeuralNetwork)，所述全局数据包括：

前一次前向计算的输出数据、前一次前向计算的输出数据的权重、本次前向计算的输入数据、本次前向计算的输入数据的权重。

在一种实施方式中，利用全局数据进行神经网络的前向计算，获得用于神经网络的反向计算的中间数据之前，还包括：

利用所述全局数据进行神经网络的前向计算，获得本次前向计算的输出数据；

将所述本次前向计算的输出数据存入全局内存单元。

在一种实施方式中，所述缓存单元为寄存器或高速缓冲存储器。

第二方面，本发明提供一种数据处理装置，包括：

前向复算模块：用于利用全局数据进行神经网络的前向计算，获得用于神经网络的反向计算的中间数据；

中间数据存储模块：用于将所述中间数据存入缓存单元；

中间数据读取模块：用于从所述缓存单元中读取所述中间数据；

反向计算模块：用于利用所述中间数据进行神经网络的反向计算，获得反向计算结果。