[发明专利]用于乘加运算的人工神经网络的处理系统及方法

说明书

本公开提供了一种用于乘加运算的人工神经网络的处理系统及方法，其中，所述人工神经网络的处理系统，包括：多核心处理模块，其包括多个核心处理模块，用于执行神经网络运算中的乘加运算。本公开用于乘加运算的人工神经网络的处理系统及方法，其在神经网络处理系统中引入多核设计，从而提升神经网络处理系统的运算速度，使得神经网络处理系统性能更高，更加高效。

本公开是2016年4月18日所提出的申请号为201610240416.X、发明名称为《一种神经网络的处理方法、系统》的发明专利申请的分案申请。

技术领域

本公开涉及计算机技术领域，尤其涉及一种神经网络的处理系统及方法。

背景技术

在大数据时代，越来越多的设备需要对于真实世界的实时输入进行越来越复杂的处理，如工业机器人、自动驾驶无人汽车以及移动设备等等。这些任务大多数偏向于机器学习领域，其中大部分运算为向量运算或者矩阵运算，具有极高的并行度。相较于传统通用的GPU/CPU加速方案，硬件ASIC加速器是目前最受欢迎的加速方案，一方面可以提供极高的并行度可以实现极高的性能，另外一方面具有极高的能效性。

常见的神经网络算法中，包括最为流行的多层感知神经网络(Multi-LayerPerceptron，MLP)、卷积神经网络(Convolutional Neural Network，CNN)和深度神经网络(Deep Neural Network，DNN)，通常包含多层神经元而每层神经元常常通过特定方式进行组织，如卷积神经网络中按照特征图(Feature Map)进行组织。每个输出特征图的处理常常独立于彼此。

神经网络的绝大部分运算为输入神经元到输出神经元的处理，少量运算为不需要输出神经元参与的运算，如非线性运算。神经网络中每层的运算速度深切的影响了神经网络加速器的性能。神经网络加速器中，提升这些运算的并行度，也即加速器的吞吐量，为提升神经网络加速器的性能的主要手段。现有技术中，执行输入神经元到输出神经元的处理的模块通常为单核设计，难以满足神经网络加速器的性能要求。

综上可知，现有技术在实际使用上显然存在不便与缺陷，所以有必要加以改进。

发明内容

针对上述的缺陷，本公开的目的在于提供一种神经网络的处理系统及方法，其在神经网络处理系统中引入多核设计，从而提升神经网络处理系统的运算速度，使得神经网络处理系统性能更高，更加高效。

根据本公开的一个方面，提供了一种人工神经网络的处理系统，包括：多核心处理模块，其包括多个核心处理模块，用于执行神经网络运算中的乘加运算。

在一些实施例中，所述的处理系统还包括：至少一片上存储介质，用于存储由神经网络处理系统外部传来的数据或用于存储处理过程中产生的数据；以及至少一ALU模块，用于从所述多核心处理模块或所述片上存储介质获取输入数据执行所述多核心处理模块无法完成的非线性运算；其中，所述多个核心处理模块共享所述片上存储介质以及ALU模块，或者所述多个核心处理模块具有独立的所述片上存储介质以及ALU模块。

在一些实施例中，所述的处理系统还包括：至少一片内地址索引模块，用于执行运算时根据输入的索引映射至正确的存储地址。

在一些实施例中，所述处理过程中产生的数据包括处理结果或中间结算结果。

在一些实施例中，该多个核心处理模块共同复用输入神经元和/或权值。

在一些实施例中，所述神经网络的处理系统进行处理时，将同一输入神经元分别发送至所述多个核心处理模块，将不同的输入权值分配至不同的核心处理模块，所述多个核心处理模块分别将所述输入神经元和输入权值进行向量内积操作后得到不同的输出神经元。

在一些实施例中，所述多个核心处理模块共同处理同一特征图时，共同复用权值。