[发明专利]神经网络处理装置及其执行向量复制指令的方法

说明书

本发明提供一种处理装置，包括：存储器、寄存器单元、运算单元和控制单元；存储器存储向量；寄存器单元存储向量复制指令，控制单元获取向量复制指令，解析所述向量复制指令得到操作码和操作域；根据所述操作码从存储器中获取参与向量复制运算数据；运算单元对参与向量复制运算的数据进行向量复制运算。本发明提供的技术方案具有功耗低、计算开销小的优点。

技术领域

本发明涉及通信技术领域，具体涉及一种神经网络处理装置及其执行向量复制指令的方法。

背景技术

现代的通用和专用处理器中，越来越多地引入计算指令(例如向量指令)进行运算。向量指令是使处理器进行向量或者矩阵运算的指令，例如向量的加减、向量的内积、矩阵乘法、矩阵卷积等。向量指令中至少有一个输入为向量或者矩阵或运算结果是向量或矩阵。向量指令可以通过调用处理器内部的向量处理部件来进行并行计算，提高运算速度。现有的向量指令中，其操作数或结果中的向量或矩阵一般是固定规模的，例如ARM处理器中的向量扩展结构Neon中的向量指令一次可以处理长为4的32位浮点向量或者长为8的16位定点向量。所以现有的向量运算指令无法实现可变规模的向量或矩阵的运算。

另一方面，神经网络作为一个高计算量和高访存的算法，权值越多，计算量和访存量都会增大。为了减小计算量和权值数量，从而降低访存量，因此提出了稀疏神经网络。稀疏神经网络的定义为：在神经网络中，值为0的权值的数目很多，并且值为非0的权值分布没有规律，则称该神经网络为稀疏神经网络。定义权值为0的元素数量与神经网络所有权值元素数量的比值为神经网络的稀疏度，如图1a所示。

而现有的向量运算指令无法支持稀疏神经网络中的稀疏向量或稀疏矩阵的运算，更无法实现可变规模的稀疏向量或稀疏矩阵的运算，并且现在的向量运算指令只能实现一种运算，例如一条向量指令只能实现乘法、加法中的一种运算，一条向量指令无法实现二种以上的运算，所以现有的向量运算的运算开销大，能耗高。

发明内容

本发明实施例提供了一种神经网络处理装置及其执行向量复制指令的方法，可实现单条向量复制指令实现多种运算的目的，有利于减少运算开销，降低模块的功耗。

第一方面，本发明实施例提供一种处理装置，该处理装置用于根据向量复制指令执行运算，该处理装置包括：存储器、运算单元控制单元和寄存器单元；

所述寄存器单元，用于存储向量复制指令；所述向量复制指令包括操作码和操作域，所述操作码用于指示进行向量复制运算；所述操作域包括所述参与向量复制运算的数据的首地址和所述参与向量复制运算的数据中部分数据或者全部数据的索引的地址；

所述存储器，用于存储参与向量复制运算的数据；

所述控制单元，用于从所述寄存器单元中获取所述向量复制指令，解析所述向量复制指令，以得到所述操作码和操作域；根据所述操作域从所述存储器中获取所述参与向量复制运算的数据和所述参与向量复制运算的数据中部分数据或者全部数据的索引；并将所述参与向量复制运算的数据传输至所述运算单元；

所述运算单元，用于对所述参与向量复制运算的数据进行向量复制运算。

在一种可能的实施例中，所述操作域包括：稀疏向量sX5中元素的首地址、稀疏所述向量sX5的索引的首地址、稀疏向量sY5中元素的首地址和稀疏向量sY5的索引的首地址；所述控制单元具体用于：

根据所述向量sX5中元素的首地址从所述存储器中获取所述向量sX5；根据所述向量sX5的索引的首地址从所述存储器中获取所述向量sX5的索引；并将所述稀疏向量sX5及其索引传输至所述运算单元；

所述运算单元具体用于：

将所述稀疏向量sX5中的元素复制到所述稀疏向量sY5中元素的首地址对应的存储空间中；将所述稀疏向量sX5的索引复制到所述稀疏向量sY5的索引的首地址对应的存储空间中。