[发明专利]卷积扩展指令的执行方法以及相关产品

说明书

本披露提供一种卷积扩展指令的实现方法及相关产品，包括：计算装置从存储器读取所述卷积扩展指令获取所述卷积扩展指令的输入数据、卷积核以及变换OP操作；所述卷积扩展指令包括：操作码和操作域，所述操作码包括：所述卷积扩展指令的标识；所述操作域包括：卷积子域和OP子域，所述卷积子域包括：存储输入数据的地址和卷积核的地址，所述OP子域包括：所述OP操作的标识码；计算装置依据所述OP操作的标识码确定所述OP操作以及所述OP操作的对象，所述计算装置依据所述OP操作的对象对所述输入数据和卷积核执行OP操作和卷积运算得到运算结果。本披露提供的技术方案具有减少计算量，降低功耗的优点。

技术领域

本披露涉及神经网络技术领域，具体涉及一种卷积扩展指令的实现方法以及相关产品。

背景技术

卷积神经网络是近年来广泛应用于模式识别、图像处理等领域的一种高效识别算法，它具有结构简单、训练参数少和适应性强、平移、旋转、缩放等特点。由于CNN/DNN的特征检测层通过训练数据进行学习，所以在使用CNN/DNN时，避免了显示的特征抽取，而隐式地从训练数据中进行学习；再者由于同一特征映射面上的神经元权值相同，所以网络可以并行学习，这也是卷积网络相对于神经元彼此相连网络的一大优势。

在已有的计算机领域应用中，与卷积运算相关的应用十分普遍。本发明专注于卷积神经网络，目前可以执行此种运算的主流装置如下：

在现有技术中，一种进行卷积神经网络运算的已知方案是使用通用处理器，该方法通过通用寄存器堆和通用功能部件来执行通用指令，从而执行卷积神经网络运算。然而，该方法的缺点之一是单个通用处理器多用于标量计算，在进行卷积神经网络运算时运算性能较低。而使用多个通用处理器并行执行时，通用处理器之间的相互通讯又有可能成为性能瓶颈。

在另一种现有技术中，使用图形处理器(GPU)来进行向量计算，其中，通过使用通用寄存器堆和通用流处理单元执行通用SIMD指令来进行卷积神经网络运算。然而，上述方案中，GPU片上缓存太小，在进行大规模卷积神经网络运算时需要不断进行片外数据搬运，片外带宽成为了主要性能瓶颈。

披露内容

本披露实施例提供了一种卷积扩展指令的实现方法以及卷积扩展指令及相关产品，可实现提升性能瓶颈，降低功耗的优点。

第一方面，本披露实施例提供一种卷积扩展指令的执行方法，所述方法包括如下步骤：

计算装置从存储器读取所述卷积扩展指令获取所述卷积扩展指令的输入数据、卷积核以及变换OP操作；

所述卷积扩展指令包括：操作码和操作域，所述操作码包括：所述卷积扩展指令的标识；所述操作域包括：卷积子域和OP子域，所述卷积子域包括：存储输入数据的地址和卷积核的地址，所述OP子域包括：所述OP操作的标识码；

计算装置依据所述OP操作的标识码确定所述OP操作以及所述OP操作的对象，所述计算装置依据所述OP操作的对象对所述输入数据和卷积核执行OP操作和卷积运算得到运算结果。

可选的，所述OP操作包括：转置操作、共轭操作、BLAS变换、Reshape变换或pad变换。

可选的，所述计算装置依据所述OP操作的对象对所述输入数据和卷积核执行OP操作和卷积运算得到所述运算结果，包括：

如所述OP操作的对象包括输入数据和卷积核，所述计算装置将所述输入数据执行OP操作得到变换输入数据，将卷积核执行OP操作得到变换卷积核，将变换输入数据和变换卷积核执行卷积运算得到所述运算结果；

如所述OP操作的对象包括中间结果，所述中间结果为所述输入数据和卷积核的卷积运算结果，所述计算装置将所述输入数据和卷积核执行卷积运算得到中间结果，将所述中间结果执行OP操作得到所述运算结果；