[发明专利]卷积扩展指令的执行方法以及相关产品

说明书

本披露提供一种卷积扩展指令的实现方法及相关产品，包括：计算装置从存储器读取所述卷积扩展指令获取所述卷积扩展指令的输入数据、卷积核以及辅助操作；所述卷积扩展指令包括：操作码和操作域，所述操作域包括：寄存器以及辅助域，所述寄存器用于确定输入数据的地址和卷积核的地址，所述辅助域用于标识辅助操作；计算装置对所述输入数据的地址和卷积核的地址执行卷积操作以及辅助操作。本披露提供的技术方案具有减少计算量，降低功耗的优点。

技术领域

本披露涉及神经网络技术领域，具体涉及一种卷积扩展指令的实现方法以及相关产品。

背景技术

卷积神经网络是近年来广泛应用于模式识别、图像处理等领域的一种高效识别算法，它具有结构简单、训练参数少和适应性强、平移、旋转、缩放等特点。由于CNN/DNN的特征检测层通过训练数据进行学习，所以在使用CNN/DNN时，避免了显示的特征抽取，而隐式地从训练数据中进行学习；再者由于同一特征映射面上的神经元权值相同，所以网络可以并行学习，这也是卷积网络相对于神经元彼此相连网络的一大优势。

在已有的计算机领域应用中，与卷积运算相关的应用十分普遍。本发明专注于卷积神经网络，目前可以执行此种运算的主流装置如下：

在现有技术中，一种进行卷积神经网络运算的已知方案是使用通用处理器，该方法通过通用寄存器堆和通用功能部件来执行通用指令，从而执行卷积神经网络运算。然而，该方法的缺点之一是单个通用处理器多用于标量计算，在进行卷积神经网络运算时运算性能较低。而使用多个通用处理器并行执行时，通用处理器之间的相互通讯又有可能成为性能瓶颈。

在另一种现有技术中，使用图形处理器(GPU)来进行向量计算，其中，通过使用通用寄存器堆和通用流处理单元执行通用SIMD指令来进行卷积神经网络运算。然而，上述方案中，GPU片上缓存太小，在进行大规模卷积神经网络运算时需要不断进行片外数据搬运，片外带宽成为了主要性能瓶颈。

披露内容

本披露实施例提供了一种卷积扩展指令的实现方法以及卷积扩展指令及相关产品，可实现提升性能瓶颈，降低功耗的优点。

第一方面，本披露实施例提供一种卷积扩展指令的执行方法，所述方法包括如下步骤：

计算装置从存储器读取所述卷积扩展指令获取所述卷积扩展指令的输入数据、卷积核以及激活操作；

所述卷积扩展指令包括：操作码和操作域，所述操作码包括：所述卷积扩展指令的标识；所述操作域包括：卷积子域和激活子域，所述卷积子域包括：存储输入数据的地址和卷积核的地址，所述激活子域包括：所述激活操作的标识码或所述激活操作的插值表地址；

计算装置对所述输入数据和卷积核执行卷积运算得到中间结果，通过所述激活子域对所述中间结果执行激活操作得到所述指令的最终结果。

可选的，所述激活操作包括：卷积神经网络Maxout操作、卷积神经网络PReLU 操作、卷积神经网络RReLU操作、卷积神经网络Leaky ReLU操作、非线性激活操作或线性激活操作操作。

可选的，如所述激活子域包括：激活操作的插值表地址，所述通过所述激活子域对所述中间结果执行激活操作得到所述指令的最终结果，包括：

计算装置提取所述激活操作的插值表地址对应的插值表，将所述中间结果与所述插值表执行激活运算得到所述指令的最终结果。

可选的，如所述激活子域包括：激活操作的标识码，所述通过所述激活子域对所述中间结果执行激活操作得到所述指令的最终结果，包括：

计算装置识别所述激活操作的标识码确定所述激活操作，读取所述激活操作的插值表，将所述插值表与所述中间结果执行激活运算得到所述指令的最终结果。