[发明专利]用于卷积运算的数据重用方法、运算方法及装置、芯片

说明书

本发明提供一种用于卷积运算的数据重用方法、运算方法及装置、芯片。数据重用方法包括：确定执行卷积运算时的限制条件；根据限制条件，确定每个数据对应的每个维度上的划分尺寸；根据划分尺寸，将每个数据对应的每个维度进行划分，获得每个数据对应的每个维度的候选子图块集合；将每个维度的候选子图块集合中的每一个候选子图块，与其余维度的候选子图块集合中的每一个候选子图块进行组合，获得每个数据的候选图块集合。将每个候选图块集合分别输入至预设的代价函数，并选取代价函数的最小输出值对应的候选图块作为目标图块，并将目标图块作为数据的后续重用划分方式。可以使得数据进出片上存储器的次数最少，重用性最高，提高卷积运算效率。

技术领域

本发明属于数据运算技术领域，具体涉及一种用于卷积运算的数据重用方法、一种用于卷积运算的数据重用装置、一种卷积运算方法、一种卷积运算装置以及一种运算芯片。

背景技术

深度学习(Deep learning)是开展人工智能(Artificial intelligence，AI)的重要应用技术之一，其广泛应用于计算机视觉、语音识别等领域。其中卷积神经网络(Convolutional Neural Network，CNN)则是近年来引起重视的一种深度学习高效识别技术，它通过直接输入原始图像或数据，与多个特征滤波器(filter)进行若干层的卷积运算及矢量运算，从而在图像和语音识别方面产生高准确性结果。其中滤波器的规模可由1×1、3×3的小区块规模到5×5、7×7甚至是11×11的大规模卷积运算区块，因此卷积运算也是一种很耗费效能的运算。

为了追求分类准确度，CNN模型深度越来越深，模型复杂度也越来越高，如深度残差网络(ResNet)其层数已经多达152层。在某些真实的应用场景如移动或者嵌入式设备，如此大而复杂的模型面临着内存不足、响应延迟等问题，例如自动驾驶汽车的行人检测系统如果响应速度慢则会发生可怕的结果，因此大规模的CNN难以被应用，研究小而高效的CNN模型越来越成为CNN的发展趋势，例如Google提出的一种小巧而高效的CNN模型MobileNet，其在保持模型性能的前提下降低了模型大小，同时提升模型速度。

CNN卷积神经网络因其卓越性能目前被普遍应用于各种人工智能设备中，包括cloud、mobile设备。在某些设备，特别是mobile设备中，存储和计算资源是比较少的。在磁盘上内存上同时存储CNN算法的所有输入数据，权重数据和输出数据通常是不可能的，将高效的CNN算法移植到嵌入式硬件加速器中的一个难题是如何将完整的CNN任务划分为几个小部分，以便可以最大程度地提高数据复用率并提高硬件执行效率。如何利用较少的存储和计算资源提高神经网络的执行速度显得尤为重要。

发明内容

本发明旨在至少解决现有技术中存在的技术问题之一，提供一种用于卷积运算的数据重用方法、一种用于卷积运算的数据重用装置、一种卷积运算方法、一种卷积运算装置、一种运算芯片、一种电子设备以及一种计算机可读存储介质。

本发明的一个方面提供一种用于卷积运算的数据重用方法，包括：

确定执行卷积运算时的限制条件；

根据所述限制条件，确定每个所述数据对应的每个维度上的划分尺寸；

根据所述划分尺寸，将每个所述数据对应的每个所述维度进行划分，获得每个所述数据对应的每个所述维度的候选子图块集合；

将每个所述维度的所述候选子图块集合中的每一个候选子图块，与其余所述维度的候选子图块集合中的每一个候选子图块进行组合，获得每个所述数据的候选图块集合；

将每个所述候选图块集合分别输入至预设的代价函数，并选取所述代价函数的最小输出值对应的候选图块作为目标图块，并将所述目标图块作为所述数据的后续重用划分方式。

在一些可选地实施方式中，所述限制条件包括并行通道数量以及每个数据在片上存储器所分配的内存块数量。