[发明专利]一种面向嵌入式平台的分组卷积过程优化方法

说明书

本发明涉及一种面向嵌入式平台的分组卷积过程优化方法，根据嵌入式设备的资源(计算、存储能力)情况进行动态调整每组的通道数，使嵌入式设备的资源得到充分利用，当嵌入式设备可用的资源不能满足传统分组卷积，则采用数据合并算法，通过输入通道的合并，进一步减少了网络的计算量，使其能够满足嵌入式设备资源受限的情况，极大地提升了计算效率；当嵌入式设备可用的资源除了满足传统分组卷积还有剩余，则采用数据选择算法，使其可以最大化使用嵌入式平台的硬件资源，进一步提升网络模型的精度。

技术领域

本发明涉及嵌入式平台上卷积神经网络优化的技术领域，具体涉及一种面向嵌入式平台的分组卷积过程优化方法。

背景技术

近年来，得益于高性能计算机硬件(如GPU)的发展，深度学习，尤其是卷积神经网络被广泛应用于目标检测、图像识别、计算机视觉等领域，并取得很大的成效。由于传统的卷积神经网络对于硬件的性能要求很高，加之网络的参数量和计算量很大，无法将其直接部署在硬件资源有限的嵌入式设备上，为此，学者们提出一系列的优化方法，其中最具代表性是分组卷积。分组卷积最早出现于AlexNet，由于当时硬件资源有限，众多的卷积操作不能在一个GPU上同时处理，因此将输入数据(表现为多通道)分组，分给多个GPU分别进行处理，最后将多个GPU的结果进行融合。然而，这种方法分组之后，每组的通道数是固定的，它不能根据嵌入式设备的资源情况进行动态调整，可伸缩性差，无法充分利用嵌入式设备的资源。

发明内容

要解决的技术问题

为了避免现有技术的不足之处，本发明提出一种面向嵌入式平台的分组卷积过程优化方法，它能够根据嵌入式设备的资源(计算、存储能力)情况进行动态调整每组的通道数，使嵌入式设备的资源得到充分利用。

技术方案

一种面向嵌入式平台的分组卷积过程优化方法，其特征在于步骤如下：

步骤1：当嵌入式设备可用的资源不能满足传统分组卷积，则采用数据合并算法，具体如下：

设D表示传统分组之后每一组的通道数，D'表示使用数据合并方法处理之后的每一组的通道数，令Q＝D/D'，S＝D％D'，，其中/代表取整，％代表取余；则D＝D'×Q+S＝S×(Q+1)+(D'-S)×Q，即有S组数据是将每Q+1个通道进行合并，其余的D'-S组数据是将每Q个通道进行合并；

步骤2：当嵌入式设备可用的资源除了满足传统分组卷积还有剩余，则采用数据选择算法，具体如下：

设Total表示整个输入数据的通道数，D表示传统分组之后每一组的通道数，D'表示使用数据选择方法处理之后的每组的通道数，如果Total<D'，则令D'＝Total，选择D'-D个通道作为重复计算的部分；否则对于每一组，依次向下选取D'-D个通道作为重复计算的部分，如果向下没有足够可用的通道数，则向上取D'-D个通道作为重复计算的部分。

有益效果

本发明提出的一种面向嵌入式平台的分组卷积过程优化方法，与现有技术相比，具有如下优点与有益效果：

1)本发明根据嵌入式设备的资源情况，提出了两种不同的解决方案，可以根据嵌入式设备的资源情况动态调整分组的通道数，克服了传统分组卷积的不足。

2)本发明所提出的数据合并和选择算法实现简单，仅通过网络的配置文件即可对分组卷积过程的相关参数进行修改。

3)本发明所提出的数据合并算法，通过输入通道的合并，进一步减少了网络的计算量，使其能够满足嵌入式设备资源受限的情况，极大地提升了计算效率。

4)本发明所提出的数据选择算法，通过对于部分数据进行重复计算，使其可以最大化使用嵌入式平台的硬件资源，进一步提升网络模型的精度。

附图说明