[发明专利]一种适用于移动端的卷积神经网络加速方法及系统

权利要求书

1.一种适用于移动端的卷积神经网络加速方法，该移动端包括多个深度可分离卷积计算单元和多个逐点卷积计算单元，其特征在于，包括如下步骤：

获取待检测图像的参数，利用预设的神经网络模型得到与多个深度可分离卷积计算单元一一对应的多个第一线程索引数据，与多个逐点卷积计算单元一一对应的多个第二线程索引数据，所述第一线程索引数据包括第一滑动窗口位置坐标、对应通道编号、第一滑动窗口尺寸和与第一滑动窗口位置坐标一一对应的第一卷积核数据，所述第二线程索引数据包括第二滑动窗口位置坐标、对应通道编号、第二滑动窗口尺寸和与第二滑动窗口位置坐标一一对应的第二卷积核数据；

所述第一滑动窗口位置坐标作为第一线程索引标识进行第一线程索引数据存储，所述第二滑动窗口位置坐标作为第二线程索引标识进行第二线程索引数据存储；

获取待检测图像数据，利用当前通道的第一线程索引标识调用第一线程索引数据，依据第一滑动窗口内的待检测图像数据作为第一卷积输入数据，该第一卷积输入数据与第一滑动窗口位置坐标对应的第一卷积核数据进行内积计算；利用移动端的多个深度可分离卷积计算单元进行多线程并行计算，遍历当前通道的第一线程索引标识，得到当前通道的第一特征图数据；

利用当前通道的第二线程索引标识调用第二线程索引数据，依据第二滑动窗口内的当前通道的第一特征图数据作为第二卷积输入数据，该第二卷积输入数据与第二滑动窗口位置坐标对应的第二卷积核数据进行内积计算，得到当前通道的第二特征图数据；

利用移动端的多个逐点卷积计算单元进行多线程并行计算，遍历所有通道的线程索引，得到第二输出特征图的所有输出数据，以提高对待检测图像的检测速度。

2.根据权利要求1所述的一种适用于移动端的卷积神经网络加速方法，其特征在于，所述第一线程索引数据和/或第二线程索引数据采用向量化存储方式。

3.根据权利要求2所述的一种适用于移动端的卷积神经网络加速方法，其特征在于，通过加载指令将所述第一线程索引数据和/或第二线程索引数据加载为float16类型向量，调用向量内积指令实现内积计算。

4.一种适用于移动端的卷积神经网络加速系统，其包括依次连接的卷积核神经网络模块、深度可分离卷积计算模块、逐点卷积计算模块和数据存储模块，其中，数据存储模块还连接卷积核神经网络模块和深度可分离卷积计算模块，所述深度可分离卷积计算模块包括多个深度可分离卷积计算单元，所述逐点卷积计算模块包括多个逐点卷积计算单元，其特征在于，

所述卷积核神经网络模块用于获取待检测图像的参数，利用预设的神经网络模型利用预设的神经网络模型得到与多个深度可分离卷积计算单元一一对应的多个第一线程索引数据，与多个逐点卷积计算单元一一对应的多个第二线程索引数据，所述第一线程索引数据包括第一滑动窗口位置坐标、对应通道编号、第一滑动窗口尺寸和与第一滑动窗口位置坐标一一对应的第一卷积核数据，所述第二线程索引数据包括第二滑动窗口位置坐标、对应通道编号、第二滑动窗口尺寸和与第二滑动窗口位置坐标一一对应的第二卷积核数据；

所述数据存储模块用于存储卷积核神经网络模块发送的第一线程索引数据和第二线程索引数据，其中，第一线程索引数据和第二线程索引数据的存储过程为：

所述第一滑动窗口位置坐标作为第一线程索引标识进行第一线程索引数据存储，所述第二滑动窗口位置坐标作为第二线程索引标识进行第二线程索引数据存储；

所述深度可分离卷积计算模块用于获取待检测图像数据，利用当前通道的第一线程索引标识调用第一线程索引数据，依据第一滑动窗口内的待检测图像数据作为第一卷积输入数据，该第一卷积输入数据与第一滑动窗口位置坐标对应的第一卷积核数据进行内积计算；利用移动端的多个深度可分离卷积计算单元进行多线程并行计算，遍历当前通道的第一线程索引标识，从而得到当前通道的第一特征图数据；

所述逐点卷积计算模块用于接收当前通道的第一特征图数据，利用当前通道的第二线程索引标识调用第二线程索引数据，依据第二滑动窗口内的当前通道的第一特征图数据作为第二卷积输入数据，该第二卷积输入数据与第二滑动窗口位置坐标对应的第二卷积核数据进行内积计算，得到当前通道的第二特征图数据；利用移动端的多个逐点卷积计算单元进行多线程并行计算，遍历所有通道的线程索引，得到第二输出特征图的所有输出数据，以提高对待检测图像的检测速度。