[发明专利]一种基于移动设备的在线稀疏训练方法及系统

权利要求书

1.一种基于移动设备的在线稀疏训练方法，其特征在于，包括：

在云端对神经网络模型进行结构化剪枝，得到稀疏神经网络模型；

对所述稀疏神经网络模型进行编码，得到编码后的神经网络模型；所述编码后的神经网络模型包括数据部分和控制部分，所述数据部分为所述稀疏神经网络模型中非零滤波器，所述控制部分用于记录所述非零滤波器的下标位置及初始滤波器个数；

在端侧移动设备上对所述编码后的神经网络模型进行稀疏训练。

2.根据权利要求1所述的基于移动设备的在线稀疏训练方法，其特征在于，所述在云端对神经网络模型进行结构化剪枝，得到稀疏神经网络模型，具体包括：

在云端对所述神经网络模型进行滤波器维度的结构化剪枝，删除所述神经网络模型中各层权值中冗余的滤波器，得到稀疏神经网络模型。

3.根据权利要求1所述的基于移动设备的在线稀疏训练方法，其特征在于，所述对所述稀疏神经网络模型进行编码，得到编码后的神经网络模型，具体包括：

获取稀疏神经网络模型中每一层的非零滤波器；

将每一层的非零滤波器以数据部分存储；

获取所述非零滤波器的下标位置及初始滤波器个数；所述初始滤波器个数为所述非零滤波器所在层剪枝前的滤波器个数；

将每一层的所述非零滤波器的下标位置和对应的初始滤波器个数以控制部分存储。

4.根据权利要求1所述的基于移动设备的在线稀疏训练方法，其特征在于，所述在端侧移动设备上对所述编码后的神经网络模型进行稀疏训练，之前还包括：

获取初始神经网络模型训练框架；

对所述初始神经网络模型训练框架中算子层的输入和输出中增加控制流；所述控制流用于输入所述编码后的神经网络模型的控制部分；

变更所述算子层的计算规则，使算子在计算时根据所述控制部分跳过被稀疏的数据，对未被稀疏的数据进行计算；

得到改进的神经网络模型训练框架；所述改进的神经网络模型训练框架用于在端侧移动设备上对所述编码后的神经网络模型进行稀疏训练。

5.根据权利要求4所述的基于移动设备的在线稀疏训练方法，其特征在于，所述变更所述算子层的计算规则，使算子在计算时根据所述控制部分跳过被稀疏的数据，对未被稀疏的数据进行计算，具体包括：

算子读取输入数据；

根据所述输入数据的控制部分，确定当前输入数据的稀疏性；

跳过被稀疏的数据；

将所述被稀疏的数据在对应的输出中确定为稀疏数据；

采用所述算子对未被稀疏的数据进行计算。

6.一种基于移动设备的在线稀疏训练系统，其特征在于，包括：

结构化剪枝模块，用于在云端对神经网络模型进行结构化剪枝，得到稀疏神经网络模型；

编码模块，用于对所述稀疏神经网络模型进行编码，得到编码后的神经网络模型；所述编码后的神经网络模型包括数据部分和控制部分，所述数据部分为所述稀疏神经网络模型中非零滤波器，所述控制部分用于记录所述非零滤波器的下标位置及初始滤波器个数；

稀疏训练模块，用于在端侧移动设备上对所述编码后的神经网络模型进行稀疏训练。

7.根据权利要求6所述的基于移动设备的在线稀疏训练系统，其特征在于，所述结构化剪枝模块具体包括：

滤波器维度的结构化剪枝单元，用于在云端对所述神经网络模型进行滤波器维度的结构化剪枝，删除所述神经网络模型中各层权值中冗余的滤波器，得到稀疏神经网络模型。

8.根据权利要求6所述的基于移动设备的在线稀疏训练系统，其特征在于，所述编码模块具体包括：

非零滤波器获取单元，用于获取稀疏神经网络模型中每一层的非零滤波器；

数据部分存储单元，用于将每一层的非零滤波器以数据部分存储；

滤波器参数获取单元，用于获取所述非零滤波器的下标位置及初始滤波器个数；所述初始滤波器个数为所述非零滤波器所在层剪枝前的滤波器个数；

控制部分存储单元，用于将每一层的所述非零滤波器的下标位置和对应的初始滤波器个数以控制部分存储。