[发明专利]一种卷积模型轻量化方法及系统

权利要求书

1.一种卷积模型轻量化方法，其特征在于，包括：

获取候选剪枝策略；其中，候选剪枝策略为卷积原模型中若干层级对应的剪枝率的集合；

评估所述候选剪枝策略，获得所述候选剪枝策略的评估结果；

根据所述评估结果生成目标剪枝策略；

评估目标剪枝策略在目标硬件上的性能，输出最优剪枝策略；

根据最优剪枝策略对所述卷积原模型进行剪枝操作，获得轻量化卷积模型；

其中，所述评估所述候选剪枝策略，包括：基于更新批规范化层的评估，具体地：

根据所述候选剪枝策略对所述卷积原模型进行剪枝操作，获得第一卷积剪枝模型；

通过训练集对所述卷积剪枝模型进行推理，得到特征值；

根据所述特征值更新批规范化层的统计量，得到滑动平均值以及滑动方差；

通过滑动平均值以及滑动方差更新所述第一卷积剪枝模型，生成第二卷积剪枝模型；

通过验证集评估所述第二卷积剪枝模型，得到验证集准确率及损失函数数值；其中，所述验证集准确率及损失函数数值作为所述候选剪枝策略的评估结果。

2.如权利要求1所述的一种卷积模型轻量化方法，其特征在于，所述评估所述候选剪枝策略，包括：基于短期微调的评估，具体地：

根据所述候选剪枝策略对所述卷积原模型进行剪枝操作，获得卷积剪枝模型；

通过验证集评估所述卷积剪枝模型，得到验证集准确率及损失函数数值；其中，所述验证集准确率及损失函数数值作为所述候选剪枝策略的评估结果。

3.如权利要求1所述的一种卷积模型轻量化方法，其特征在于，所述获取候选剪枝策略，包括：候选剪枝策略随机搜索，具体地：

根据搜索空间生成待候选剪枝策略；

通过硬件性能反馈模块对所述待候选剪枝策略进行评估；

若所述待候选剪枝策略不满足预设硬件性能约束条件，则再次根据搜索空间生成另一个待候选剪枝策略；

若所述待候选剪枝策略满足预设硬件性能约束条件，则将所述待候选剪枝策略标记为候选剪枝策略。

4.如权利要求1所述的一种卷积模型轻量化方法，其特征在于，所述获取候选剪枝策略，包括：基于遗传算法的候选剪枝策略搜索；所述基于遗传算法的候选剪枝策略搜索，包括：

突变操作：根据搜索空间将待候选剪枝策略中的部分剪枝率进行替换，得到所述候选剪枝策略；

杂交操作：将待候选剪枝策略与上一代最优剪枝策略混合，得到所述候选剪枝策略。

5.如权利要求1所述的一种卷积模型轻量化方法，其特征在于，所述根据最优剪枝策略对所述卷积原模型进行剪枝操作，包括：

根据最优剪枝策略获取所述卷积原模型第i层的最优剪枝率r_i；

获取所述卷积原模型第i层的c_i个滤波器，并计算每一个滤波器范数；

将所述c_i个滤波器按照以滤波器范数递增的顺序进行排列；

选择范数较小的r_i*c_i个滤波器对所述原模型进行剪枝操作。