[发明专利]卷积神经网络模型的剪裁方法及智能工控系统

权利要求书

1.一种卷积神经网络模型的剪裁方法，其特征在于，包括：

选取卷积神经网络模型中要进行剪裁的目标元素；

在模型迭代训练中，对模型中各目标元素的度量值在前预定轮次迭代中的变化进行统计计算，得到各所述目标元素的度量值在前预定轮次迭代中的变化量；

将各所述变化量与评价阈值分别进行比较判断，当所述变化量大于等于所述评价阈值时，确定该变化量所对应的目标元素在后续轮次迭代中保留，否则确定该变化量所对应的目标元素在后续轮次迭代中删除；

其中，所述目标元素包括卷积模板，卷积模板的度量值为卷积模板的权值。

2.根据权利要求1所述的剪裁方法，其特征在于，基于以下表达式，对模型中各卷积模板的度量值在前预定轮次迭代中的变化进行统计计算：

其中，

m表示卷积模板的行数，n表示卷积模板的列数，t表示迭代次数，

表示第k个卷积模板在前预定轮次迭代中一次迭代中权值的变化量，

表示第k个卷积模板的第i行第j列、在第t+1次迭代的权值，

表示第k个卷积模板的第i行第j列的单元、在第t次迭代的权值，

Δ(Y_p,q)^k表示第k个卷积模板在p次到q次的迭代轮次中权值的变化量。

3.根据权利要求2所述的剪裁方法，其特征在于，基于以下表达式，将各所述变化量与评价阈值分别进行比较判断，确定目标元素在后续轮次迭代中保留或删除：

其中，表示评价阈值，Δ(Y_p,q)^k′表示第k个卷积模板在后续轮次迭代中的留存概率。

4.根据权利要求3所述的剪裁方法，其特征在于，所述剪裁方法还包括，基于以下表达式，在所述后续轮次迭代中对子网络进行更新：

其中，

T表示p到q次迭代，T+1表示p+q到p+2q次迭代，

表示第k个卷积模板在T轮次迭代中基于其活跃程度所确定的剪裁标识值，

表示第k个卷积模板在T轮次迭代中的值，

表示第k个卷积模板在T+1轮次迭代中的权值，表示第k个卷积模板在T+1轮次迭代中的常数项，

表示当前层中第k个卷积模板向下一层的输出。

5.根据权利要求1所述的剪裁方法，其特征在于，所述评价阈值的值基于所述模型在剪裁训练实验中的实验结果来预先设定。

6.根据权利要求1所述的剪裁方法，其特征在于，

所述目标元素还包括神经元，神经元的度量值为神经元的权值；

所述目标元素还包括特征图，特征图的度量值为特征图的秩。

7.一种智能工控系统，其特征在于，所述系统基于其内置的第一卷积神经网络模型进行智能计算；

其中，所述第一卷积神经网络模型具体为，对其对应的初始卷积神经网络模型采用权利要求1至6中任一项所述的方法进行剪裁而得到的模型。