[发明专利]一种基于泰勒展开及数据驱动的神经网络压缩方法

权利要求书

1.一种基于泰勒展开及数据驱动的神经网络压缩方法，其特征在于，

包括下列步骤：

选取原始的神经网络模型和数据集；

将所述数据集分成训练用数据集和评估用数据集；

使用所述训练用数据集训练原始神经网络模型直至收敛，获得训练神经网络模型；

评估所述评估用数据集和所述训练神经网络模型，得到每一个卷积核的重要性评估值；

对所有卷积核的所述重要性评估值进行排序，按照裁剪比例确定阈值；

判断卷积核是否保持，获取压缩神经网络模型；

重新训练所述压缩神经网络模型。

2.如权利要求1所述的基于泰勒展开及数据驱动的神经网络压缩方法，其特征在于，在将所述数据集分成训练用数据集和评估用数据集过程中，所述数据集分类方法为随机打乱选取，抽取比例是90％作为训练用数据集，10％作为评估用数据集。

3.如权利要求2所述的基于泰勒展开及数据驱动的神经网络压缩方法，其特征在于，所述重要性评估值的大小取决于卷积核从有到无带来的损失函数的函数差值的绝对值。

4.如权利要求3所述的基于泰勒展开及数据驱动的神经网络压缩方法，其特征在于，所述损失函数采用泰勒公式展开拟合。

5.如权利要求4所述的基于泰勒展开及数据驱动的神经网络压缩方法，其特征在于，判断卷积核是否保持的步骤，包括：

比较卷积核的所述重要性评估值和所述阈值，若所述重要性评估值大于所述阈值，保留卷积核；

若所述重要性评估值小于所述阈值，去除卷积核。

6.如权利要求5所述的基于泰勒展开及数据驱动的神经网络压缩方法，其特征在于，所述训练神经网络模型和所述压缩神经模型的裁剪压缩使用通用剪枝算法。