[发明专利]模型压缩方法、模型压缩系统、服务器及存储介质

权利要求书

1.一种模型压缩方法，其特征在于，包括：

接收候选模型；

对所述候选模型进行神经网络架构搜索，得到多个变换模型；

对所述候选模型进行算力压缩得到压缩模型；

将所述变换模型、所述压缩模型作为所述候选模型，重新进行所述神经网络架构搜索和所述算力压缩。

2.根据权利要求1所述的模型压缩方法，其特征在于，所述对所述候选模型进行算力压缩得到压缩模型，包括：

计算出所述候选模型中各个层的算力；

比较各个所述层的算力，得到算力最大层；

对所述算力最大层进行算力压缩，得到所述压缩模型。

3.根据权利要求2所述的模型压缩方法，其特征在于，所述对所述算力最大层进行算力压缩，包括：

减小所述算力最大层的参数量，或者，移除所述算力最大层，或者，减小所述算力最大层的输入特征图大小。

4.根据权利要求1所述的模型压缩方法，其特征在于，所述对所述候选模型进行神经网络架构搜索，得到多个变换模型，包括：

基于预设的搜索空间进行所述神经网络架构搜索，对所述候选模型进行随机变换，得到多个变换模型。

5.根据权利要求1所述的模型压缩方法，其特征在于，所述接收候选模型之后，还包括：

对所述候选模型进行训练得到训练后模型；

获取所述训练后模型的准确度以及算力；

基于所述准确度、所述算力得到所述训练后模型对应的所述候选模型的评估参数。

6.根据权利要求5所述的模型压缩方法，其特征在于，所述评估参数包括评估分数；所述基于所述准确度、所述算力得到所述训练后模型对应的所述候选模型的评估参数之后，还包括：

保留所述评估分数大于或等于预设分数的所述候选模型，或者，保留所述评估分数最大的N个所述候选模型。

7.根据权利要求5所述的模型压缩方法，其特征在于，所述接收候选模型的步骤至所述将所述变换模型、所述压缩模型作为所述候选模型的步骤为一次轮询；所述评估参数包括评估分数；所述基于所述准确度、所述算力得到所述训练后模型对应的所述候选模型的评估参数之后，还包括：

判断本次轮询得到的最大评估分数是否大于上一次轮询得到的最大评估分数；

若是，则进入所述神经网络架构搜索以及所述算力压缩的步骤；

若否，则将计数器数值加1，判断所述计数器数值是否小于预设阈值；所述计数器数值的初始数值为0；

若所计数器数值小于所述预设阈值，则进入所述神经网络架构搜索以及所述算力压缩的步骤；若所述计数器数值大于或等于所述预设阈值，则轮询结束。

8.根据权利要求7所述的模型压缩方法，其特征在于，在轮询结束的情况下，在多个所述候选模型中获取所述目标候选模型；所述目标候选模型的准确度大于预设准确度且所述目标候选模型的算力小于预设算力。

9.根据权利要求1所述的模型压缩方法，其特征在于，第一次轮询接收的所述候选模型为用户输入的基准模型。

10.一种模型压缩系统，其特征在于，包括：接收模块、模型自动搜索模块、算力压缩模块、选取模块；

所述接收模块用于接收候选模型；

所述模型自动搜索模块用于对所述候选模型进行神经网络架构搜索，得到多个变换模型并作为所述候选模型输入所述接收模块；

所述算力压缩模块用于对所述候选模型进行算力压缩得到压缩模型，所述压缩模型作为所述候选模型输入所述接收模块。