[发明专利]模型优化方法、分组压缩方法、相应的装置、设备

权利要求书

1.一种模型优化方法，其特征在于，包括：

确定待优化模型中设定隐藏层的压缩参数；

根据设定隐藏层的压缩参数，对待优化模型进行压缩处理，得到优化后的模型。

2.根据权利要求1所述的模型优化方法，其特征在于，若所述压缩参数包括剪枝数量，则所述确定待优化模型中设定隐藏层的压缩参数，包括：

确定设定隐藏层中的每个隐藏层的各种通道剪枝数量与对应的剪枝损失的关系；

根据所述每个隐藏层的各种通道剪枝数量与对应的剪枝损失的关系，确定所述每个隐藏层的剪枝数量。

3.根据权利要求2所述的模型优化方法，其特征在于，所述确定设定隐藏层中的当前隐藏层的各种通道剪枝数量与对应的剪枝损失的关系，包括：

根据下一隐藏层的训练数据，确定当前隐藏层的各种通道剪枝数量与对应的剪枝损失的关系；

其中，所述训练数据包括输出通道与各个输入通道之间的关系。

4.根据权利要求2或3所述的模型优化方法，其特征在于，所述根据所述每个隐藏层的各种通道剪枝数量与对应的剪枝损失的关系，确定所述每个隐藏层的剪枝数量，包括：

根据所述每个隐藏层的各种通道剪枝数量与对应的剪枝损失的关系，以及所述每个隐藏层对应的权重，确定所述每个隐藏层的剪枝数量。

5.根据权利要求4所述的模型优化方法，其特征在于，所述根据所述每个设定隐藏层的各种通道剪枝数量与对应的剪枝损失的关系，以及所述每个隐藏层对应的权重，确定所述每个隐藏层的剪枝数量，包括：

根据所述每个隐藏层的各种通道剪枝数量与对应的剪枝损失的关系，以及所述每个隐藏层对应的权重，确定所述每个隐藏层的各种通道剪枝数量与对应的加权后的剪枝损失的关系；

根据所述每个隐藏层的各种通道剪枝数量与对应的加权后的剪枝损失的关系，确定所述每个隐藏层的剪枝数量。

6.根据权利要求2-5任一项所述的模型优化方法，其特征在于，确定当前隐藏层的任一通道剪枝数量与对应的剪枝损失的关系，包括：

分别计算各个当前候选待剪通道对应的剪枝损失，其中，任一当前候选待剪通道包括上一种通道剪枝数量确定的已剪通道和至少一个未剪通道，或者，任一当前候选待剪通道包括在上一种通道剪枝数量确定的已剪通道中去掉至少一个通道后的剩余已剪通道；

将剪枝损失最小的当前候选待剪通道确定为当前通道剪枝数量对应的剪枝通道，得到当前通道剪枝数量与对应的剪枝损失的关系。

7.根据权利要求1-6任一项所述的模型优化方法，其特征在于，若所述压缩参数包括量化率，则所述确定待优化模型中设定隐藏层的压缩参数，包括：

确定设定隐藏层中的每个隐藏层的各种待选量化率与对应的量化损失的关系；

根据所述每个隐藏层的各种待选量化率与对应的量化损失的关系，确定所述每个隐藏层的量化率。

8.根据权利要求7所述的模型优化方法，其特征在于，所述确定设定隐藏层中的当前隐藏层的各种待选量化率与对应的量化损失的关系，包括：

根据当前隐藏层的训练数据，确定当前隐藏层的各种待选量化率与对应的量化损失的关系；

其中，所述训练数据包括输出通道与各个输入通道之间的关系。

9.根据权利要求7或8所述的模型优化方法，其特征在于，所述根据所述每个隐藏层的各种待选量化率与对应的量化损失的关系，确定所述每个隐藏层的量化率，包括：

根据所述每个隐藏层的各种候选量化率与对应的量化损失的关系，以及所述每个隐藏层对应的权重，确定所述每个隐藏层的量化率。