[发明专利]确定网络模型剪枝策略的方法、装置、设备以及存储介质

说明书

本申请实施例公开了确定网络模型剪枝策略的方法、装置、设备以及存储介质，涉及计算机视觉、深度学习等人工智能技术领域，具体可用于图像处理场景。该方法包括：采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；采用BN阈值搜索空间，生成剪枝策略编码生成器；采用剪枝策略编码生成器，随机生成BN阈值编码；对BN阈值编码进行解码，得到待选BN阈值；根据对应于待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略，通过自动搜索的方式得到最优的BN阈值，并用BN阈值代替通道重要性对网络模型进行剪枝，进而大幅度降低网络模型的剪枝后精度损失。

技术领域

本申请涉及计算机技术领域，具体涉及计算机视觉、深度学习等人工智能技术领域，具体可用于图像处理场景，尤其涉及确定网络模型剪枝策略的方法、装置、设备以及存储介质。

背景技术

深度学习技术在很多方向上都取得了巨大的成功。在深度学习技术中，网络模型的剪枝对网络模型的性能和效果有着非常重要的影响。

现有的剪枝策略是基于矩阵的秩(rank)的大小，对网络模型中通道的重要性进行排序。对于重要性较低的通道，通常被认为是冗余的，可以将其剪掉，进而实现压缩网络模型的效果。但是，对于具有较小秩的矩阵，其重要性未必较低，将其剪掉后，网络模型的精度损失严重。

发明内容

本申请实施例提供了确定网络模型剪枝策略的方法、装置、设备以及存储介质。

第一方面，本申请实施例提供了确定网络模型剪枝策略的方法，包括：采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；采用所述BN阈值搜索空间，生成剪枝策略编码生成器；采用所述剪枝策略编码生成器，随机生成BN阈值编码；对所述BN阈值编码进行解码，得到待选BN阈值；根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。

第二方面，本申请实施例提供了确定网络模型剪枝策略的装置，包括：BN阈值搜索空间生成模块，被配置为采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；编码模块，被配置为采用所述BN阈值搜索空间，生成剪枝策略编码生成器；BN阈值编码生成模块，被配置为采用所述剪枝策略编码生成器，随机生成BN阈值编码；解码模块，被配置为对所述BN阈值编码进行解码，得到待选BN阈值；目标剪枝策略确定模块，被配置为根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略。

第三方面，本申请实施例提出了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。

第四方面，本申请实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。

本申请实施例提供的确定网络模型剪枝策略的方法、装置、设备以及存储介质，首先采用针对目标硬件的网络模型的BN阈值搜索空间的配置信息，生成BN阈值搜索空间；其次采用所述BN阈值搜索空间，生成剪枝策略编码生成器；之后采用所述剪枝策略编码生成器，随机生成BN阈值编码；然后对所述BN阈值编码进行解码，得到待选BN阈值；最后根据对应于所述待选BN阈值的网络模型的剪枝精度损失，确定用于目标硬件的网络模型的目标剪枝策略，从而通过自动搜索的方式得到最优的BN阈值，并用BN阈值代替通道重要性对网络模型进行剪枝，进而大幅度降低网络模型的剪枝后精度损失。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明