[发明专利]模型的离线量化方法、装置、电子设备以及存储介质

说明书

本申请公开了模型的离线量化方法、装置、电子设备以及存储介质，涉及人工智能、深度学习、图像处理技术领域。具体实现方案为：获取待量化模型的搜索空间，其中，所述搜索空间中包括多个离线量化策略；对所述搜索空间进行量化策略的进化搜索，以获取所述待量化模型的目标离线量化策略；以及按照所述目标离线量化策略，对所述待量化模型进行离线量化，以生成目标量化模型。该方法能够通过搜索自动获取离线量化策略，并按照离线量化策略对模型进行离线量化，且量化后模型精度较高，易于实现。

技术领域

本申请涉及计算机技术领域中的人工智能、深度学习、图像处理技术领域，尤其涉及一种模型的离线量化方法、装置、电子设备以及存储介质。

背景技术

目前量化模型的主要方式包括在线量化和离线量化。然而在线量化较难实现，且成本较高，离线量化大多采用随机选取图片计算相对熵的方式，该方法虽然易于实现，但精度损失较大。

发明内容

提供了一种模型的离线量化方法、装置、电子设备以及存储介质。

根据第一方面，提供了一种模型的离线量化方法，包括：获取待量化模型的搜索空间，其中，所述搜索空间中包括多个离线量化策略；对所述搜索空间进行量化策略的进化搜索，以获取所述待量化模型的目标离线量化策略；以及按照所述目标离线量化策略，对所述待量化模型进行离线量化，以生成目标量化模型。

根据第二方面，提供了一种模型的离线量化装置，包括：第一获取模块，用于获取待量化模型的搜索空间，其中，所述搜索空间中包括多个离线量化策略；搜索模块，用于对所述搜索空间进行量化策略的进化搜索，以获取所述待量化模型的目标离线量化策略；以及量化模块，用于按照所述目标离线量化策略，对所述待量化模型进行离线量化，以生成目标量化模型。

根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请第一方面所述的模型的离线量化方法。

根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本申请第一方面所述的模型的离线量化方法。

本申请提供的实施例，至少具有如下有益技术效果:

根据本申请的模型的离线量化方法、装置、电子设备以及存储介质，能够通过搜索自动获取离线量化策略，并按照离线量化策略对模型进行离线量化，且量化后模型精度较高，易于实现。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1是根据本申请第一实施例的模型的离线量化方法的流程示意图；

图2是根据本申请第二实施例的模型的离线量化方法中对搜索空间进行量化策略的进化搜索的流程示意图；

图3是根据本申请第三实施例的模型的离线量化方法中根据多个编码进行量化策略的进化搜索的流程示意图；

图4是根据本申请第四实施例的模型的离线量化方法中基于遗传算法的迭代搜索过程的流程示意图；

图5是根据本申请第五实施例的模型的离线量化方法中获取待量化模型的搜索空间的流程示意图；

图6是根据本申请第一实施例的模型的离线量化装置的框图；

图7是用来实现本申请实施例的模型的离线量化方法的电子设备的框图。

具体实施方式