[发明专利]模型的离线量化方法、装置、电子设备以及存储介质

权利要求书

1.一种模型的离线量化方法，包括：

获取待量化模型的搜索空间，其中，所述搜索空间中包括多个离线量化策略；

对所述搜索空间进行量化策略的进化搜索，以获取所述待量化模型的目标离线量化策略；以及

按照所述目标离线量化策略，对所述待量化模型进行离线量化，以生成目标量化模型。

2.根据权利要求1所述的模型的离线量化方法，其中，所述对所述搜索空间进行量化策略的进化搜索，以获取所述待量化模型的目标离线量化策略，包括：

获取所述多个离线量化策略对应的多个编码；

根据所述多个编码进行量化策略的进化搜索，以获取所述目标离线量化策略。

3.根据权利要求2所述的模型的离线量化方法，其中，所述根据所述多个编码进行量化策略的进化搜索，以获取所述目标离线量化策略，包括：

利用所述多个编码构建初始种群；以及

从所述初始种群开始，进入遗传算法的迭代搜索过程，以获取所述目标离线量化策略。

4.根据权利要求3所述的模型的离线量化方法，其中，所述从所述初始种群开始，进入遗传算法的迭代搜索过程，以获取所述目标离线量化策略，包括：

针对每次迭代出的种群，对所述种群中的染色体进行解码，获取所述染色体对应的候选离线量化策略，其中，每个所述染色体对应一个编码；

根据所述候选离线量化策略，对所述待量化模型进行量化，以得到候选量化模型；

对所述候选量化模型进行评估，以获取所述候选离线量化策略的适应度；以及

若所述适应度达到设定的搜索目标，则将所述候选离线量化策略作为所述目标离线量化策略。

5.根据权利要求4所述的模型的离线量化方法，其中，所述对所述候选量化模型进行评估，以获取所述候选离线量化策略的适应度，包括：

利用验证集对所述候选量化模型进行验证，以获取所述候选量化模型的评估精度，作为所述适应度；或者，

获取所述待量化模型和所述候选量化模型的相对熵，作为所述适应度；或者，

对所述验证集的评估精度和所述相对熵进行加权，作为所述适应度。

6.根据权利要求4所述的模型的离线量化方法，其中，还包括：

若累计迭代次数达到预设次数，且所述候选离线量化策略的适应度未达到所述搜索目标，则选取进化搜索过程中所述适应度最大的候选离线量化策略，作为所述目标离线量化策略。

7.根据权利要求4所述的模型的量化方法，其中，还包括：

若累计迭代次数未达到预设次数，且所述候选离线量化策略的适应度未达到所述搜索目标，则对所述种群进行遗传操作，以生成下一代的种群。

8.根据权利要求1-7任一项所述的模型的量化方法，其中，所述获取待量化模型的搜索空间，包括：

获取待量化模型的量化影响因子；以及

根据所述量化影响因子，生成所述待量化模型的所述搜索空间。

9.一种模型的离线量化装置，包括：

第一获取模块，用于获取待量化模型的搜索空间，其中，所述搜索空间中包括多个离线量化策略；

搜索模块，用于对所述搜索空间进行量化策略的进化搜索，以获取所述待量化模型的目标离线量化策略；以及

量化模块，用于按照所述目标离线量化策略，对所述待量化模型进行离线量化，以生成目标量化模型。

10.根据权利要求9所述的模型的离线量化装置，其中，所述搜索模块，包括：

第一获取单元，用于获取所述多个离线量化策略对应的多个编码；

第二获取单元，用于根据所述多个编码进行量化策略的进化搜索，以获取所述目标离线量化策略。