[发明专利]一种神经网络模型的优化方法及装置

权利要求书

1.一种神经网络模型的优化方法，其特征在于，所述方法包括：

获取待优化的神经网络模型的结构、待优化的神经网络模型的参数以及待优化的神经网络模型的每一算子层对应的权重参数；所述待优化的神经网络模型包括多个算子层，所述权重参数包括权重、权重最大值以及权重最小值；

根据所述待优化的神经网络模型的结构以及所述待优化的神经网络模型的参数，将所述待优化的神经网络模型转化为初始模型；所述初始模型对应的格式为开放神经网络交换模型的格式；

对所述初始模型进行算子层融合处理，得到中间模型；所述初始模型通过所述算子层融合处理，将多个结构上相邻算子层或者多个结构上并列的算子层融合为一个算子层；

根据目标硬件加速器可容纳的神经网络模型的权重范围以及预定系数，确定权重调节系数范围；所述目标硬件加速器为与所述待优化的神经网络模型适配的硬件加速器；所述权重范围根据所述目标硬件加速器的配置文件确定，或者根据预设的权重范围确定；

根据所述权重调节系数范围以及所述权重参数，对所述中间模型进行权重优化处理；

对权重优化后的中间模型，进行量化处理，获取优化后的神经网络模型。

2.根据权利要求1所述的方法，其特征在于，根据所述权重调节系数范围以及所述权重参数，对所述中间模型进行权重优化处理，包括：

按照算子层的连接顺序，根据所述权重调节系数范围以及目标算子层的权重参数，对所述目标算子层进行权重优化处理；所述目标算子层为所述中间模型中权重在所述权重调节系数范围内的任一算子层。

3.根据权利要求2所述的方法，其特征在于，根据所述权重调节系数范围以及目标算子层的权重参数，对目标算子层进行权重优化处理，包括：

根据目标算子层的权重最大值以及目标算子层的权重最小值，确定目标算子层的权重调整系数；

根据所述目标算子层的权重调整系数，以及所述目标硬件加速器可容纳的神经网络模型的权重范围，确定权重尺度因子；

根据所述尺度因子以及目标算子层的权重，对所述目标算子层进行权重优化处理。

4.根据权利要求2所述的方法，其特征在于，对目标算子层进行权重优化处理，之后，还包括：

在进行权重优化处理后的目标算子层后，添加预设的归一化层。

5.根据权利要求1所述的方法，其特征在于，对所述初始模型进行算子层融合处理，得到中间模型，包括：

将与卷积层相连接的归一化层，融合入所述卷积层中，得到所述中间模型；所述卷积层为一种类型的算子层，所述归一化层为另一种类型的算子层，每一卷积层后连接一个归一化层。

6.根据权利要求1所述的方法，其特征在于，对所述初始模型进行算子层融合处理，得到中间模型，包括：

如果所述初始模型中包括多个具有相同卷积核的分支卷积层，则将所述多个分支卷积层融合为一个卷积层，得到所述中间模型；所述多个分支卷积层均为卷积层，并且所有分支卷积层在结构上相互并列。