[发明专利]一种神经网络模型的优化方法及装置

说明书

一种神经网络模型的优化方法及装置，本申请提供的方法获取待优化的神经网络模型的结构、待优化的神经网络模型的参数以及待优化的神经网络模型的每一算子层对应的权重参数；根据待优化的神经网络模型的结构以及待优化的神经网络模型的参数，将待优化的神经网络模型转化为初始模型；对初始模型进行算子层融合处理，得到中间模型；根据目标硬件加速器可容纳的神经网络模型的权重范围以及预定系数，确定权重调节系数范围；根据权重调节系数范围以及权重参数，对中间模型进行权重优化处理；对权重优化后的中间模型，进行量化处理，获取优化后的神经网络模型。本申请提供的方法解决了神经网络模型在硬件加速器上布局受限的问题。

技术领域

本申请涉及互联网技术领域，特别涉及一种神经网络模型的优化方法及装置。

背景技术

基于神经网络模型对目标物进行识别的方法，由于具有极高的准确性，从而在众多领域得到了广泛运用，例如自动驾驶、智慧安防以及智能机器人等多种领域。相应的，神经网络模型也被广泛部署于与各种领域相适应的硬件加速器中。硬件加速器用于配合自身所在的中央处理器，高速处理专项工作。其中，部署神经网络模型的硬件加速器用于专门运行神经网络模型。随着神经网络模型运用领域的不断拓宽，越来越多的研发精力投入到对神经网络模型中。为了降低对神经网络模型的研发成本，研发者在通用的CPU、GPU等处理器上完成搭建、训练神经网络模型的工作，然后再与具体运用领域的硬件加速器进行适配。

神经网络模型之所以能够实现对目标物的精确识别，是基于自身模型高度的计算杂度。这就需要用于部署神经网络模型的硬件加速器具有极大的内存，并能够承载复杂的计算度。但是，在实际应用中，用于部署神经网络模型的硬件，并非都带有极大的内存空间，这就导致神经网络模型无法应用在内存较小的硬件加速器上。

发明内容

本申请提供了一种神经网络模型的优化方法及装置，可用于解决在现有技术中的神经网络模型在内存较小的硬件中无法适配的技术问题。

第一方面，本申请提供了一种神经网络模型的优化方法，所述方法包括：

获取待优化的神经网络模型的结构、待优化的神经网络模型的参数以及待优化的神经网络模型的每一算子层对应的权重参数；所述待优化的神经网络模型包括多个算子层，所述权重参数包括权重、权重最大值以及权重最小值；

根据所述待优化的神经网络模型的结构以及所述待优化的神经网络模型的参数，将所述待优化的神经网络模型转化为初始模型；所述初始模型对应的格式为开放神经网络交换模型的格式；

对所述初始模型进行算子层融合处理，得到中间模型；所述初始模型通过所述算子层融合处理，将多个结构上相邻算子层或者多个结构上并列的算子层融合为一个算子层；

根据目标硬件加速器可容纳的神经网络模型的权重范围以及预定系数，确定权重调节系数范围；所述目标硬件加速器为与所述待优化的神经网络模型适配的硬件加速器；所述权重范围根据所述目标硬件加速器的配置文件确定，或者根据预设的权重范围确定；

根据所述权重调节系数范围以及所述权重参数，对所述中间模型进行权重优化处理；

对权重优化后的中间模型，进行量化处理，获取优化后的神经网络模型。

结合第一方面，在第一方面的一种可实现方式中，根据所述权重调节系数范围以及所述权重参数，对所述中间模型进行权重优化处理，包括：

按照算子层的连接顺序，根据所述权重调节系数范围以及目标算子层的权重参数，对所述目标算子层进行权重优化处理；所述目标算子层为所述中间模型中权重在所述权重调节系数范围内的任一算子层。

结合第一方面，在第一方面的一种可实现方式中，根据所述权重调节系数范围以及目标算子层的权重参数，对目标算子层进行权重优化处理，包括：

根据目标算子层的权重最大值以及目标算子层的权重最小值，确定目标算子层的权重调整系数；