[发明专利]神经网络的生成、图像处理、智能行驶控制方法及装置

说明书

本公开提供一种神经网络的生成、图像处理、智能行驶控制方法及装置，在生成待压缩的超神经网络后，通过获取的样本图像对超神经网络进行训练，并在对超神经网络进行训练的过程中，基于样本图像的预测结果、标注结果、表征超神经网络中各层网络中每个子网络的重要性程度的指标值、超神经网络中各层网络对应的不同子网络的网络内参数、以及计算代价约束条件，生成损失信息，并基于损失信息，调整超神经网络中的不同子网络的网络内参数，以及表征每个子网络的重要性程度的指标值，进而能够基于计算代价约束条件的限制来确定损失函数，使得神经网络的筛选过程限制在基于计算代价约束条件限制的有效空间内，进而提升了对待压缩的超神经网络的压缩效率。

技术领域

本公开涉及图像处理技术领域，具体而言，涉及一种神经网络的生成、图像处理、智能行驶控制方法及装置。

背景技术

随着神经网络在各个领域的广泛应用，推动了一系列智能产品的落地。为了让神经网络具有更好的效果，神经网络的层数不断增加，每层神经网络中的参数也越来越多，例如图像处理神经网络中，为了提取到图像中更多的特征，每层神经网络往往需要通过数十个卷积核来对图像进行卷积处理。这造成基于神经网络的产品大多非常依赖良好的运行环境，造成待压缩神经网络的应用范围受到限制，例如在将待压缩神经网络应用于自动驾驶领域时，需要将待压缩神经网络部署在现场可编程门阵列(Field Programmable GateArray，FPGA)等边缘设备，这些设备往往并不具有大型待压缩神经网络所需要的运行环境。为了实现待压缩神经网络的嵌入式应用，需要将待压缩神经网络的体积压缩到一定范围以下。

量化法是当前一种常见的神经网络压缩方法。该方法能够将待压缩神经网络从浮点精度神经网络量化到固定精度神经网络，也即通过减少表示待压缩神经网络中各个网络层中各个网络内参数的比特bit位，以减少待压缩神经网络在使用过程中所需要的计算资源和数据带宽，降低待压缩神经网络所需要的运行环境要求。但当前的量化法对待压缩神经网络进行压缩时需要的时间较久，造成压缩效率较低。

发明内容

本公开实施例至少提供一种神经网络的生成、图像处理、智能行驶控制方法及装置。

第一方面，本公开实施例提供了一种神经网络的生成方法，该方法包括：生成待压缩的超神经网络；所述超神经网络包括多层网络中每层网络分别对应的多个子网络；其中，同一层网络所对应的不同子网络的网络内参数的比特位数不同；按照以下方式对所述超神经网络进行多轮训练中的每一轮训练，并基于多轮训练后的所述超神经网络，生成所述压缩后的神经网络：将获取的样本图像输入至当前超神经网络进行处理，得到所述样本图像对应的预测结果；基于所述样本图像的预测结果、标注结果、表征当前超神经网络中各层网络中每个子网络的重要性程度的指标值、当前超神经网络中各层网络所对应的不同子网络的网络内参数、以及计算代价约束条件，生成损失信息，并基于所述损失信息，调整当前超神经网络中的所述不同子网络的网络内参数、以及表征所述每个子网络的重要性程度的指标值。

这样，在生成超神经网络后，通过获取的样本图像对超神经网络进行训练，并在对超神经网络进行训练的过程中，基于样本图像的预测结果、标注结果、表征超神经网络中各层网络中每个子网络的重要性程度的指标值、超神经网络中各层网络对应的不同子网络的网络内参数、以及计算代价约束条件，生成损失信息，并基于所述损失信息，调整超神经网络中的不同子网络的网络内参数、以及表征每个子网络的重要性程度的指标值，进而能够基于计算代价约束条件的限制来确定损失函数，使得对超神经网络中子网络的筛选过程限制在基于计算代价约束条件限制的有效空间内，使得筛选量化方案的过程不需要考虑不满足计算代价约束条件的方案，能够更快的从多种量化方案中筛选得到最终量化方案，进而提升了对待压缩的神经网络的压缩效率。