[发明专利]模型构建及图像处理方法、装置、硬件平台及存储介质

说明书

本申请涉及深度学习技术领域，提供一种模型构建及图像处理方法、装置、硬件平台及存储介质。其中，模型构建方法包括：训练用于图像处理的神经网络模型，该神经网络模型包括至少一个深度可分离卷积模块，深度可分离卷积模块包括依次连接的逐层卷积层、逐点卷积层、批归一化层以及激活层；对训练好的神经网络模型进行量化，获得量化后的神经网络模型。该方法首先是对模型参数进行了量化，有效减少了参数的数据量，使得模型适合在NPU设备中部署。其次，该方法中的深度可分离卷积模块和现有技术中不同，在逐层卷积层和逐点卷积层之间未设置批归一化层和激活层，使得模型参数的取值分布在一个合理的范围内，从而可以对模型参数进行高精度的量化。

技术领域

本发明涉及深度学习技术领域，具体而言，涉及一种模型构建及图像处理方法、装置、硬件平台及存储介质。

背景技术

图像处理技术在很多领域应用广泛，包括安防领域的人脸识别和智能视频分析、交通领域的交通场景识别、互联网领域的基于内容的图像检索和相册自动归类，医学领域的图像识别等。近年来，业界普遍采用神经网络模型执行特定领域的图像处理任务，并取得了较好的效果。

由于神经网络模型涉及大量运算，因此在现有技术中一般利用图形处理器(Graphics Processing Unit，简称GPU)进行运算加速，但GPU的体积较大，功耗也比较高，因此在边缘设备上通常无法进行安装。目前，针对边缘计算中面临的实际问题，已经开发出以低功耗、高性能为特征的神经网络处理器(Neural Processing Unit)。然而，现有的神经网络仍然是针对GPU环境设计的，直接迁移到NPU环境中使用，效果不佳。

发明内容

本申请实施例的目的在于提供一种模型构建及图像处理方法、装置、硬件平台及存储介质，以改善上述技术问题。

为实现上述目的，本申请提供如下技术方案：

第一方面，本申请实施例提供一种模型构建方法，包括：训练用于图像处理的神经网络模型，所述神经网络模型包括至少一个深度可分离卷积模块，所述深度可分离卷积模块包括依次连接的逐层卷积层、逐点卷积层、批归一化层以及激活层；对训练好的所述神经网络模型进行量化，获得量化后的所述神经网络模型。

在上述方法中，首先是对模型参数进行了量化，有效减少了参数的数据量，使得模型适合在NPU设备中部署。

其次，上述方法中的深度可分离卷积模块和现有技术中不同，现有技术中，在逐层卷积层和逐点卷积层之间会设置批归一化层以及激活层，发明人经研究发现，设置这两层后会导致模型中出现一些较大的参数，从而使得模型参数的分布范围过大，进而使得参数量化的精度下降。而本申请的方案在删除这两层后，使得模型参数的取值分布在一个合理的范围内，从而可以对模型参数进行高精度的量化，有利于降低量化操作对模型性能的影响，使得部署在NPU设备中的模型在执行图像处理任务时可以取到较好的效果。并且由于减少了模型层数，所以模型在执行图像处理任务时的推理速度也加快了。

在第一方面的一种实现方式中，在所述训练用于图像处理的神经网络模型之后，以及在所述对训练好的所述神经网络模型进行量化之前，所述方法还包括：对训练好的所述神经网络模型进行参数裁剪。

在上述实现方式中，通过对神经网络模型进行参数裁剪，有利于保持网络参数的稀疏性，减小网络规模、提升推理速度，使得量化后的神经网络模型适于部署到NPU设备中。

在第一方面的一种实现方式中，在所述训练用于图像处理的神经网络模型之后，以及在所述对训练好的所述神经网络模型进行量化之前，所述方法还包括：将训练好的所述神经网络模型中的所述激活层采用的第一激活函数替换为目标平台支持的第二激活函数，所述目标平台为搭载有神经网络处理器的硬件平台。