[发明专利]网络模型量化方法、装置、存储介质及电子设备

说明书

本申请实施例公开了一种网络模型量化方法、装置、存储介质及电子设备，其中，通过获取需要进行网络模型量化的一目标浮点网络模型；以及确定对应目标浮点网络模型的输入值的一非对称量化区间；以及确定对应目标浮点网络模型的权重值的一对称量化区间；然后根据前述非对称量化区间对目标浮点网络模型的输入值进行定点量化，以及根据前述对称量化区间对目标浮点网络模型的权重值进行定点量化，得到对应目标浮点网络模型的一定点网络模型。由此，通过将目标浮点网络模型定点量化为定点网络模型，使得其数据类型由浮点类型转换为定点类型，使得模型尺寸得以降低，并且，网络模型中的所有运算也由浮点运算转换为定点运算，还使得其资源占用得以降低。

技术领域

本申请涉及人工智能技术领域，具体涉及一种网络模型量化方法、装置、存储介质及电子设备。

背景技术

人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。

人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括机器学习(Machine Learning，ML)技术，其中，深度学习(Deep Learning，DL)是机器学习中一个新的研究方向，它被引入机器学习以使其更接近于最初的目标—人工智能。目前，深度学习主要应用在计算机视觉、自然语言处理等领域。

深度学习是学习样本数据的内在规律和表示层次，这些学习过程中获得的信息对诸如文字，图像和声音等数据的解释有很大的帮助。利用深度学习技术，以及对应的训练数据集，能够训练得到实现不同功能的网络模型，比如，基于一训练数据集能够训练得到用于性别分类的网络模型，基于另一训练数据集能够训练得到图像优化的网络模型。

目前，随着人工智能技术的不断发展，网络模型被部署在如智能手机、平板电脑等电子设备上，用于增强电子设备的处理能力。比如，电子设备通过其部署的图像优化模型，可以对其拍摄的图像进行优化，提升图像质量。

从存储的角度来看，现有的网络模型都是采用浮点型进行存储的，其通常需要占用电子设备几十上百兆的存储空间。从运算的角度来看，浮点型数据的运算会占用大量的计算资源，容易影响电子设备的正常运行。因此，如何降低网络模型的尺寸和资源占用是当前亟需解决的问题。

发明内容

本申请提供了一种网络模型量化方法、装置、存储介质及电子设备，能够降低网络模型的尺寸和资源占用。

本申请提供一种网络模型量化方法，包括：

获取需要进行模型量化的一目标浮点网络模型；

确定对应所述目标浮点网络模型的输入值的一非对称量化区间；

确定对应所述目标浮点网络模型的权重值的一对称量化区间；

根据所述非对称量化区间对所述目标浮点网络模型的输入值进行定点量化，以及根据所述对称量化区间对所述目标浮点网络模型的权重值进行定点量化，得到对应所述目标浮点网络模型的一定点网络模型。

本申请提供一种网络模型量化装置，包括：

一网络模型获取模块，用于获取需要进行模型量化的一目标浮点网络模型；

一区间确定模块，用于确定对应所述目标浮点网络模型的输入值的一非对称量化区间；以及