[发明专利]一种应用于图像处理的渐进式权值量化方法、装置、介质及设备

摘要

本发明公开了一种应用于图像处理的渐进式权值量化方法，包括：为深度神经网络模型中的每个待量化的权值参数确定对应的一个软掩码，软掩码用于表示所述权值参数的重要程度；迭代执行以下步骤，直至权值参数完成量化：基于权值参数的重要程度对待量化的权值参数进行分组，得到若干待量化权值组；对若干待量化权值组中重要程度最高的一组进行量化；基于量化后的权值参数以及待量化的权值参数重新训练深度神经网络模型，得到更新后的待量化的权值参数。本发明为权值参数设置一个软掩码，并基于软掩码对权值参数进行分组，然后采用渐进式的分组量化策略，先量化相对重要的权值参数，然后利用量化后的权值参数与待量化的权值参数重新训练所述深度神经网络，以弥补量化误差，避免了一次性量化所有网络参数带来的不可弥补的性能损失。