[发明专利]一种基于AI处理器的图像数据在线量化矫正方法及系统

摘要

本发明涉及人工智能技术领域，尤其涉及一种基于AI处理器的图像数据在线量化矫正方法及系统，其中，基于AI处理器的图像数据在线量化矫正方法包括：当检测到图像数据的量到阈值时，使用神经网络对所述图像数据进行处理并生成所述图像数据对应的高精度中间层数据、根据所述高精度中间层数据中的各项数据项匹配所述高精度中间层数据对应的量化方案、根据所述量化方案对所述高精度中间层数据进行量化并生成低精度中间层数据等步骤。本发明的基于AI处理器的图像数据在线量化矫正方法和系统能够根据训练得到的未量化数据，而量化过程将采用在线实际采集到的数据量化进行和矫正，具有一定的自适应性。

主权项

1.一种基于AI处理器的图像数据在线量化矫正方法，其特征在于，所述方法包括：步骤(221)，当检测到图像数据的量到阈值时，使用神经网络对所述图像数据进行处理并生成所述图像数据对应的高精度中间层数据；步骤(222)，根据所述高精度中间层数据中的各项数据项匹配所述高精度中间层数据对应的量化方案；步骤(223)，根据所述量化方案对所述高精度中间层数据进行量化并生成低精度中间层数据；步骤(224)，基于所述低精度中间层数据对所述图像数据进行推理并生成第一推理结果；步骤(225)，将所述第一推理结果与第一预设结果进行比较并确定所述第一推理结果与所述第一预设结果之间的推理误差；步骤(226)，基于所述第一推理结果与所述第一预设结果之间的推理误差，迭代步骤(221)‑步骤(225)，当迭代次数达到预设第一迭代阈值时，生成中间层量化方案。