[发明专利]基于去相关二值网络的协同目标识别方法、系统及装置

说明书

本申请提供了基于去相关二值网络的协同目标识别方法、系统及装置。本申请中，通过将二值网络模型训练过程中的目标量化误差最小化，基于贝叶斯学习将最小化的目标量化误差分解为最大似然估计和最大后验估计以分别确定激活张量二值化误差Lc、权重张量二值化误差Ld，以实现在训练二值网络模型时除了考虑常规的预测误差Ls外，还进一步考虑Lc、Ld，以优化神经网络二值化过程中噪声影响，避免模型训练过程中因为参数的梯度消失或不存在而影响二值网络模型的训练，保证最终训练出的二值网络模型更稳定、更好的完成模型收敛，进一步提高二值网络模型在应用中比如识别出的目标对象（如人脸）和/或异常动作行为（如纵火、抢劫）等的精准度。

技术领域

本申请涉及物联网技术，特别涉及基于去相关二值网络的协同目标识别方法、系统及装置。

背景技术

二值化神经网络（BNN：Binary Neural Network），也称二值网络，其作用是缩小网络规模，加快网络训练。在应用中，二值网络包含的各层网络的权重张量和激活张量均会转换为二值，比如+1或者-1。二值网络的核心是在保持精度下降不多的情况下，有效减少乘加运算，缩减权重的存储空间，给移动端的部署提供有效的可行性。

但是，由于二值网络中各层网络的权重张量和激活张量都是简单缩放为二值，比如+1或者-1，这种简单缩放的方式会导致二值网络中各参数比如权重张量和激活张量等的梯度不存在（消失）。而参数的梯度消失或不存在，会影响二值网络模型的训练，进而导致最终训练出的二值网络模型的应用比如识别出的目标对象（如人脸）和/或异常动作行为（如纵火、抢劫、斗殴、偷窃）等不精准。

发明内容

本申请实施例提供了基于去相关二值网络的协同目标识别方法、系统及装置，以提高二值网络模型的目标识别的精确度。

本申请实施例提供一种基于去相关二值网络的协同目标识别方法，该方法包括：

基于贝叶斯学习将二值网络模型训练过程中的目标量化误差最小化后分解为两部分，其中一部分通过最大似然估计表示，另一部分通过最大后验估计表示；所述目标量化误差是指所述二值网络模型训练过程中由正向传播和反向传播引起的误差；

基于所述最大似然估计确定激活张量二值化误差Lc，以及基于所述最大后验估计确定权重张量二值化误差Ld；按照优化所述Lc、所述Ld、预测误差Ls的目标，训练二值网络模型；所述Ls是指在二值网络模型训练过程中将输入数据输入至二值网络模型得到的输出值与所述输入数据对应的真实值之间的误差；将所述二值网络模型部署在物联网终端设备；

所述物联网终端设备在采集到用于目标识别的数据时，将采集的所述数据输入至所述二值网络模型得到初步输出结果；将所述数据和所述初步输出结果上报至中心服务器，以使所述中心服务器在依据所述初步输出结果确定需要验证所述初步输出结果时，将所述数据输入至已训练的目标网络模型以验证所述初步输出结果最终得到目标输出结果；所述目标网络模型是训练出的非二值网络模型。

本申请实施例提供了一种基于去相关二值网络的协同目标识别系统，该系统包括：物联网终端设备和中心服务器；

物联网终端设备，部署了二值网络模型；其中，所述二值网络模型是按照优化激活张量二值化误差Lc、权重张量二值化误差Ld、预测误差Ls的目标训练出的；激活张量二值化误差Lc基于最大似然估计确定，权重张量二值化误差Ld基于最大后验估计确定，最大似然估计、最大后验估计是基于贝叶斯学习将二值网络模型训练过程中的目标量化误差最小化后分解得到的；所述目标量化误差是指所述二值网络模型训练过程中由正向传播和反向传播引起的误差；

所述物联网终端设备，在采集到用于目标识别的数据时，将采集的所述数据输入至所述二值网络模型得到初步输出结果，将所述数据和所述初步输出结果上报至中心服务器；