[发明专利]基于随机计算贝叶斯神经网络误差注入的图像分类方法

说明书

本发明公开了一种基于随机计算贝叶斯神经网络误差注入的图像分类方法，包括以下步骤：S1：对输入数据、权重参数和偏置参数进行缩放；S2：通过前向转换电路将缩放后的浮点输入数据、浮点权重参数和浮点偏置参数转换为随机位流形式；S3：搭建贝叶斯神经网络的随机计算神经元结构；S4：计算各个神经元节点的缩放比例，进行前向推理；S5：将输出位流转换为浮点形式，得到单次推理的输出结果；S6：重复步骤S4‑S5，取均值，并作为分类结果。本发明所提供的基于贝叶斯神经网络误差注入的图像分类方法，利用随机计算固有的噪声特性，无需引入额外的误差注入电路，实现了贝叶斯神经网络推理过程中计算与误差注入的统一。

技术领域

本发明属于图像处理技术领域，具体涉及一种基于随机计算贝叶斯神经网络误差注入的图像分类方法。

背景技术

贝叶斯神经网络(BNNs)的各个权值与阈值都以随机分布的形式来表示，是一个服从于后验随机分布的随机数，即在神经网络模型中引入贝叶斯推理算法。其算法本质在于：以不同的随机采样参数重复进行前向传播，以确定最终输出。考虑硬件层面的实现，需要额外的误差生成电路来注入误差，以满足符合网络每次计算随机性的预测分布。这对于传统的CMOS电路而言是一个巨大的挑战。

针对贝叶斯神经网络硬件实现，传统的误差注入方法为：设计高斯随机数发生器，产生符合ε～N(0,1)的单位随机变量，对其进行平移和缩放，从而得到各个权值的随机分布。该方法中的局限性在于：高斯随机数发生器引入了大量资源开销；另一种新颖的误差注入方法为：利用模拟电阻式随机存取存储器(RRAM)的固有随机噪声特性，来实现贝叶斯神经网络所需的随机分布。该方法的局限性在于：RRAM是一种新型存储器件，相对于传统的CMOS器件，并未得到广泛的应用。

发明内容

本发明的目的是为了解决图像分类的问题，提出了一种基于随机计算贝叶斯神经网络误差注入的图像分类方法。

本发明的技术方案是：一种基于随机计算贝叶斯神经网络误差注入的图像分类方法，包括以下步骤：

S1：采集图像数据集作为贝叶斯神经网络的输入数据，采集贝叶斯神经网络训练所得的权重参数和偏置参数，对贝叶斯神经网络浮点形式的输入数据、权重参数和偏置参数进行缩放；

S2：利用线性反馈移位寄存器和比较器构成前向转换电路，并通过前向转换电路分别将缩放后的浮点输入数据、浮点权重参数和浮点偏置参数转换为随机位流形式，得到输入数据位流、权重参数位流和偏置参数位流；

S3：根据输入数据位流、权重参数位流和偏置参数位流，搭建贝叶斯神经网络的随机计算神经元结构；

S4：计算贝叶斯神经网络中各个神经元节点的缩放比例，将贝叶斯神经网络同一层中各个神经元节点的最大缩放比例作为该层的公共缩放比例参数，并以随机计算的方式进行贝叶斯神经网络的前向推理；

S5：利用计数器构成的后向转换电路将前向推理得到的输出位流转换为浮点形式，并按输出层的公共缩放比例参数对其进行按比例放大，得到贝叶斯神经网络单次推理的输出结果；

S6：重复步骤S4-S5，将输出结果取均值，并作为贝叶斯神经网络对图像数据集的分类结果，完成图像分类。

进一步地，步骤S1中，贝叶斯神经网络的权重和偏置均为训练所得的网络参数，符合均值为μ且方差为σ的高斯分布，将权重的均值作为权重参数w，将偏置的均值作为偏置参数b；

步骤S1中，对贝叶斯神经网络的输入数据x、权重参数w和偏置参数b进行缩放的具体方法为：利用对应的缩放因子s分别对贝叶斯神经网络的输入数据x、权重参数w和偏置参数b进行按比例缩放，将其限制于随机计算的表示范围[-1,1]内，得到缩放后的浮点输入数据x_f、浮点权重参数w_f和浮点偏置参数b_f。