[发明专利]用于图像分类任务的神经网络批分组响应的BGRN归一化方法

权利要求书

1.一种神经网络批分组响应的BGRN归一化方法，其特征在于：包括以下步骤：

S1、对mini-batch批次、通道间和通道内三个维度构成的数据立方体进行归一化处理，使用可训练的神经网络模型参数对归一化数据进行线性变换；

S2、基于网络层样本数和通道尺寸自适应选择不同通道叠加区间的邻近参数τ，通过邻近参数τ控制通道区间范围；

S3、在邻近通道叠加响应增强处理和小样本多通道并行计算策略，对邻近通道叠加数据分布计算均值和方差；

S4、利用邻近通道叠加数据分布的均值和方差进行训练和推理，神经网络模型参数通过梯度下降法学习。

2.根据权利要求1所述的神经网络批分组响应的BGRN归一化方法，其特征在于：S2中基于网络层样本数和通道尺寸自适应选择不同通道叠加区间的邻近参数τ，通过邻近参数τ控制通道区间范围，包括：

邻近参数τ的取值与样本大小以及归一化层的输入数据维度相关，函数映射关系为f(·)；f(·)控制抽样的小样本数据分布区域能够维持稳定的大小，降低与整体训练样本数据分布的偏差，提高模型的表达能力。

3.根据权利要求2所述的神经网络批分组响应的BGRN归一化方法，其特征在于：S3中在邻近通道叠加响应增强处理和小样本多通道并行计算策略，对邻近通道叠加数据分布计算均值和方差，包括：

对mini-batch批次样本相同通道进行归一化处理，并对邻近通道叠加数据分布计算均值和方差，小批量样本的多通道并行计算减少对mini-batch批次大小的依赖。

4.根据权利要求3所述的神经网络批分组响应的BGRN归一化方法，其特征在于：S4中利用邻近通道叠加数据分布的均值和方差进行训练和推理，包括：

在训练阶段和推理阶段均从小批量mini-batch数据对某个隐藏层网络的输入数据进行归一化处理，训练阶段和推理阶段过程一致。

5.根据权利要求4所述的神经网络批分组响应的BGRN归一化方法，其特征在于：S4中神经网络模型参数通过梯度下降法学习，包括：

计算损失函数对神经网络模型参数的偏导数，通过链式法则逐一对每个神经网络模型参数求偏导数，在神经网络训练中使用反向传播算法计算梯度。