[发明专利]一种基于深度卷积神经网络模型-重生网络的视觉识别方法

权利要求书

1.一种基于深度卷积神经网络模型-重生网络(RebornNet)的视觉识别方法，其特征是，使用实现“重生机制”的“重生模块”搭建一种新型深度卷积神经网络模型，引入的重生机制对被ReLU函数截断死亡的神经元进行重生再造，“重生机制”的实现流程：在重生网络中，引入并实现重生机制的模块称为重生模块；首先，重生模块的输入x为上层卷积层得到的特征映射，先将x输入传统的ReLU函数，得到激活后的特征映射x₁，这样就筛选出取值为正的神经元，并截断负值的神经元；同时，将输入x取反，并行地将-x输入ReLU函数，得到激活后的特征映射x₂*，这样就筛选出取值为负的神经元，并截断正值的神经元；为了保证梯度不变，再将激活后的特征映射x₂*取反；接着对-x₂*进行逆卷积操作，得到特征映射x₂，最后把x₁和x₂这两个特征映射通道级联，得到最终的输出；对取值为负的神经元进行筛选后，对它们进行逆卷积操作，然后与正值进行通道级联，就是负神经元的重生过程。

2.根据权利要求1所述的深度卷积神经网络模型-重生网络(RebornNet)的视觉识别方法，其特征是，将重生机制公式化，令y为输出，X为输入，Deconv(x)为逆卷积操作函数，ReLU(x)为上文所述的ReLU非线性激活函数，Concat(x₁,x₂)为通道级联函数，则公式为：

y＝Concat(ReLU(X)，Deconv(-ReLU(-X)))

负值神经元没有达到一定的阈值条件，就没有能力将所携带的值保留并向前传递；再给它们一次机会，让它们回到截断丢弃之前的状态，进行再一次卷积的锻造，让部分神经元在这一轮回里面有能力将自身携带的信息保留下来，重生后的神经元一定要弱于那些原本就达到条件的神经元。