[发明专利]用于训练神经网络的方法

权利要求书

1.用于使用大量训练行程来训练神经网络的方法，其中所述神经网络具有至少一个卷积层，并且在至少一个训练行程中借助于所述卷积层执行至少一个卷积，所述方法具有以下步骤：

从所述神经网络的前一层的输出提供多个输入特征图（S1）；

借助于多个卷积核和所述多个输入特征图形成所述卷积层的至少一个输出特征图（S2），其中向由所述输入特征图之一和所述至少一个输出特征图中的每一个输出特征图构成的每种组合分配一个卷积核，并且所述卷积核中的每一个具有多个卷积权重；

为由所述输入特征图和所述输出特征图构成的所有组合确定多个卷积核范数（S3），其中根据所述卷积核的卷积权重的绝对数值形成卷积核范数；

为所有输出特征图确定多个输入范数（S4），其中根据所有输入特征图的卷积核范数形成输入范数，并且所述卷积核范数的定义不同于所述输入范数的定义；

根据所有输出特征图的输入范数来确定卷积范数（S5），以便确定用于其他训练行程的卷积正则化值。

2.根据权利要求1所述的方法，其中，通过将所述卷积范数乘以用于计算所述输出图的所有卷积核的频率来确定所述卷积正则化值。

3.根据权利要求2所述的方法，其中，为了确定用于计算所述至少一个输出图的卷积核的频率，将所述输入特征图的空间大小与所述卷积核的空间大小进行比较。

4.根据权利要求2至3中任一项所述的方法，其中，通过为所述神经网络的每一层确定卷积正则化值以及向用于训练所述神经网络的成本函数添加所有层的卷积正则化值的总和，来为所述神经网络确定总卷积正则化值。

5.根据前述权利要求中任一项所述的方法，其中，在至少一个训练步骤之后，借助于将所述卷积正则化值应用于所述成本函数的确定来适配所述神经网络的至少一些参数和/或权重。

6.根据前述权利要求中任一项所述的方法，其中，所述卷积核范数、所述输入范数和所述卷积范数是L_p范数，并且这些范数中至少两个范数的参数p具有不同的值。

7.根据前述权利要求中任一项所述的方法，其中，通过所述神经网络的输入层形成所述前一层。

8.根据前述权利要求中任一项所述的方法，其中，所述神经网络是前馈网络、递归网络、神经卷积网络、自动编码器网络、多层网络或编码器-解码器网络。

9.根据前述权利要求中任一项所述的方法，其中，通过公式1中描述的关系来为所述神经网络的二维输入数据确定所述卷积正则化值：

其中所述卷积正则化值的变量说明了具有第一维和第二维的输入图的大小；k，l是延伸到和的核索引并且因此说明了该核在两个维度上的大小；i和j是输出特征图和输入特征图的索引，i和j延伸到γ和η，此外是卷积核的权重，并且p和q表示不同的范数。

10.神经网络，所述神经网络已经对应于根据前述权利要求1至9中任一项所述的方法训练过。

11.神经网络的用途，所述神经网络已经对应于根据权利要求1至9中任一项所述的方法训练过。

12.根据权利要求11所述的神经网络的用途，用于对输入信号进行分类，其中，根据所述分类的结果发送用于操控至少部分自动化的车辆的操控信号和/或用于警告车辆乘员的警告信号。

13.具有神经网络的设备，所述神经网络已经对应于根据权利要求1至9中任一项所述的方法训练过。

14.计算机程序，包括指令，所述指令在由计算机执行计算机程序时促使所述计算机执行根据权利要求1至9中任一项所述的方法。

15.机器可读存储介质，其上存储有根据权利要求14所述的计算机程序。