[发明专利]用于检查人工神经网络的鲁棒性的方法和设备

权利要求书

1.一种用于检查具有多个输出的人工神经网络（60）的鲁棒性的计算机实现的方法，根据公共隐藏层（63）的特征图的激活（α）在所述多个输出处分别提供取决于输送给所述人工神经网络（60）的输入变量（x）的输出变量（y1...y3），特别是所述输入变量的至少一部分的分类和/或分割，其中所述特征图的激活（α）的值变化，其中检查然后提供的输出变量（y1...y3）相互间的一致性并根据所述一致性判定所述人工神经网络（60）是否鲁棒。

2.根据权利要求1所述的方法，其中，提供至少两个输出变量（y1...y3）之间要满足的逻辑条件（R），并且其中确定在所述特征图的激活（α）的值变化时是否满足所述逻辑条件（R），并且据此确定所述人工神经网络（60）是否鲁棒。

3.根据权利要求1或2所述的方法，其中，在可预给定的数据集上确定在将来自所述数据集的输入变量输送给所述人工神经网络（60）时所述特征图的激活（α）要采取哪些值，以及取决于在所述数据集上得到的激活（α）选择变化的值。

4.根据权利要求3所述的方法，其中，对GAN模型进行训练，借助于所述GAN模型的生成器生成所述激活（α）的以下值，所述值不能由所述GAN模型的判别器与在所述数据集上得到的激活（α）的值区分开来，并且其中然后借助于所述生成器产生所述激活（α）的值以用于检查一致性。

5.根据权利要求3所述的方法，其中，训练自动编码器模型，根据所述特征图的在所述数据集上得到的激活（α）又重建所述特征图的现实激活，以及其中然后借助于所述自动编码器模型的解码器产生所述激活（α）的值以用于检查一致性。

6.根据权利要求3所述的方法，其中，根据在所述数据集上得到的激活（α），确定所述激活（α）的凸包络，并且其中然后借助于来自所述凸包络的采样获得所述激活（α）的值以用于检查一致性。

7.根据权利要求3所述的方法，其中，将在向所述人工神经网络（60）输送可预给定的输入变量（x）时所述特征图的激活（α）所采取的值改变不超过可预给定的差（ϵ）。

8.根据权利要求7所述的方法，其中，所述可预给定的差（ϵ）一直连续地增加，直到不再提供一致性为止，然后根据所述可预给定的差的当前值判定所述人工神经网络（60）是否鲁棒。

9.一种用于训练人工神经网络（60）的计算机实现的方法，使用根据权利要求1至8中任一项所述的方法来检查所述人工神经网络在训练阶段之后的鲁棒性，其中，根据是否已判定所述人工神经网络（60）是鲁棒或不鲁棒的来继续或结束所述训练。

10.一种用于运行人工神经网络（60）的计算机实现的方法，根据所述人工神经网络（60）的输出变量使用根据权利要求1至8中任一项所述的方法来检查所述人工神经网络的鲁棒性，以提供用于运行物理系统、特别是至少部分自主的机器人的操控信号（A），其中根据是否已经确定了所述人工神经网络（60）是否鲁棒来相应地选择所述操控信号（A）。

11.一种训练设备（140），其被设计为执行根据权利要求1至9中任一项所述的方法。

12.一种计算机程序，其被设计为执行根据权利要求1至10中任一项所述的方法。

13.一种机器可读存储介质（46、146），其上存储有根据权利要求12所述的计算机程序。