[发明专利]用于验证所实现的神经网络的方法

权利要求书

1.一种用于验证所实现的神经网络的方法，所述方法具有如下步骤：

提供多个验证图像；

将所述多个验证图像馈入原始神经网络；

将所述多个验证图像馈入所述所实现的神经网络；

通过所提供的多个验证图像中的所有验证图像，确定所述原始神经网络的激活覆盖率；

将所确定的激活覆盖率与目标覆盖率进行比较；而且

将所述原始神经网络的相应的、从所述多个验证图像中产生的输出图像与所述所实现的神经网络的相应的、从所述多个验证图像中产生的输出图像进行比较，以验证所述所实现的神经网络。

2.根据权利要求1所述的方法，其中所述多个验证图像具有第一数量的测试图像和/或第二数量的合成生成的图像。

3.根据上述权利要求中任一项所述的方法，其中为了使用所述多个验证图像来确定所述激活覆盖率，在所述原始神经网络的至少一个特征图中标识未被激活的像素并且将其与在所述原始神经网络的所述至少一个特征图中的像素总数进行比较。

4.根据权利要求3所述的方法，其中多个合成生成的验证图像中的合成生成的验证图像中的至少一个、尤其是每个合成生成的图像对在所述原始神经网络的至少一个特征图中的未被多个测试图像激活的至少一个像素进行激活。

5.根据权利要求3或4所述的方法，其中使用如下步骤来生成至少一个合成生成的图像：

在至少一个特征图中标识至少一个、使用所述验证图像未被激活的像素；

通过所述原始神经网络的从所述至少一个特征图的使用所述验证图像未曾被激活的至少一个所标识出的像素出发的逆运算，确定合成生成的验证图像的像素。

6.根据上述权利要求中任一项所述的方法，其中所述原始神经网络是卷积神经网络。

7.根据上述权利要求中任一项所述的方法，其中所述原始神经网络被实现为在计算机上的计算机程序。

8.根据上述权利要求中任一项所述的方法，其中所述所实现的神经网络对于处理器来说以汇编语言和/或完全以硬件来实现。

9.根据上述权利要求中任一项所述的方法，其中使用工具链来验证所述所实现的神经网络。

10.一种方法，其中，基于根据上述权利要求中任一项经验证的所实现的神经网络，提供用于操控至少部分自动化车辆的控制信号；和/或基于所述经验证的所实现的神经网络，提供用于警告车辆乘员的警告信号。

11.一种装置，所述装置被设立为执行根据权利要求1至10中任一项所述的方法。

12.根据权利要求11所述的装置的用于验证所实现的神经网络的应用，所述所实现的神经网络被设置用于与至少部分自动化的移动平台一起使用。

13.一种计算机程序，所述计算机程序包括指令，在通过计算机来执行所述计算机程序时，所述指令促使所述计算机执行根据权利要求1至10中任一项所述的方法。

14.一种机器可读存储介质，在其上存储有根据权利要求13所述的计算机程序。