[发明专利]用于验证所实现的神经网络的方法

说明书

提出了一种用于验证所实现的神经网络的方法，所述方法具有如下步骤：提供多个验证图像；将所述多个验证图像馈入原始神经网络；将所述多个验证图像馈入所述所实现的神经网络；通过所提供的多个验证图像中的所有验证图像，确定所述原始神经网络的激活覆盖率；将所确定的激活覆盖率与目标覆盖率进行比较；而且将所述原始神经网络的相应的、从所述多个验证图像中产生的输出图像与所述所实现的神经网络的相应的、从所述多个验证图像中产生的输出图像进行比较，以验证所述所实现的神经网络。

背景技术

机器学习方法、尤其是深度学习(Deep Learning)，在自动驾驶领域越来越重要。尤其是在使用安装于车辆中的传感器进行环境感知的领域，神经网络的使用增多。通常，对于嵌入式平台，例如神经网络的开发包括各种工具链，包括用于训练/评估和使用的各种工具在内。借助于网络训练和评估工具链，可以定义所生成的并且经过训练的神经网络，最后，该神经网络借助于指令列表/执行描述来被转移到目标系统。在具有嵌入式特殊处理器(嵌入式硬件(embedded hardware))的目标系统中，例如借助于汇编语言或者使用机器指令。

对这种系统的要求通常涉及电力消耗、所需资源，如带宽、运行时间和存储需求以及允许的与共享资源的其它系统或组件的相互作用。通常可以直接在嵌入式设备上并且通过对相对应的指令列表的统计分析来检查无干扰和资源消耗，而例如在源系统上，通常在模拟环境或开发环境中在使用原始网络定义的情况下计算性能KPI。如果这种系统被用于安全关键的任务，则必须确保：所使用的网络具有与原始网络定义相同的特性(KPI)，也就是说，该网络在目标系统和源系统上的实现应该为每个输入都提供相同的结果。通常，借助于工具链评定(Toolchain-Qualifizierung)来执行这一点。但是，随着对所使用的网络的安全要求提高，对这种工具链的验证要求也会提高。在此，工具链评定不仅成本非常高昂和繁琐，而且可能使开发过程减慢。

发明内容

按照本发明的方面，提出了按照独立权利要求的特征的一种用于验证所实现的神经网络的方法、一种用于提供控制信号的方法、一种装置、一种计算机程序和一种机器可读存储介质。有利的设计方案是从属权利要求以及随后的描述的主题。

在本发明的该总体描述中，方法步骤的顺序被呈现为使得该方法易于理解。但是，本领域技术人员将认识到：这些方法步骤中的多个方法步骤也可以以另一顺序来被经历并且得出相同或相对应的结果。在这个意义上，可以相对应地改变这些方法步骤的顺序。一些特征配备有数字，以便改善可读性或者使分配更加明确，但是这并不意味着存在特定的特征。

按照本发明的一个方面，提出了一种用于验证所实现的神经网络的方法。在此，该方法具有如下步骤：

在该方法的一个步骤中，提供多个验证图像。在另一步骤中，将所述多个验证图像馈入原始神经网络(源系统)。在另一步骤中，将所述多个验证图像馈入所实现的神经网络(目标系统)。在另一步骤中，通过所提供的多个验证图像中的所有验证图像，确定原始神经网络的激活覆盖率。在另一步骤中，将所确定的激活覆盖率与目标覆盖率进行比较。在另一步骤中，将原始神经网络的相应的、从所述多个验证图像中产生的输出图像与所实现的神经网络的相应的、从所述多个验证图像中产生的输出图像进行比较，以验证所实现的神经网络。

术语验证图像应宽泛地被理解。除了在狭义的光学成像意义上的图像之外，通常能将例如可以用张量来描述的值的格子(Felder)理解成验证图像。尤其是，术语验证图像也包括可以由RADAR(雷达)传感器系统和/或LIDAR(激光雷达)传感器系统和/或超声传感器系统和/或视频系统生成的值的格子。

类似于在经典单元测试中的代码覆盖率，激活覆盖率决定了相关神经网络的验证程度，以便在应用于神经网络的一系列测试中说明神经网络的经过测试的比例。