[发明专利]用于为神经网络生成受干扰的输入数据的方法和生成器

说明书

本发明涉及一种用于为用于分析驾驶员辅助系统的传感器数据、特别是数字图像的神经网络（11）生成受干扰的输入数据（9）的方法，其中，定义第一度量，所述第一度量表明如何测量传感器数据的变化程度，定义第二度量，所述第二度量表明来自传感器数据的干扰针对的是什么，由第一度量和所述第二度量的组合产生优化问题，借助至少一种求解算法来求解优化问题，其中，求解表明输入数据（9）的目标干扰，并且借助目标干扰从传感器数据为神经网络（11）生成受干扰的输入数据（9）。本发明还涉及一种用于执行该方法的生成器（10）以及一种用于检查神经网络（11）的稳健性的方法，该神经网络（11）采用用于生成受干扰的输入数据（9）的方法。

技术领域

本发明涉及一种为用于分析驾驶员辅助系统的传感器数据、特别是用于分析数字图像的神经网络生成受干扰的输入数据的方法。本发明还涉及一种用于检查这种神经网络的稳健性的方法和一种用于改进这种神经网络的参数组的方法。本发明还涉及一种用于为用于分析驾驶员辅助系统的传感器数据、特别是用于分析数字图像的神经网络生成受干扰的输入数据的生成器。

背景技术

现代车辆包括驾驶员辅助系统，所述驾驶员辅助系统支持驾驶员控制车辆，或者部分地或完全地接管驾驶任务。通过使用这种驾驶员辅助系统，可以实现车辆控制的不同程度的自动化。在自动化程度较低的情况下，仅向驾驶员输出信息和警告。在自动化程度较高的情况下，驾驶员辅助系统主动干预车辆的控制。例如，在车辆转向或正向或负向加速中存在干预。在自动化程度更高的情况下，对车辆的设备的干预达到这样的程度：即可以自动执行车辆的某些类型的运动，例如直线行驶。在自动化程度最高的情况下，车辆可以自动驾驶。

在此类驾驶员辅助系统中，对在驾驶期间由车辆的周围环境记录的数字图像的分析至关重要。只有在正确分析数字图像时，驾驶员辅助系统才能可靠地控制车辆。在分析驾驶员辅助系统的数字图像时，机器学习具有巨大的潜力。例如由车辆的摄像机、雷达传感器或激光雷达传感器生成的传感器原始数据借助于深度神经网络进行处理。神经网络生成输出数据，驾驶员辅助系统由这些输出数据导出关于部分自动的或全自动的驾驶的相关信息。例如，确定车辆环境中的对象的类型和位置及其行为。此外，可以借助于神经网络来确定道路几何形状和道路拓扑结构。特别是特别的卷积网络（英语：convolutional neuronalnetworks（卷积神经网络））适合处理数字图像。

为了应用在驾驶员辅助系统中，对这种深度神经网络进行训练。在此，神经网络的参数可以通过输入数据进行适当调整，而无需人类专家干预。对于给定的参数化，在此测量神经网络的输出与基本事实的差异。这种差异也称为“损失”。在此，以如下方式选择所谓的损失函数：参数可微分地与其相关。在梯度下降的过程中，神经网络的参数然后在每个训练步骤中根据基于更多示例确定的差异导数进行调整。这些训练步骤经常重复，直到差异（即损失）不再减小为止。

采用这种方法时，无需人类专家的评估或语义驱动的建模就可确定参数。这对神经网络造成的结果是，这些神经网络通常对人们来说在很大程度上是不透明的，并且无法解释它们的计算。这导致，特别是深度神经网络通常无法进行系统测试或正式验证。

此外存在如下问题：深度神经网络容易受到有害干扰（英语：adversialperturbations（对抗干扰））。人们几乎或根本察觉不到的对输入数据的小篡改，或者不改变情况评估的篡改，可能导致输出数据明显不同于在没有篡改时产生的输出数据。由于传感器噪声、天气影响或某些颜色和对比度，所以此类篡改既可能是对传感器数据的有意引起的改变，也可能是随机出现的图像变化。