[发明专利]对黑盒对象检测算法的对抗攻击

权利要求书

1.一种对传感器的黑盒对象检测算法产生对抗攻击的方法，该方法包括:

从黑盒对象检测算法获得初始训练数据集，其中黑盒对象检测算法对初始输入数据执行对象检测，以提供黑盒对象检测算法输出,该黑盒对象检测算法输出提供初始训练数据集；

用初始训练数据集来训练一替代模型，使得来自替代模型的输出对组成初始训练数据集的黑盒对象检测算法输出进行复制，其中黑盒对象检测算法的操作细节是未知的，并且替代模型的操作细节是已知的；和

使用替代模型来执行对抗攻击，其中对抗攻击是指识别使得黑盒对象检测算法无法执行精确检测的对抗输入数据。

2.根据权利要求1所述的方法，还包括从所述传感器收集所述初始输入数据，其中收集所述初始输入数据包括从照相机收集图像，并且所述方法还包括获得黑盒对象检测算法输出，作为围绕所述图像中的被检测对象的边界框，并且处理所述黑盒对象检测算法输出，以获得所述初始训练数据集，其中所述处理包括，在边界框围绕被检测对象的情况下将网格覆盖在图像上，并且基于网格的单元中边界框的存在或百分比而将值分配给网格的每个单元。

3.根据权利要求1所述的方法，还包括为替代模型选择架构。

4.根据权利要求1的方法，还包括修改初始输入数据，以获得第二输入数据。

5.根据权利要求4的方法，还包括基于对第二输入数据执行对象检测的黑盒对象检测算法来获得第二训练数据集，其中训练该替代模型包括基于使用第二输入数据确保替代模型的输出对第二训练数据集进行复制，并且该方法包括重复以下过程：修改初始输入数据，以获得新的输入数据，基于对新的输入数据执行对象检测的黑盒对象检测算法获得新的训练数据，并且使用新的训练数据训练该替代模型。

6.一种对黑盒对象检测算法产生对抗攻击的系统，该系统包括:

传感器，被配置为提供初始输入数据；

处理器，被配置为从黑盒对象检测算法获得初始训练数据集，其中黑盒对象检测算法对初始输入数据执行对象检测，以提供组成初始训练数据集的黑盒对象检测算法输出，用初始训练数据集来训练一替代模型，使得来自该替代模型的输出对提供初始训练数据集的黑盒对象检测算法输出进行复制，其中黑盒对象检测算法的操作细节是未知的，并且替代模型的操作细节是已知的，并且使用替代模型来执行对抗攻击，其中对抗攻击是指识别使得黑盒对象检测算法无法执行精确检测的对抗输入数据。

7.根据权利要求6所述的系统，其中所述传感器是照相机，所述初始输入数据包括来自所述照相机的图像，所述黑盒对象检测算法输出包括围绕所述图像中的被检测对象的边界框，并且所述处理器处理所述黑盒对象检测算法输出，以获得所述初始训练数据集，并且所述处理器还被配置为，通过在边界框围绕被检测对象的情况下将网格覆盖在图像上，并且基于网格的单元中边界框的存在或百分比而将值分配给网格的每个单元，从而处理黑盒对象检测算法输出。

8.根据权利要求6所述的系统，其中所述处理器还被配置为修改所述初始输入数据，以获得第二输入数据。

9.根据权利要求8所述的系统，其中所述处理器还被配置为，基于对第二输入数据执行对象检测的黑盒对象检测算法来获得第二训练数据集，以训练该替代模型，以确保基于使用第二输入数据确保替代模型的输出对第二训练数据集进行复制，并且重复以下过程：修改初始输入数据，以获得新的输入数据，基于对新的输入数据执行对象检测的黑盒对象检测算法获得新的训练数据，并且使用新的训练数据训练该替代模型。

10.根据权利要求6所述的系统，其中，所述传感器在车辆中。