[发明专利]用于对抗性鲁棒对象检测的系统和方法

说明书

本文中公开的是用于提高对象检测器对对抗性攻击的鲁棒性的方法的实施方式。从对象检测的多任务角度系统地分析针对对象检测器的现有攻击以及各个任务分量对模型鲁棒性的影响。在一个或多个实施方式中，引入对象检测的多任务学习观点，并识别任务损失的非对称作用。提出了用于鲁棒对象检测的对抗性训练方法的一个或多个实施方式以利用多个攻击源来提高对象检测模型的鲁棒性。

技术领域

本公开总体上涉及用于图像中的对象检测的系统和方法。更具体地，本公开涉及用于对抗性鲁棒对象检测的系统和方法。

背景技术

对象检测是适用于检测图像中的语义对象的实例的计算机视觉技术。对象检测是原始分类任务(vanilla classification task)的自然泛化，这是因为它不仅如同在分类中输出对象标签，还在定位中输出对象标签。已经开发许多对象检测方法，并且由深度网络驱动的对象检测器已经作为不可或缺的部件出现在现实世界应用的许多视觉系统中。

已经表明，对象检测器可能受到恶意制作的输入的攻击。如果对象检测器在例如监控和自动驾驶等应用中起关键作用，重要的是研究用于防卫对象检测器免受各种对抗性攻击的方法。然而，虽然许多工作已经表明可以攻击检测器，但极少的努力被投入到提高检测器鲁棒性。

因此，需要用于对抗性鲁棒对象检测以实现性能提高的系统和方法。

发明内容

本申请的一个方面公开了一种训练用于对抗性鲁棒对象检测的图像模型的计算机实施方法。该方法使用一个或多个处理器以致使包括以下的步骤被执行：接收包括多个输入图像的输入图像数据集和攻击预算，每个输入图像包括与对应真值对象标签和边界框相关联的一个或多个对象；针对每个输入图像，使用所述攻击预算内的一个或多个攻击生成初始对抗性图像，计算分类任务域中的一个或多个攻击以及定位任务域中的一个或多个攻击，基于所述分类任务域中的所计算的一个或多个攻击和所述定位任务域中的所计算的一个或多个攻击而获得最终攻击图像；以及使用针对每个输入图像而获得的最终攻击图像执行对抗性训练步骤来学习所述图像模型的参数。

本申请的另一方面公开了一种用于对抗性图像生成以训练图像模型的计算机实施方法。该方法使用一个或多个处理器以致使包括以下的步骤被执行：接收输入图像和攻击预算，所述输入图像包括与对应真值对象标签和边界框相关联的一个或多个对象；使用所述攻击预算内的一个或多个攻击生成初始对抗性图像；计算分类任务域中的一个或多个攻击并使用所述分类任务域中的所计算的一个或多个攻击以及所述一个或多个真值对象标签和边界框来计算分类任务损失；计算定位任务域中的一个或多个攻击并使用所述定位任务域中的所计算的一个或多个攻击以及所述一个或多个真值对象标签和边界框来计算定位任务损失；以及通过基于所述分类任务损失与所述定位任务损失之间的比较在所述分类任务域中的所计算的一个或多个攻击与所述定位任务域中的所计算的一个或多个攻击之间进行选择来获得最终攻击图像。

本申请的又一方面公开了一种非暂时性计算机可读介质，包括一个或多个指令序列，所述指令序列在由一个或更多个处理器执行时致使包括以下的步骤被执行：接收包括多个输入图像的输入图像数据集和攻击预算，每个输入图像包括与对应真值对象标签和边界框相关联的一个或多个对象；从所述输入图像数据集选择图像的随机批次；

针对所述随机批次中的每个输入图像：使用所述攻击预算内的一个或多个攻击生成初始对抗性图像，计算分类任务域中的一个或多个攻击以及定位任务域中的一个或多个攻击，基于所述分类任务域中的所计算的攻击以及所述定位任务域中的所计算的攻击而获得最终攻击图像；以及在一个或多个对抗性训练步骤中使用针对每个输入图像所获得的最终攻击图像来学习所述图像模型的参数。

附图说明

将参考本发明的实施方式，其示例可以在附图中示出。这些附图是说明性的，而不是限制性的。尽管本发明通常在这些实施方式的上下文中描述，但是应当理解，这并不意味着将本发明的范围限制于这些特定实施方式。图中的项目未按比例绘制。