[发明专利]一种基于人工智能的交通标识安全检测方法及系统

说明书

本发明涉及交通标识安全的检测领域，具体的是一种基于人工智能的交通标识安全检测方法及系统，包括交通标识图像输入模块、图像变换器模块、待检测样本集模块、交通标识识别AI算法库模块和分类结果裁决器模块，最终实现安全性判定，交通标识图像输入模块、图像变换器模块、待检测样本集模块、交通标识识别AI算法库模块和分类结果裁决器模块依次串行连接，实现安全检测。本发明能够对交通标识的图像以及交通标识识别算法的安全性进行判断，解决了交通标识对抗样本攻击、交通标识识别算法攻击等安全检测难题，为自动驾驶等应用场景提供人工智能安全测试能力，提供人工智能样本和算法、智能交通、自动驾驶以及目标识别等应用的安全。

技术领域

本发明涉及交通标识安全的检测领域，具体的是一种基于人工智能的交通标识安全检测方法及系统。

背景技术

高级自动驾驶、无人驾驶技术的发展，其核心技术之一是基于深度神经网络的计算机视觉技术，它承担着识别交通标志，分析路况，以及决策车辆行驶状态的重要工作。但是现有的人工智能安全性一般，深度学习网络极易受到对抗性样本的干扰，原始图像经过精心添加扰动后产生了对抗样本，分类器可以将原始图像正确的分类为“限速40km/h”，但是将右侧图像误分类为“限速5km/h”，但是人眼几乎看不出两者之间的差异。一旦这类攻击结果成功误导了自动驾驶系统，将造成严重的危险，威胁到车辆和司乘的安全。

针对交通标识的人工智能攻击包括白盒攻击、黑盒攻击、物理攻击等，白盒攻击的前提是能够完整的获取模型的结构(包括模型的组成以及各层的参数情况，并且可以完整控制模型输入)，因为其条件苛刻，一般用于实验室研究或者作为发起黑盒攻击盒物理攻击的基础；黑盒攻击指对攻击的深度学习模型结构以及参数等完全不了解，只能控制模型的输入，通过比对输入输出来进行下一步攻击。高黑盒迁移性表明算法具备较高的普适性攻击力，即具有更高的概率成功欺骗分类器；物理攻击指将对抗样本在真实世界中攻击深度学习模型。在真实世界中，受到角度、光照、距离和图像大小变换等方面的影响，生成的对抗样本在通过相机或者摄像头的采集过程中，会发生缩放、形变、光照变化以及旋转等，功能难度高，但危害性最严重。

人工智能数据攻击和算法攻击给自动驾驶、智能识别带来了巨大威胁，如何对交通标识图像及算法进行安全检测，是亟需解决的一大难题。

发明内容

为解决上述背景技术中提到的不足，本发明的目的在于提供一种基于人工智能的交通标识安全检测方法及系统。

本发明的目的可以通过以下技术方案实现：

一种基于人工智能的交通标识安全检测方法，所述检测方法包括以下步骤：

一、交通标识图像输入模块获取检测目标的数据，以图片形式输出；

二、图像变换器对交通标识原始图像的图片副本进行防御性变换，每种变换得到一张交通标识图像的变换图像，以图片格式输出；

三、待检测样本集模块将交通标识原始图像、交通标识图像的变换图像汇集、标注，形成待检测集合；

四、交通标识识别AI算法库模块采用多种算法对待检测样本集进行识别计算；

五、分类结果裁决器对多种交通标识识别AI算法识别的待检测样本结果进行分类判断，以辨别分类的一致性，根据分类结果裁决器的一致性指标，得出交通标识图片和算法的安全性判定。

进一步地，所述步骤一中的交通标识图像输入模块采用如下两种方式获取检测目标的数据：

1)物理域在线获取，对交通标识进行摄像捕捉，存储为图片；

2)数字域离线获取，上传待检测交通标识图片。