[发明专利]一种基于凸优化的无人驾驶系统转向角安全性的验证方法

说明书

本发明公开了一种基于凸优化的无人驾驶系统转向角安全性的验证方法，属于验证无人驾驶系统安全性的领域。运用故障安全轨迹规划中的凸优化技术构建安全转向角区间，将预测转向角的判断问题转化为类似图像处理的可分类问题，然后拓展深度神经网络验证工具DLV执行转向角的安全性的验证算法。该技术易于集成在现有的无人驾驶系统中；计算高效，可以在几秒钟内找到对抗性反例；与现有的工作相比，能够找到了对抗性反例的成功率更高。此外，在处理转向角分类问题时，比先前的工作SDLV中的神经元覆盖和松弛关系更准确可靠。

技术领域

本发明属于验证无人驾驶系统的安全性领域，涉及一种基于凸优化的无人驾驶系统转向角安全性的验证方法，具体涉及采用故障安全轨迹中的凸优化技术对无人驾驶系统转向角的安全性进行判断，并拓展深度神经网络验证工具(DLV)执行转向角的安全性的验证算法。

背景技术

机器学习(ML)技术的进展推动了无人驾驶汽车的发展。已有实验结果表明，一个训练有素的无人驾驶汽车系统，通过运用摄像头、雷达和激光雷达等传感器获取输入信息，能够在没有任何人工干预的情况下行驶了数百万英里。包括多家著名汽车制造商正在制造和积极测试无人驾驶汽车。无人驾驶汽车的发展正变得越来越繁荣，而且这种趋势可能会延续并增强。但是，基于深度神经网络(DNN)的系统在应用于像无人驾驶汽车这样对安全性要求高的系统时，当输入图像发生微小变化时预测输出是不稳定的，并且可能做出不正确的反应。涉及无人驾驶汽车的事故已经被多次报道，其中一些甚至引起致命的碰撞。这显然会为无人驾驶等应用程序带来潜在的安全问题，并需要形式化验证技术来验证其决策的正确性。所以，迫切需要一种形式化的方法来为无人驾驶汽车提供安全保障。但是，由于输入-输出空间(即输入和输出的所有可能组合)太大而无法彻底探索。另一方面，运用测试的方式为无人驾驶汽车提供保障，所需场景难以模拟，测试时间长。已有研究表明，无人驾驶汽车需要进行4.4亿公里的测试，才能够证明它们比人类具有更好的性能。这意味着拥有100辆汽车的车队每天24小时连续驾驶进行了12.5年的试驾。

现有方法通常采用测试用例的方式来检测无人驾驶预测转向角的安全性。例如一种名为DeepTest的系统测试工具，用于自动检测DNN驱动的无人驾驶汽车的错误行为，这些错误行为可能导致致命的碰撞。该方法利用九种不同的图像转换来自动生成测试用例，然后发现了数千种错误的转向行为。图像变换包括改变亮度、改变对比度、平移、缩放、水平剪切、旋转、模糊、雾效和雨效。然而，尽管取得了显着进步，但现实世界的驾驶条件远不止上述九种变换。另一种有效的方法是基于仿真的方法，但是模拟全无人驾驶汽车必须行驶数亿英里，有时甚至是数千亿英里，才能证明其在避免伤亡方面的可靠性，这需要几十年才能完成。因此，尽管基于案例的测试和仿真经常被用来检查自治系统的性能，但它们并不能提供足够的保证。对于无人驾驶等安全关键领域尤其如此，在这些领域，不安全事件很少且难以描述。

发明内容

本发明旨在克服现有技术的不足，提供了一种基于凸优化技术的无人驾驶系统转向角安全性的验证方法，结合故障安全轨迹中的凸优化技术和深度学习验证工具(DLV)执行验证，DLV(Huang X,Kwiatkowska M,Wang S,et al.Safety verification of deepneural networks[C]//International conference on computer aidedverification.Springer,Cham,2017:3-29.)是一个用于自动验证图像分类神经网络安全性的框架。通过凸优化技术扩展DLV，以解决预测转向角的判断问题，从而实现无人驾驶系统转向角安全性的验证。

本发明的具体技术方案为：

一种基于凸优化的无人驾驶系统转向角安全性的验证方法，包括下列步骤：

1)运用故障安全轨迹中的凸优化法求解出能够避撞的转向角，即建立避撞转向角；

2)构建安全转向角的区间：以凸优化求解出的避撞转向角和无人驾驶系统原始预测的转向角构建安全转向角的区间；