[发明专利]基于强化学习的黑盒视频对抗样本生成方法及评价方法

说明书

本发明公开了一种基于强化学习的黑盒视频对抗样本生成方法，包括获取原始视频数据并分割得到视频块集合；对视频块集合插入位置信息得到带有位置信息的视频块集合；进行视觉特征提取得到视频块的特征；对带有位置信息的视频块集合进行提取得到关键视频块集合；对关键视频块集合进行迭代得到估计梯度；生成对抗样本值并构建对应的损失函数；将对抗样本值输入到目标视频模型中获取返回值，根据返回值和损失函数值得到最终构建的对抗样本。本发明还公开了一种包括所述基于强化学习的黑盒视频对抗样本生成方法的评价方法。本发明提高了添加的扰动的精准性，减少了对抗样本的复杂性，而且成本较低，可靠性高，效率较高。

技术领域

本发明属于人工智能安全技术领域，具体涉及一种基于强化学习的黑盒视频对抗样本生成方法及评价方法。

背景技术

随着经济技术的发展和人们生活水平的提高，深度学习技术在许多基于视频数据的人工智能任务中有着广泛的应用，比如网络摄像机可以连接外部传感器，对监控的异常视频数据(例如偷盗、火灾)进行联动报警，从而预防可能发生的灾害等。因此，在诸多涉及安全的场景下，对深度学习技术进行充分的测试以保证其安全性和鲁棒性，就显得至关重要。

对抗样本是指一批经过加工处理的数据样本，其通过在原始数据的基础上添加一些微小的、难以察觉的对抗性扰动，从而使原神经网络模型产生错误的结果。因此，采用对抗样本对基于视频的深度学习技术进行测试，是现今非常重要的测试过程。

目前的对抗样本生成方法，一般是对视频的每一个视频帧进行梯度估计，并添加对抗性扰动。但是，由于连续的视频帧会引入额外的时间维度，因此对抗样本生成的过程需要大量的迭代请求来估算对抗性扰动的梯度。但是，这种大量的迭代请求过程将耗费大量的成本，复杂度较高，而且对抗样本的生成效率也相对较低。

发明内容

本发明的目的之一在于提供一种成本较低、可靠性高且效率较高的基于强化学习的黑盒视频对抗样本生成方法。

本发明的目的之二在于提供一种包括了所述基于强化学习的黑盒视频对抗样本生成方法的评价方法。

本发明提供的这种基于强化学习的黑盒视频对抗样本生成方法，包括如下步骤：

S1.获取原始视频数据；

S2.对步骤S1获取的原始视频数据，采用滑动窗口进行分割，得到包括若干个视频块的视频块集合；

S3.对步骤S2得到的视频块集合插入位置信息，得到带有位置信息的视频块集合；

S4.对步骤S3得到的带有位置信息的视频块集合，采用自注意力机制进行视觉特征提取，得到各个视频块的特征；

S5.根据步骤S4得到的各个视频块的特征，对带有位置信息的视频块集合进行提取，得到关键视频块集合；

S6.对步骤S5得到的关键视频块集合进行迭代处理，从而得到估计梯度；

S7.根据步骤S6得到的估计梯度，生成对抗样本值，并构建对应的损失函数；

S8.将对抗样本值输入到目标视频模型中获取目标视频模型的返回值，并根据返回值和损失函数的值，得到最终构建的对抗样本。

步骤S2所述的对步骤S1获取的原始视频数据，采用滑动窗口进行分割，得到包括若干个视频块的视频块集合，具体包括如下步骤：

原始视频数据为V₀，V₀∈R^T×W×L×C，其中R为实数域，T为视频数据的帧数，W为视频帧的宽，L为视频帧的长，C为视频帧的颜色通道数；