[发明专利]一种神经网络模型的检测方法、装置、设备及存储介质

说明书

本发明提供了一种神经网络模型的检测方法、装置、设备及存储介质；方法包括：基于第一神经网络模型的结构特征，构建第一神经网络模型的注意力机制图；基于第一神经网络模型的注意力机制图、以及第一神经网络模型针对初始样本的分类结果，构建对抗样本函数；基于所述对抗样本函数、以及初始样本进行更新迭代处理，将迭代结果作为对应初始样本的对抗样本；通过第二神经网络模型对对抗样本进行分类处理，得到对抗样本的分类结果，并根据对抗样本的分类结果与初始样本的分类结果的差异，确定第二神经网络模型正确分类的概率。通过本发明，能够自动获取准确的对抗样本，提高了神经网络模型正确分类的概率，从而提高鲁棒性检测效率。

技术领域

本发明涉及人工智能技术，尤其涉及一种神经网络模型的检测方法、装置、电子设备及存储介质。

背景技术

人工智能(Artificial Intelligence，AI)是计算机科学的一个综合技术，通过研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能技术是一门综合学科，涉及领域广泛，例如自然语言处理技术以及机器学习/深度学习等几大方向，随着技术的发展，人工智能技术将在更多的领域得到应用，并发挥越来越重要的价值。

神经网络引起了学术界和工业界的广泛关注，并在多个应用领域取得了突破性成果，包括图像识别、语音识别和文本分类等。鲁棒性是检测神经网络的稳定性能的一个重要特征，检测神经网络的鲁棒性是一个重要的研究方向。

然而，相关技术中，当需要检测神经网络的鲁棒性时，当前主要依靠人工随机选取对抗样本，利用对抗样本检测神经网络的鲁棒性，然而，通过随机选取的对抗样本检测神经网络的鲁棒性准确率低。

发明内容

本发明实施例提供一种神经网络模型的检测方法、装置、电子设备及存储介质，能够自动获取准确的对抗样本，提高了神经网络模型正确分类的概率、即提高鲁棒性检测效率。

本发明实施例的技术方案是这样实现的：

本发明实施例提供一种图像神经网络模型的检测方法，所述方法包括：

基于第一图像神经网络模型的结构特征，构建所述第一图像神经网络模型的注意力机制图；

基于所述第一图像神经网络模型的注意力机制图、以及所述第一图像神经网络模型针对初始图像样本的分类结果，构建对抗图像样本函数；

基于所述对抗图像样本函数、以及所述初始图像样本进行更新迭代处理，将迭代结果作为对应所述初始图像样本的对抗图像样本；

通过第二图像神经网络模型对所述对抗图像样本进行分类处理，得到所述对抗图像样本的分类结果，并

根据所述对抗图像样本的分类结果与所述初始图像样本的分类结果的差异，确定所述第二图像神经网络模型正确图像分类的概率。

本发明实施例提供一种神经网络模型的检测方法，包括：

基于第一神经网络模型的结构特征，构建所述第一神经网络模型的注意力机制图；

基于所述第一神经网络模型的注意力机制图、以及所述第一神经网络模型针对初始样本的分类结果，构建对抗样本函数；

基于所述对抗样本函数、以及所述初始样本进行更新迭代处理，将迭代结果作为对应所述初始样本的对抗样本；

通过第二神经网络模型对所述对抗样本进行分类处理，得到所述对抗样本的分类结果，并

根据所述对抗样本的分类结果与所述初始样本的分类结果的差异，确定所述第二神经网络模型的鲁棒性。

本发明实施例提供一种神经网络模型的检测装置，包括：

第一处理模块，用于基于第一神经网络模型的结构特征，构建所述第一神经网络模型的注意力机制图；