[发明专利]一种神经网络模型的检测方法、装置、设备及存储介质

权利要求书

1.一种图像神经网络模型的检测方法，其特征在于，所述方法包括：

基于第一图像神经网络模型的结构特征，构建所述第一图像神经网络模型的注意力机制图；

基于所述第一图像神经网络模型的注意力机制图、以及所述第一图像神经网络模型针对初始图像样本的分类结果，构建对抗图像样本函数；

基于所述对抗图像样本函数、以及所述初始图像样本进行更新迭代处理，将迭代结果作为对应所述初始图像样本的对抗图像样本；

通过第二图像神经网络模型对所述对抗图像样本进行分类处理，得到所述对抗图像样本的分类结果，并

根据所述对抗图像样本的分类结果与所述初始图像样本的分类结果的差异，确定所述第二图像神经网络模型正确图像分类的概率。

2.根据权利要求1所述的方法，其特征在于，所述构建所述第一图像神经网络模型的注意力机制图之前，所述方法还包括：

基于多个第三图像神经网络模型的功能、输入数据以及输出数据，确定每个所述第三图像神经网络模型与所述第二图形神经网络模型的相似度；

将最大相似度对应的第三图像神经网络模型确定为所述第一图像神经网络模型。

3.根据权利要求1所述的方法，其特征在于，所述构建所述第一图像神经网络模型的注意力机制图之前，所述方法还包括：

根据所述第二图像神经网络模型的功能，构建所述与所述第二图像神经网络模型具有相同功能的第一图像神经网络模型；

基于所述第二图像神经网络模型的输入数据以及输出数据，对所述第一图像神经网络模型进行训练处理，得到训练后的第一图像神经网络模型。

4.根据权利要求1所述的方法，其特征在于，所述构建图像对抗样本函数之前，所述方法还包括：

通过所述第一图像神经网络模型对所述初始图像样本进行分类处理，得到所述第一图像神经网络模型针对初始图像样本的分类结果；

所述通过所述第一图像神经网络模型对所述初始图像样本进行分类处理，得到所述第一图像神经网络模型针对初始图像样本的分类结果，包括：

通过所述第一图像神经网络模型对所述初始图像样本进行编码处理，得到所述初始图像样本的特征。

5.根据权利要求1所述的方法，其特征在于，所述基于第一图像神经网络模型的结构特征，构建所述第一图像神经网络模型的注意力机制图，包括：

对所述第一图像神经网络模型中的各层结构进行注意力处理，得到各层结构的注意力信息；

对所述各层结构的注意力信息进行组合处理，得到所述第一图像神经网络模型的注意力机制图。

6.根据权利要求5所述的方法，其特征在于，所述对所述第一图像神经网络模型中的各层结构进行注意力处理，得到各层结构的注意力信息，包括：

确定所述第一图像神经网络模型中的各层结构对应所述初始图像样本的输出特征；

对所述各层结构对应所述初始图像样本的输出特征，进行针对所述初始图像样本的求导处理，将求导结果作为各层结构对应所述初始图像样本的注意力信息。

7.根据权利要求1所述的方法，其特征在于，所述基于所述第一图像神经网络模型的注意力机制图、所述第一图像神经网络模型针对初始图像样本的分类结果，构建对抗图像样本函数，包括：

基于所述第一图像神经网络模型针对初始图像样本的分类结果以及所述对抗图像样本，构建所述第一图像神经网络模型的损失函数；

基于所述第一图像神经网络的损失函数、所述第一图像神经网络模型的注意力机制图以及所述初始图像样本，构建用于迭代更新的对抗图像样本函数。