[发明专利]一种模型测试方法、装置、电子设备和存储介质

权利要求书

1.一种模型测试方法，其特征在于，包括：

获得各原始图像，以及各自对应的识别结果标签；每张原始图像关联有用于生成攻击区域的形状参数集合，且所述各原始图像关联的形状参数集合不同；

基于各形状参数集合，分别确定相应的原始图像对应的掩码结果，并基于各掩码结果，分别在相应的原始图像中，针对各个像素点设置扰动参数；其中，每个掩码结果表征相应的原始图像中，各个像素点各自的扰动参数设置方式；

基于各识别结果标签，分别更新相应的原始图像对应的扰动参数以及关联的形状参数集合，获得包含有攻击区域的攻击图像；

采用各攻击图像，对待测试模型进行安全性测试。

2.如权利要求1所述的方法，其特征在于，所述基于各形状参数集合，分别确定相应的原始图像对应的掩码结果，包括：

针对所述各原始图像，分别执行以下操作：

基于一张原始图像关联的形状参数集合，获得各像素点各自对应的像素点连线长度和交点连线长度；其中，像素点连线长度表征中心点与相应的像素点之间的像素点连线的长度，交点连线长度表征基于相邻两个形状参数获得的两个顶点的顶点连线与像素点连线的交点，与所述中心点之间的长度；

基于各像素点连线长度和各交点连线长度，分别确定相应的像素点对应的子掩码结果；每个子掩码结果表征相应的像素点的扰动参数设置方式；

生成包含有各子掩码结果的所述掩码结果。

3.如权利要求2所述的方法，其特征在于，所述基于一张原始图像关联的形状参数集合，获得各像素点各自对应的像素点连线长度和交点连线长度，包括：

针对一张原始图像中的各像素点，分别执行以下操作：

基于一个像素点关联的第一形状参数和第二形状参数，以及预设角度，确定与第一形状参数对应的第一顶点的第一顶点坐标，和第一形状参数对应的第二顶点的第二顶点坐标；

基于所述第一顶点坐标、所述第二顶点坐标、所述一个像素点对应的像素点坐标，以及所述一张原始图像的中心点坐标，确定所述第一顶点和所述第二顶点之间的连线，与中心点和像素点之间的连线的交点对应的交点坐标；

基于所述交点坐标和所述中心点坐标，确定交点连线长度；

以及，基于所述像素点坐标和所述中心点坐标，确定像素点连线长度。

4.如权利要求3所述的方法，其特征在于，所述基于各像素点连线长度和各交点连线长度，分别确定相应的像素点对应的子掩码结果，包括：

针对所述各像素点，分别执行以下操作：

若确定一个像素点对应的像素点连线长度不大于交点连线长度，则确定所述一个像素点对应的子掩码结果为设置扰动参数；

若确定所述像素点连线长度大于所述交点连线长度，则确定所述子掩码结果为不设置扰动参数。

5.如权利要求1-4任一项所述的方法，其特征在于，所述基于各识别结果标签，分别更新相应的原始图像对应的扰动参数以及关联的形状参数集合，获得包含有攻击区域的攻击图像，包括：

针对各设置有扰动参数的原始图像，分别执行以下操作：

将一张设置有扰动参数的原始图像输入至已训练的参数更新模型中，获得相应的模型识别结果，基于所述模型识别结果，以及对应的识别结果标签，更新相应的扰动参数和关联的形状参数集合，并将更新后的设置有扰动参数的原始图像重新输入至所述参数更新模型中，直至所述模型识别结果与所述识别结果标签之间的交叉熵满足结束更新条件，获得更新后的扰动参数和更新后的形状参数集合；

基于所述更新后的扰动参数和更新后的形状参数集合，获得包含有攻击区域的攻击图像。

6.如权利要求5所述的方法，其特征在于，所述更新对应的扰动参数以及关联的形状参数集合，包括：

基于当前的扰动参数、第一学习率和预设惩罚系数，确定更新后的扰动参数，其中，所述惩罚系数用于控制攻击区域的大小；以及，

基于当前的形状参数集合、第二学习率和所述惩罚系数，确定更新后的形状参数集合。