[发明专利]使用图像转换解释机器学习模型

权利要求书

1.一种计算机实施的方法，包括：

由处理系统的一个或多个处理器使用预测模型基于第一图像来生成第一预测；

由所述一个或多个处理器使用所述预测模型基于第二图像来生成第二预测，其中，所述第二图像包括通过使用转换函数修改所述第一图像的至少一部分创建的视觉特征，并且所述第二预测不同于所述第一预测；以及

由所述一个或多个处理器使用所述转换函数修改所述第二图像的至少一部分以创建其中所述视觉特征相对于所述第二图像被夸大的第三图像。

2.根据权利要求1所述的方法，还包括：

由所述一个或多个处理器使用所述转换函数修改所述第三图像的至少一部分以创建其中所述视觉特征相对于所述第三图像被夸大的第四图像。

3.根据权利要求1所述的方法，其中，所述转换函数是使用生成对抗网络而生成的。

4.根据权利要求1所述的方法，其中，所述第二图像是使用生成对抗网络而生成的。

5.根据权利要求1所述的方法，其中，所述预测模型是神经网络。

6.根据权利要求1所述的方法，其中，包括在所述第二图像中的所述视觉特征是通过使用所述转换函数仅修改所述第一图像的部分而创建的。

7.根据权利要求6所述的方法，进一步包括由所述一个或多个处理器使用空间解释模型来识别所述第一图像的所述部分。

8.根据权利要求7所述的方法，其中，所述空间解释模型是基于扰动的模型。

9.根据权利要求7所述的方法，其中，所述空间解释模型是基于反向传播的模型。

10.根据权利要求6所述的方法，进一步包括：

由所述一个或多个处理器使用所述预测模型基于所述第一图像的消融版本来生成第三预测，所述第三预测不同于所述第一预测；以及

由所述一个或多个处理器基于所述第一图像的所述消融版本来识别所述第一图像的所述部分。

11.一种处理系统，包括：

存储器；以及

一个或多个处理器，所述一个或多个处理器耦合到所述存储器并且被配置成：

使用预测模型基于第一图像来生成第一预测；

使用所述预测模型基于第二图像来生成第二预测，其中，所述第二图像包括通过使用转换函数修改所述第一图像的至少一部分创建的视觉特征，并且所述第二预测不同于所述第一预测；以及

使用所述转换函数修改所述第二图像的至少一部分以创建其中所述视觉特征相对于所述第二图像被夸大的第三图像。

12.根据权利要求11所述的系统，其中，所述一个或多个处理器进一步被配置成：

使用所述转换函数修改所述第三图像的至少一部分以创建其中所述视觉特征相对于所述第三图像被夸大的第四图像。

13.根据权利要求11所述的系统，其中，所述转换函数是使用生成对抗网络而生成的。

14.根据权利要求11所述的系统，其中，所述第二图像是使用生成对抗网络而生成的。

15.根据权利要求11所述的系统，其中，所述预测模型是神经网络。

16.根据权利要求11所述的系统，其中，包括在所述第二图像中的所述视觉特征是通过使用所述转换函数仅修改所述第一图像的部分而创建的。

17.根据权利要求16所述的系统，其中，所述一个或多个处理器进一步被配置成使用空间解释模型来识别所述第一图像的所述部分。