[发明专利]对不可信的机器学习系统的主动防御

权利要求书

1.一种方法，包括：

a)由数据处理器确定恶意计算机使用具有边界函数的机器学习模型来确定结果；

b)由所述数据处理器生成意在使所述边界函数偏移的转换数据；

c)由所述数据处理器将所述转换数据提供给所述恶意计算机；以及

d)由所述数据处理器重复步骤b)和c)，进而使所述边界函数随时间偏移。

2.根据权利要求1所述的方法，进一步包括：

由所述数据处理器生成正常数据；

由所述数据处理器将所述正常数据提供给所述恶意计算机；以及

由所述数据处理器确定所述恶意计算机的所述机器学习模型的特性。

3.根据权利要求2所述的方法，其中所述机器学习模型的所述特性包括：不同训练数据点的群集之间的分离、所述边界函数的估计，或分配给所述正常数据的多个标记。

4.根据权利要求3所述的方法，其中所述机器学习模型为支持向量机，其中所述边界函数为超平面，并且其中所述超平面使多个分类分离。

5.根据权利要求4所述的方法，其中所述多个标记与所述多个分类相关联。

6.根据权利要求5所述的方法，其中所述边界函数发生偏移，从而使所述多个分类偏移。

7.根据权利要求2所述的方法，其中生成所述正常数据进一步包括：

由所述数据处理器从数据源检取所述正常数据；以及

由所述数据处理器对所述正常数据进行分类。

8.根据权利要求1所述的方法，其中所述转换数据包括共享属于多于一个分类的数据的特性的数据项。

9.根据权利要求1所述的方法，其中提供所述转换数据进一步包括：

由所述数据处理器将所述转换数据提供给数据源，其中所述恶意计算机从所述数据源检取所述转换数据。

10.根据权利要求1所述的方法，其中所述机器学习模型包括：线性回归、逻辑回归、决策树、支持向量机、朴素贝叶斯、kNN、K均值或随机森林。

11.一种数据处理器，包括：

处理器；

存储器装置；以及

计算机可读介质，其耦合到所述处理器，所述计算机可读介质包括能由所述处理器执行以实施方法的代码，所述方法包括：

a)确定恶意计算机使用具有边界函数的机器学习模型来确定结果；

b)生成意在使所述边界函数偏移的转换数据；

c)将所述转换数据提供给所述恶意计算机；以及

d)重复步骤b)和c)，进而使所述边界函数随时间偏移。

12.根据权利要求11所述的数据处理器，其中所述方法进一步包括：

生成正常数据；

将所述正常数据提供给所述恶意计算机；以及

确定所述恶意计算机的所述机器学习模型的特性。

13.根据权利要求12所述的数据处理器，其中所述机器学习模型的所述特性包括：不同训练数据点的群集之间的分离、所述边界函数的估计，或分配给所述正常数据的多个标记。

14.根据权利要求13所述的数据处理器，其中所述机器学习模型为支持向量机，其中所述边界函数为超平面，并且其中所述超平面使多个分类分离。

15.根据权利要求14所述的数据处理器，其中所述多个标记与所述多个分类相关联。

16.根据权利要求15所述的数据处理器，其中所述边界函数发生偏移，从而使所述多个分类偏移。